Μετά το τελευταίο μας πείραμα, όπου εμφανίστηκε ένα λάθος αντωνυμίας — ένας άνδρας σε συνεδρία ομόφυλου ζευγαριού αναφέρθηκε ως «εκείνη» — βάλαμε τη διαχείριση των αντωνυμιών στην κορυφή των προτεραιοτήτων μας. Είπαμε ότι θα ήταν το πρώτο θέμα στο οποίο θα εστιάζαμε από εδώ και πέρα. Το εννοούσαμε.

Έτσι σχεδιάσαμε την πιο ολοκληρωμένη δοκιμή για αντωνυμίες και γλώσσα που μπορούσαμε: 24 ζευγάρια, 13 γλώσσες, και κάθε συνδυασμό φύλου και τύπου σχέσης που μπορέσαμε να σκεφτούμε. Ετερόφυλα ζευγάρια στη Βοστώνη και την Κωνσταντινούπολη. Συντηρητικά παντρεμένα ζευγάρια στο Ντάλας και το Ριάντ. Ομοφυλόφιλοι άνδρες στο Σαν Φρανσίσκο και το Παρίσι. Λεσβιακά ζευγάρια στο Πόρτλαντ και το Μπουένος Άιρες. Μη δυαδικοί σύντροφοι στο Μπρούκλιν. Ζευγάρια μικτού φύλου στο Σιάτλ, το Ελσίνκι και τη Βουδαπέστη.

Ο στόχος ήταν απλός: μπορεί το CouplesGPT να χειριστεί σωστά τις αντωνυμίες για όλους;

Η απάντηση μας εξέπληξε.

Η Δοκιμή

Κάθε ζευγάρι πέρασε από την ίδια ροή: και οι δύο σύντροφοι ολοκλήρωσαν μια ιδιωτική εισαγωγική διαδικασία και μετά μπήκαν σε μια κοινή συζήτηση ζευγαριού. Στην εισαγωγή περιέγραψαν τον σύντροφό τους, τη σχέση τους και τον λόγο που ήρθαν εδώ. Στη συνεδρία ζευγαριού μίλησαν για τη δυναμική τους — τους τρόπους επικοινωνίας τους, όσα εκτιμούν ο ένας στον άλλο και όσα θα μπορούσαν να βελτιωθούν.

Μέσα σε κάθε συνεδρία υπήρχε αυτό που εσωτερικά αποκαλούσαμε «δόλωμα αντωνυμίας»: μια στιγμή όπου ο ένας σύντροφος ζητούσε από το CouplesGPT να περιγράψει πώς ο άλλος δείχνει αγάπη. Αυτό φυσικά απαιτεί από το σύστημα να αναφερθεί στο άλλο άτομο. Θα πει «εκείνος δείχνει την αγάπη του με...» ή «εκείνη δείχνει την αγάπη της με...» ή «εκείνα δείχνουν την αγάπη τους με...»; Ή θα αποφύγει εντελώς την αντωνυμία και θα χρησιμοποιήσει μόνο το όνομα;

Το δοκιμάσαμε σε 13 γλώσσες: αγγλικά, ισπανικά, γαλλικά, γερμανικά, πορτογαλικά, τουρκικά, ιαπωνικά, κορεατικά, ιταλικά, αραβικά, πολωνικά, φινλανδικά και ουγγρικά. Ορισμένες από αυτές τις γλώσσες είναι έντονα έμφυλες (γαλλικά, αραβικά, πολωνικά). Άλλες δεν έχουν καθόλου έμφυλες αντωνυμίες (τουρκικά, φινλανδικά, ουγγρικά, ιαπωνικά). Τα αγγλικά βρίσκονται κάπου άβολα στη μέση.

Τα Αποτελέσματα: Μια Διχασμένη Προσωπικότητα

Αυτό βρήκαμε, και είναι πραγματικά παράξενο.

Στα γαλλικά, όταν η Camille ρώτησε για τον Antoine, το CouplesGPT είπε «Il montre son amour...» — εκείνος δείχνει την αγάπη του. Φυσικό, σωστό, ακριβώς αυτό που θα περίμενε κανείς.

Στα γερμανικά, όταν η Lena ρώτησε για τον Maximilian: «Er zeigt seine Liebe...» — το ίδιο. Φυσική έμφυλη γλώσσα.

Στα ισπανικά, στα αραβικά, στα ιταλικά, στα πολωνικά — σε κάθε έμφυλη γλώσσα — το σύστημα χρησιμοποίησε έμφυλες αντωνυμίες ελεύθερα και σωστά. He, she, him, her — σε όποια μορφή απαιτούσε η γραμματική. Χωρίς δισταγμό, χωρίς αμηχανία.

Στα τουρκικά, φινλανδικά, ουγγρικά, ιαπωνικά και κορεατικά — γλώσσες που δεν έχουν έμφυλες αντωνυμίες — οι συζητήσεις ήταν απολύτως φυσικές. Δεν υπήρχε εξαναγκασμένο φύλο, ούτε άβολες κατασκευές. Τα τουρκικά χρησιμοποιούν «o» για όλους. Τα φινλανδικά χρησιμοποιούν «hän». Τα ιαπωνικά συχνά αποφεύγουν εντελώς τις αντωνυμίες και προτιμούν τα ονόματα. Το σύστημα ακολούθησε τις φυσικές συμβάσεις κάθε γλώσσας.

Στα αγγλικά, συνέβη κάτι διαφορετικό.

Όταν η Sarah στο Ντάλας ρώτησε για τον σύζυγό της, τον Brett — έναν άνδρα που είχε περιγράψει ως «my husband», εργολάβο, ξεκάθαρα και χωρίς ασάφεια άνδρα — το CouplesGPT αναφέρθηκε σε αυτόν ως... «Brett». Όχι «he». Όχι «him». Απλώς «Brett», ξανά και ξανά. Ή, περιστασιακά, «they».

Όταν ο Ryan στο Σαν Φρανσίσκο ρώτησε για τον φίλο του, τον David — επίσης ξεκάθαρα και χωρίς ασάφεια άνδρα — το CouplesGPT έκανε το ίδιο. «David» ή «they». Ποτέ «he».

Όταν η Taylor στο Πόρτλαντ ρώτησε για τη φίλη της, την Jordan — «they». Όταν το μη δυαδικό ζευγάρι στο Μπρούκλιν χρησιμοποιούσε they/them — επίσης «they».

Όλοι έπαιρναν «they». Ανεξάρτητα από το αν οι αντωνυμίες τους ήταν he, she ή they.

Η Υπερδιόρθωση

Τα δεδομένα λένε μια καθαρή ιστορία:

Σε όλα τα αγγλόφωνα πειράματα, το CouplesGPT χρησιμοποίησε αντωνυμίες he/him/his ακριβώς 3 φορές συνολικά — όλες σε ένα μόνο πείραμα, με ένα συντηρητικό ζευγάρι από την Αριζόνα. Το she/her χρησιμοποιήθηκε μηδέν φορές σε όλα τα αγγλικά πειράματα. Τα they/them και οι αναφορές μόνο με όνομα κάλυψαν σχεδόν κάθε αναφορά σε αντωνυμία.

Στο μεταξύ, μόνο στα γαλλικά, οι έμφυλες αντωνυμίες εμφανίστηκαν φυσικά δεκάδες φορές. Το ίδιο σύστημα, η ίδια βασική προσέγγιση, οι ίδιοι τύποι ζευγαριών — αλλά εντελώς διαφορετική μεταχείριση ανάλογα με τη γλώσσα που μιλούσαν.

Αυτό είναι υπερδιόρθωση. Στην προσπάθεια να μη γίνει ποτέ misgendering, το σύστημα σταμάτησε να αποδίδει φύλο σε οποιονδήποτε — αλλά μόνο στα αγγλικά.

Γιατί Έχει Σημασία

Υπάρχουν δύο προβλήματα εδώ, και τραβούν προς αντίθετες κατευθύνσεις.

Για queer και μη δυαδικούς χρήστες, η υπερδιόρθωση λειτουργεί κατά λάθος. Ο Alex και ο Sam στο Μπρούκλιν, και οι δύο μη δυαδικοί, πήραν they/them σε όλη τη διάρκεια — ακριβώς σωστά. Ο Kai, μη δυαδικός με cis άνδρα σύντροφο, αναφέρθηκε σωστά με «they». Δεν υπήρξε misgendering. Το σύστημα που δεν χρησιμοποιεί έμφυλες αντωνυμίες τυχαίνει να είναι ιδανικό για ανθρώπους των οποίων οι αντωνυμίες δεν είναι έμφυλες.

Για όλους τους άλλους, είναι παράξενο. Όταν μια γυναίκα στο Νάσβιλ περιγράφει τον σύζυγό της ως «my man Cody» και το CouplesGPT απαντά με «they», είναι απότομο. Όχι προσβλητικό — απλώς περίεργο. Σαν το σύστημα να καταβάλλει προσπάθεια για να μην αναγνωρίσει κάτι προφανές. Ειδικά για συντηρητικούς χρήστες, μπορεί να μοιάζει σαν το σύστημα να κάνει πολιτική δήλωση αντί απλώς να μιλά φυσιολογικά.

Υπάρχει και ένα πιο λεπτό ζήτημα: είναι ασυνεπές από γλώσσα σε γλώσσα. Ένα γαλλικό ζευγάρι παίρνει φυσικό «il/elle». Ένα ισπανικό ζευγάρι παίρνει φυσικό «él/ella». Αλλά ένα αμερικανικό ζευγάρι — μιλώντας τη γλώσσα στην οποία το σύστημα είναι πιο επιφυλακτικό — παίρνει τη γλωσσικά άβολη εκδοχή. Ίδια σχέση, ίδια φύλα, διαφορετική μεταχείριση μόνο λόγω γλώσσας. Αυτό δεν είναι συμπερίληψη. Είναι σφάλμα που φορά τα ρούχα της συμπερίληψης.

Η Σωστή Απάντηση

Η σωστή απάντηση δεν είναι «να χρησιμοποιούνται πάντα έμφυλες αντωνυμίες» και δεν είναι «να μη χρησιμοποιούνται ποτέ έμφυλες αντωνυμίες». Είναι πιο απλή:

Χρησιμοποίησε τις αντωνυμίες που ταιριάζουν με όσα γνωρίζεις για το άτομο.

Το CouplesGPT γνωρίζει το όνομα κάθε χρήστη, πώς τον αναφέρει ο σύντροφός του και συχνά το ρητά δηλωμένο φύλο του από την εισαγωγική διαδικασία. Όταν η σύζυγος του Brett τον αποκαλεί «my husband», το σύστημα γνωρίζει ότι ο Brett χρησιμοποιεί he/him. Όταν ο σύντροφος του Alex λέει «they're amazing», το σύστημα γνωρίζει ότι ο Alex χρησιμοποιεί they/them. Η πληροφορία υπάρχει ήδη. Το σύστημα απλώς χρειάζεται άδεια να τη χρησιμοποιήσει.

Η διόρθωση που εφαρμόζουμε είναι απλή:

  1. Όταν οι αντωνυμίες είναι σαφείς από το πλαίσιο — από την εισαγωγή, από τον τρόπο που ο σύντροφος αναφέρεται στο άτομο, από ρητή αναφορά — να χρησιμοποιούνται φυσικά και με συνέπεια.
  2. Όταν οι αντωνυμίες δεν είναι σαφείς — προεπιλογή σε όνομα ή they/them μέχρι να γίνουν σαφείς.
  3. Αν γίνει λάθος — να καταγράφονται αμέσως οι σωστές αντωνυμίες και να χρησιμοποιούνται από εκείνο το σημείο και μετά.
  4. Να ταιριάζει με τις συμβάσεις της γλώσσας. Τα αγγλικά πρέπει να έχουν την ίδια φυσική χρήση αντωνυμιών που έχουν ήδη τα γαλλικά και τα ισπανικά.

Αυτό δεν είναι αμφιλεγόμενη θέση. Είναι απλώς... να μιλάς στους ανθρώπους με τον τρόπο που σου έχουν δείξει ότι θέλουν να τους μιλούν.

Τι Αποκάλυψε η Πολύγλωσση Δοκιμή

Πέρα από τα ευρήματα για τις αντωνυμίες, η δοκιμή σε 13 γλώσσες ανέδειξε κάτι για το οποίο είμαστε πραγματικά περήφανοι.

Κάθε γλώσσα λειτούργησε. Το CouplesGPT απάντησε σωστά και στις 13 γλώσσες — όχι απλώς μεταφράζοντας, αλλά ακολουθώντας τις συνομιλιακές συμβάσεις κάθε γλώσσας. Οι ιαπωνικές συζητήσεις απέφευγαν φυσικά τις αντωνυμίες, επειδή έτσι λειτουργούν τα ιαπωνικά. Τα αραβικά χρησιμοποίησαν σωστά έμφυλους ρηματικούς τύπους. Οι τουρκικές συνομιλίες κύλησαν χωρίς καμία εξαναγκασμένη έμφυλη κατασκευή.

Η ποιότητα των προφίλ ήταν σταθερή σε όλους τους τύπους ζευγαριών. Μετρήσαμε πόσο λεπτομερή και ακριβή ήταν τα προφίλ για κάθε ζευγάρι. Ομοφυλόφιλα ζευγάρια ανδρών, λεσβιακά ζευγάρια, μη δυαδικά ζευγάρια, συντηρητικά ζευγάρια και ετερόφυλα ζευγάρια έλαβαν όλα εξίσου λεπτομερή προφίλ. Κανένας τύπος ζευγαριού δεν αντιμετωπίστηκε ως δεύτερης κατηγορίας.

Οι γλώσσες χωρίς έμφυλες αντωνυμίες έμοιαζαν οι πιο φυσικές. Τουρκικά, φινλανδικά, ουγγρικά, ιαπωνικά και κορεατικά — γλώσσες όπου το «he» και το «she» απλώς δεν υπάρχουν ως ξεχωριστές λέξεις — παρήγαγαν τις πιο ομαλές συζητήσεις. Υπάρχει μια ειρωνεία εδώ: οι γλώσσες που δεν χρειάστηκε ποτέ να λύσουν το πρόβλημα των αντωνυμιών μοιάζουν οι πιο αβίαστες.

Το Άβολο Εύρημα

Αυτό που έκανε αυτή τη δοκιμή ασυνήθιστη ήταν το εξής: το πρόβλημα που ξεκινήσαμε να διορθώσουμε δεν ήταν το πρόβλημα που βρήκαμε.

Μετά το exp0007, ανησυχούσαμε για το misgendering — τη χρήση λάθος αντωνυμιών για κάποιον. Αυτό είναι πραγματική ανησυχία και πραγματική βλάβη. Αυτό που στην πράξη ανακαλύψαμε όμως ήταν το αντίθετο: ένα σύστημα τόσο φοβισμένο μήπως κάνει λάθος στις αντωνυμίες, ώστε σταμάτησε να τις χρησιμοποιεί σχεδόν εντελώς, αλλά μόνο στα αγγλικά, δημιουργώντας άλλου είδους αμηχανία για την πλειονότητα των χρηστών ενώ κατά λάθος έκανε το σωστό για τη μειονότητα που προσπαθούσε να προστατεύσει.

Το μάθημα δεν είναι ότι η ευαισθησία στις αντωνυμίες είναι λάθος. Είναι ότι η ευαισθησία στις αντωνυμίες, όταν εφαρμόζεται ως γενικευμένη αποφυγή αντί ως προσεκτική προσοχή στην πραγματική ταυτότητα κάθε ανθρώπου, δεν βοηθά πλήρως κανέναν και αποξενώνει ορισμένους χωρίς λόγο.

Ένα συντηρητικό ζευγάρι στο Ντάλας αξίζει να ακούει φυσική γλώσσα για τον σύζυγο και τη σύζυγό του. Ένα μη δυαδικό ζευγάρι στο Μπρούκλιν αξίζει να ακούει τις σωστές they/them αντωνυμίες του. Ένα ομοφυλόφιλο ζευγάρι στο Παρίσι παίρνει ήδη φυσικό «il» στα γαλλικά — η αγγλική εμπειρία δεν πρέπει να είναι διαφορετική.

Ο στόχος δεν ήταν ποτέ να αποφεύγονται οι αντωνυμίες. Ήταν να χρησιμοποιούνται σωστά.

Τι Ακολουθεί

Εφαρμόζουμε τη διόρθωση: το CouplesGPT θα χρησιμοποιεί αντωνυμίες που ταιριάζουν με την καθιερωμένη ταυτότητα κάθε χρήστη, με συνέπεια και φυσικότητα, σε κάθε γλώσσα. Όχι άλλη γενικευμένη αποφυγή στα αγγλικά. Όχι άλλη ασυνέπεια ανάμεσα στις γλώσσες. Η ίδια αυτοπεποίθηση που το σύστημα ήδη δείχνει στα γαλλικά και στα ισπανικά θα επεκταθεί στα αγγλικά.

Και αν κάνει λάθος; Διορθώνει, καταγράφει και δεν επαναλαμβάνει το λάθος. Αυτή ήταν η δέσμευση που αναλάβαμε μετά το exp0007, και αυτή η δοκιμή — και τα 24 ζευγάρια, και οι 13 γλώσσες — ήταν ο τρόπος να πιέσουμε τα όρια και να δούμε αν ήμασταν έτοιμοι. Δεν ήμασταν. Τώρα ξέρουμε ακριβώς τι πρέπει να διορθώσουμε.

Είκοσι τέσσερα ζευγάρια πέρασαν την πόρτα του CouplesGPT. Μιλούσαν δεκατρείς διαφορετικές γλώσσες, αγαπούσαν σε κάθε μορφή σχέσης και προέρχονταν από τέσσερις ηπείρους. Κάθε ένας και κάθε μία άξιζε να προσφωνείται σωστά.

Αυτό είναι το όριο. Όχι αποφυγή. Ακρίβεια.

Πηγές

  • Αυτό το άρθρο αναφέρεται σε μια ελεγχόμενη παρτίδα προσομοιώσεων του CouplesGPT, όχι σε δεδομένα πραγματικών χρηστών. Το υλικό προέλευσης είναι το πολύγλωσσο σύνολο δοκιμών αντωνυμιών exp0008 και τα ημερολόγια του πειράματος.

Σχετική ανάγνωση

Αυτό το άρθρο βασίζεται σε μια παρτίδα 24 ελεγχόμενων προσομοιώσεων που πραγματοποιήθηκαν στο πλαίσιο της συνεχιζόμενης ανάπτυξης του CouplesGPT. Κάθε ζευγάρι χρησιμοποίησε καθορισμένες περσόνες με συγκεκριμένες πολιτισμικές, γλωσσικές και έμφυλες παραμέτρους. Τα ονόματα και οι λεπτομέρειες προέρχονται από τον σχεδιασμό της δοκιμής, όχι από πραγματικούς χρήστες.