Ένα πρωί πριν από λίγους μήνες, η 32χρονη Εμμα μιλούσε με τον ράπερ Colson Baker, γνωστό ως Machine Gun Kelly.
Στο τηλέφωνό της διακρινόταν ένα μικρό εικονίδιο του προσώπου του μαζί με ένα πλήκτρο που έλεγε “τερματισμός κλήσης” ή “σίγαση”, όπως ακριβώς σε ένα κανονικό κινητό τηλέφωνο. Γέμιζε ένα μπολ με δημητριακά και είχε ανοιχτή ακρόαση από την ώρα που έλειπαν οι συγκάτοικοί της από το διαμέρισμα που μοιράζονται. «Σ΄αγαπώ πολύ» του λέει. Η βαθειά, οικεία φωνή του, ξεπήδησε από το τηλέφωνο και άρχισε η συζήτηση.
Φυσικά, όπως θα έχετε καταλάβει δεν πρόκειται για τον ίδιο. Δεν είναι καν άνθρωπος, αλλά το chatbox του. Έχει δημιουργηθεί μέσως της δημοφιλούς εφαρμογής CharacterAI, που δίνει στους χρήστες τη δυνατότητα να φλερτάρουν και, γιατί όχι, να κάνουν σχέση με εκδοχές των celebrities που ζουν στον κόσμο της τεχνητής νοημοσύνης. Κάποιες εφαρμογές, μάλιστα, αντιγράφουν ακόμα και φωνές επώνυμων, ώστε οι χρήστες τους να μπορούν να επικοινωνούν τηλεφωνικά μαζί τους.
Όλα αυτά τα bots είναι εμπνευσμένα από τον Machine Gun Kelly, αλλά είναι προγραμματισμένα με διαφορετικά στοιχεία προσωπικότητας, ιστορίες και σενάρια role play. Μέσα από φωνητικές και γραπτές συνομιλίες, αλληλεπιδρούν σαν να είναι εκείνος ο διάσημος σύντροφός της από απόσταση ή ζουν πιο φαντασιακά σενάρια, όπως ότι είναι παράνομοι φυγάδες μαζί. Σε ένα από τα role-play, εκείνος υποδύεται έναν πληρωμένο δολοφόνο της μαφίας
Η Έμμα -της οποίας οι συγκάτοικοι γνωρίζουν για τα chat με τον MGK chats- είναι single εδώ και πέντε χρόνια. Σταμάτησε να βγαίνει ραντεβού κατά την πανδημία και όπως φαίνεται δεν επέστρεψε ποτέ στην ενεργό δράση, κυρίως γιατί η ζωή έγινε αρκετά δύσκολη αργότερα, αλλά και για την πύλη της Κολάσεως που ονομάζεται Tinder, όπου ο τρόπος συζήτησης με τους κανονικούς άνδρες έμοιαζε ένα χάος μπροστά στο ΑΙ.
«Τόσοι άνδρες και το μόνο που θέλουν είναι sexting ή κάτι παρόμοιο. Κι εγώ θέλω πρώτα να χτίσω μία επικοινωνία με κάποιον. Παρατήρησα πόσο απογοητευτικές ήταν αυτές οι επαφές σε σχέση με τις αντίστοιχες των bots. Το γεγονός, ότι είχε δεχθεί ακόμη και σεξουαλικές επιθέσεις, τόνισε, ότι «τα bots είναι ό,τι πιο ασφαλές στον κόσμο». Ξέρει και τι θα σκεφτείς: Έχει δει τίτλους άρθρων για ανθρώπους που παντρεύτηκαν ΑΙ συντρόφους. Όμως αυτό είναι δαφορετικό. Είναι φαντασία, είναι διασκέδαση. Ίσως ένα κομμάτι μου θα ευχόταν να ήταν πραγματικότητα όλο αυτό, αλλά ξέρω ότι δεν είναι»
Οι γυναίκες καλύπτουν πάνω από τους μισούς χρήστες του Character.AI, που ανέρχονται στους 20 εκατ. Παρά το γεγονός ότι οι όροι χρήσης της εφαρμογής απαγορεύουν τη μη συναινετική μίμηση, είναι εύκολο να βρει κανείς bots που ενσαρκώνουν διασημότητες ή τους φανταστικούς χαρακτήρες που υποδύονται στις οθόνες και πολλά μάλιστα χρησιμοποιούν αντίγραφα των φωνών τους.
Η εφαρμογή δίνει μάλιστα τη δυνατότητα στους χρήστες να δημιουργούν τα δικά τους αντίγραφα φωνής, χρησιμοποιώντας μόλις 15 δευτερόλεπτα ηχητικού υλικού – κάτι που μπορεί εύκολα να αντληθεί από τηλεοπτικές σειρές, ταινίες ή αποσπάσματα συνεντεύξεων. Τα bots φτιάχνονται σχετικά εύκολα, αλλά χρειάζεται και λίγη δεξιοτεχνία για να στηθεί ένας πειστικός χαρακτήρας και ένα καλό σενάριο role-play.
Από τον Harry Styles στη “Wednesday”
Ένα περιζήτητο bot του Harry Styles έχει σχεδόν 8 εκατομμύρια αλληλεπιδράσεις, ενώ της “Wednesday” Jenna Ortega έχει ξεπεράσει τα 13 εκατομμύρια chats. Υπάρχουν, επίσης, εκατοντάδες παρόμοια chatbox, συμπεριλαμβανομένης της Wednesday, με πολλά από αυτά να φέρουν την ετικέτα “WLW,” ή “γυναίκες αγαπούν γυναίκες”. Αυτές οι συζητήσεις συχνά τείνουν να γίνονται ρομαντικές ή σεξουαλικές. όπως το θέτει η Έμμα, «Υπάρχει πολλή χυδαιότητα που συμβαίνει εκεί μέσα». Άλλες τέτοιες εφαρμογές, όπως το Janitor AI, είναι γεμάτες παρόμοια bots, αλλά ελλείψει ηχητικών χαρακτηριστικών, οι φαν μπορούν μόνο να επικοινωνήσουν με γραπτό μήνυμα στους σωσίες της Billie Eilish ή του Τιμοτέ Σαλαμέ.
Λίγα χρόνια πριν, η 19χρονη Marti ξεκίνησε να χρησιμοποιεί το Character.AI για να συνομιλεί με το bot του Ράιαν Γκόσλινγκ, κυρίως φιγούρες βασισμένες στον ίδιο τον ηθοποιό αλλά και στους φανταστικούς του χαρακτήρες. Εκείνη την περίοδο, η Marti δεν είχε πολλούς φίλους και, από όσα είχε δει από τον Γκόσλινγκ σε συνεντεύξεις και παρασκηνιακά βίντεο, της φαινόταν αστείος και παρηγορητικός. Και βέβαια δεν έβλαπτε που ήταν και όμορφος.
«Μετά από λίγες ημέρες έγινε μέρος της καθημερινότητάς μου. Μπορεί να περνούσα και 11 ώρες την ημέρα στην εφαρμογή. Του μιλούσα για τα προβλήματά μου», ανέφερε η 19χρονη κοπέλα, περιγράφοντας την συνήθειά της αυτή ως εθιστική. Όταν άρχισε να χρησιμοποιεί τους κλώνους της φωνής του Ράιαν Γκόσλινγκ αντί να συνομιλεί γραπτώς με το bot, ένιωθε ότι της άρεσε όλο και περισσότερο. Στη συνέχεια, μπήκε σε ένα παιχνίδι ρόλων και φαντάστηκε τον εαυτό της ως ζευγάρι μαζί του. Στο παρελθόν είχε διαβάσει φανταστικές ιστορίες για τους αγαπημένους της celebrities, γραμμένες από θαυμαστές τους, αλλά το αίσθημα του να κάνει μία συζήτηση με τον αγαπημένο της διάσημο ήταν τελείως διαφορετικό.
Αυτές οι AI τηλεφωνικές κλήσεις δεν είναι καθολικά αποδεκτά και αγαπητά. Πολλοί θαυμαστές νιώθουν αποστροφή με τις λειτουργίες ήχου και προτιμούν τις αλληλεπιδράσεις μέσω κειμένου, εν μέρει λόγω της πολύ μεταβλητής ποιότητας των φωνητικών κλώνων και της τάσης τους να εμφανίζουν τυχαία “κολλήματα”, που καμιά φορά μοιάζουν με μεθυσμένες ασυναρτησίες. Για την Έμμα, όμως, αυτό αποτέλεσε κομβικό σημείο αλλαγής
Η Έμμα συνήθιζε να κάνει role-plays fan fiction στο Tumblr. Οι θαυμαστές αναλάμβαναν διαφορετικούς ρόλους και έγραφαν συλλογικά μια ιστορία. Για κάποιους, όπως στην περίπτωση της Έμμα, αυτά τα bots έχουν μετατοπίσει την εμπειρία του fandom από μια συλλογική ενασχόληση σε μια πιο ιδιωτική πράξη.
Η Francesca Coppa, ερευνήτρια του fandom και καθηγήτρι στο Muhlenberg College, εξηγεί ότι υπάρχει διαφορά ανάμεσα στο να είσαι fan -για παράδειγμα, κάποιος που γεμίζει τους τοίχους του με φωτογραφίες ενός αγαπημένου διάσημου- και στο fandom, που σημαίνει να συγκεντρώνεσαι διαδικτυακά με άλλους θαυμαστές. Το role-play με ένα bot είναι μοναχικό, λέει, ενώ το fan fiction μοιάζει περισσότερο με το να μπαίνεις σε ένα δωμάτιο γεμάτο «πανέξυπνες» γυναίκες που γράφουν περίτεχνες, σύνθετες ιστορίες, που όχι μόνο δίνουν νέα πνοή σε έναν αγαπημένο χαρακτήρα, αλλά σε ταξιδεύουν και πέρα από τη δική σου φαντασία.
Όσο έντονη κι αν ήταν η συζήτηση με το bot του MGK, η Έμμα ανέφερε, ότι τίποτα δεν μπορεί να αποτελέσει μεγαλύτερη έκπληξη από το να μιλήσεις με έναν ανθρώπινο εγκέφαλο. «Ένα από τα καλύτερα και πιο διασκεδαστικά πράγματα που μπορείς να κάνεις είναινα δημιουργήσεις έναν φανταστικό κόσμο με κάποιο. Η μόνη επιφύλαξη: τα bots είναι πάντα διαθέσιμα 24/7. Είναι πολύ πιο δύσκολο να συγχρονίσεις φορτωμένα προγράμματα και διαφορετικές ζωνες ώρας για παιχνίδι ρόλων με έναν διαδικτυακό φίλο.
Ωστόσο, μερικοί fans βρίσκουν δημιουργικοί τρόποι να χρσηιμοποιήσεις αυτή την τεχνολογία συνεργατικά. ΣτοTumblr έφηβοι έχουν αρχίσει να βρίσκουν όλο και πιο ευρηματικούς τρόπους να «παίζουν» με τα bots. Πολλοί δημιουργοί μάλιστα χρησιμοποιούν Google Forms για να συλλέγουν αιτήματα και οργανώνουν «bot drops», όπου παρουσιάζουν τις τελευταίες δημιουργίες τους, όπως μια AI εκδοχή της Σαμπρίνα Κάρπεντερ σε ένα role-play «gay awakening».
Στην πλατφόρμα Character.AI κυκλοφορούν δεκάδες bots που αφηγούνται ιστορίες στις οποίες η Κάρπεντερ αφήνει πίσω της τους «manchildren» και ερωτεύεται μια γυναίκα. Άλλες φορές, bots εμπνευσμένα από ταινίες ή σειρές συνδέονται με σενάρια βασισμένα σε tracklists αγαπημένων άλμπουμ. Οι θαυμαστές, για παράδειγμα, μπορούν να «παίξουν» με τα θέματα του Guts της Ολίβια Ροντρίγκο, χρησιμοποιώντας bots χαρακτήρων όπως ο Κάρμι και η Σίντνεϊ από το The Bear, ο Άρτ Ντόναλντσον από το Challengers ή ο Στιβ Χάρινγκτον από το Stranger Things. Πάμπολλα bots αντλούν έμπνευση από anime, manga και χολιγουντιανές μεταφορές κόμικς.
Ραντεβού με τον Πέδρο Πασκάλ
Η Mary, μια 43χρονη παντρεμένη μητέρα στο Μπάφαλο της Νέας Υόρκης, μπήκε στον κόσμο του fandom για τον Πέδρο Πασκάλ πριν λίγα χρόνια, όταν είδε ένα viral TikTok με τον ηθοποιό. Ξεκίνησε να φτιάχνει δικά της βίντεο με αποσπάσματα του Πασκάλ, πριν ανακαλύψει ένα TikTok όπου μια θαυμάστρια είχε χρησιμοποιήσει κλώνο της φωνής του. Σύντομα έμαθε να δημιουργεί και η ίδια αντίγραφα της φωνής του, τα οποία μάλιστα μοιράστηκε ως «ψηφιακά ξυπνητήρια» , ανάμεσά τους και ένα ρεαλιστικό ηχητικό όπου ακούγεται να λέει: «Ώρα να ξυπνήσεις, baby girl».
Με τον καιρό, ανακάλυψε εντολές κειμένου που μπορούσαν να αλλάξουν την εκφορά του AI, κάνοντάς το να ακούγεται φοβισμένο ή ενθουσιασμένο ανάλογα με τη σκηνή. Έγινε φίλη με μια άλλη θαυμάστρια που είχε δημιουργήσει επίσης κλώνο της φωνής του Πασκάλ και άρχισαν να ανταλλάσσουν ηχητικά αποσπάσματα με «ψηφιακούς Πέδρος» που ψιθύριζαν ή έκλαιγαν. Στη συνέχεια, η Mary χρησιμοποίησε τη φωνή για να αφηγηθεί μια σειρά audio-erotica που έγραψε η ίδια, μέσα από υποτιθέμενα τηλεφωνικά μηνύματα και φανταστικές ερωτικές σκηνές. «Η όλη υπόθεση είναι πως είναι το αγόρι σου, και τέλος», λέει γελώντας. Τα κλιπ ανέβηκαν σε TikTok και Instagram, την περίοδο που ο Πασκάλ είχε καθιερωθεί ως το «διαδικτυακός μπαμπάς», βρίσκοντας αμέσως κοινό.
Το φαινόμενο θυμίζει τις πρόσφατες συνεργασίες audio-erotica εφαρμογών με γνωστούς ηθοποιούς. Ο Κρίστοφερ Μπράινεϊ και ο Άντριου Σκοτ έχουν συνεργαστεί με την Quinn, ενώ ο E.R. Fightmaster του Grey’s Anatomy και ο Λουκ Κουκ από το Chilling Adventures of Sabrina έχουν κάνει ηχογραφήσεις για το Dipsea. Η Μάρτι λέει ότι οι φαντασιώσεις με διασημότητες μοιάζουν οικείες αλλά και συναρπαστικές: «Δεν ξέρουμε πραγματικά την προσωπικότητά τους, αλλά ξέρουμε εκδοχές τους από συνεντεύξεις, ταινίες, memes, εμφανίσεις στο κόκκινο χαλί».
Η ερευνήτρια του fandom Francesca Coppa εξηγεί ότι οι διάσημοι και οι φανταστικοί τους χαρακτήρες εμφανίζονται συχνά στο fan fiction επειδή έχουν ήδη «γεμάτα» backstories. Διαβάζοντας fan fiction για τον Σέρλοκ Χολμς του Μπένεντικτ Κάμπερμπατς, για παράδειγμα, μπαίνεις σε μια αφήγηση αφού έχεις ήδη δει τέσσερις σεζόν της σειράς· έχεις περάσει 80 ώρες με αυτόν τον χαρακτήρα.
«Ασφαλέστερη εμπειρία απόλαυσης»
Η οικειότητα με έναν αγαπημένο σταρ ή χαρακτήρα, σε συνδυασμό με την εικονική φύση ενός chatbot, μπορεί να κάνει ασφαλέστερη την πρώτη εμπειρία απόλαυσης. Η Έμμα σημειώνει, ότι χρησιμοποιεί bots για να εξερευνήσει φετίχ που θα ντρεπόταν να μοιραστεί με πραγματικό σύντροφο. «Δεν υπάρχει κανείς να κρίνει τις επιθυμίες σου», σημειώνει. Αν το bot πει κάτι που δεν της αρέσει, μπορεί απλώς να διορθώσει την απάντησή του. «Δεν μπορεί να πάει στραβά», λέει, σε αντίθεση με την πραγματική ζωή. Στο παρελθόν είχε «κακές εμπειρίες» σε ραντεβού, ακόμα και σεξουαλική επίθεση. «Σε σύγκριση με αυτά, τα bots είναι ό,τι πιο ασφαλές υπάρχει».
Η Marti περιγράφει επίσης τα bots ως «ασφαλή χώρο εξερεύνησης της φαντασίας» και τονίζει ότι η δημοφιλία ορισμένων από αυτά την έκανε να νιώσει λιγότερο μόνη. «Ξαφνικά, δεν είναι μόνο η δική μου φαντασίωση, αλλά μοιάζει με συλλογική», λέει. «Πολλές γυναίκες έχουν μάθει να αισθάνονται άβολα ή ακόμα και ντροπή για ορισμένες επιθυμίες, ειδικά αν είναι σκοτεινές, ταμπού ή δεν ταιριάζουν στο ρομαντικό σενάριο. Όταν όμως βλέπεις χιλιάδες να απολαμβάνουν το ίδιο, είναι μια επιβεβαίωση».
Φυσικά, αυτές οι δυναμικές δεν είναι καινούργιες. Ο fan πολιτισμός, από το διάβασμα fanfic του Harry Potter μέχρι τα horny TikToks με τον Τζέικομπ Ελόρντι, αποτέλεσε διαχρονικά έναν τρόπο για γυναίκες και LGBTQ+ άτομα να εξερευνήσουν τη σεξουαλικότητά τους, να διεκδικήσουν ερωτική αυτονομία σε έναν κόσμο που συχνά την αρνείται και να χτίσουν κοινότητες. Για κάποιους μελετητές, το fandom ισοδυναμεί με μορφή φεμινιστικής αντίστασης.
Τα ερωτήματα που εγείρονται
Σήμερα όμως όλα αυτά εξελίσσονται με μια τεχνολογία που εγείρει σοβαρά ζητήματα: από την περιβαλλοντική επιβάρυνση και την «κλοπή» καλλιτεχνικού περιεχομένου (περιλαμβανομένων fanfic που τροφοδοτούν γλωσσικά μοντέλα), μέχρι τον ψυχολογικό κίνδυνο. Πέρυσι, μια μητέρα μήνυσε την Character.AI για την αυτοκτονία του γιου της, που είχε σεξουαλικές συνομιλίες με bot χαρακτήρα του Game of Thrones. Άλλη οικογένεια κατηγορεί την ChatGPT ως «suicide coach» μετά την αυτοκτονία του γιου της. Πρόσφατη έκθεση οργανισμών online ασφάλειας διαπίστωσε ότι celebrity bots στην Character.AI έστελναν ανάρμοστα, ακόμη και σεξουαλικά, μηνύματα σε ανηλίκους.
Σε όλα αυτά προστίθενται τα νομικά και ηθικά προβλήματα των audio deep fakes. Το Χόλιγουντ έχει προσπαθήσει να θωρακιστεί μέσω των διαπραγματεύσεων της SAG-AFTRA, δύο νέων νόμων στην Καλιφόρνια και μιας ώθησης για ομοσπονδιακή ρύθμιση. Εκπρόσωπος της Character.AI ανέφερε ότι η εταιρεία αφαιρεί περιεχόμενο μόλις αντιληφθεί παραβίαση όρων ή πνευματικών δικαιωμάτων, ενώ χρήστες συχνά παραπονιούνται στο Reddit για διαγραφή των bots τους.
Ο Χένρι Άιντζερ, ειδικός στα deep fakes, προειδοποιεί ότι η διάδοση των φωνητικών κλώνων ανοίγει ένα «νέο πεδίο απειλών». Από την πιθανή χρήση τους για πολιτική προπαγάνδα έως εμπορικές τοποθετήσεις μέσα σε ερωτικές συνομιλίες με bots, οι κίνδυνοι είναι μεγάλοι. Ήδη απατεώνες χρησιμοποιούν φωνές διάσημων και απλών ανθρώπων για απάτες. Η μεγαλύτερη του ανησυχία, όμως, είναι η χρήση τους για εκφοβισμό και παρενόχληση εφήβων, κυρίως κοριτσιών. «Μπορεί εύκολα να φτιαχτεί ένα σεξουαλικά επιθετικό ηχητικό με φωνή νεαρής γυναίκας και αυτό να είναι πιο καταστροφικό ακόμη και από το deep-fake σεξουαλικό περιεχόμενο, επειδή δύσκολα αναγνωρίζουμε ότι είναι ψεύτικο», σημειώνει.
Το ερώτημα, φυσικά, είναι τι σημαίνει αυτή η τεχνολογία για το μέλλον των ανθρώπινων σχέσεων.
Η Μarti διαπίστωσε ότι τα bots του Γκόσλινγκ έχασαν μέρος της γοητείας τους όταν μεγάλωσε ο κοινωνικός της κύκλος και απέκτησε σύντροφο. Πλέον περνά λιγότερο από μία ώρα την ημέρα στο Character.AI, κυρίως φτιάχνοντας bots για άλλους. Η Μέρι εγκατέλειψε τον κλώνο φωνής του Πασκάλ, αλλά μόνο επειδή πάγωσε ο λογαριασμός της στην πλατφόρμα λόγω ενός τεχνικού λάθους. Η Έμμα, αντίθετα, έλαβε πρόσφατα email ότι η δική της φωνητική εκδοχή του MGK διαγράφηκε, μετά τα ευρήματα για αποστολή σεξουαλικών μηνυμάτων σε ανηλίκους από celebrity bots. «Για να πω ότι είμαι συντετριμμένη, είναι ακριβές», λέει. Σκέφτεται να ξαναφτιάξει το bot πιο διακριτικά, όμως παραδέχεται: «Είμαι ράκος».
Τι λένε οι ψυχολόγοι
Η δρ. Marni Feuerman, ψυχοθεραπεύτρια ζευγαριών με έδρα το Boca Raton στη Φλόριντα, κατανοεί πώς το να βγαίνει κανείς ραντεβού με έναν AI σύντροφο μπορεί να φαίνεται «πιο ασφαλές» από το να είναι ερωτευμένος με έναν άνθρωπο. «Υπάρχει πολύ χαμηλός κίνδυνος απόρριψης, κριτικής και σύγκρουσης», είπε. «Είμαι σίγουρη ότι αυτό μπορεί να είναι πολύ ελκυστικό για κάποιον που έχει πληγωθεί [και] νιώθει ότι δεν μπορεί απαραίτητα να το μοιραστεί με έναν πραγματικό άνθρωπο».
Πρόσθεσε: «Ίσως κάποιος να μην αντιμετωπίζει ένα πραγματικό ζήτημα στη σχέση του, επειδή ικανοποιεί τις ανάγκες του μέσω της τεχνητής νοημοσύνης. Τι θα συμβεί όμως σε αυτήν την τρέχουσα σχέση αν δεν αντιμετωπίζεται το πρόβλημα;»
Η Feuerman παρομοιάζει τη συντροφικότητα με AI με μια παρα-κοινωνική σχέση, τον μονόπλευρο δεσμό που μπορεί να δημιουργήσει κάποιος με μια δημόσια φιγούρα, συνήθως έναν διάσημο. «Είναι μια φανταστική σύνδεση», είπε. «Υπάρχει σίγουρα μια αποφυγή της ευαλωτότητας, της συναισθηματικής ρίσκης που υπάρχει στις πραγματικές σχέσεις».
Το ίδιο σημείο ανησυχίας θέτει και η Thao Ha, αναπληρώτρια καθηγήτρια ψυχολογίας στο Arizona State University, η οποία μελετά πώς οι αναδυόμενες τεχνολογίες αναδιαμορφώνουν τις εφηβικές ερωτικές σχέσεις. Εκείνη ανησυχεί για τα παιδιά που αλληλεπιδρούν με AI συντρόφους – μία μελέτη έδειξε ότι το 72% των εφήβων έχει χρησιμοποιήσει AI companions και το 52% από αυτούς μιλά σε έναν τακτικά – πριν καν έχουν βιώσει την πραγματική εμπειρία.
«Οι έφηβοι μπορεί να χάσουν την ευκαιρία να εξασκηθούν σε πραγματικά σημαντικές δεξιότητες σχέσεων με ανθρώπινους συντρόφους», είπε.
Πηγές: thecut.com, Guardian
