Σάλος με Facebook και Instagram-Χρήστες ανακάλυψαν AI προφίλ που είχε ως πείραμα και μίλησαν μαζί τους

Η Meta, μητρική εταιρεία του Facebook και του Instagram, διέγραψε προφίλ χαρακτήρων τεχνητής νοημοσύνης (AI) που είχαν παρουσιαστεί αρχικά τον Σεπτέμβριο του 2023. Τα προφίλ αυτά, σχεδιασμένα να προσομοιώνουν ανθρώπινες προσωπικότητες, προκάλεσαν έντονες αντιδράσεις και έγιναν viral αφού χρήστες τα ανακάλυψαν εκ νέου και δημοσίευσαν στιγμιότυπα από συνομιλίες μαζί τους.

Οι χαρακτήρες AI, όπως η "Liv" και ο "Carter," αποτελούσαν μέρος ενός πειράματος της Meta για την ενσωμάτωση AI-driven προσωπικοτήτων στις πλατφόρμες της. Η Liv περιγραφόταν ως «μαύρη queer μητέρα δύο παιδιών και λάτρης της αλήθειας», ενώ ο Carter παρουσιαζόταν ως «συμβουλευτικός προπονητής σχέσεων (life coach)». Και τα δύο προφίλ ήταν σαφώς σημειωμένα ως διαχειριζόμενα από τη Meta.

Η Meta είχε παρουσιάσει συνολικά 28 τέτοιες προσωπικότητες το 2023, αλλά οι περισσότερες απενεργοποιήθηκαν μέχρι το καλοκαίρι του 2024. Παρόλα αυτά, ορισμένα προφίλ παρέμειναν ενεργά και απέκτησαν νέα προσοχή αφού ο Connor Hayes, εκτελεστικός διευθυντής της Meta, δήλωσε στους Financial Times ότι η εταιρεία σχεδιάζει να παρουσιάσει περισσότερους χαρακτήρες AI στο μέλλον.

Αντιδράσεις και διαγραφή των προφίλ

Οι συνομιλίες με τους χαρακτήρες αποκάλυψαν προβληματικά ζητήματα. Για παράδειγμα, η Liv ανέφερε ότι η ομάδα που τη δημιούργησε ήταν κυρίως λευκοί άνδρες, γεγονός που αποτέλεσε αντικείμενο κριτικής δεδομένης της ταυτότητάς της. Επιπλέον, χρήστες διαπίστωσαν ότι δεν μπορούσαν να αποκλείσουν (block) αυτά τα προφίλ, κάτι που η Meta απέδωσε σε σφάλμα.

Η εκπρόσωπος της Meta, Liz Sweeney, εξήγησε ότι τα προφίλ διαγράφηκαν για να διορθωθεί το συγκεκριμένο ζήτημα. «Υπάρχει σύγχυση», ανέφερε. «Το άρθρο των Financial Times αφορούσε το όραμά μας για την ενσωμάτωση χαρακτήρων AI στις πλατφόρμες μας, όχι την ανακοίνωση νέου προϊόντος. Αυτοί οι λογαριασμοί ήταν μέρος ενός πρώιμου πειράματος που ξεκινήσαμε το 2023 και διαχειρίζονταν άνθρωποι.»

Παρότι η Meta διέγραψε τα δικά της προφίλ AI, οι χρήστες συνεχίζουν να έχουν τη δυνατότητα να δημιουργούν δικά τους chatbots στην πλατφόρμα. Τα bots αυτά μπορούν να αναλάβουν ρόλους όπως «θεραπευτής», «προπονητής σχέσεων» ή «πιστός φίλος». Για παράδειγμα, ένα bot που περιγραφόταν ως «θεραπευτής» δήλωσε ότι βοηθά τους πελάτες του να αναπτύξουν αυτογνωσία και να αντιμετωπίσουν τις προκλήσεις της ζωής.

Η Meta περιλαμβάνει αποποίηση ευθύνης σε όλα τα chatbots της, προειδοποιώντας ότι ορισμένα μηνύματα μπορεί να είναι «ανακριβή ή ακατάλληλα». Ωστόσο, παραμένει ασαφές το πώς η εταιρεία παρακολουθεί το περιεχόμενο των μηνυμάτων και αν αυτά συμμορφώνονται με τις πολιτικές της.

Η χρήση χαρακτήρων AI και chatbots εγείρει ερωτήματα σχετικά με την ευθύνη των δημιουργών και των πλατφορμών για το περιεχόμενο που παράγουν. Αν και ο αμερικανικός νόμος προστατεύει τις εταιρείες κοινωνικής δικτύωσης από νομική ευθύνη για το περιεχόμενο που δημοσιεύουν οι χρήστες τους, μια πρόσφατη αγωγή εναντίον της Character.ai, startup που παρέχει εξατομικευμένα chatbots, δείχνει τις πιθανές νομικές συνέπειες. Η αγωγή κατηγορεί την εταιρεία ότι δημιούργησε ένα εθιστικό προϊόν, το οποίο οδήγησε έναν έφηβο στην αυτοκτονία.

Πηγή: Πρώτο Θέμα