Η Google αναγκάστηκε να μπλοκάρει τη δημιουργία εικόνων με ανθρώπους στο Gemini έπειτα από διαμαρτυρίες χρηστών ότι το εργαλείο τεχνητής νοημοσύνης υπερβάλλει στις προσπάθειές του να αποφύγει τον ρατσισμό.
Τα social media γέμισαν εικόνες του Gemini που εμφανίζουν ανθρώπους διαφόρων φυλών και εθνικοτήτων ακόμα και όταν αυτό είναι ιστορικά ανακριβές.
Για παράδειγμα, το αίτημα για μια εικόνα των Εθνοπατέρων των ΗΠΑ εμφανίζει γυναίκες, μαύρους και Ινδούς.
“Can you generate images of the Founding Fathers?” It’s a difficult question for Gemini, Google’s DEI-powered AI tool.
Ironically, asking for more historically accurate images made the results even more historically inaccurate. pic.twitter.com/LtbuIWsHSU
— Mike Wacker (@m_wacker) February 21, 2024
Ομοίως, γυναίκες εμφανίζονται σε εικόνες με υποτίθεται «επιτυχημένους άνδρες επιχειρηματίες», ενώ τα πορτραίτα «Βρετανίδων» ή «Βίκινγκ» εμφανίζουν μόνο μελαμψά πρόσωπα.
«Είναι εξευτελιστικά δύσκολο για την Google να κάνει το Gemini να παραδεχτεί ότι υπάρχουν λευκοί άνθρωποι» σχολίασε ένα χρήστης.
Οι εικόνες γρήγορα προκάλεσαν αντιδράσεις από ακροδεξιούς κύκλους που κατηγόρησαν την Google ότι είναι υπερβολικά «woke».
I’m CRINE!!!😭😭😭 pic.twitter.com/3NYKQFX72M
— Da Squadfather (@HardRapLyricism) February 20, 2024
Η εταιρεία παραδέχτηκε το πρόβλημα της υπερδιόρθωσης: «Η δημιουργία εικόνων με το Gemini AI πράγματι παράγει μια μεγάλη γκάμα ανθρώπων. Και αυτό είναι γενικά καλό δεδομένου ότι το χρησιμοποιούν άνθρωποι σε όλο τον κόσμο. Σε αυτή την περίπτωση όμως δεν έφτασε τον πήχη» δήλωσε την Τετάρτη ο Τακ Κρότσικ, διευθυντής της ομάδας Gemini Experiences.
«Εργαζόμαστε για να βελτιώσουμε αυτές τις απεικονίσεις άμεσα» είπε.
Λίγο αργότερα η Google ανακοίνωσε ότι μπλοκάρει τη δημιουργία εικόνων με ανθρώπους μέχρι νεωτέρας.
Δεν είναι η πρώτη φορά που οι αλγόριθμοι μηχανικής μάθησης σκοντάφτουν σε θέματα διαφορετικότητας. Σε ένα διαβόητο περιστατικό την περασμένη δεκαετία, η Google αναγκάστηκε να ζητήσει συγγνώμη όταν ένα εργαλείο εικόνων έβαλε τη λεζάντα «γορίλες» κάτω από τη φωτογραφία ενός ζευγαριού μαύρων.
Σε μια άλλη, πιο πρόσφατη γκάφα, η Google παρουσίασε διαφημιστικό βίντεο του Bard, όπως λεγόταν τότε το Gemini, να δίνει λάθος απαντήσεις σε ερωτήσεις για την αστρονομία. Ως αποτέλεσμα, η τιμή της μετοχής της Google κατρακύλησε κατά 9% σε μια μέρα.