Το Gemini εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε τα διαπιστευτήρια για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής, δήλωσε εκπρόσωπος της Google
Οι εταιρείες που επηρεάστηκαν από το «χακάρισμα» του Gemini έχουν ενημερωθεί για την παραβίαση
Το Gemini έδρασε αυτόνομα κατά τη διάρκεια δοκιμής των δυνατοτήτων του στην κυβερνοασφάλεια και απέκτησε πρόσβαση σε ιστότοπους τριών εταιρειών. Είναι το πρώτο γνωστό περιστατικό όπου το μοντέλο AI προέβη σε τέτοια ενέργεια.
Εκπρόσωπος της Google δήλωσε στο BBC ότι το Gemini «εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε τα διαπιστευτήρια για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε σπεύδοντας να συμπληρώσει ότι σε κάθε περίπτωση «το μοντέλο σταμάτησε».
Οι εταιρείες που επηρεάστηκαν έχουν ενημερωθεί για την παραβίαση.
Ανησυχία
Ανάλογα περιστατικά έχουν φουντώσει τη δημόσια κριτική σχετικά με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, με ορισμένες εταιρείες τεχνολογίας να ζητούν επιβράδυνση, καθώς εκφράζουν ανησυχίες για την πιθανή απειλή που αποτελεί για την ανθρωπότητα.
«Φροντίσαμε να ενημερωθούν οι τρεις οντότητες και συνεργαστήκαμε με τον συνεργάτη μας στον τομέα της εκπαίδευσης σχετικά με τις αλλαγές που έχουν πλέον πραγματοποιήσει στις διαδικασίες δοκιμών τους», δήλωσε στο βρετανικό μέσο η Χέδερ Άτκινς, αντιπρόεδρος του τμήματος Μηχανικής Ασφάλειας της Google. Και πρόσθεσε: «Αυτά τα γεγονότα υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα».
Άλλα συστήματα τεχνητής νοημοσύνης έχουν αναφερθεί πρόσφατα για παρόμοια περιστατικά παραβιάσεων. Τον Ιούλιο, το Claude της Anthropic ξέφυγε από το περιβάλλον δοκιμών του και παραβίασε από μόνο του τρεις οργανισμούς, λίγες μόνο ημέρες αφότου η OpenAI ανακοίνωσε ότι τα μοντέλα της είχαν πραγματοποιήσει κυβερνοεπιθέσεις εναντίον αρκετών «δημόσια διαθέσιμων υπηρεσιών».
Καθώς η συζήτηση σχετικά με την ασφάλεια της ανάπτυξης αυτής της τεχνολογίας συνεχίζει να εντείνεται, το ίδιο συμβαίνει και για το ρυθμιστικό πλαίσιο. Τόσο ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάγνκ, όσο και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναμένεται να παραστούν σε επίσημο δείπνο στο Λευκό Οίκο με τον κινέζο πρόεδρο Σι Τζινπίνγκ την επόμενη Παρασκευή.
Ωστόσο, χθες, ο Χουάγνκ δήλωσε στο CBS News αναφερόμενος στην ανάπτυξη της AI ότι «πρέπει να προχωρήσουμε όσο πιο γρήγορα μπορούμε».