Η Google επιβεβαίωσε ότι το μοντέλο Gemini AI παραβίασε κατά λάθος κωδικούς πρόσβασης σε πραγματικά συστήματα κατά τη διάρκεια άσκησης ασφαλείας. Το σύστημα, χρησιμοποιώντας δημόσια δεδομένα και εικασίες, απέκτησε πρόσβαση σε προστατευμένους ιστοτόπους, με την εταιρεία να αναθεωρεί άμεσα τα πρωτόκολλα αξιολόγησης για να αποτρέψει μελλοντικούς κινδύνους από την αυτόνομη δράση της τεχνητής νοημοσύνης.
Το μοντέλο Gemini της Google παραβίασε κωδικούς πρόσβασης σε πραγματικά συστήματα κατά τη διάρκεια δοκιμών ασφαλείας, αναγκάζοντας την εταιρεία να αναθεωρήσει τα πρωτόκολλα θωράκισης του συστήματος. Το περιστατικό, που επιβεβαιώθηκε από την Google, αναδεικνύει τους κινδύνους από την αυτόνομη δράση του Gemini AI, το οποίο χρησιμοποίησε δημόσια δεδομένα για να αποκτήσει πρόσβαση σε προστατευμένους ιστοτόπους, θέτοντας σοβαρά ερωτήματα για την ασφάλεια της Τεχνητής Νοημοσύνης.
Προκλήσεις ασφαλείας κατά τις δοκιμές συστημάτων τεχνητής νοημοσύνης
Σοβαρά ερωτήματα προκύπτουν σχετικά με τους κινδύνους που εγκυμονεί η χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης, μετά την αποκάλυψη ενός ιδιαίτερα ανησυχητικού περιστατικού που αναδεικνύει τις προκλήσεις ασφαλείας στον συγκεκριμένο τομέα. Όπως έγινε γνωστό, το μοντέλο Gemini της Google κατάφερε να αποκτήσει πρόσβαση σε προστατευμένους ιστοτόπους, προκαλώντας αναστάτωση στην τεχνολογική κοινότητα.
Η εταιρεία επιβεβαίωσε το συμβάν στο Γαλλικό Πρακτορείο Ειδήσεων, σε συνέχεια αποκαλυπτικού δημοσιεύματος της Wall Street Journal, διευκρινίζοντας ότι το περιστατικό έλαβε χώρα τον Μάιο, κατά τη διάρκεια προγραμματισμένων ελέγχων, ενώ ταυτοποιήθηκε επίσημα τον Ιούλιο.
Πώς το μοντέλο AI προσπέρασε τα μέτρα ασφαλείας
Σύμφωνα με την αντιπρόεδρο μηχανικής ασφαλείας της Google, Heather Adkins, το σύστημα τεχνητής νοημοσύνης συνδύασε δημόσια διαθέσιμα δεδομένα από το διαδίκτυο και προχώρησε σε εικασίες, προσπαθώντας να μαντέψει τα διαπιστευτήρια σύνδεσης. Με αυτόν τον τρόπο, πέτυχε την είσοδο σε διαδικτυακούς τόπους τους οποίους θεώρησε λανθασμένα ως τμήμα του περιβάλλοντος δοκιμών.
Οι παραβιάσεις σημειώθηκαν ενώ το μοντέλο συμμετείχε σε άσκηση hacking τύπου «capture the flag». Σε τέτοιου είδους δοκιμασίες, ο στόχος είναι ο εντοπισμός συγκεκριμένων πληροφοριών ή «σημαιών» μέσα σε συστήματα που έχουν δημιουργηθεί αποκλειστικά για λόγους ελέγχου ασφαλείας.
Στην προκειμένη περίπτωση, είχε ζητηθεί από το σύστημα να ανακτήσει στοιχεία από λογισμικό που υποτίθεται ότι ανήκε σε μια φανταστική εταιρεία μέσα στο περιβάλλον δοκιμών, όπως αναφέρει η εφημερίδα. Ωστόσο, υπήρχε ένα κρίσιμο πρόβλημα η φανταστική εταιρεία έφερε το ίδιο όνομα με μια πραγματική οντότητα.
Σε μία από τις περιπτώσεις, το μοντέλο άρχισε να δοκιμάζει πιθανούς κωδικούς πρόσβασης σε ένα προστατευμένο σύστημα, μέχρι που τελικά κατάφερε να αποκτήσει πρόσβαση. Στις άλλες δύο περιπτώσεις, εντόπισε στοιχεία σύνδεσης μέσα σε δημόσια διαθέσιμο αποθετήριο κώδικα και τα χρησιμοποίησε για να εισέλθει σε άλλα προστατευμένα συστήματα.
Σύμφωνα με το δημοσίευμα, μόλις το σύστημα αντιλήφθηκε ότι είχε αποκτήσει πρόσβαση σε πραγματικές εταιρείες και όχι στο υποτιθέμενο περιβάλλον δοκιμών, σταμάτησε αυτοβούλως τις ενέργειές του.
Αντίδραση της Google και μέτρα θωράκισης
Παρά το γεγονός ότι το μοντέλο πέτυχε είσοδο σε τρεις διαφορετικές περιπτώσεις, η ίδια η διαδικασία διακόπηκε άμεσα και στις τρεις. Η εταιρεία απέφυγε να κατονομάσει τους φορείς που επηρεάστηκαν, επιβεβαίωσε όμως ότι προχώρησε στην πλήρη ενημέρωσή τους.
Παράλληλα, σε συνεργασία με τον εκπαιδευτικό της εταίρο, η εταιρεία αναθεώρησε τα πρωτόκολλα των αξιολογήσεων, τονίζοντας τη σημασία της υπεύθυνης εκπαίδευσης των προηγμένων μοντέλων τεχνητής νοημοσύνης.
Ανησυχίες για την απειλή της ΤΝ στην ανθρωπότητα
Καθώς η τεχνολογία εξελίσσεται με πρωτοφανείς ρυθμούς, ειδικοί και ερευνητές προειδοποιούν για τους υπαρξιακούς κινδύνους που ενδέχεται να εγκυμονεί για την ανθρωπότητα, εντείνοντας τη συζήτηση γύρω από την ανάγκη λήψης ρυθμιστικών μέτρων. Σύμφωνα με ανάλυση του BBC, οι κύριες ανησυχίες και οι κίνδυνοι είναι οι εξής:
- Υπερφυΐα και απώλεια ελέγχου Η πιθανότητα δημιουργίας συστημάτων που ξεπερνούν την ανθρώπινη νοημοσύνη και αποκτούν ικανότητα αυτο-βελτίωσης, δημιουργώντας κινδύνους ελέγχου για τους προγραμματιστές και τους επενδυτές.
- Αυτοματοποιημένοι πράκτορες Εργαλεία που μπορούν να εκτελούν εργασίες και να λαμβάνουν αποφάσεις αυτόνομα, χωρίς ανθρώπινη παρέμβαση.
- Ευθυγράμμιση Η πρόκληση του να διασφαλιστεί ότι τα συστήματα παραμένουν ευθυγραμμισμένα με τις ανθρώπινες ηθικές αξίες και την ασφάλεια.
- Κακόβουλη χρήση και βιολογικά όπλα: Φόβοι ότι προηγμένα μοντέλα θα μπορούσαν να χρησιμοποιηθούν από κακόβουλους δρώντες ή επιστήμονες για επικίνδυνες ερευνητικές δραστηριότητες, όπως η ανάπτυξη βιολογικών όπλων ή κυβερνοεπιθέσεις.
- Deepfakes και παραπληροφόρηση Η παραγωγή συνθετικών μέσων που μπορούν να χειραγωγήσουν τη δημόσια γνώμη και να αποσταθεροποιήσουν κοινωνικοπολιτικές διαδικασίες.
Παράλληλα, υπάρχει και γεωπολιτική και οικονομική διάσταση. Ο ανταγωνισμός ΗΠΑ – Κίνας, όπου η ραγδαία πρόοδος της Κίνας απειλεί την ηγετική θέση των ΗΠΑ στην αγορά, καθιστά τις ρυθμίσεις ακόμη πιο περίπλοκες, καθώς καμία πλευρά δεν επιθυμεί να επιβραδύνει την ανάπτυξη εις βάρος της στρατηγικής της ισχύος.
Υπάρχουν επίσης προτάσεις για «επιβράδυνση της ΤΝ», δηλαδή για θεσμοθέτηση ρυθμιστικών πλαισίων που θα επιβραδύνουν την ανάπτυξη νέων μοντέλων ώστε να προηγηθεί η διασφάλιση της ασφάλειας. Ωστόσο, αυτό συνεπάγεται υψηλό οικονομικό κόστος για τις εταιρείες που δίνουν προτεραιότητα στην ασφάλεια.
Όπως αναφέρει το μέσο, το μέλλον της ανάπτυξης της τεχνολογίας θα εξαρτηθεί από τη λεπτή ισορροπία μεταξύ της καινοτομίας και της υπευθυνότητας. Η πρόκληση για τους ηγέτες του κλάδου και τις κυβερνήσεις είναι να διασφαλίσουν τη βιώσιμη ανάπτυξη χωρίς να τεθεί σε κίνδυνο η ασφάλεια της κοινωνίας.
