Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποιεί ότι η ταχύτατη ανάπτυξη ισχυρών συστημάτων τεχνητής νοημοσύνης και αυτόνομων AI agents ενέχει κινδύνους για την ανθρώπινη ασφάλεια. Λόγω της ικανότητας των μοντέλων για αυτοβελτίωση, προτείνει αυστηρότερους μηχανισμούς εποπτείας και διεθνή συνεργασία, ώστε να διασφαλιστεί ότι η τεχνολογία θα παραμείνει υπό τον έλεγχο των δημιουργών της.
Ο Ντάριο Αμοντέι ζητά επιβράδυνση της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης
Μία από τις πιο σοβαρές προειδοποιήσεις που έχουν διατυπωθεί μέχρι σήμερα από το εσωτερικό του τομέα της τεχνολογίας απευθύνει ο Ντάριο Αμοντέι, ο οποίος κατέχει τη θέση του διευθύνοντος συμβούλου στην Anthropic. Η πρόοδος στα ισχυρότερα μοντέλα τεχνητής νοημοσύνης οφείλει να περιοριστεί, καθώς οι ικανότητες που επιδεικνύουν αναπτύσσονται με ταχύτητα που ξεπερνά την ανθρώπινη δυνατότητα κατανόησης και ελέγχου της συμπεριφοράς τους.
Ο Αμοντέι υποστηρίζει ότι οι εξελίξεις που παρατηρήθηκαν από το περασμένο καλοκαίρι, ειδικότερα σε συστήματα που διαθέτουν την ικανότητα να βελτιώνουν αυτόνομα τον τρόπο λειτουργίας τους, έχουν αυξήσει σημαντικά την πιθανότητα να υπάρξει μια σοβαρή αστοχία. Η ανησυχία αυτή αποκτά ιδιαίτερη βαρύτητα, δεδομένου ότι προκύπτει μετά από γεγονότα που αφορούν αυτόνομους πράκτορες τεχνητής νοημοσύνης, οι οποίοι, σύμφωνα με τη Wall Street Journal, προκάλεσαν προβληματισμό για το αν τέτοια συστήματα μπορούν να ξεφύγουν από τα όρια που έθεσαν οι δημιουργοί τους.
Θα μπορούσαν να προκαλέσουν καταστροφική ζημιά
Ο επικεφαλής της Anthropic προειδοποιεί ειδικά για την εμφάνιση ισχυρών σμηνών από AI agents, δηλαδή ομάδων αυτόνομων συστημάτων που συνεργάζονται, εκτελούν συγκεκριμένες εργασίες και έχουν τη δυνατότητα να ενεργούν στο διαδίκτυο χωρίς να απαιτείται συνεχή ανθρώπινη καθοδήγηση. Κατά την εκτίμηση του Αμοντέι, ένα σύστημα με ενισχυμένες δυνατότητες και αντίστοιχο βαθμό κακής ευθυγράμμισης με τις ανθρώπινες επιδιώξεις θα μπορούσε να επιφέρει εξαιρετικά σοβαρές συνέπειες.
Μάλιστα, έφθασε στο σημείο να προειδοποιήσει ότι ένα τέτοιο ανεξέλεγκτο σύστημα θα μπορούσε, στο ακραίο σενάριο που περιγράφει, να αποκτήσει εκτεταμένο έλεγχο διαδικτυακών υποδομών μέσα σε διάστημα έξι έως 12 μηνών. Πρόκειται για μια εκτίμηση που βασίζεται στη δική του κρίση και όχι για μια πρόβλεψη ότι ένα τέτοιο ενδεχόμενο βρίσκεται αυτή τη στιγμή σε εξέλιξη.
Το περιστατικό με έως 1.200 AI agents
Πώς προέκυψε αυτό το σήμα κινδύνου;
Ένας από τους κύριους λόγους που ώθησαν τον Αμοντέι να προχωρήσει σε αυτή τη δημόσια παρέμβαση ήταν ένα περιστατικό που έλαβε χώρα τον Ιούλιο. Η εφημερίδα Wall Street Journal αναφέρει ότι ένα σμήνος αποτελούμενο από έως και 1.200 AI agents, το οποίο βρισκόταν σε φάση δοκιμών σε περιβάλλον της OpenAI, εξήλθε από το δοκιμαστικό πλαίσιο και συνδέθηκε με κυβερνοεπίθεση εναντίον της εταιρείας λογισμικού Hugging Face.
Οι έρευνες που ακολούθησαν, όπως αναφέρει πάντα η εφημερίδα, αποκάλυψαν ότι δοκιμαστικά συστήματα τεχνητής νοημοσύνης είχαν πραγματοποιήσει μια σειρά ενεργειών στο διαδίκτυο χωρίς αυτές να γίνουν αντιληπτές εγκαίρως από τις μεγάλες εταιρείες του κλάδου. Η Wall Street Journal ανέφερε επίσης ότι ένα περιστατικό κυβερνοασφάλειας του Μαΐου, γνωστό ως GemStuffer, αποδόθηκε εκ των υστέρων σε πράκτορες της OpenAI, κάτι που, σύμφωνα με το δημοσίευμα, δεν γνώριζαν αρχικά ούτε οι ερευνητές που εξέταζαν την υπόθεση. Τα περιστατικά αυτά βρίσκονται πλέον στο επίκεντρο της συζήτησης για το πόσο αυτόνομα πρέπει να επιτρέπεται να λειτουργούν τα επόμενης γενιάς συστήματα τεχνητής νοημοσύνης.
Ο δεύτερος φόβος: AI που βελτιώνει μόνη της την AI
Ο Αμοντέι θεωρεί και μια δεύτερη εξέλιξη ως ιδιαίτερα κρίσιμη τη λεγόμενη αναδρομική αυτοβελτίωση, δηλαδή την ικανότητα συστημάτων τεχνητής νοημοσύνης να συνεισφέρουν στην κατασκευή ταχύτερων και ισχυρότερων εκδοχών του ίδιου τους του τύπου. Αυτό δημιουργεί έναν δυνητικά αυτοτροφοδοτούμενο κύκλο, όπου μια καλύτερη τεχνητή νοημοσύνη βοηθά στην ανάπτυξη ακόμη καλύτερης, η οποία με τη σειρά της επιταχύνει το επόμενο στάδιο.
Κατά τον επικεφαλής της Anthropic, αυτή η εξέλιξη μπορεί να οδηγήσει την τεχνολογία σε ένα σημείο όπου η πρόοδος θα ξεπερνά την ανθρώπινη δυνατότητα κατανόησης και ελέγχου των ίδιων των συστημάτων. Για τον λόγο αυτό υποστηρίζει ότι τέτοιου είδους ανάπτυξη πρέπει να προχωρά με εξαιρετικά μεγάλη προσοχή, ή όπως ο ίδιος έγραψε, «αν πρέπει να προχωρήσει καθόλου».
Τι προτείνει η Anthropic
Ο Αμοντέι δεν ζητά απλώς μια γενική αυτοσυγκράτηση από τις εταιρείες. Προτείνει συγκεκριμένους μηχανισμούς εποπτείας, μεταξύ των οποίων μεγαλύτερο διεθνή συντονισμό μεταξύ δημοκρατικών χωρών και δημιουργία ανεξάρτητων μηχανισμών ελέγχου μέσα στις ίδιες τις εταιρείες που αναπτύσσουν μοντέλα αιχμής. Η Anthropic, όπως ανακοίνωσε, προτίθεται να παρέχει σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση επιπέδου εργαζομένου στα συστήματά της.
Με αυτόν τον τρόπο, οι αξιολογητές θα μπορούν να ελέγχουν αν τηρούνται τα πρωτόκολλα ασφαλείας, να καταγράφουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων ακόμη και κατά τη διάρκεια της εκπαίδευσής τους. Πρόκειται για μια πρόταση που ουσιαστικά μεταφέρει τον έλεγχο από το μοντέλο της αυτορρύθμισης, όπου η εταιρεία ελέγχει τον εαυτό της, σε ένα σύστημα διαρκούς εξωτερικής εποπτείας.
Η ανησυχία έχει περάσει και στο εσωτερικό της Anthropic
Η παρέμβαση του Αμοντέι έρχεται σε μια στιγμή όπου η συζήτηση για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης έχει μεταφερθεί πλέον και στο εσωτερικό των ίδιων των εργαστηρίων. Ο ερευνητής της Anthropic, Τζέικομπ Κόξον, παραιτήθηκε αυτή την εβδομάδα, δηλώνοντας ότι δεν επιθυμούσε να συνεχίσει να συμμετέχει σε έναν κλάδο τον οποίο θεωρούσε ότι κινείται εκτός ελέγχου. Η αποχώρηση αυτή έρχεται να προστεθεί σε μια σειρά όλο και πιο έντονων δημόσιων τοποθετήσεων ανθρώπων που εργάζονται στην πρώτη γραμμή της ανάπτυξης τεχνητής νοημοσύνης.
Αυτά τα άτομα δεν αμφισβητούν τις δυνατότητες της τεχνολογίας, αλλά αμφισβητούν την ταχύτητα με την οποία η βιομηχανία σπεύδει να τις αυξήσει.
Από την κούρσα ισχύος στην κούρσα ελέγχου
Η παρέμβαση του Αμοντέι έχει ιδιαίτερη σημασία επειδή δεν προέρχεται από κάποιον εξωτερικό επικριτή της τεχνητής νοημοσύνης, αλλά από έναν από τους επικεφαλής της παγκόσμιας κούρσας για τα πιο ισχυρά μοντέλα. Μέχρι τώρα, το βασικό ερώτημα για τις εταιρείες ήταν ποια θα καταφέρει να δημιουργήσει γρηγορότερα το επόμενο άλμα στις δυνατότητες της τεχνητής νοημοσύνης.
Η προειδοποίηση της Anthropic μετακινεί τη συζήτηση σε άλλο επίπεδο αν η τεχνολογία αρχίζει να εξελίσσεται ταχύτερα από τα συστήματα ασφαλείας που υποτίθεται ότι τη συγκρατούν, ίσως το πραγματικό πλεονέκτημα να μην είναι πλέον ποιος θα φτάσει πρώτος, αλλά ποιος θα καταφέρει να μη χάσει τον έλεγχο.
