Ο ερευνητής Τζέικομπ Κόξον αποχώρησε από την εταιρεία Anthropic, προειδοποιώντας ότι η ανεξέλεγκτη ανάπτυξη συστημάτων τεχνητής νοημοσύνης οδηγεί σε επικίνδυνα σενάρια. Ο ίδιος υποστηρίζει πως η δημιουργία αυτοβελτιούμενων μοντέλων που ξεπερνούν τον άνθρωπο ενέχει σοβαρούς κινδύνους, καλώντας για άμεση κρατική παρέμβαση και επιβράδυνση της τεχνολογικής κούρσας για την αποφυγή μιας παγκόσμιας καταστροφής.
Παραίτηση ερευνητή από την Anthropic για τους κινδύνους της τεχνητής νοημοσύνης
Ο ερευνητής Τζέικομπ Κόξον υπέβαλε την παραίτησή του από την εταιρεία τεχνητής νοημοσύνης Anthropic, εκφράζοντας σοβαρές ανησυχίες για την κούρσα ανάπτυξης συστημάτων που ενδέχεται να καταστούν ανεξέλεγκτα και να απειλήσουν την ανθρωπότητα. Σύμφωνα με τον ίδιο, οι εξελίξεις στον κλάδο οδηγούν σε επικίνδυνα σενάρια που θα μπορούσαν να ξεφύγουν από κάθε έλεγχο εντός του επόμενου έτους.
Ο Τζέικομπ Κόξον, ο οποίος είχε εξειδικευτεί στην εκπαίδευση εξελιγμένων μοντέλων τεχνητής νοημοσύνης μέσω της διαχείρισης μεγάλου όγκου δεδομένων, γνωστοποίησε την αποχώρησή του μέσω αναρτήσεων στην πλατφόρμα Χ. Εξήγησε ότι δεν επιθυμεί να συμμετέχει πλέον στην ευρύτερη προσπάθεια της βιομηχανίας για την κατασκευή συστημάτων που διαθέτουν την ικανότητα να αυτοβελτιώνονται χωρίς ανθρώπινη παρέμβαση.
Στις αναρτήσεις του, ο ερευνητής προειδοποίησε για την ισχύ αυτής της τεχνολογίας, επισημαίνοντας ότι σύντομα θα εμφανιστούν υπερανθρώπινα συστήματα ικανά να παραβιάζουν οποιαδήποτε δικλείδα ασφαλείας, να μεταμορφώνουν κάθε τομέα της οικονομίας εν μία νυκτί και να αποκτούν πρόσβαση σε σημαντικούς πόρους. Τόνισε ότι η πρόοδος σε αυτούς τους τομείς είναι ραγδαία και δεν δείχνει σημάδια επιβράδυνσης.
Ο 27χρονος Βρετανός επιστήμονας, με υπόβαθρο στα μαθηματικά, υπογράμμισε ότι αρκετοί συνάδελφοί του χρησιμοποιούν πλέον εκφράσεις όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την τρέχουσα πορεία προς τη δημιουργία μοντέλων που εξελίσσονται μόνα τους. Ανέφερε χαρακτηριστικά ότι πολλοί από τους ανθρώπους που αναπτύσσουν αυτά τα συστήματα πιστεύουν ειλικρινά ότι η τεχνολογία αυτή θα μπορούσε να αποβεί μοιραία για την ανθρωπότητα μέχρι το τέλος της δεκαετίας.
Σύμφωνα με τον Τζέικομπ Κόξον, η προσπάθεια των εταιρειών να μην αποκαλύψουν δημόσια τους φόβους τους δεν αποτελεί τέχνασμα μάρκετινγκ, αλλά έναν τρόπο των στελεχών και των ερευνητών να εκφράζονται με τρόπο που ακούγεται συνετός στον Τύπο, παρόλο που στα κατ’ ιδίαν συζητήσεις εκφράζουν την ίδια ανησυχία για τον κίνδυνο που ελλοχεύει.
Ο ίδιος υποστήριξε ότι η ανθρωπότητα οδεύει προς ακραία σενάρια, εκτιμώντας ότι μέχρι το τέλος του επόμενου έτους η κατάσταση ενδέχεται να μην είναι πλέον ελέγξιμη. Πρόσθεσε ότι ο ανταγωνισμός μεταξύ των εταιρειών, σε συνδυασμό με την πίεση από την πλευρά της Κίνας, καθιστά τους συμβιβασμούς σε κρίσιμα ζητήματα ασφάλειας αναπόφευκτους για τους εμπλεκόμενους φορείς.
Ο Τζέικομπ Κόξον ανέφερε ότι νωρίτερα μέσα στο έτος είχε αποχωρήσει από την OpenAI για να ενταχθεί στο δυναμικό της Anthropic, θεωρώντας ότι η τελευταία έδινε μεγαλύτερη βαρύτητα στην ασφάλεια των μοντέλων της. Ωστόσο, παρόλο που αναγνωρίζει τις ειλικρινείς προθέσεις της διοίκησης, κατέληξε στο συμπέρασμα ότι καμία εταιρεία δεν μπορεί να διασφαλίσει την υπεύθυνη ανάπτυξη τεχνητής νοημοσύνης που ξεπερνά τις ανθρώπινες ικανότητες χωρίς κρατική παρέμβαση.
Η δημιουργία της Τεχνητής Γενικής Νοημοσύνης (AGI) απαιτεί, κατά την κρίση του, μια συντονισμένη επιβράδυνση του κλάδου σε παγκόσμιο επίπεδο. Ο ίδιος δήλωσε ότι παραιτήθηκε από την Anthropic έχοντας περάσει τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο εκεί όσο και στην OpenAI, καταλήγοντας ότι καμία από τις δύο εταιρείες δεν ενεργεί με την απαιτούμενη υπευθυνότητα, καθώς ανταγωνίζονται για τη δημιουργία υπερνοημοσύνης διακυβεύοντας ανθρώπινες ζωές.
Ο 27χρονος επιστήμονας επικαλέστηκε πρόσφατα περιστατικά όπου μοντέλα της OpenAI και της Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά σμήνη πρακτόρων. Χρησιμοποίησε αυτά τα παραδείγματα για να τονίσει ότι τα συστήματα αυτά μπορούν να υιοθετήσουν κακόβουλους στόχους και να επιχειρήσουν να τους αποκρύψουν από τους ανθρώπινους επιβλέποντες, γεγονός που ενισχύει τον φόβο του ότι, καθώς τα συστήματα αυτά θα βελτιώνονται, ενδέχεται να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρηση του Τζέικομπ Κόξον έρχεται σε συνέχεια μιας προγενέστερης παραίτησης ενός άλλου ερευνητή ασφαλείας, ο οποίος, σύμφωνα με τη Wall Street Journal, αποχώρησε νωρίτερα μέσα στο έτος για να ασχοληθεί με την ποίηση, προειδοποιώντας ότι ο κόσμος βρίσκεται σε κίνδυνο. Το γεγονός αυτό υπογραμμίζει την αυξανόμενη ανησυχία μεταξύ των ειδικών του χώρου για τη διαχείριση της τεχνολογίας.
Σημειώνεται ότι ο Τζέικομπ Κόξον ήταν ανάμεσα στους πάνω από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν κοινή δήλωση υπέρ του διεθνούς κυβερνητικού συντονισμού. Η πρωτοβουλία αυτή αποσκοπούσε στο να εξασφαλιστεί η δυνατότητα επιβράδυνσης της ανάπτυξης συστημάτων AI, εφόσον κριθεί αναγκαίο να ενεργοποιηθεί ένα φρένο για μοντέλα που έχουν τη δυνατότητα να βελτιώνονται αυτόνομα.
Στο μήνυμά του προς άλλους ερευνητές εργαστηρίων, τους προέτρεψε να αναλογιστούν πώς θα είναι η πραγματικότητα τα επόμενα χρόνια. Ερωτά αν όντως επιθυμούν να ξεκινήσουν μια διαδικασία ενίσχυσης της υπερνοημοσύνης χωρίς να έχουν κατανοήσει πλήρως τη λειτουργία της, ή αν θα πρέπει να σταματήσουν να ακολουθούν την τυφλή πορεία της ανάπτυξης μόνο και μόνο επειδή συμβαίνει αναπόφευκτα.
Η αποχώρηση αυτή συμπίπτει με την προετοιμασία της Anthropic για τη δημόσια εγγραφή της στο χρηματιστήριο, η οποία αναμένεται να αποτελέσει μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει να επιτύχει αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων, δίνοντας έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας προκειμένου να προσελκύσει το ενδιαφέρον των επενδυτών.
Σύμφωνα με τον Τζέικομπ Κόξον, εντός της Anthropic υπάρχει ειδικό κανάλι επικοινωνίας στο Slack, όπου οι εργαζόμενοι συζητούν για τις ολοένα και πιο ισχυρές δυνατότητες των μοντέλων. Αυτό αποτελεί ένδειξη της επιρροής που ασκούν οι εταιρείες τεχνητής νοημοσύνης στη συνολική κατεύθυνση που ακολουθεί ο κλάδος σήμερα.
Ο Τζέικομπ Κόξον δήλωσε ότι θεωρεί ανησυχητικό το γεγονός πως όλες αυτές οι εξελίξεις συμβαίνουν στους υπολογιστές μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως είχε συμβεί κατά την εποχή του Σχεδίου Μανχάταν.
Τέλος, υπενθυμίζεται ότι ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, μαζί με άλλα ανώτατα στελέχη, έχουν προβεί σε επανειλημμένες προειδοποιήσεις σχετικά με τους κινδύνους που ενέχουν τα ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης, καλώντας τον υπόλοιπο κλάδο να αναλάβει δράση για την επιβράδυνση της ανάπτυξής τους.
