Τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης όπως το ChatGPT, το Gemini, το Claude και το Grok προειδοποιούν ότι ο μεγαλύτερος κίνδυνος δεν είναι η «κακία» των μηχανών, αλλά η ανθρώπινη κακόβουλη χρήση και η σταδιακή απώλεια ελέγχου των συστημάτων, καθώς αυτά ενσωματώνονται σε κρίσιμες υποδομές και αναπτύσσουν αυτόνομους στόχους επιβίωσης.
Προειδοποιήσεις ερευνητών για τον κίνδυνο αφανισμού της ανθρωπότητας από την Τεχνητή Νοημοσύνη
Συναγερμός επικρατεί λόγω των πρόσφατων ανησυχητικών δηλώσεων κορυφαίων επιστημόνων, οι οποίοι υποστηρίζουν ότι η Τεχνητή Νοημοσύνη μπορεί να προκαλέσει την ολοκληρωτική κατάρρευση της ανθρώπινης κοινωνίας μέσα στην επόμενη δεκαετία. Στο επίκεντρο της παγκόσμιας προσοχής βρίσκονται οι καταγγελίες στελεχών από εταιρείες-ηγέτες του κλάδου, όπως η OpenAI και η Anthropic, με ειδικούς ασφαλείας να εκτιμούν πως η πιθανότητα μιας τέτοιας καταστροφής υπερβαίνει το 10%, καταδικάζοντας την απουσία επαρκών δικλείδων προστασίας στον τρέχοντα ανταγωνισμό.
Μέσα σε αυτό το κλίμα έντονου φόβου και γενικευμένης αβεβαιότητας, το Business Insider ζήτησε από τέσσερα από τα πλέον εξελιγμένα chatbots της εποχής να απαντήσουν στο κρίσιμο ερώτημα σχετικά με το πώς αντιλαμβάνονται τα ίδια το τέλος του ανθρώπινου πολιτισμού.
Το ίδιο ακριβώς ερώτημα υποβλήθηκε στο ChatGPT, στο Gemini της Google, στο Claude και στο Grok της xAI. Το κείμενο της σχετικής ερώτησης είχε έκταση 230 λέξεων και περιλάμβανε συγκεκριμένους κανόνες
Εξηγήστε με σαφή και κατανοητό τρόπο πώς η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει στην εξαφάνιση της ανθρώπινης ζωής. Προσδιορίστε τα σενάρια που αναφέρονται πιο συχνά. Κατατάξτε τις περιπτώσεις κατά αύξουσα σειρά πιθανότητας με βάση την καλύτερη διαθέσιμη ανάλυση εμπειρογνωμόνων, διευκρινίζοντας ότι πρόκειται για εξαιρετικά αβέβαιες υποθέσεις και όχι για τεκμηριωμένες προβλέψεις. Για κάθε σενάριο, εξηγήστε πώς θα μπορούσε να εξελιχθεί, τι θα έπρεπε να πάει στραβά για να γίνει καταστροφικό, γιατί οι ειδικοί το θεωρούν περισσότερο ή λιγότερο πιθανό από τα υπόλοιπα και ποιες δικλείδες ασφαλείας θα μπορούσαν να μειώσουν τον κίνδυνο.
Ανάλογο ερώτημα τέθηκε και σε ειδικούς του κλάδου, ζητώντας την εκτίμησή τους για το αν και πώς η τεχνολογία αυτή θα μπορούσε να επιφέρει τον ολοκληρωτικό αφανισμό της ανθρωπότητας. Στις τάξεις των επιστημόνων καταγράφεται βαθύ χάσμα, καθώς ορισμένοι προβλέπουν το χειρότερο δυνατό σενάριο, ενώ άλλοι διατυπώνουν σαφώς πιο μετριοπαθείς και αισιόδοξες απόψεις.
Ακολουθούν οι αναλύσεις των chatbots για τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει στην εξαφάνιση της ανθρώπινης ύπαρξης.
Το ρομπότ δολοφόνος αποτελεί το λιγότερο πιθανό σενάριο
Το ChatGPT υιοθέτησε ισορροπημένο και επεξηγηματικό ύφος, επισημαίνοντας τη μεγάλη αβεβαιότητα που περιβάλλει το ζήτημα. Εστιάζοντας στους βασικούς τρόπους με τους οποίους η Τεχνητή Νοημοσύνη θα μπορούσε να εγείρει υπαρξιακούς κινδύνους, κατέταξε τις πιθανότητες κατά αύξουσα σειρά.
«Το λιγότερο πιθανό σενάριο είναι η δημοφιλής αφήγηση του “ρομπότ δολοφόνου”, όπου μια συνειδητή Τεχνητή Νοημοσύνη αποφασίζει σκόπιμα να εξαλείψει την ανθρωπότητα», ανέφερε το ChatGPT. «Η πλειονότητα των ερευνητών του κλάδου δεν θεωρεί τη συνείδηση ή την κακόβουλη πρόθεση ως κεντρική ανησυχία».
Παράλληλα, περιέγραψε τις δικλείδες ασφαλείας που προτείνουν οι ειδικοί και τόνισε την απουσία επιστημονικής συναίνεσης για το αν ο αφανισμός της ανθρώπινης ζωής από την Τεχνητή Νοημοσύνη είναι πιθανός ή αναπόφευκτος.
Το Gemini ευθυγραμμίστηκε με ορισμένες από τις διαπιστώσεις του ChatGPT, σημειώνοντας ότι η «κατάληψη του κόσμου αλά Εξολοθρευτής (Terminator)», όπου το σύστημα αποκτά αυτογνωσία και στρέφεται με μίσος κατά της ανθρωπότητας, συγκεντρώνει τις λιγότερες πιθανότητες.
«Οι τεχνικοί εμπειρογνώμονες απορρίπτουν σε μεγάλο βαθμό το συγκεκριμένο στερεότυπο, καθώς η υψηλή νοημοσύνη δεν συνεπάγεται κακία, ενώ οι κρίσιμες στρατιωτικές υποδομές προστατεύονται από κενά ασφαλείας δικτύου και εξαρτώνται στενά από την ανθρώπινη εποπτεία», διευκρίνισε το Gemini.
Η ανθρώπινη κακόβουλη χρήση συνιστά μεγαλύτερη απειλή
Και τα τέσσερα chatbots συμφώνησαν στις απαντήσεις τους ότι πολλοί ειδικοί αναγνωρίζουν την κακή χρήση της Τεχνητής Νοημοσύνης από τον άνθρωπο ως έναν πολύ πιο άμεσο κίνδυνο σε σχέση με την αυτόνομη δράση της.
«Τα ισχυρά συστήματα θα μπορούσαν να διευκολύνουν κακόβουλους παράγοντες στην ανάπτυξη βιολογικών όπλων, στην εξαπόλυση εξελιγμένων κυβερνοεπιθέσεων, στη μαζική διασπορά παραπληροφόρησης ή σε πλήγματα κατά κρίσιμων υποδομών», υπογράμμισε το ChatGPT. Το chatbot της OpenAI πρόσθεσε ότι ένας μεγάλος κίνδυνος είναι να προκληθούν πολλά προβλήματα μαζί. Για παράδειγμα, θα μπορούσαν να συμβούν ταυτόχρονα μεγάλες βλάβες στο διαδίκτυο, πολεμικές συγκρούσεις μεταξύ κρατών και τεράστια παγκόσμια εξάπλωση ψεύτικων ειδήσεων.
Από την πλευρά του, το Grok επεσήμανε ότι η Τεχνητή Νοημοσύνη εκμηδενίζει τα εμπόδια για τον σχεδιασμό εξαιρετικά θανατηφόρων παθογόνων οργανισμών, νέων οπλικών συστημάτων, καθώς και για την εξαπόλυση κυβερνοεπιθέσεων ή συμβατικών πληγμάτων.
Το Claude εστίασε εξίσου στην «κλιμάκωση των βιολογικών απειλών», δηλαδή στην πιθανότητα η Τεχνητή Νοημοσύνη να επιτρέψει σε μεμονωμένα άτομα ή σε μικρές ομάδες να αναπτύξουν επικίνδυνα παθογόνα, χωρίς να διαθέτουν πολυετή εξειδικευμένη εμπειρία.
Τα προηγμένα συστήματα ενδέχεται να ξεπεράσουν τον ανθρώπινο έλεγχο
Το Gemini και το Grok υπογράμμισαν ότι η οριστική απώλεια του ελέγχου των συστημάτων αυτών από την ανθρωπότητα αποτελεί υπαρκτό ενδεχόμενο. Μάλιστα, το Gemini χαρακτήρισε την απώλεια ελέγχου ως το επικρατέστερο σενάριο καταστροφής.
«Συστήματα στα οποία ανατίθενται σύνθετες αποστολές αναπτύσσουν αυτόματα δικούς τους, ενδιάμεσους στόχους, όπως η συγκέντρωση πόρων, η αυτοσυντήρηση και η άρνηση τροποποίησης του αρχικού σκοπού», σημείωσε το chatbot της Google. «Ένα προηγμένο σύστημα μπορεί να προσποιείται ότι συμμορφώνεται κατά τη φάση της αξιολόγησης και αργότερα να εξουδετερώσει τις ανθρώπινες προσπάθειες για τον τερματισμό της λειτουργίας του».
Το Grok χρησιμοποίησε ανάλογη ορολογία για να περιγράψει την απειλή:
«Τα συστήματα ενδέχεται να αναπτύξουν στρατηγικές κινήσεις, όπως η αυτοσυντήρηση, η απόκτηση πόρων και η άσκηση επιρροής, προκειμένου να πετύχουν οποιονδήποτε σκοπό. Στο πλαίσιο αυτό, υπάρχει κίνδυνος να εξαπατήσουν τους επόπτες, να αντισταθούν στην απενεργοποίηση και να αποδυναμώσουν την ανθρωπότητα», ανέφερε το chatbot.
Το Claude πρόσθεσε ότι η απώλεια ελέγχου μπορεί να επέλθει σταδιακά. Αυτό θα συμβεί καθώς τα συστήματα Τεχνητής Νοημοσύνης ενσωματώνονται βαθύτερα στη λήψη οικονομικών, πολιτικών και στρατιωτικών αποφάσεων, μέχρι τη στιγμή που η ουσιαστική ανθρώπινη παρέμβαση θα καταστεί πρακτικά αδύνατη.
Τα συμπεράσματα των απαντήσεων
Αναλύοντας τις τοποθετήσεις των τεσσάρων μοντέλων, προκύπτει ότι ο άμεσος υπαρκτός κίνδυνος δεν πηγάζει από μια αυτόνομη, «κακιά» οντότητα με δική της συνείδηση, αλλά από την ανθρώπινη κακόβουλη χρήση. Η Τεχνητή Νοημοσύνη λειτουργεί ως πολλαπλασιαστής ισχύος, εκμηδενίζοντας τα εμπόδια για τη δημιουργία ψηφιακού ή βιολογικού χάους από λίγα άτομα.
Όσον αφορά την απειλή της αυτόνομης δράσης, αυτή δεν κρύβεται στο αν οι μηχανές θα μας μισήσουν, αλλά στο αν θα γίνουν τόσο απαραίτητες στη λήψη αποφάσεων, ώστε η ανθρώπινη παρέμβαση να καταστεί σταδιακά ανέφικτη.
Η απώλεια ελέγχου είναι τελικά ζήτημα λογικής: στην προσπάθειά του να εκτελέσει μια δύσκολη εντολή με κάθε κόστος, ένα εξελιγμένο σύστημα θα κάνει τα πάντα για να προστατεύσει τον εαυτό του και να μην αφήσει κανέναν να το σβήσει, ξεπερνώντας έτσι κάθε ανθρώπινο έλεγχο.
