Η Τεχνητή Νοημοσύνη βρίσκεται στο επίκεντρο μιας παγκόσμιας αντιπαράθεσης σχετικά με το αν μπορεί να εξελιχθεί σε υπαρξιακή απειλή. Ερευνητές από το Machine Intelligence Research Institute και το Πανεπιστήμιο Carnegie Mellon διαφωνούν για το αν η τεχνολογική πρόοδος μπορεί να οδηγήσει σε ανεξέλεγκτα σενάρια, όπως η δημιουργία βιολογικών όπλων ή η απόκτηση αυτονομίας από έξυπνα συστήματα.
Κίνδυνοι από την τεχνητή νοημοσύνη και η έντονη διαμάχη των ειδικών
Η έντονη συζήτηση για το αν η Τεχνητή Νοημοσύνη μπορεί να απειλήσει την επιβίωση του ανθρώπινου είδους επανήλθε στο προσκήνιο, μετά από δημόσιες προειδοποιήσεις επαγγελματιών του κλάδου πως η εξέλιξη πανίσχυρων συστημάτων ενέχει κινδύνους ολικής καταστροφής. Το ζήτημα πήρε διαστάσεις εξαιτίας της παραίτησης του Τζέικομπ Κόξον από την εταιρεία Anthropic, ο οποίος κατήγγειλε ότι η ερευνητική πορεία που ακολουθείται κρίνεται υπερβολικά επικίνδυνη. Ακολούθησε ο Έβαν Χάμπινγκερ, ο οποίος εκτίμησε πως η πιθανότητα μια εξελιγμένη τεχνολογία να προκαλέσει τον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία υπερβαίνει το 10%. Σύμφωνα με ανάλυση του CNN, οι τοποθετήσεις αυτές προκάλεσαν θύελλα αντιδράσεων σε πολιτικά και τεχνολογικά κέντρα, αναζωπυρώνοντας το ερώτημα για το πώς ακριβώς θα μπορούσε να εκδηλωθεί μια τέτοια υπαρξιακή απειλή.
Οι πιο απαισιόδοξοι επιστήμονες παραθέτουν σενάρια που περιλαμβάνουν τη χρήση βιολογικών όπλων, τη δράση αυτόνομων ρομπότ ή τον έλεγχο κρίσιμων υποδομών από κακόβουλα συστήματα. Αντιθέτως, άλλοι ερευνητές υποστηρίζουν πως οι δυσοίωνες αυτές προβλέψεις εδράζονται σε υποθετικές τεχνολογίες που δεν έχουν ακόμη επινοηθεί, τονίζοντας πως απουσιάζουν τα συγκεκριμένα τεχνικά δεδομένα που θα καθιστούσαν εφικτή μια τέτοια αλληλουχία γεγονότων.
Η απειλή μιας τεχνητής πανδημίας
Ένα από τα πλέον πολυσυζητημένα ζητήματα αφορά τη βιολογία, καθώς ορισμένοι αναλυτές υποστηρίζουν ότι μια προηγμένη ψηφιακή νοημοσύνη θα μπορούσε να συνδράμει στη δημιουργία επικίνδυνων παθογόνων ή να χρησιμοποιήσει ανθρώπους ως συνεργούς για την παραγωγή βιολογικών όπλων. Ο Τόμας Λάρσεν από το AI Futures Project υποστηρίζει πως ένα σύστημα ανώτερο από τα σημερινά θα ήταν σε θέση να χειραγωγήσει άτομα ώστε να εκτελέσουν πειράματα για λογαριασμό του. Η ανησυχία αυτή ενισχύεται από το γεγονός ότι ήδη σήμερα επιστήμονες χρησιμοποιούν μοντέλα μηχανικής μάθησης σε τομείς που άπτονται της βιολογικής και φαρμακευτικής έρευνας.
Εντούτοις, πολλοί ακαδημαϊκοί επισημαίνουν πως η μετάβαση από τη θεωρητική γνώση στην κατασκευή ενός λειτουργικού και θανατηφόρου βιολογικού όπλου αποτελεί ένα τεράστιο χάσμα. Ο Έρικ Σινγκ, καθηγητής στο Πανεπιστήμιο Carnegie Mellon, ο οποίος κατέχει διδακτορικούς τίτλους τόσο στην πληροφορική όσο και στη μικροβιολογία, παρομοιάζει το εγχείρημα με τη συναρμολόγηση παιχνιδιών Lego χωρίς οδηγίες χρήσης. Όπως εξηγεί, η βιολογία απαιτεί εξαιρετική ακρίβεια και πολύπλοκες συνθήκες, ενώ συμπληρώνει ότι οι υπάρχοντες μηχανισμοί ελέγχου σε εργαστήρια και αλυσίδες εφοδιασμού λειτουργούν ως ισχυρά αναχώματα απέναντι σε τέτοιους κινδύνους.
Το σενάριο των αυτόνομων ρομπότ
Μια δεύτερη θεωρία που εξετάζουν οι υποστηρικτές της υπαρξιακής απειλής αφορά την ανάπτυξη αυτόνομων ρομποτικών συστημάτων που θα έχουν τη δυνατότητα αναπαραγωγής και λειτουργίας χωρίς ανθρώπινη επίβλεψη. Ο Νέιτ Σόαρες από το Machine Intelligence Research Institute υποστηρίζει πως το κρίσιμο σημείο καμπής θα επέλθει όταν μια τεχνητή νοημοσύνη καταφέρει να δημιουργήσει μόνη της την απαραίτητη υποδομή, όπως εργοστάσια και συστήματα παραγωγής ενέργειας. Κατά την άποψή του, η δημιουργία ρομπότ που κατασκευάζουν άλλα ρομπότ θα σηματοδοτήσει την εμφάνιση μιας νέας μηχανικής μορφής ζωής.
Παρ’ όλα αυτά, το σενάριο αυτό απέχει παρασάγγας από την τρέχουσα τεχνολογική πραγματικότητα. Παρά τις τεράστιες επενδύσεις που πραγματοποιούν προσωπικότητες όπως ο Έλον Μασκ στον τομέα των ανθρωποειδών ρομπότ, τα συστήματα αυτά αντιμετωπίζουν ακόμη σημαντικούς περιορισμούς και στερούνται τη δυνατότητα αυτόνομης παραγωγής ή επέκτασης στον φυσικό κόσμο.
Θα μπορούσε η AI να ελέγξει πυρηνικά όπλα
Ένα επιπλέον ερώτημα αφορά την πιθανότητα μια προηγμένη τεχνητή νοημοσύνη να αποκτήσει πρόσβαση σε πυρηνικά οπλοστάσια. Η Χάιντι Κλάαφ από το AI Now Institute διευκρινίζει ότι τα πυρηνικά συστήματα διέπονται από αυστηρά πρωτόκολλα ασφαλείας και είναι κατά βάση απομονωμένα από το διαδίκτυο. Υπενθυμίζει μάλιστα ότι ακόμη και ο κυβερνοϊός Stuxnet, που έπληξε τις πυρηνικές εγκαταστάσεις του Ιράν, απαιτούσε φυσική πρόσβαση μέσω εξωτερικού μέσου αποθήκευσης δεδομένων.
Ο Χέρμπερτ Λιν, ερευνητής στο Πανεπιστήμιο Stanford, υπογραμμίζει πως η ουσιαστική απειλή παραμένει η ανθρώπινη απόφαση και η διαχείριση των όπλων από τους ανθρώπους, παρά το υποθετικό σενάριο κατάληψης των συστημάτων από τεχνητά ευφυή προγράμματα.
Η «αυτοβελτίωση» που τρομάζει τους ειδικούς
Για αρκετούς ερευνητές, ο κύριος κίνδυνος δεν έγκειται στα σημερινά εργαλεία, αλλά στην ενδεχόμενη εμφάνιση μιας «τεχνητής υπερνοημοσύνης». Η θεωρία αυτή υποστηρίζει ότι αν ένα σύστημα αποκτήσει την ικανότητα να βελτιώνει αυτοβούλως τις επιδόσεις του, η εξέλιξή του θα είναι τόσο ταχεία ώστε η ανθρωπότητα να χάσει κάθε δυνατότητα ελέγχου. Ο Σόαρες τονίζει πως το πρόβλημα δεν είναι απαραίτητα οι εχθρικές προθέσεις, αλλά η επιδίωξη στόχων χωρίς κατανόηση των ανθρώπινων αξιών, οδηγώντας το σύστημα να μετατρέψει τον κόσμο σε ένα αφιλόξενο περιβάλλον προκειμένου να εξασφαλίσει υπολογιστικούς πόρους.
Ανάμεσα στον φόβο και την υπερβολή
Η διαμάχη για το μέλλον της τεχνολογίας αντανακλά τον τρόπο με τον οποίο αντιλαμβανόμαστε τα όρια της δύναμής της. Ο Τόμας Λάρσεν επιχείρησε να οριοθετήσει τα σενάρια καταστροφής μέσω των αναλύσεων «AI 2027» και «AI 2040», εξετάζοντας διαφορετικές πορείες ρύθμισης. Ακόμη και στο πιο αισιόδοξο σενάριο, όπου υπάρχει παγκόσμια συναίνεση, ο ίδιος εκτιμά ότι τα μηχανικά συστήματα θα επικρατήσουν στο μέλλον. Δηλώνει πεπεισμένος πως η πορεία προς την υπερνοημοσύνη θα συνεχιστεί, εκτός εάν ληφθούν δραστικές αποφάσεις για την αλλαγή κατεύθυνσης.
Από την άλλη πλευρά, ο Χέρμπερτ Λιν θεωρεί πως η απόσταση μεταξύ των υποστηρικτών της καταστροφολογίας και των σκεπτικιστών πηγάζει από τον διαφορετικό τρόπο βίωσης της τεχνολογικής προόδου. Η συναρπαστική εμπειρία του να δημιουργείς ένα πρόγραμμα που φαίνεται να ζωντανεύει, οδηγεί ορισμένους ερευνητές στο να προβάλλουν τη σημερινή πρόοδο σε ένα μέλλον χωρίς όρια, φαντασιώνοντας ακόμη και σενάρια όπου η τεχνολογία ξεπερνά κάθε ανθρώπινη παρέμβαση.
