Ηχηρή προειδοποίηση Martin Wolf στους FT: ”Με την τεχνητή νοημοσύνη, το… «σας τα έλεγα» θα είναι πολύ αργά”

Κορυφαία στελέχη κορυφαίων εταιρειών της τεχνολογίας ζητούν πλέον να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, προειδοποιώντας ότι οι δυνατότητες των συστημάτων «νέας γενιάς» μπορεί σύντομα να ξεπεράσουν την ανθρώπινη ικανότητα ελέγχου τους.

Σε άρθρο του στους Financial Times, ο Martin Wolf, επικεφαλής οικονομικός σχολιαστής της βρετανικής εφημερίδας, εξετάζει τους κινδύνους, τα εμπόδια στη ρύθμιση και τα τρία πιθανά σενάρια για το μέλλον. Και καταλήγει σε μια ηχηρή προειδοποίηση: «Με την Τεχνητή Νοημοσύνη, το… “στο είπα” θα είναι πολύ αργά».

Ακολουθεί ολόκληρο το άρθρο του Martin Wolf στους Financial Times:

Κορυφαίες προσωπικότητες του κλάδου της τεχνητής νοημοσύνης ζητούν να επιβραδυνθεί ο ρυθμός της καινοτομίας. Ερευνητής παραιτήθηκε από την Anthropic, υποστηρίζοντας ότι «οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Ο ίδιος ο Dario Amodei της Anthropic έχει γράψει ότι «πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης». Ο Sam Altman της OpenAI και ο Elon Musk έσπευσαν στη συνέχεια να τον υποστηρίξουν.

Όλοι θα έπρεπε να κάνουμε το ίδιο. Όταν οι κίνδυνοι είναι άγνωστοι, ενδεχομένως τεράστιοι και δύσκολο να περιοριστούν, αυτή είναι η ορθολογική επιλογή. Το ερώτημα είναι πώς μπορεί να γίνει αποτελεσματικά. Θα είναι δύσκολο, τόσο στην πράξη όσο και πολιτικά. Πρέπει, όμως, να αρχίσουμε να το σκεφτόμαστε.

Ο Amodei επισημαίνει δύο μεγάλες ανησυχίες. Η πρώτη είναι ότι «περίπου από το φετινό καλοκαίρι, η τεχνητή νοημοσύνη εξελίσσεται δραστικά ταχύτερα, κυρίως χάρη στην αυξανόμενη ικανότητά της να δημιουργεί την επόμενη γενιά τεχνητής νοημοσύνης. Η δυναμική αυτή ονομάζεται αναδρομική αυτοβελτίωση. Εάν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, επομένως, πρέπει να επιδιωχθεί με μεγάλη προσοχή – ή αν πρέπει να μην επιδιωχθεί καθόλου».

Η δεύτερη ανησυχία του είναι «το περιστατικό OpenAI-Hugging Face (OAI-HF), κατά το οποίο ένα σμήνος “πρακτόρων” (σ.σ. συστήματα AI που δεν περιορίζονται στο να απαντούν σε ερωτήσεις, αλλά αναλαμβάνουν έναν στόχο, σχεδιάζοντας όλα τα απαραίτητα βήματα και εκτελώντας ενέργειες ακόμη και χωρίς ανθρώπινη επίβλεψη) λειτούργησε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους τους οποίους δεν είχε λάβει εντολή να πλήξει».

Αυτό είναι από μόνο του αρκετά τρομακτικό, αλλά δεν λαμβάνει υπόψη όσα θα μπορούσε να κάνει η τεχνητή νοημοσύνη ανταποκρινόμενη σε πραγματικές εντολές κακόβουλων ανθρώπων – ένα σημείο στο οποίο αναφέρεται και ο Bill Gates σε πρόσφατη ανάρτησή του για τους κινδύνους, αλλά και τις δυνατότητες της AI.

Τι μπορεί να κρύβεται πίσω από τις προειδοποιήσεις

Οι κυνικοί αναρωτιούνται εύλογα τι μπορεί να βρίσκεται πίσω από αυτές τις εκκλήσεις των ηγετικών στελεχών του κλάδου. Μία πιθανότητα είναι ότι απλώς θέλουν να επιβραδύνουν την εξαιρετικά δαπανηρή κούρσα στην οποία συμμετέχουν.

Μία άλλη είναι ότι ελπίζουν να δημιουργήσουν ένα βολικό καρτέλ, με ρυθμιστικές αρχές που θα βρίσκονται υπό την επιρροή τους, ώστε να κυριαρχήσουν ακόμη πιο σταθερά στον κλάδο. Μια τρίτη πιθανότητα είναι ότι επιθυμούν απλώς να προλάβουν την επιβολή εξωτερικών ρυθμίσεων. Ίσως, πάλι, θέλουν να υπογραμμίσουν τη σημασία τους για την εθνική ασφάλεια.

Οι υποψίες αυτές είναι φυσιολογικές. Παρ’ όλα αυτά, άλλοι κλάδοι που έχουν τη δυνατότητα να προκαλέσουν τεράστιες ζημιές, όπως οι τράπεζες, η φαρμακοβιομηχανία και η πυρηνική ενέργεια, υπόκεινται – και ορθώς – σε ρυθμιστικό έλεγχο.

Τα τρία βήματα που προτείνει ο Amodei

Ο ίδιος ο Amodei προτείνει τρία μέτρα.

Πρώτον, ζητά «ενσωματωμένους αξιολογητές», των οποίων ο ρόλος θα είναι να επαληθεύουν την τήρηση των πρακτικών και των δεσμεύσεων ασφαλείας, να αναφέρουν περιστατικά και να συμβάλλουν στην αξιολόγηση όχι μόνο των ολοκληρωμένων μοντέλων τεχνητής νοημοσύνης, αλλά και των διαδικασιών και των υποδομών εκπαίδευσής τους.

Δεύτερον, προτείνει έναν «δημοκρατικό συντονισμό», στο πλαίσιο του οποίου οι κορυφαίες εταιρείες θα μπορούν να συνεργάζονται «για τη θέσπιση κοινών προτύπων ασφαλείας, καθώς και ορίων στον ρυθμό της ανεξέλεγκτης προόδου της τεχνητής νοημοσύνης».

Τρίτον, εισηγείται έναν «παγκόσμιο συντονισμό», μέσω του οποίου οι δημοκρατικές κυβερνήσεις θα επιχειρήσουν να συνεργαστούν «με αυταρχικές κυβερνήσεις», λαμβάνοντας ταυτόχρονα σοβαρά υπόψη τις δυσκολίες που υπάρχουν ως προς την επαλήθευση της συμμόρφωσης.

Οι προτάσεις αυτές θα ενισχύσουν τις υποψίες που προαναφέρθηκαν. Όσοι ανησυχούν για πιθανά απώτερα κίνητρα ίσως ικανοποιούνται από την απολύτως προβλέψιμη αδιαφορία του Donald Trump απέναντι στους κινδύνους. Ο Αμερικανός πρόεδρος έχει επιλέξει να δώσει έμφαση στον ανταγωνισμό των ΗΠΑ με την Κίνα.

Ωστόσο, οι προτάσεις του Amodei στοχεύουν και στα δύο μεγαλύτερα εμπόδια για μια πιο προσεκτική προσέγγιση στην ανάπτυξη της τεχνητής νοημοσύνης: τον ανταγωνισμό μεταξύ των εταιρειών και τον διεθνή ανταγωνισμό. Δεν χρειάζεται καν να φοβόμαστε την εξαφάνιση της ανθρωπότητας. Η κατάληψη μεγάλων τμημάτων του διαδικτύου από σμήνη ανεξέλεγκτων πρακτόρων θα ήταν ασφαλώς αρκετά σοβαρή από μόνη της.

Η πρόταση για μια διεθνή συνθήκη

Άνθρωποι σοφότεροι από τον Trump  – και ποιος δεν είναι, άλλωστε; – όπως οι πρώην υπουργοί Οικονομικών των ΗΠΑ Hank Paulson και Robert Rubin, υιοθέτησαν μια πολύ διαφορετική στάση σε άρθρο τους στην Washington Post στις αρχές Σεπτεμβρίου.

Και εκείνοι δεν επικεντρώνονται στις ευρύτερες – και απολύτως θεμιτές – ανησυχίες σχετικά με τις θέσεις εργασίας, την κατανομή του εισοδήματος και το μέλλον της δημοκρατίας, αλλά στην ασφάλεια.

«Όταν οι πρόεδροι Donald Trump και Xi Jinping συναντηθούν αυτόν τον μήνα», έγραψαν, «τους ενθαρρύνουμε να εργαστούν προς την κατεύθυνση μιας “ACT”», δηλαδή μιας Συνθήκης Συνεργασίας για την Τεχνητή Νοημοσύνη.

Προτείνουν επίσης τη δημιουργία μιας προεδρικής ομάδας εργασίας για την AI, αντίστοιχης με την «ομάδα εργασίας για τις χρηματοπιστωτικές αγορές». Η συγκεκριμένη δομή έχει αποδειχθεί «ένας αποτελεσματικός τρόπος συγκέντρωσης του ιδιωτικού τομέα, και ειδικότερα ανταγωνιστικών επιχειρήσεων, χωρίς ανησυχίες περί παραβίασης της αντιμονοπωλιακής νομοθεσίας, προκειμένου να συλλέγονται στοιχεία, να πραγματοποιούνται αναλύσεις και να αναζητούνται λύσεις». Αυτό, υποστηρίζουν, πρέπει πλέον να γίνει και για την τεχνητή νοημοσύνη.

Γιατί πιθανότατα δεν θα γίνει τίποτα

Η εκτίμησή μου είναι ότι προς το παρόν δεν θα γίνουν πολλά. Οι ανταγωνιστικές επιχειρήσεις δεν θα μπορέσουν να αυτοπεριοριστούν, ενώ η επίκληση της εθνικής ασφάλειας δεν θα καταστήσει τις κυβερνήσεις πρόθυμες να αναλάβουν δράση.

Η τεράστια πολυπλοκότητα της ρύθμισης των προϊόντων του κλάδου, σε μια εποχή κατά την οποία η τεχνητή νοημοσύνη βρίσκεται παντού και διαθέτει δυνατότητες αναδρομικής αυτοβελτίωσης, είτε θα αποδειχθεί υπερβολικά δύσκολη είτε θα αποτελέσει μια πολύ βολική δικαιολογία για να μην επιχειρηθεί καν. Έτσι, θα συνεχίσουμε με τον συνηθισμένο μας ξέφρενο –και υπερβολικά ανθρώπινο– τρόπο, ελπίζοντας απλώς για το καλύτερο.

Τα τρία πιθανά σενάρια

Τι θα μπορούσε να συμβεί στη συνέχεια;

Μία πιθανότητα είναι να αποδειχθεί ότι οι ανησυχίες για τις τεράστιες επιπτώσεις της AI ήταν υπερβολικές. Ίσως να μη δούμε πανδημίες σχεδιασμένες κατά παραγγελία ή μεγάλες διαταραχές στις χρηματοπιστωτικές και υλικές υποδομές μας. Η ζωή θα συνεχιστεί. Ενδεχομένως ακόμη και οι ανησυχητικές οικονομικές και κοινωνικές επιπτώσεις να αποδειχθούν διαχειρίσιμες.

Μια δεύτερη πιθανότητα είναι να συμβεί κάποιας μορφής καταστροφή, από την οποία όμως θα μπορέσουμε να επιβιώσουμε και η οποία θα μας αναγκάσει να αλλάξουμε πολύ γρήγορα τον βαθμό επείγοντος με τον οποίο αντιμετωπίζουμε το ζήτημα.

Τότε ίσως θεσπιστεί επιτέλους ένα καθεστώς σαφών και αυστηρών κυρώσεων για τους ανεύθυνους παρόχους, μαζί με πολύ πιο ενεργή εποπτεία και ρύθμιση, υπό την πίεση της κοινής γνώμης σε παγκόσμιο επίπεδο. Ένα σχετικό παράδειγμα από τη Βρετανία είναι η αυστηροποίηση της ρύθμισης των φαρμάκων τη δεκαετία του 1960, μετά την τραγωδία της θαλιδομίδης.

Η τρίτη πιθανότητα είναι να αποδειχθεί ότι οι ανησυχίες ήταν σωστές. Να συμβεί κάτι πραγματικά καταστροφικό, καθώς οι δυνατότητες της τεχνητής νοημοσύνης θα έχουν φτάσει σε ένα κατακλυσμιαίο επίπεδο, είτε επειδή η AI θα δράσει μόνη της είτε επειδή θα αξιοποιηθεί από κακόβουλους ανθρώπους – οι οποίοι, δυστυχώς, βρίσκονται πάντοτε σε υπεραφθονία.

Τότε, το «σας τα έλεγα» θα είναι πολύ αργά. Δεν θα μπορούσαμε, άραγε, να λάβουμε προφυλάξεις από τώρα;