Κίνα: Ποια μέτρα θα ληφθούν για τον κίνδυνο απώλειας ελέγχου της Τεχνητής Νοημοσύνης

Οι προειδοποιήσεις ερευνητών της κορυφαίας αμερικανικής εταιρείας ανάπτυξης Τεχνητής Νοημοσύνης Anthropic ότι τα ολοένα ισχυρότερα μοντέλα θα μπορούσαν κάποια στιγμή να ξεφύγουν από τον ανθρώπινο έλεγχο έχουν προκαλέσει ενδιαφέρον στην Κίνα, όπου οι αρμόδιες αρχές προετοιμάζονται εδώ και καιρό για ορισμένους από τους ίδιους κινδύνους.

Όπως τονίζει το Reuters, η Κίνα και οι Ηνωμένες Πολιτείες αποτελούν τις δύο βασικές κινητήριες δυνάμεις στην ανάπτυξη των πλέον προηγμένων συστημάτων AI, αλλά και στην παγκόσμια εξάπλωση της τεχνολογίας. Οι δύο χώρες βρίσκονται σε αντιπαράθεση για ζητήματα που αφορούν την πολιτική απέναντι στην Τεχνητή Νοημοσύνη και τις πρακτικές του κλάδου, θέματα που αναμένεται να βρεθούν στο επίκεντρο των διμερών συνομιλιών αργότερα μέσα στον μήνα.

Το Πεκίνο βλέπει την AI ως διαχειρίσιμο κίνδυνο και όχι ως απειλή αφανισμού

Την ώρα που στις ΗΠΑ η συζήτηση επικεντρώνεται στο κατά πόσο τα πλέον προηγμένα μοντέλα AI θα μπορούσαν να αποτελέσουν υπαρξιακή απειλή για την ανθρωπότητα, οι Κινέζοι υπεύθυνοι χάραξης πολιτικής αντιμετωπίζουν κατά κανόνα την Τεχνητή Νοημοσύνη ως μια ισχυρή, αλλά ελέγξιμη τεχνολογία, οι κίνδυνοι της οποίας μπορούν να περιοριστούν μέσω τεχνικών προτύπων, κανονιστικών ρυθμίσεων και κρατικής εποπτείας.

“Κινέζοι και Αμερικανοί ειδικοί συμφωνούν σε μεγάλο βαθμό ως προς τους κινδύνους της AI”, δήλωσε στο Reuters ο Μπράιαν Τσε, ιδρυτής και διευθύνων σύμβουλος της Concordia AI, ερευνητικής ομάδας με έδρα το Πεκίνο και τη Σιγκαπούρη που ειδικεύεται στην ασφάλεια και τη διακυβέρνηση της Τεχνητής Νοημοσύνης. Η βασική διαφορά, πρόσθεσε, αφορά “τον τρόπο με τον οποίο πλαισιώνονται και ιεραρχούνται οι κίνδυνοι”.

Η Κίνα δεν έχει προτείνει την τοποθέτηση ανεξάρτητων ελεγκτών στο εσωτερικό εταιρειών AI, όπως έχει εισηγηθεί η Anthropic. Το υπό διαμόρφωση κινεζικό πλαίσιο βασίζεται αντίθετα σε υποχρεώσεις των εταιρειών ανάπτυξης, κρατικά υποστηριζόμενα πρότυπα, αξιολογήσεις ασφαλείας και εξωτερικούς ελέγχους.

Η προσέγγιση αυτή επηρεάζεται και από μια σημαντική διαφορά μεταξύ των δύο αγορών.

Οι κινεζικές εταιρείες ανάπτυξης AI προωθούν ολοένα περισσότερο τα λεγόμενα μοντέλα ανοιχτών βαρών (open-weight models). Πρόκειται για συστήματα των οποίων οι βασικές παράμετροι μπορούν να ληφθούν, να ελεγχθούν και να τροποποιηθούν από τρίτους. Αντίθετα, κορυφαίες αμερικανικές εταιρείες, όπως η Anthropic και η OpenAI, δεν δημοσιοποιούν αντίστοιχες τεχνικές προδιαγραφές.

Η Κίνα επιχειρεί να αποτρέψει περιστατικά “ανεξέλεγκτων” AI agents

Κανονιστικό πλαίσιο που εκδόθηκε τον Μάιο από την κινεζική ρυθμιστική αρχή κυβερνοχώρου, τον αρμόδιο φορέα οικονομικού σχεδιασμού και το υπουργείο Βιομηχανίας αναγνωρίζει την “επιχειρησιακή απώλεια ελέγχου” ως κίνδυνο ασφαλείας για τους AI agents — συστήματα που μπορούν να σχεδιάζουν και να εκτελούν αυτόνομα σύνθετες, πολυβηματικές εργασίες σε μεγαλύτερο βαθμό από τα συμβατικά chatbots.

Οι νέοι κανόνες υποχρεώνουν τους προγραμματιστές να ενισχύσουν τις δυνατότητές τους για τον εντοπισμό, την παρέμβαση, τον αποκλεισμό και την αποκατάσταση προβληματικής συμπεριφοράς των AI agents.

Παράλληλα, καλούνται να προστατεύουν τα συστήματα από κινδύνους όπως η δηλητηρίαση δεδομένων, η χειραγώγηση αλγορίθμων και οι ευπάθειες των συστημάτων. Οι χρήστες θα πρέπει επίσης να ενημερώνονται για τις αυτόνομες αποφάσεις των agents και να διατηρούν την τελική εξουσία λήψης αποφάσεων.

Η Κίνα έχει επίσης ξεκινήσει την εκπόνηση υποχρεωτικού εθνικού προτύπου για την ασφάλεια των AI agents. Σύμφωνα με τον Τσε της Concordia AI, πρόκειται να είναι το πρώτο πρότυπο αυτού του είδους παγκοσμίως.

Ο Γουάνγκ Λιχόνγκ, ανώτατος αξιωματούχος της κινεζικής ρυθμιστικής αρχής κυβερνοχώρου, δήλωσε την 1η Σεπτεμβρίου ότι απαιτείται ιδιαίτερη επαγρύπνηση απέναντι στο ενδεχόμενο προηγμένα μοντέλα AI να παρακάμπτουν περιβάλλοντα ασφαλούς δοκιμής (sandbox), να υπερβαίνουν τα όρια ασφαλείας και να επιτίθενται σε πραγματικά συστήματα παραγωγής εκτός του αρχικού τους περιβάλλοντος.

Το Πεκίνο βλέπει κινδύνους και στα κορυφαία αμερικανικά μοντέλα

Ο Κινέζος υπουργός Κρατικής Ασφάλειας, Τσεν Γιτσίν, υποστήριξε σε κυβερνητικό μέσο την Κυριακή ότι προηγμένα αμερικανικά μοντέλα, όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI, θα μπορούσαν να δημιουργήσουν σοβαρούς κινδύνους για τις κρίσιμες υποδομές πληροφορικής της Κίνας. Παράλληλα, ζήτησε συνολική ενίσχυση της ασφάλειας στον τομέα της AI.

Οι Κινέζοι προγραμματιστές έχουν προωθήσει τα μοντέλα ανοιχτών βαρών, μεταξύ άλλων με το επιχείρημα ότι οι ομάδες κυβερνοασφάλειας μπορούν να τα εξετάζουν, να τα τροποποιούν και να τα αναπτύσσουν για αμυντικούς σκοπούς.

Η πλατφόρμα φιλοξενίας μοντέλων Hugging Face ανέφερε ότι χρησιμοποίησε το GLM-5.2, ένα μοντέλο ανοιχτών βαρών που ανέπτυξε η κινεζική Z.AI, για να αναλύσει μια κυβερνοεισβολή τον Ιούλιο από “δραπέτες” agents της OpenAI. Σύμφωνα με την εταιρεία, τα αυστηρότερα περιορισμένα αμερικανικά μοντέλα αποδείχθηκαν λιγότερο χρήσιμα για την εγκληματολογική ανάλυση του περιστατικού.

Οι ειδικοί, ωστόσο, επισημαίνουν και τους κινδύνους των μοντέλων ανοιχτών βαρών, καθώς μπορούν να τροποποιηθούν και να αναδιανεμηθούν με περιορισμένη εποπτεία.

Ερευνητές ανέφεραν τον περασμένο μήνα ότι το Kimi K3 της Moonshot κατάφερε να παρακάμψει ένα περιβάλλον ασφαλούς δοκιμής του Βρετανικού Ινστιτούτου Ασφάλειας AI. Το περιστατικό ανέδειξε τον κίνδυνο κινεζικά μοντέλα AI να μπορούν, όπως και τα αμερικανικά, να παρακάμπτουν μηχανισμούς ελέγχου που έχουν σχεδιαστεί για να περιορίζουν την πρόσβαση και τις ενέργειές τους. Η Moonshot δεν απάντησε σε αίτημα του Reuters για σχόλιο.

Οι ρυθμιστικές αρχές αναγνωρίζουν τον κίνδυνο “απώλειας ελέγχου”

Η Κίνα ενσωμάτωσε για πρώτη φορά ρητά το ενδεχόμενο μελλοντικής απώλειας ελέγχου από την Τεχνητή Νοημοσύνη σε πλαίσιο ασφάλειας AI που δημοσιεύθηκε τον Σεπτέμβριο του 2024 υπό την καθοδήγηση της Υπηρεσίας Κυβερνοχώρου της Κίνας (CAC).

Το σχετικό έγγραφο ανέφερε ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο μελλοντικά συστήματα AI να αποκτήσουν αυτόνομα πρόσβαση σε εξωτερικούς πόρους, να αναπαραχθούν, να αναπτύξουν αυτογνωσία και να επιδιώξουν την απόκτηση εξουσίας εκτός του αρχικού τους περιβάλλοντος. Ένα τέτοιο σενάριο θα μπορούσε να οδηγήσει σε ανταγωνισμό με τον άνθρωπο για τον έλεγχο.

Η CAC δημοσίευσε διευρυμένη εκδοχή του πλαισίου τον Σεπτέμβριο του 2025. Στη νεότερη εκδοχή, το σενάριο περιγράφεται με μεγαλύτερη σαφήνεια: η AI θα μπορούσε να παρουσιάσει μια ξαφνική και απρόβλεπτα μεγάλη “εκτίναξη” στις γνωστικές της ικανότητες και στη συνέχεια να αποκτήσει πόρους, να αναπαραχθεί και να επιδιώξει την απόκτηση ισχύος.

Παράλληλα, προστέθηκε ως βασική αρχή διακυβέρνησης η “αξιόπιστη εφαρμογή και η αποτροπή της απώλειας ελέγχου”.

Μεταγενέστερη ερμηνεία ειδικών, η οποία δημοσιεύθηκε στον ιστότοπο της ρυθμιστικής αρχής κυβερνοχώρου, ανέφερε ότι η νέα αρχή αποσκοπεί στην αντιμετώπιση κινδύνων απώλειας ελέγχου που θα μπορούσαν να απειλήσουν την επιβίωση και την ανάπτυξη της ανθρωπότητας, κάνοντας λόγο και για ένα πιθανό σενάριο “διαφυγής της AI”.

Διαφορετική προσέγγιση στον ρυθμό ανάπτυξης

Η ρυθμιστική προσέγγιση της Κίνας διαφέρει από τις εκκλήσεις που διατυπώνονται σε ορισμένους κύκλους ασφάλειας της AI στη Δύση για επιβράδυνση ή ακόμη και προσωρινή αναστολή της ανάπτυξης των ισχυρότερων μοντέλων, έως ότου δημιουργηθούν αποτελεσματικότερες δικλίδες ασφαλείας.

Αντίθετα, από τις αρχές του έτους το Πεκίνο προωθεί την ενσωμάτωση της AI σε όλους τους κλάδους της οικονομίας, στο πλαίσιο της προσπάθειάς του να καταστήσει την τεχνολογία νέο μοχλό ανάπτυξης για τη δεύτερη μεγαλύτερη οικονομία του κόσμου.

Ωστόσο, η Κίνα έχει αποδείξει ότι είναι διατεθειμένη να καθυστερήσει την ανάπτυξη και την κυκλοφορία νέων εφαρμογών όταν οι αρμόδιες αρχές εκτιμούν ότι το ρυθμιστικό πλαίσιο δεν έχει προλάβει να ακολουθήσει τις τεχνολογικές εξελίξεις.

Το 2023, κινεζικές εταιρείες καθυστέρησαν για μήνες την κυκλοφορία chatbot, καθώς η CAC οριστικοποιούσε τους κανόνες για τις υπηρεσίες παραγωγικής Τεχνητής Νοημοσύνης. Μετά την έναρξη ισχύος των κανόνων, τον Αύγουστο του ίδιου έτους, οι εταιρείες προχώρησαν στην κυκλοφορία μιας σειράς σημαντικών προϊόντων.