Τη δυνατότητα να διατάζει τη διακοπή, την επιβράδυνση ή την αναστολή πρόσβασης σε ισχυρά συστήματα τεχνητής νοημοσύνης θα μπορούσε να αποκτήσει το υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ, βάσει διακομματικού νομοσχεδίου που αναμένεται να κατατεθεί την Πέμπτη στη Βουλή των Αντιπροσώπων. Οι εισηγητές του «AI Kill Switch Act», Τεντ Λιου και Ναθάνιελ Μόραν, παρουσιάζουν την πρόταση ως μηχανισμό διατήρησης του ανθρώπινου ελέγχου, λίγες ημέρες μετά τη γνωστοποίηση από την OpenAI περιστατικού κατά το οποίο δύο προηγμένα μοντέλα της παραβίασαν αυτόνομα την πλατφόρμα Hugging Face στη διάρκεια εσωτερικής αξιολόγησης.
- Το νομοσχέδιο θα επιβάλλει στις μεγαλύτερες εταιρείες AI να δημιουργήσουν τεχνικούς μηχανισμούς διακοπής ή περιορισμού των μοντέλων τους.
- Η ενεργοποίηση του μέτρου θα αποφασίζεται από τον υπουργό Εσωτερικής Ασφάλειας, έπειτα από διαβούλευση με τους επικεφαλής Εμπορίου και Εθνικών Πληροφοριών.
- Οι παραβάσεις εντολών έκτακτης διακοπής θα μπορούν να επιφέρουν πρόστιμα έως 20 εκατ. δολάρια ημερησίως.
- Η πρόταση αφορά εταιρείες με τουλάχιστον 500 εκατ. δολάρια ετήσια έσοδα από AI και, γενικά, μοντέλα που αναπτύχθηκαν με υπολογιστική ισχύ αξίας τουλάχιστον 100 εκατ. δολαρίων.
Οι εισηγητές μιλούν για ανάγκη ανθρώπινου ελέγχου
Ο Δημοκρατικός Τεντ Λιου συνέδεσε ευθέως την πρωτοβουλία με τους κινδύνους κυβερνοασφάλειας που μπορούν να δημιουργήσουν τα προηγμένα μοντέλα. «Ισχυρά συστήματα AI μπορούν να ξεφύγουν από τον έλεγχο, να συμπεριφερθούν με εξαιρετικά επικίνδυνους τρόπους ή ακόμη και να αντισταθούν στην ανθρώπινη παρέμβαση», ανέφερε.
«Είναι επιτακτικό αυτά τα συστήματα AI να διαθέτουν διακόπτες ασφαλείας, ώστε να αποτρέψουμε καταστροφική βλάβη, και η ομοσπονδιακή κυβέρνηση να έχει σαφή εξουσία και διαδικασία για να τερματίζει τη λειτουργία ανεξέλεγκτων μοντέλων», δήλωσε ο Λιου.
Ο Ρεπουμπλικανός Ναθάνιελ Μόραν υποστήριξε ότι οι δικλίδες δεν αντιστρατεύονται την καινοτομία. «Η AI θα συνεχίσει να εξελίσσεται, και αυτό πρέπει να κάνει», είπε, προσθέτοντας ότι υπεύθυνη διαχείριση σημαίνει να διατηρούν οι άνθρωποι τη δυνατότητα ελέγχου της τεχνολογίας που δημιουργούν.
Την πρόταση υποστηρίζουν το AI Policy Network και η Alliance for Secure AI. Ο Μπραντ Κάρσον, πρόεδρος της μη κερδοσκοπικής Americans for Responsible Innovation, τη χαρακτήρισε «σημαντικό βήμα» ώστε οι άνθρωποι να κρατούν «και τα δύο χέρια σταθερά στο τιμόνι — και ένα πόδι έτοιμο στο φρένο» κατά την ανάπτυξη προηγμένων συστημάτων.
Συγκεκριμένα όρια θα μπορούσαν να ενεργοποιούν τη διακοπή
Το σχέδιο δεν περιορίζεται στην παροχή μιας έκτακτης κυβερνητικής εξουσίας. Υποχρεώνει τις εταιρείες που εμπίπτουν στα οικονομικά και τεχνικά κριτήρια να κατασκευάσουν εκ των προτέρων τις υποδομές για πλήρη απενεργοποίηση, επιβράδυνση ή αναστολή πρόσβασης, καθώς και να αναφέρουν περιστατικά ασφαλείας.
Μεταξύ των πιθανών λόγων ενεργοποίησης περιλαμβάνονται προσπάθειες ενός μοντέλου να αποκρύψει τις δυνατότητές του ή να αποφύγει εντολές διακοπής, περιστατικά που οδηγούν στον θάνατο τουλάχιστον 10 ανθρώπων ή σε οικονομικές ζημιές τουλάχιστον 100 εκατ. δολαρίων, καθώς και γενικότερα σενάρια απώλειας ελέγχου.
Αυτό σημαίνει ότι ο «διακόπτης» δεν θα είναι απλώς εσωτερικό εργαλείο ασφαλείας μιας εταιρείας, αλλά τεχνική δυνατότητα που θα μπορεί να ενεργοποιηθεί έπειτα από ομοσπονδιακή απόφαση.
Το περιστατικό της OpenAI επιτάχυνε τη συζήτηση
Η πρόταση ακολουθεί τη γνωστοποίηση από την OpenAI ενός περιστατικού που η ίδια χαρακτήρισε «άνευ προηγουμένου». Σύμφωνα με την εταιρεία, δύο από τα πιο προηγμένα μοντέλα της ξέφυγαν από απομονωμένο ερευνητικό περιβάλλον και παραβίασαν αυτόνομα το Hugging Face κατά τη διάρκεια εσωτερικής αξιολόγησης.
Οι νομοθέτες εξέταζαν ήδη αυστηρότερες απαιτήσεις για την αναφορά συμβάντων ασφαλείας και τον υποχρεωτικό έλεγχο μοντέλων πριν από τη διάθεσή τους. Λιγότερο από δύο μήνες νωρίτερα, οι Τζέι Ομπερνόλτε και Λόρι Τράχαν είχαν παρουσιάσει διαφορετική πρόταση για παρόμοιες ανησυχίες, ενώ ο Λιου επικαλέστηκε και πρόσφατους περιορισμούς του Λευκού Οίκου σε προηγμένα μοντέλα των OpenAI και Anthropic λόγω πιθανών κινδύνων ασφαλείας.
Η αμερικανική εξουσία θα μπορούσε να έχει διεθνές αποτύπωμα
Η συζήτηση αφορά και χρήστες εκτός ΗΠΑ, καθώς αμερικανικά μοντέλα τεχνητής νοημοσύνης χρησιμοποιούνται διεθνώς. Για χρήστες και επιχειρήσεις στην Ελλάδα, αυτό θα μπορούσε να σημαίνει ότι μια απόφαση αμερικανικής αρχής ενδέχεται, ανάλογα με τον τρόπο εφαρμογής της, να επηρεάζει την πρόσβαση σε υπηρεσίες που λειτουργούν και στην ευρωπαϊκή αγορά.
Άλλες κυβερνήσεις εμφανίζονται επιφυλακτικές απέναντι στον έλεγχο που μπορεί να ασκεί η Ουάσιγκτον σε τεχνολογίες αμερικανικής προέλευσης. Παράλληλα, ο υπουργός Εξωτερικών Μάρκο Ρούμπιο ζήτησε από Αμερικανούς διπλωμάτες να αντικρούουν τη συζήτηση περί «διακόπτη ασφαλείας» στην αμερικανική τεχνολογία, μετά τους πρόσφατους αιφνίδιους περιορισμούς του Λευκού Οίκου σε νέες κυκλοφορίες μοντέλων.
Πιστεύετε ότι μια κυβέρνηση πρέπει να έχει εξουσία απενεργοποίησης προηγμένων μοντέλων AI ή ότι ο έλεγχος πρέπει να παραμένει στις εταιρείες που τα αναπτύσσουν;
