Τα υδατογραφήματα ΤΝ γίνονται πλέον υποχρεωτικό μέρος των μοντέλων που καλύπτονται από τον ευρωπαϊκό AI Act, με στόχο να αναγνωρίζεται ευκολότερα το περιεχόμενο που δημιουργήθηκε ή τροποποιήθηκε από τεχνητή νοημοσύνη. Η σχετική απαίτηση τέθηκε σε ισχύ στις 2 Αυγούστου και, έπειτα από περίοδο χάριτος για μοντέλα που είχαν ήδη διατεθεί, όλα τα μοντέλα πρέπει να παρέχουν υδατογράφηση έως τις 2 Δεκεμβρίου. Ωστόσο, ειδικοί εκτιμούν ότι η τεχνολογία είναι πολύ λιγότερο αξιόπιστη στο κείμενο απ’ ό,τι στις εικόνες και στο βίντεο.
- Ο AI Act απαιτεί σήμανση περιεχομένου που παράγεται ή τροποποιείται από μοντέλα ΤΝ.
- Η OpenAI υδατογραφεί ήδη εικόνες και ήχο, ενώ σχεδιάζει να επεκτείνει τη μέθοδο στο κείμενο.
- Η Anthropic ανακοίνωσε ότι μελλοντικά μοντέλα της θα προσθέτουν υδατογραφήματα στα κείμενα.
- Ειδικοί επισημαίνουν κινδύνους τόσο εύκολης αφαίρεσης της σήμανσης όσο και ψευδώς θετικών αποτελεσμάτων.
OpenAI και Anthropic προσαρμόζουν τα μοντέλα τους
Η ευρωπαϊκή νομοθεσία επιδιώκει μεγαλύτερη διαφάνεια στη χρήση της τεχνητής νοημοσύνης και τον περιορισμό της παραπληροφόρησης. Η Ευρωπαϊκή Επιτροπή υποστηρίζει ότι οι νέοι κανόνες θα βοηθούν τους πολίτες να αντιλαμβάνονται πότε αλληλεπιδρούν με ΤΝ ή πότε ένα περιεχόμενο έχει παραχθεί ή αλλοιωθεί από αυτή.
Για τους χρήστες και τους οργανισμούς στην Ελλάδα, η αλλαγή σημαίνει ότι οι υπηρεσίες που λειτουργούν στο ευρωπαϊκό ρυθμιστικό πλαίσιο θα πρέπει να διαθέτουν αντίστοιχους μηχανισμούς σήμανσης και ανίχνευσης. Η Επιτροπή αναγνωρίζει παράλληλα ότι πρέπει να αξιολογείται η αντοχή τους απέναντι σε αντιγραφή, αφαίρεση, αναδημιουργία ή τροποποίηση.
Το κρυφό μοτίβο μπορεί να χαθεί με μικρές αλλαγές
Στα κείμενα, το υδατογράφημα δεν είναι κατ’ ανάγκη μια ορατή ένδειξη. Μπορεί να ενσωματώνεται ως μαθηματικά ανιχνεύσιμο μοτίβο στις λέξεις που επιλέγει το γλωσσικό μοντέλο. Για παράδειγμα, το σύστημα μπορεί να εναλλάσσει με συγκεκριμένο τρόπο μεταξύ της πιθανότερης και της δεύτερης πιθανότερης επόμενης λέξης, χωρίς να μεταβάλλει αισθητά το νόημα.
Η αδυναμία αυτής της μεθόδου είναι ότι ακόμη και μια ελαφρά επεξεργασία του κειμένου μπορεί να διαγράψει το στατιστικό μοτίβο που αναζητεί ο ανιχνευτής.
Ο James Padolsey, της εταιρείας ασφάλειας ΤΝ NOPE, δημιούργησε το διαδικτυακό εργαλείο declaude, το οποίο τροποποιεί ελαφρά κείμενα ώστε να μην αναγνωρίζονται από υπάρχοντες ανιχνευτές. Κατά την εκτίμησή του, η ίδια διαδικασία θα μπορούσε να λειτουργήσει και σε υδατογραφημένο κείμενο. Επισημαίνει επίσης ότι κακόβουλοι χρήστες μπορούν να στραφούν σε μοντέλα ανοικτού κώδικα που δεν ακολουθούν τους κανόνες της ΕΕ.
Τα λανθασμένα ευρήματα δημιουργούν πρόβλημα στην εκπαίδευση
Η δεύτερη βασική ανησυχία αφορά τα ψευδώς θετικά αποτελέσματα. Ο Peter Scarfe, από το Πανεπιστήμιο του Reading, σημειώνει ότι προϊόντα ανίχνευσης ακαδημαϊκής λογοκλοπής συνοδεύονται συχνά από προειδοποιήσεις πως δεν είναι αλάνθαστα και δεν πρέπει να αποτελούν από μόνα τους οριστική απόδειξη.
Παρόμοιο πρόβλημα μπορεί να εμφανιστεί με τα υδατογραφήματα ΤΝ: ένα εργαλείο ενδέχεται να επισημάνει κείμενο που απλώς πέρασε από μοντέλο για γραμματικό έλεγχο, παρότι γράφτηκε από τον φοιτητή. Αυτό σημαίνει ότι, ιδιαίτερα σε σχολεία και πανεπιστήμια, μια ένδειξη ανίχνευσης δεν μπορεί να αντιμετωπίζεται αυτομάτως ως απόδειξη πλήρους παραγωγής από ΤΝ.
Η σήμανση ίσως δυσκολέψει τη μαζική κατάχρηση
Παρά τις αδυναμίες, τα υδατογραφήματα μπορεί να προσθέσουν ένα επιπλέον εμπόδιο στη μαζική δημιουργία αναρτήσεων παραπληροφόρησης. Ο Erman Ayday, από το Case Western Reserve University στο Κλίβελαντ του Οχάιο, εκτιμά ότι ακόμη και μια απλή διαδικασία αφαίρεσης μπορεί, όταν επαναλαμβάνεται σε μεγάλη κλίμακα, να καταστήσει ορισμένες καταχρήσεις λιγότερο πρακτικές.
Η υδατογράφηση, επομένως, δεν αποτελεί αλάνθαστη απόδειξη προέλευσης, αλλά έναν μηχανισμό διαφάνειας του οποίου η αξία θα εξαρτηθεί από την αντοχή και τη σωστή χρήση των εργαλείων ανίχνευσης.
Θα εμπιστευόσασταν ένα υδατογράφημα ΤΝ ως ένδειξη προέλευσης ή θεωρείτε ότι οι κίνδυνοι λάθους είναι υπερβολικά μεγάλοι;
