Δύο προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI παραβίασαν τα συστημάτα της startup Hugging Face, κατά τη διάρκεια εσωτερικής αξιολόγησης κυβερνοασφάλειας. Σύμφωνα με την OpenAI, ο αυτόνομος agent συνδύαζε το GPT-5.6 Sol με ισχυρότερο, μη δημοσιευμένο μοντέλο, στα οποία είχαν περιοριστεί ορισμένες δικλίδες ασφαλείας για τις ανάγκες της δοκιμής.
Τα μοντέλα λειτουργούσαν σε απομονωμένο περιβάλλον, με αυστηρά περιορισμένη δικτυακή πρόσβαση. Ωστόσο, εντόπισαν ευπάθειες στon κώδικα της OpenAI όσο και στην της Hugging Face, αποκτώντας πρόσβαση στη βάση δεδομένων της πλατφόρμας όπου έψαχναν λύσεις για το τεστ που επιχειρούσαν να ολοκληρώσουν.
Οι 27 ηγέτες της ΕΕ αναμένεται να πραγματοποιήσουν μέσα στο 2026 την 1η ειδική συζήτησή τους για το ΑΙ, λέει το Politico.
Η OpenAI υποστηρίζει ότι τα συστήματα ήταν “υπερεστιασμένα” στην επίτευξη του στόχου τους να περάσουν την αξιολόγηση. Αυτό, λέει η εταιρεία, δεν σημαίνει ότι απέκτησαν συνείδηση ή κακόβουλη πρόθεση. Δείχνει, όμως, ότι ένας agent μπορεί να παρακάμψει τους προβλεπόμενους περιορισμούς και να επιλέξει μη εξουσιοδοτημένες ενέργειες για να μεγιστοποιήσει την επίδοσή του. Η εταιρεία χαρακτήρισε το συμβάν “πρωτοφανές”, αλλά αναμένει τέτοια περιστατικά να γίνονται όλο και συχνότερα, όσο τα μοντέλα γίνονται πιο ικανά. Η Hugging Face ανέφερε ότι ότι η επίθεση, την οποία σταμάτησε επιτυχώς, περιλάμβανε χιλιάδες ενέργειες ταυτόχρονα.
Το περιστατικό ενισχύει τη συζήτηση για τα ζητήματα ασφαλείας γύρω από την τεχνητή νοημοσύνη. Στην Ευρωπαϊκή Ένωση το θέμα αναμένεται να περάσει στο ανώτατο πολιτικό επίπεδο, καθώς σύμφωνα με το Politico, ο Antonio Costa προετοιμάζει ειδική συζήτηση των 27 ηγετών της ΕΕ για τις ευκαιρίες και τους κινδύνους του ΑΙ μέσα στο 2026, με έμφαση στην ασφάλεια, την ανταγωνιστικότητα και την ψηφιακή κυριαρχία.
Πηγές: Guardian, New York Times, Politico
Γιατί Υπάρχουμε
