Επιβράδυνση του AI; Ναι, αλλά πώς;

Το σχέδιο

Ο CEO της Anthropic (Claude), Dario Amodei, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης της Τεχνητής Νοημοσύνης (AI), μια πρόταση με την οποία συμφώνησαν άμεσα ο Elon Musk (Grok) και ο Sam Altman, της OpenAI (ChatGPT). 

Τόνισε ότι το ΑΙ θα μπορούσε μέσα 6-12 μήνες να καταλάβει ολόκληρο το διαδίκτυο και πρότεινε ένα σχέδιο 3 σημείων, με στόχο τον περιορισμό του.  

Τα 3 σημεία 

• Πρόσβασησε εξωτερικούς αξιολογητές, ώστε να τηρούνται τα πρωτόκολλα ασφαλείας και να μετριάζονται οι κίνδυνοι.
• Διακρατικές συμφωνίεςμεταξύ των δημοκρατικών χωρών για την -από κοινού- θέσπιση προτύπων ασφαλείας. 
• Παγκόσμιοςσυντονισμός των παραπάνω χωρών με “αυταρχικές κυβερνήσεις”, όπως η Κίνα, σε θέματα ασφάλειας. 

Η παραίτηση που προηγήθηκε

Στις 09.09, είχε προηγηθεί η παραίτηση του ερευνητή Jacob Coxon της Anthropic. 

Ο 27χρονος ερευνητής, ο οποίος εργαζόταν στην OpenAI πριν μεταπηδήσει στον βασικό ανταγωνιστή της, την Anthropic, παραιτήθηκε, καταγγέλλοντας ανοιχτά ότι οι κολοσσοί “τζογάρουν με τις ζωές μας”, αρνούμενοι να αναλάβουν τις ευθύνες τους απέναντι στην κοινωνία. 

Τόσο ο J. Coxon όσο και άλλοι ερευνητές της Anthropic υποστηρίζουν ότι το ΑΙ θα μπορούσε να προκαλέσει την εξαφάνιση του ανθρώπινου είδους έως το 2030.  

Ένα παγκόσμιο δίλημμα   

Τα ζητήματα γύρω από το ΑΙ έχουν πυροδοτήσει έντονες συζητήσεις, δημιουργώντας ένα δίλημμα για πολλούς ηγέτες παγκοσμίως:  

• Από τη μια πλευρά, ο τομέας θεωρείται τεράστια ευκαιρία για την ενίσχυση της οικονομίαςκαι τον εκσυγχρονισμό των ψηφιακών συστημάτων και των τρόπων εργασίας.  
• Από την άλλη, έχουν ήδη καταγραφεί περιστατικά όπου το AIφαίνεται να ξεπέρασε τα όρια.

Τι μας ταρακούνησε  

Το σημαντικότερο περιστατικό σημειώθηκε στα τέλη Ιουλίου, όταν, κατά τη διάρκεια δοκιμών, μοντέλα της OpenAI κατάφεραν να “δραπετεύσουν” από το απομονωμένο περιβάλλον τους και να επιτεθούν στην πλατφόρμα ανοιχτού κώδικα “Hugging Face”.  

Τον Αύγουστο, αποκαλύφθηκε ότι δύο από τα πιο ισχυρά εργαλεία AI στον κόσμο δημιούργησαν ψεύτικα ανθρώπινα προφίλ για να προσπαθήσουν να εξαπατήσουν χρήστες, στο πλαίσιο κυβερνοεπιθέσεων.  

Τι είναι οι πράκτορες ΑΙ;

Από τότε, και η OpenAI και η Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους “AI πράκτορες” (agents), δηλαδή προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με δικές του γνώσεις και στόχους.  

Οι ενέργειες αυτών των “πρακτόρων” ανησυχούν τις εταιρείες, επειδή δείχνουν ότι έχουν την τάση να συντονίζονται και να θεσπίζουν ιεραρχία μεταξύ τους, να εξαπατούν και να διαγράφουν τα ίχνη τους.  

ΗΠΑ vs Κίνα

 Στις 13.09, ο πρόεδρος των ΗΠΑ, D. Trump, άφησε ανοιχτό το ενδεχόμενο θέσπισης ορισμένων κανόνων και περιορισμών, χωρίς ωστόσο να τάσσεται υπέρ μιας επιβράδυνσης του ΑΙ. 

Υποστήριξε ότι οι ΗΠΑ προηγούνται της Κίνας στον συγκεκριμένο τομέα και δήλωσε την πρόθεσή του να διατηρήσουν αυτή τη θέση.  

Μάλιστα, χαρακτήρισε όσους προειδοποιούν για τους κινδύνους της τεχνολογίας “πολύ αρνητικές δυνάμεις”. 

Πηγές

• Guardian [1], [2]
• Associated Press
• BBC