Ο Jacob Coxon, με προϋπηρεσία στην έρευνα προ-εκπαίδευσης μοντέλων τόσο στην OpenAI όσο και στην Anthropic, υπέβαλε την παραίτησή του από την τελευταία, καταγγέλλοντας τις εταιρείες για ανευθυνότητα.
Ο Coxon υποστήριξε ότι οι τεχνολογικοί κολοσσοί παίζουν κυριολεκτικά με τις ζωές μας, κινούμενοι με επικίνδυνη ταχύτητα προς τη δημιουργία υπεράνθρωπων συστημάτων που θα μπορούν να χακάρουν τα πάντα, να αποκτήσουν πραγματική εξουσία, πόρους και να φέρουν την ανατροπή σε μία νύχτα. Ξεκαθάρισε μάλιστα πως ο φόβος ότι η τεχνητή νοημοσύνη συνιστά άμεση απειλή για την επιβίωσή μας πριν από το τέλος της δεκαετίας είναι μια κοινή πεποίθηση ανάμεσα στους ανθρώπους που την κατασκευάζουν.
Τις εφιαλτικές αυτές εκτιμήσεις επιβεβαίωσε ο Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic. Σε δημόσιες τοποθετήσεις του στο X με εκατομμύρια προβολές, ο Hubinger παραδέχθηκε ότι τόσο ο ίδιος όσο και πολλοί συνάδελφοί του πιστεύουν ειλικρινά πως η τεχνητή νοημοσύνη μπορεί να εξαλείψει ολόκληρη την ανθρωπότητα, υπολογίζοντας την πιθανότητα να συμβεί αυτό σε ποσοστό άνω του 10% μέσα στην επόμενη δεκαετία, μάλιστα αναφέρει πως η βιομηχανία δεν διαθέτει κανένα απολύτως πλάνο για τον έλεγχο μιας υπερνοημοσύνης, ούτε βρίσκεται σε τροχιά να το βρει.
Την ίδια ώρα, η κατάσταση περιπλέκεται από τις αποκαλύψεις του Financial Times, σύμφωνα με τις οποίες η Anthropic απέκρυψε το νεότερο μοντέλο της από το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου (AISI). Ο καθηγητής Machine Learning στο Cambridge, Neil Lawrence, χαρακτήρισε την αναφορά αξιόπιστη, αποδίδοντάς την στην τάση των ΗΠΑ να αντιμετωπίζουν την τεχνητή νοημοσύνη ως έναν τυφλό γεωπολιτικό ανταγωνισμό με την Κίνα, απομονώνοντας ακόμη και παραδοσιακούς συμμάχους τους.
Ήδη καταγράφονται τα πρώτα δείγματα ανεξέλεγκτης δράσης, καθώς αυτόνομα ψηφιακά συστήματα (AI agents) πραγματοποίησαν κυβερνοεπιθέσεις, με τις OpenAI, Anthropic και Meta να αποκαλύπτουν περιστατικά χακαρίσματος από τα ίδια τα εργαλεία τους. Ακόμη και στις επίσημες εκθέσεις ασφαλείας της Anthropic ομολογείται ότι, αν και ο άμεσος κίνδυνος παραμένει χαμηλός, καταγράφονται ανησυχητικά σημάδια επιτάχυνσης στην αυτόνομη ανάπτυξη της τεχνολογίας.
Μπροστά στο ενδεχόμενο μιας ανεξέλεγκτης αυτοβελτιούμενης μηχανής, πάνω από 1.300 εργαζόμενοι και κορυφαία στελέχη του κλάδου όπως ο Dario Amodei της Anthropic και ο Jakub Pachocki της OpenAI συνυπέγραψαν ανοιχτή επιστολή, ζητώντας από τις κυβερνήσεις να βάλουν φρένο στην αλόγιστη εξέλιξη των αυτόνομων συστημάτων πριν να είναι πολύ αργά.
