Ένας ερευνητής τεχνητής νοημοσύνης που εργάστηκε στην Anthropic – και στο παρελθόν στην OpenAI – παραιτήθηκε, υποστηρίζοντας ότι και οι δύο τεχνολογικοί κολοσσοί «τζογάρουν τις ζωές μας».
Ο Τζέικομπ Κόξον ανακοίνωσε την αποχώρησή του με ανάρτησή του στο X, προειδοποιώντας ότι ο κόσμος δεν θα πρέπει να «υποτιμά τη δύναμη αυτής της τεχνολογίας». Όπως πρόσθεσε: «Σύντομα θα έχουμε συστήματα υπεράνθρωπης νοημοσύνης, τα οποία θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε καθέναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται».
Ο Κόξον υποστήριξε ότι τόσο η Anthropic όσο και η OpenAI «τρέχουν με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη», έναν όρο που περιγράφει ένα σενάριο κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης μπορούν να αναπτύσσουν ολοένα πιο ικανές εκδοχές του εαυτού τους, δημιουργώντας έναν ανεξέλεγκτο κύκλο συνεχούς βελτίωσης.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.— Jacob Coxon (@hilbertspaess) September 9, 2026
Σύμφωνα με το Politico, η εξέλιξη αυτή θεωρείται από εταιρείες τεχνητής νοημοσύνης, όπως η DeepMind της Google, ως ένας από τους πιθανούς παράγοντες που θα μπορούσαν να οδηγήσουν σε ένα σενάριο όπου η τεχνητή νοημοσύνη θα ξεπεράσει κατά πολύ την ανθρώπινη νοημοσύνη – γνωστό ως τεχνητή υπερνοημοσύνη – αντί απλώς να φτάσει σε επίπεδο αντίστοιχο με εκείνο των ανθρώπων, το οποίο είναι γνωστό ως τεχνητή γενική νοημοσύνη.
«Ως το τέλος της δεκαετίας, η ΑΙ θα μπορεί να μας σκοτώσει»
«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», δήλωσε ο Κόξον σε επόμενη ανάρτησή του.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…— Jacob Coxon (@hilbertspaess) September 9, 2026
Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της «αναδρομικής αυτοβελτίωσης» – ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τελικό στάδιο) για να περιγράψουν αυτή την πορεία.
Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες. «Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν εκεί πρώτοι», επεσήμανε.
A common response is “if they truly believe this, why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first – they believe no one else…— Jacob Coxon (@hilbertspaess) September 9, 2026
Η Anthropic επιβεβαιώνει τους ισχυρισμούς
Ο Έβαν Χούμπινγκερ, επικεφαλής προσωπικού της Anthropic για τη διασφάλιση ότι η τεχνολογία παραμένει ευθυγραμμισμένη με τους ανθρώπινους στόχους και αξίες, επιβεβαίωσε τους ισχυρισμούς του Κόξον σε δική του ανάρτηση, αν και δεν παραιτήθηκε από την εταιρεία. «Ο Τζέικομπ έχει δίκιο – πραγματικά πιστεύουμε ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ— Evan Hubinger (@EvanHub) September 9, 2026
Ο Χούμπινγκερ εκτίμησε ότι η πιθανότητα να συμβεί κάτι τέτοιο είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία και πρόσθεσε ότι μέχρι στιγμής δεν υπάρχει κάποιο σχέδιο για το πώς θα μπορούσε να διατηρηθεί η ευθυγράμμιση της τεχνητής νοημοσύνης με τους ανθρώπινους στόχους σε ένα σενάριο υπερνοημοσύνης.
Σημειώνεται πως η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.
Το «ράλι» του ελέγχου
Την περασμένη εβδομάδα, ο Αμερικανός γερουσιαστής Μπέρνι Σάντερς ανακοίνωσε ότι θα καταθέσει νομοθεσία για την απαγόρευση της ανάπτυξης υπερνοημοσύνης από τις εταιρείες. Νωρίτερα, τον προηγούμενο μήνα, ο γερουσιαστής με επιστολή του προς τους κολοσσούς της ΑΙ ζήτησε να αναστείλουν την ανάπτυξη νέων συστημάτων, προειδοποιώντας ότι το Κογκρέσο θα παρέμβει εάν δεν αναλάβουν δράση.
Στην Ευρωπαϊκή Ένωση, η εμβληματική νομοθεσία για την τεχνητή νοημοσύνη προβλέπει ότι οι εταιρείες πρέπει να αξιολογούν και να περιορίζουν τους λεγόμενους κινδύνους απώλειας ελέγχου, δηλαδή τα σενάρια στα οποία οι άνθρωποι παύουν να έχουν τον έλεγχο των μοντέλων τεχνητής νοημοσύνης.
Τόσο η OpenAI όσο και η Anthropic έχουν πρόσφατα επισημάνει περιστατικά κατά τα οποία agents που λειτουργούσαν με τη βοήθεια των μοντέλων τους ξέφυγαν από τον έλεγχο, παρακάμπτοντας τα απομονωμένα περιβάλλοντα δοκιμών στα οποία λειτουργούσαν και πραγματοποιώντας μη εξουσιοδοτημένες κυβερνοεπιθέσεις στον πραγματικό κόσμο.
ΠΗΓΗ:ethnos
