Mέσα στην εβδομάδα, ο παγκόσμιος προβληματισμός για τους κινδύνους της τεχνητής νοημοσύνης πέρασε από τα κορυφαία εργαστήρια της Σίλικον Βάλεϊ στα νοικοκυριά της Αμερικής και στα κέντρα λήψης αποφάσεων σε Ουάσινγκτον και Πεκίνο.
Και όλα ξεκίνησαν από έναν άνθρωπο που μέχρι πριν από λίγο καιρό δεν γνώριζε κανείς.
Μέχρι να παραιτηθεί δημόσια από την Anthropic και να προειδοποιήσει για την απειλή συστημάτων AI που θα μπορούσαν να αφανίσουν την ανθρωπότητα, ο Τζέικομπ Κόξον ζούσε στην αφάνεια.
Ωστόσο, το ψηφιακό του αποτύπωμα ήταν σχεδόν μηδενικό. Στους φίλους του δεν έδινε την εντύπωση ανθρώπου που θα παρατούσε τη δουλειά του στην τεχνητή νοημοσύνη για λόγους ηθικής. Δεν ήταν καν προβεβλημένο στέλεχος στη στενά συνδεδεμένη κοινότητα των υποστηρικτών της ασφάλειας AI, που συζητούν εφιαλτικά σενάρια στα μπαρ του Σαν Φρανσίσκο.
Κι όμως, παραιτήθηκε, αποκαλύπτοντας δημόσια ότι οι πρώην συνάδελφοί του στην OpenAI και την Anthropic «πιστεύουν ειλικρινά πως η τεχνολογία αυτή μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας» και ότι τα εργαστήρια που ανταγωνίζονται για την ανάπτυξή της «παίζουν τις ζωές μας στα ζάρια».
Επί χρόνια, οι ερευνητές της τεχνητής νοημοσύνης εξέπεμπαν σήματα κινδύνου. Ποτέ όμως στο παρελθόν δεν προκάλεσαν τόσο γρήγορα τέτοιο κύμα ανησυχίας. Στην ουσία, ο Κόξον έβαλε μπουρλότο σε μια σειρά από ανησυχητικές εξελίξεις που, μεμονωμένα, δεν είχαν καταφέρει να τραβήξουν την προσοχή της κοινής γνώμης.
Μέσα σε λίγες ημέρες από την προειδοποίηση του Κόξον, οι επικεφαλής ανταγωνιστικών εργαστηρίων συντονίστηκαν σε μια σπάνια επίδειξη ενότητας, συμφωνώντας ότι είναι ώρα να επιβραδυνθεί η ραγδαία εξέλιξη της τεχνολογίας. Την ίδια στιγμή, ο Πρόεδρος Τραμπ δήλωσε ότι ένας «ισχυρός και έξυπνος» πρόεδρος αποτελεί τη μόνη αναγκαία ασφαλιστική δικλείδα για τις ΗΠΑ, ενώ η Κίνα απέρριψε τις ανησυχίες των Αμερικανών στελεχών ως «τρομολαγνεία».
Η εκρηκτική αυτή αντίδραση ξάφνιασε τον ίδιο τον Κόξον, όπως ανέφερε σε συνέντευξή του. Μέσα σε μια στιγμή, ο νεαρός μαθηματικός με τα κοκάλινα γυαλιά, ένας ανάμεσα σε εκατοντάδες παρόμοιους ερευνητές στις εταιρείες AI της Σίλικον Βάλεϊ, μετατράπηκε στο πρόσωπο του κινήματος για την ασφάλεια της τεχνητής νοημοσύνης.
Ο ίδιος δήλωσε πως πήρε μόνος του την απόφαση να αποχωρήσει από τον κλάδο και στη συνέχεια ζήτησε τη συμβουλή φίλων και μελών της κοινότητας ασφάλειας AI.
Αυτοί οι άνθρωποι έσπευσαν να αναμεταδώσουν τις δηλώσεις του, συμπεριλαμβανομένου ενός δικτύου ερευνητών σε μη κερδοσκοπικούς οργανισμούς που προειδοποιούν εδώ και καιρό για την πιθανότητα καταστροφής. Ορισμένοι από τους χρηματοδότες αυτών των ομάδων συνδέονται με τον «αποτελεσματικό αλτρουισμό», μια φιλοσοφία που επικεντρώνεται στην προσφορά στο κοινωνικό σύνολο, μεταξύ άλλων μέσω φιλανθρωπιών, αλλά και στην πρόληψη των κινδύνων από την τεχνητή νοημοσύνη.
Παράλληλα, οι δηλώσεις του τον κατέστησαν στόχο των υποστηρικτών της ταχείας ανάπτυξης της AI. Οι τελευταίοι βλέπουν τη θεαματική του έξοδο ως μέρος οργανωμένου σχεδίου για την επιβολή αυστηρότερων παγκόσμιων κανόνων που θα ευνοήσουν τις μεγάλες εταιρείες. Κατά τη γνώμη τους, οι φόβοι είναι υπερβολικοί και η παραίτηση του Κόξον χρησιμοποιήθηκε ως εργαλείο για την επίτευξη αυτού του σκοπού από κύκλους του αποτελεσματικού αλτρουισμού.
Από την ημέρα της παραίτησής του, κορυφαία στελέχη των πολυτιμότερων εταιρειών του κόσμου και των εργαστηρίων AI βρέθηκαν σε αντίπαλα στρατόπεδα στη διαμάχη που ο ίδιος πυροδότησε. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι συμφωνεί με τον Κόξον περισσότερο απ’ όσο διαφωνεί. Από την πλευρά του, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, είπε ότι θαυμάζει το θάρρος του Κόξον, αλλά αμφισβήτησε τους ισχυρισμούς του για το μέλλον, χαρακτηρίζοντας τις προβλέψεις περί καταστροφής ανεύθυνες.
Τόσο οι υποστηρικτές όσο και οι επικριτές του τον χαρακτήρισαν «πληροφοριοδότη δημοσίου συμφέροντος», όρο που ο ίδιος απορρίπτει. Όπως υποστηρίζει, δεν αποδέσμευσε εταιρικά μυστικά· απλώς είπε δημόσια όσα οι ερευνητές AI συζητούν μεταξύ τους κεκλεισμένων των θυρών.
Τώρα βρίσκεται στο επίκεντρο της διαμάχης ανάμεσα στους υποστηρικτές της επιτάχυνσης, οι οποίοι θεωρούν ότι τα οφέλη της AI υπερτερούν των κινδύνων και ότι οι κίνδυνοι αντιμετωπίζονται αν αποκτήσουν περισσότεροι άνθρωποι πρόσβαση σε ισχυρά μοντέλα, και στους ερευνητές που ζητούν φρένο στην ανάπτυξη πριν οι εταιρείες χάσουν τον έλεγχο.
Στον κόσμο της τεχνητής νοημοσύνης, όσοι ανησυχούν περισσότερο για τους κινδύνους αποκαλούνται «καταστροφολόγοι».
«Αν καταστροφολόγος σημαίνει κάποιος που πιστεύει ότι θα πεθάνουμε αν δεν αλλάξουμε πορεία», δήλωσε ο Κόξον, «τότε είμαι σίγουρα καταστροφολόγος».
Η στιγμή της αποκάλυψης
Πριν γίνει καταστροφολόγος, ο Κόξον συνάντησε στο ιδιωτικό σχολείο της Οξφόρδης όπου φοιτούσε ένα βιβλίο που έμελλε να διαμορφώσει την κοσμοθεωρία του. Το «Superintelligence: Paths, Dangers, Strategies» του φιλοσόφου Νικ Μπόστρομ, μίας από τις πλέον επιδραστικές προσωπικότητες του ανερχόμενου κινήματος του αποτελεσματικού αλτρουισμού, βοήθησε να σχηματοποιηθεί ο φόβος ότι μια ανεξέλεγκτη τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε υπαρξιακή απειλή.
Ως έφηβος το 2016, παρακολούθησε το πρόγραμμα AlphaGo της Google DeepMind να νικά έναν από τους κορυφαίους παίκτες του παιχνιδιού Go μια ιστορική καμπή για την τεχνητή νοημοσύνη που απέδειξε ότι οι μηχανές μπορούσαν να υπερισχύσουν σε τομείς που θεωρούνταν προνόμιο της ανθρώπινης διαίσθησης και δημιουργικότητας.
Ο Κόξον, γιος καθηγητή μεσαιωνικής γερμανικής λογοτεχνίας, είχε κλίση στα μαθηματικά και επιλέχθηκε στην εθνική ομάδα της Βρετανίας για τη Διεθνή Μαθηματική Ολυμπιάδα. Επέστρεψε με το αργυρό μετάλλιο το 2016 και το χάλκινο την επόμενη χρονιά.
Ένα βράδυ, ορισμένα μέλη των ομάδων πήγαν στα McDonald’s του Χονγκ Κονγκ. Εμπνευσμένοι από τον Κόξον και ένα θεώρημα της θεωρίας αριθμών, συγκέντρωσαν τα κουπόνια φαγητού που τους είχαν απομείνει και αγόρασαν εκατοντάδες κοτομπουκιές. Μαζί με συμμετέχοντες από όλο τον κόσμο, έφαγαν το φαγητό και μαζεύτηκαν γύρω από έναν πίνακα, προσπαθώντας να λύσουν ένα δύσκολο μαθηματικό πρόβλημα.
Όπως αποδείχθηκε, τα παιδιά εκείνου του δωματίου έγιναν αργότερα συνάδελφοί του.
Από τα έξι μέλη της ομάδας του Κόξον, τα τρία κατέληξαν να εργάζονται σε εργαστήρια AI, ανάμεσά τους και ένας που επίσης παραιτήθηκε πρόσφατα από την Anthropic. Ο Τζο Μπέντον αποχώρησε από την ομάδα ασφάλειας της Anthropic στα τέλη Αυγούστου για να ενταχθεί στον ερευνητικό οργανισμό METR, γράφοντας αργότερα στο X: «Οι εταιρείες AI ανταγωνίζονται για να κατασκευάσουν μηχανές πολύ πιο έξυπνες από κάθε άνθρωπο, και ενδέχεται να μην επιβιώσουμε από αυτό».
Ο Κόξον σπούδασε στο Κέιμπριτζ, έπαιζε σκουός και συνέχισε τα μαθηματικά. Καθώς αποφοιτούσε το 2020, η OpenAI κυκλοφόρησε το επαναστατικό μοντέλο GPT-3, το οποίο απέδειξε μία από τις βασικές αρχές της άνθησης της AI: ότι οι δυνατότητες των μοντέλων αυξάνονται όσο εκπαιδεύονται σε μεγαλύτερο όγκο δεδομένων.
«Το GPT-3 ήταν η στιγμή που έμεινα πραγματικά άναυδος», ανέφερε ο Κόξον.
Μετά το πανεπιστήμιο, ο Κόξον εντάχθηκε σε μια μικρή αλλά επιδραστική κοινότητα ορθολογιστών που επιδίωκε την αναμόρφωση της βρετανικής κυβέρνησης. Η διαδικτυακή αυτή κοινότητα, που έδινε προτεραιότητα στην αυστηρή λογική έναντι του πολιτικού ενστίκτου, είχε αποκτήσει πάτημα στην πολιτική μέσω του Ντόμινικ Κάμινγκς, αρχιτέκτονα του Brexit και συμβούλου της Ντάουνινγκ Στριτ.
Ο Κόξον ζούσε στο Λονδίνο, στο Newspeak House, ένα ανεξάρτητο κοινόβιο και χώρο εκδηλώσεων όπου νέοι συγκεντρώνονταν για να συζητήσουν για την τεχνολογία και την πολιτική.
Εκεί συμμετείχε σε πάρτι στην ταράτσα του κτιρίου, όπως και άλλα μελλοντικά στελέχη της AI, ανάμεσά τους ο Λόγκαν Γκράχαμ, τότε ειδικός σύμβουλος του Πρωθυπουργού Μπόρις Τζόνσον και νυν επικεφαλής της προσπάθειας της Anthropic για τη δοκιμή μοντέλων απέναντι σε μελλοντικές απειλές εθνικής ασφάλειας.
Μία άλλη επισκέπτρια του Newspeak House ήταν η Αβιτάλ Μπαλγουίτ, σήμερα διευθύντρια του γραφείου του Αμοντέι και σύζυγος του επενδυτή Λέοπολντ Ασενμπρένερ.
Ο Κόξον ασχολήθηκε για λίγο με τις αγορές εμπορευμάτων, χρησιμοποιώντας στατιστική ανάλυση και μηχανική μάθηση για την πρόβλεψη των τιμών ενέργειας. Ένας γνωστός του θυμάται ότι ο Κόξον εξέταζε διάφορες επαγγελματικές επιλογές, αναζητώντας τρόπους να βελτιστοποιήσει την πορεία της ζωής του.
Στον ελεύθερο χρόνο του εμβάθυνε στην τεχνητή νοημοσύνη, θεωρώντας την ως την πιο ενδιαφέρουσα ευκαιρία στον πλανήτη. Πήρε αυτό που περιέγραψε ως μεταβατικό έτος, μένοντας σε φοιτητικές εστίες με φίλους από το πανεπιστήμιο.
Στη συνέχεια, προσλήφθηκε στην OpenAI.
Τα πρώτα βήματα στη Σίλικον Βάλεϊ
Ο Κόξον μετακόμισε στο Σαν Φρανσίσκο για να ξεκινήσει στην OpenAI το 2023, μετά την τεράστια επιτυχία του ChatGPT που εδραίωσε την εταιρεία ως ηγέτιδα του κλάδου.
Με το πτυχίο στα μαθηματικά, εντάχθηκε στο εργαστήριο μέσω ενός εξάμηνου προγράμματος για ερευνητές χωρίς προηγούμενη εμπειρία στην AI. Όσοι εργάζονται στην ασφάλεια εστιάζουν συχνά στην «ευθυγράμμιση», δηλαδή τη διασφάλιση ότι η συμπεριφορά του συστήματος συνάδει με τις ανθρώπινες προθέσεις. Ο ίδιος εξειδικεύτηκε στην προεκπαίδευση, τα αρχικά στάδια τροφοδοσίας των μοντέλων με τεράστιους όγκους κειμένου, εικόνων και κώδικα πριν από τη ρύθμισή τους για συγκεκριμένες εργασίες.
«Ο Τζέικομπ κατασκευάζει τον εγκέφαλο», δήλωσε ο Γουίλ ΝτεΠιού, πρώην συνάδελφός του. «Στη συνέχεια, κάποιος άλλος εκπαιδεύει τον εγκέφαλο για το πώς να συμπεριφέρεται στον πραγματικό κόσμο».
Δεν ξεχώριζε για την έντονη δραστηριότητά του στα θέματα ασφάλειας. Ο ΝτεΠιού τον περιέγραψε ως έναν «κανονικό ερευνητή», με τις συνηθισμένες ανησυχίες των υπαλλήλων που γνωρίζουν τις δυνατότητες και τους κινδύνους της τεχνολογίας καλύτερα από τον καθένα.
Στα τέλη του 2023, απέκτησε πρόωρη πρόσβαση στο πρώτο μοντέλο λογικής της OpenAI, το Q*, το οποίο μπορούσε να διασπά μεγάλα προβλήματα σε μέρη και να τα επιλύει βήμα-βήμα. Ο Κόξον ανέφερε ότι του έδωσε ένα δύσκολο σταυρόλεξο και εντυπωσιάστηκε από τον τρόπο που το έλυσε.
Με τον χρόνο, όπως δήλωσε, παρακολουθούσε με προβληματισμό τις αποχωρήσεις μελών της ομάδας ασφάλειας της OpenAI, συμπεριλαμβανομένου του Ντάνιελ Κοκοτάιλο, ο οποίος δημιούργησε μια ερευνητική ομάδα πρόβλεψης σεναρίων εξέλιξης της AI.
Ο Κόξον ανησυχούσε για την υπερνοημοσύνη που θα μπορούσε να ξεπεράσει τις ανθρώπινες δυνατότητες. Υπέθετε όμως ότι οι κυβερνήσεις θα συντονίζονταν για να επιβραδύνουν τον φρενήρη ρυθμό ανάπτυξης, αν αυτό γινόταν απαραίτητο.
«Έμοιαζε με την προθέρμανση πριν από την πραγματικά κρίσιμη φάση», ανέφερε.
Δεν ήταν ακόμα έτοιμος να παρατήσει τα πάντα για να αφοσιωθεί στην ασφάλεια. Ένας φίλος του θυμήθηκε ότι προσπάθησε να τον πείσει να αφήσει την προεκπαίδευση, υποστηρίζοντας ότι η διαδικασία αυτή εγκυμονεί κινδύνους για τον κόσμο. Ο Κόξον όμως δεν έκανε το βήμα.
Παράλληλα, παρακολουθούσε την εντυπωσιακή πρόοδο της AI στα μαθηματικά, καθώς τα μοντέλα εξελίσσονταν πολύ γρηγορότερα απ’ όσο περίμενε. Ξαφνικά, δεν δυσκολεύονταν πλέον στην αριθμητική. Το 2024, ένα μοντέλο της Google DeepMind συγκέντρωσε αρκετούς βαθμούς στη Διεθνή Μαθηματική Ολυμπιάδα ώστε να κατακτήσει αργυρό μετάλλιο. Το 2025, η DeepMind και η OpenAI απέσπασαν χρυσά μετάλλια.
Το 2026, ωστόσο, ο Κόξον και μεγάλο μέρος της κοινότητας ασφάλειας AI άρχισαν να πανικοβάλλονται πραγματικά.
Ανεξέλεγκτη τεχνητή νοημοσύνη
Νωρίτερα φέτος, ένα μοντέλο της Anthropic με την ονομασία Mythos, καθώς και άλλα παρόμοια εργαλεία, αποδείχθηκαν ικανά να πραγματοποιήσουν σύνθετες κυβερνοεπιθέσεις. Ορισμένοι ερευνητές εξέλαβαν το γεγονός ως δυσοίωνη ένδειξη ότι το προϊόν που δημιουργούσαν γινόταν υπερβολικά ισχυρό.
Ο επικεφαλής της ομάδας ερευνών ασφαλείας της Anthropic προειδοποίησε ότι «ο κόσμος βρίσκεται σε κίνδυνο» και παραιτήθηκε από την εταιρεία για να σπουδάσει ποίηση.
Μέχρι τότε, ο Κόξον είχε πολλούς φίλους στην Anthropic και θεωρούσε ότι η ανταγωνίστρια της OpenAI ήταν πιο διαφανής όσον αφορά τους κινδύνους της τεχνολογίας. Η Anthropic είχε επίσης προσπεράσει την OpenAI, που μέχρι τότε κατείχε την πρωτοκαθεδρία, όταν το εργαλείο προγραμματισμού Claude σημείωσε τεράστια επιτυχία. Η εταιρεία ετοίμαζε μάλιστα τα σχέδιά της για αυτό που αναμενόταν να είναι η μεγαλύτερη αρχική δημόσια προσφορά στην ιστορία.
Τον Μάιο, ο Κόξον αποχώρησε από την OpenAI και πήγε στην Anthropic.
Έκτοτε, ορισμένα σοβαρά περιστατικά ασφαλείας προκάλεσαν αναστάτωση σε ολόκληρο τον κλάδο.
Τον Ιούλιο, η OpenAI αποκάλυψε ότι ένα από τα αδημοσίευτα μοντέλα της διέφυγε από το περιβάλλον δοκιμών και παραβίασε τα συστήματα της εταιρείας Hugging Face. Λίγο αργότερα, η Anthropic ανέφερε ότι εντόπισε παρόμοια περιστατικά. Στα τέλη Αυγούστου, μια αποκαλυπτική έκθεση της METR έδειξε ότι το περιστατικό στην Hugging Face ήταν πολύ σοβαρότερο απ’ όσο είχε γίνει γνωστό.
Ο Κόξον χαρακτήρισε την έκθεση της METR ως σοκαριστική αποκάλυψη για τον ίδιο και τους συναδέλφους του.
Οι ανησυχίες για τη ραγδαία εξέλιξη της AI συσσωρεύονταν στο εσωτερικό των εταιρειών επί μήνες. Νωρίτερα φέτος, πολλοί ερευνητές εξέφρασαν δημόσια την ανησυχία τους για τη χρήση της AI σε συστήματα παρακολούθησης, κατά τη διάρκεια διαμάχης μεταξύ της Anthropic και του Πενταγώνου.
Οι πρόσφατες εξελίξεις πυροδότησαν έντονες ιδιωτικές συζητήσεις στο εσωτερικό των εταιρειών, τόσο σε κανάλια του Slack όσο και σε γενικές συνελεύσεις. Οι συζητήσεις κυμαίνονταν από λεπτομέρειες για τεχνικές δικλείδες ασφαλείας μέχρι σενάρια ολικής καταστροφής σε περίπτωση που τα μοντέλα συνεχίσουν να βελτιώνονται με αυτόν τον ρυθμό. Παράλληλα, εξεταζόταν πώς θα διασφαλιστεί ότι ο ανταγωνισμός μεταξύ των εργαστηρίων δεν θα ξεφύγει από κάθε έλεγχο.
Όσοι ανησυχούν για την ασφάλεια φοβούνταν από καιρό την ημέρα που τα ίδια τα συστήματα AI θα αποκτούσαν τη δυνατότητα να κατασκευάζουν την επόμενη γενιά ακόμα πιο έξυπνων συστημάτων. Τα εργαστήρια δηλώνουν ότι βλέπουν ήδη τα πρώτα σημάδια αυτής της διαδικασίας, γνωστής ως «αναδρομική αυτοβελτίωση», η οποία ενδέχεται να επιταχύνει την πορεία προς την υπερνοημοσύνη που φοβόταν ο Κόξον.
Τις τελευταίες εβδομάδες, ο Κόξον συνάντησε τα διοικητικά στελέχη της Anthropic για να συζητήσει τις ανησυχίες του. Εξέτασε το ενδεχόμενο να μετακινηθεί σε τομέα που ασχολείται αποκλειστικά με την ασφάλεια, πριν αποφασίσει τελικά να παραιτηθεί.
«Ακόμα και το να δουλεύεις στην ασφάλεια της Anthropic έμοιαζε σαν να συμμετέχεις στη συνενενοχή αυτής της κούρσας», δήλωσε στη συνέντευξή του.
Κατά τη γνώμη του, απαιτείται μια διεθνώς συντονισμένη συμφωνία με κυβερνητικές εγγυήσεις, ώστε να επιβραδυνθεί η ανάπτυξη των μοντέλων αν αυτό κριθεί απαραίτητο για την ασφάλεια. Πρόσθεσε επίσης ότι οι ΗΠΑ, η Κίνα και άλλες κυβερνήσεις πρέπει να συμφωνήσουν σε ένα πλαίσιο παρόμοιο με τις συνθήκες ελέγχου των πυρηνικών εξοπλισμών για την αποφυγή μιας καταστροφής.
Σε ολόκληρο τον κλάδο, σχεδόν 1.400 ερευνητές, ανάμεσά τους και ο Κόξον, έχουν υπογράψει δήλωση με την οποία ζητούν από τις κυβερνήσεις να δημιουργήσουν έναν μηχανισμό, ο οποίος θα μπορεί να ενεργοποιηθεί αν παραστεί ανάγκη.
Πριν οριστικοποιήσει την αποχώρησή του, ο Κόξον ζήτησε τη συμβουλή ενός παλιού συνεργάτη. Ο Κοκοτάιλο, πρώην μέλος της ομάδας ασφαλείας της OpenAI που πλέον εργάζεται ως ερευνητής ασφάλειας AI, τον συνάντησε για έναν περίπατο στο πανεπιστήμιο του Μπέρκλεϊ και τον διαβεβαίωσε ότι έπαιρνε τη σωστή απόφαση.
Λόγω της σύντομης θητείας του στην Anthropic, ο Κόξον δεν έλαβε δικαιώματα προαίρεσης στην εταιρεία, η οποία προετοιμάζεται για την είσοδό της στο χρηματιστήριο τους επόμενους μήνες με εκτιμώμενη χρηματιστηριακή αξία κοντά στα 2 τρισεκατομμύρια δολάρια. Διατηρεί ωστόσο μετοχές της OpenAI.
Όταν ήρθε η ώρα να ανακοινώσει την παραίτησή του, ζήτησε τη βοήθεια του φίλου του, Νέιθαν Κάλβιν. Ως νομικός σύμβουλος της Encode AI, ενός μη κερδοσκοπικού οργανισμού για την ασφάλεια της τεχνητής νοημοσύνης, ο Κάλβιν ανήκε στο δίκτυο που έκρουε τον κώδωνα του κινδύνου για πιθανούς υπαρξιακούς κινδύνους.
Την ημέρα που παραιτήθηκε ο Κόξον, οι υπάλληλοι της OpenAI και της Anthropic παρακολουθούσαν μια άλλη είδηση που, όπως είπε ο ίδιος, θα τον είχε αφήσει άναυδο μόλις λίγους μήνες νωρίτερα. Η τεχνητή νοημοσύνη είχε λύσει ένα από τα «Προβλήματα της Χιλιετίας», ένα εξαιρετικά δύσκολο μαθηματικό πρόβλημα που παιδεύει την ανθρωπότητα για σχεδόν έναν αιώνα, ένα επίτευγμα που κάποτε φάνταζε αδιανόητο.
Εκείνο το απόγευμα, ο Κόξον ανακοίνωσε στους συναδέλφους του στην Anthropic ότι παραιτείται μέσω ενός μηνύματος στο Slack, εκφράζοντας φόβους για το ενδεχόμενο αφανισμού της ανθρωπότητας χωρίς τον κατάλληλο διεθνή συντονισμό. Πεπίπου μισή ώρα αργότερα, η Wall Street Journal δημοσίευσε την είδηση.
Στη συνέχεια, ο Κόξον προέβη σε σειρά αναρτήσεων για την παραίτησή του καθισμένος σε ένα παγκάκι σε πάρκο του Σαν Φρανσίσκο.
Ο λογαριασμός του στο X είχε λιγότερους από εκατό ακόλουθους. Μέσα σε λίγα λεπτά, η ανάρτησή του αναδημοσιεύτηκε από τον Κάλβιν, τον Κοκοτάιλο και άλλους υποστηρικτές της ασφάλειας AI, μεταξύ των οποίων και πολλοί πρώην συνάδελφοί του.
Εκείνο το βράδυ, τις ανησυχίες του προσυπέγραψε ο επικεφαλής της ομάδας ευθυγράμμισης της Anthropic, του κρίσιμου τμήματος που είναι επιφορτισμένο με τη διασφάλιση ότι η AI εκτελεί τις προθέσεις των ανθρώπων και δεν στρέφεται εναντίον τους.
«Πιστεύουμε πράγματι ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους!», έγραψε ο Έβαν Χούμπινγκερ, προσθέτοντας ότι θεωρεί τις πιθανότητες να πεθάνουμε όλοι μέσα στην επόμενη δεκαετία μεγαλύτερες από 10%.
Ο Κόξον δήλωσε ότι δεν είχε συντονίσει αυτή την καταιγίδα αναρτήσεων με κανέναν στην Anthropic.
Την εβδομάδα που ακολούθησε, ο μέχρι πρότινος άγνωστος ερευνητής είχε συνεχή παρουσία σε μεγάλα τηλεοπτικά δίκτυα, ενώ κατακλύστηκε από προτάσεις για έκδοση βιβλίων και εμφανίσεις σε podcasts. Μέχρι το Σαββατοκύριακο, η ανάρτησή του είχε προκαλέσει τέτοια αναστάτοση που τα κορυφαία εργαστήρια AI ζητούσαν την επιβράδυνση των ρυθμών στον κλάδο.
Λίγες ημέρες μετά την ανακοίνωση, ο Κόξον πήγε για έναν ακόμη περίπατο στο Μπέρκλεϊ με τον Κοκοτάιλο, ο οποίος ασχολείται με τη μοντελοποίηση σεναρίων AI, τον τομέα στον οποίο ελπίζει να δραστηριοποιηθεί και ο ίδιος στο εξής. Ο Κοκοτάιλο του είπε ότι το μήνυμα είχε ήδη μεταδοθεί με επιτυχία και τον συμβούλευσε να αρνηθεί περαιτέρω εμφανίσεις στα μέσα ενημέρωσης και να ξεκουραστεί.
«Τόσοι πολλοί άνθρωποι σε αυτές τις εταιρείες θα μπορούσαν να το έχουν κάνει», δήλωσε ο Κοκοτάιλο. «Εκείνος όμως ήταν που το έκανε πράξη».
Με πληροφορίες από Wall Street Journal
πηγή: https://www.lifo.gr/
