Een onderzoeker van Anthropic, Jacob Coxon, zei dat hij ontslag heeft genomen bij het bedrijf. Hij beweert dat Anthropic en OpenAI wedijveren om zelflerende superintelligentie te ontwikkelen en daarmee gokken met mensenlevens.
De onderzoeker vertelde dat hij de afgelopen drie jaar heeft gewerkt aan pre-trainingsprojecten bij beide bedrijven. Hij deed zijn uitspraken in een reeks berichten op X.
Anthropic-onderzoeker vertrekt en geeft ernstige waarschuwing aan iedereen die er nog werkt
Coxon stelde dat de ontwikkeling van deze technologie onderschat wordt. Volgens hem zullen komende systemen overal kunnen binnendringen, elk vakgebied in één klap veranderen en echte macht en middelen verwerven.
Hij beweerde ook dat privégesprekken binnen de sector sterk verschillen van de publieke boodschap. Volgens Coxon spreken senior medewerkers in het openbaar milder voor de pers, maar uiten zij privé hun angst.
“De mensen die AI bouwen geloven echt dat het aan het einde van dit decennium ons allemaal zou kunnen doden. Dit is geen marketingtruc,” zei hij. “Geen enkele andere menselijke activiteit brengt dit soort gevaar met zich mee.”
Coxon maakte verschil tussen zijn twee voormalige werkgevers. Volgens hem hebben veel mensen bij OpenAI niet begrepen wat hij de belangen op beschavingsniveau noemt. Bij Anthropic zijn ze zich er wel van bewust, maar blijven ze toch meedoen aan de race om als eerste te komen.
Hij is één van de vele werknemers die dit jaar het bedrijf verlaten. Anthropic’s Safeguards Lead, Mrinank Sharma, trad in februari af.
Joshua Achiam, voorheen hoofd futurist bij OpenAI, schreef op 1 september dat losgeslagen AI-systemen zich in het wild zullen vermenigvuldigen en op jacht zullen gaan naar geld en macht.
Volg ons op X voor het laatste nieuws terwijl het gebeurt
Oproep tot samenwerking
Coxon omschreef het betreden van wat hij de ‘eindfase’ noemt als een gok uit hoogmoed. Hij vindt dat het nemen van dit soort beslissingen niet via de Slack van een privaat bedrijf mag gebeuren.
Toch blijft hij hoopvol over samenwerking. Volgens hem maakt de Hugging Face-aanval overeenkomsten tussen Amerikaanse labs over het tempo nu waarschijnlijker.
Beide bedrijven hebben zo’n idee al eerder gesteund. Meer dan 1.100 medewerkers van toonaangevende labs ondertekenden in juli de “Pacing the Frontier”-brief, waaronder Anthropic-CEO Dario Amodei en OpenAI-hoofdwetenschapper Jakub Pachocki.
“Wij vragen de Amerikaanse regering om een internationale inspanning te steunen om de technische en bestuurlijke middelen te ontwikkelen die nodig zijn om bewust het tempo van geavanceerde AI-ontwikkeling te reguleren,” aldus de brief.
Daarnaast hebben beide bedrijven ook een gezamenlijke open brief getekend over cyberverdediging, samen met Google, Microsoft en ongeveer 150 andere organisaties. In de brief staat dat AI-aangedreven aanvallen binnenkort veel vaker en geavanceerder zullen worden.
Coxons waarschuwing komt ook kort nadat de VN-mensenrechtenchef Volker Türk de Mensenrechtenraad vertelde dat geavanceerde AI een existentiële dreiging kan vormen.
Coxon zei dat het stoppen van een wereldwijde race misschien een tijdelijk verbod nodig heeft op pogingen om modelcapaciteiten te verbeteren. Hij besloot met het verzoek aan labonderzoekers om na te denken of ze echt een superintelligente reinforcement-learning-run willen starten zonder het nieuwe systeem te begrijpen.
BeInCrypto heeft Anthropic en OpenAI om een reactie gevraagd.
Abonneer je op ons YouTube-kanaal en bekijk hoe leiders en journalisten hun inzichten delen
