Volgens de laatste berichten zullen president Donald Trump, House Speaker Mike Johnson en topmensen uit de tech-industrie elkaar ontmoeten op 29 september om te praten over artificial intelligence (AI).
De bijeenkomst vindt plaats nu het debat over AI-veiligheid steeds meer aandacht krijgt. Grote AI-bedrijven waarschuwen voor de risico’s van deze technologie, terwijl andere industrie-leiders juist vraagtekens zetten bij oproepen om te vertragen.
Oproep Anthropic ontmoet cybersecurity-scepticus
Eerder deze maand nam Anthropic-onderzoeker Jacob Coxon ontslag. Hij stelde dat Anthropic en OpenAI niet verantwoordelijk handelen. Zijn collega Evan Hubinger schatte het risico dat AI alle mensen uitroeit binnen tien jaar zelfs op meer dan 10%.
Enkele dagen later schreef Anthropic CEO Dario Amodei een essay waarin hij de industrie oproept om de ontwikkeling van AI-mogelijkheden te vertragen. Sam Altman van OpenAI en Elon Musk van SpaceX steunden deze oproep.
Maar Nikesh Arora, CEO van Palo Alto Networks, stelde daar vragen bij. Op X noemde hij het pleidooi voor vertraging een slimme commerciële strategie. Later vertelde hij aan CNBC dat hij denkt dat de labs sympathie willen van toezichthouders en een manier zoeken om aansprakelijkheid te ontlopen.
Volgens Arora is vertragen niet realistisch, want sommige ontwikkelaars blijven toch op de voorgrond werken.
“Ik denk dat sommige mensen waarschijnlijk toch zullen doorgaan, en dat je altijd mensen zult hebben die op de grens blijven ontwikkelen. Dat betekent dat we niet moeten proberen het grensgebied te stoppen, want dat zijn juist de meest verantwoordelijke mensen,” zei Arora.
Arora vindt de schatting van 10% kans op uitsterven ook erg onwaarschijnlijk.
Volg ons op X om altijd het laatste nieuws direct te ontvangen
Vertragen AI-labs echt?
In het essay van Amodei staat dat vertragen niet betekent dat trainingsprocessen stoppen, en de laboratoria die de oproep ondersteunen brengen nog steeds nieuwe modellen uit.
Anthropic bracht bijvoorbeeld op 22 september Claude Opus 5.5 uit. Dit is volgens het bedrijf het eerste model sinds het pleidooi om het tempo te vertragen. Het model werd getest door externe beoordelaars, waaronder METR, voordat het gelanceerd werd.
OpenAI bracht op dezelfde dag GPT-6 Sol en Luna uit. Eerder, op 4 september, lanceerde het bedrijf het vlaggenschip GPT-6 Astra, dat toen geïntroduceerd werd.
Ook Google blijft doorgaan. Het bedrijf lanceerde op 15 september Gemini 3.8 Live en Gemini 3.8 Live Extended Thinking. Daarnaast maakte Koray Kavukcuoglu van DeepMind bekend dat Gemini 4 klaar is met trainen.
Nu deze modellen bij gebruikers komen, mengt de Trump-regering zich in de discussie wie verantwoordelijk moet zijn voor de veiligheid ervan. Op maandag zei minister van Financiën Scott Bessent dat ontwikkelaars van AI zelf verantwoordelijk moeten zijn, en niet mogen rekenen op federale bescherming tegen aansprakelijkheid.
Deze houding laat weinig ruimte voor de bescherming die volgens Arora de labs graag willen. Er is nog geen complete gastenlijst of gedetailleerde agenda van de bijeenkomst op 29 september bekendgemaakt. Daarom is onduidelijk of het gesprek zal gaan over regulering, veiligheidsmaatregelen, de concurrentiepositie van de VS, of een combinatie hiervan.
Abonneer je op ons YouTube-kanaal om deskundige inzichten van leiders en journalisten te zien
