Amerikaanse wetgevers reageerden op het ontslag van een Anthropic-onderzoeker met een nieuwe oproep om de ontwikkeling van geavanceerde kunstmatige intelligentie (AI) te stoppen, waaronder een Senaatsvoorstel dat superintelligentie volledig verbiedt.
Jacob Coxon nam op 9 september ontslag en zei dat zowel Anthropic als OpenAI gokken met mensenlevens.
Waarom het ontslag van de Anthropic-onderzoeker de Amerikaanse politiek bereikte
Meer dan 20 wetgevers reageerden op het nieuws, waarbij de meesten opriepen tot nieuwe AI-wetgeving. Senator Bernie Sanders gaf aan dat hij wetgeving zal indienen om superintelligentie te verbieden en AI-ontwikkeling te pauzeren.
BeInCrypto meldde eerder deze maand dat Sanders en afgevaardigde Greg Casar de “Ban Artificial Superintelligence Act” hadden voorgesteld. Deze wet zou de ontwikkeling en uitrol van superintelligente AI permanent verbieden. Ook zou geavanceerde AI-ontwikkeling worden stopgezet totdat een federale toezichthouder veiligheidsnormen heeft vastgesteld.
Ondertussen noemde Casar de situatie een noodsituatie en vroeg om hoorzittingen in het Congres. Afgevaardigde Lori Trahan wees de politici opnieuw op haar bipartisane FRONTIER Act, die zij in juli samen met afgevaardigde Jay Obernolte heeft ingediend.
“De FRONTIER Act stelt gelaagde vereisten op basis van de grootte van een frontier AI-ontwikkelaar, waaronder modelkaarten, risicobeheer, onafhankelijke audits, incidentrapportages en voortdurende beoordelingen. Ook zorgt het voor één nationale standaard voor transparantie, auditing en rapportage van catastrofale risico’s zodat een lappendeken van staatsregels wordt voorkomen,” staat in de aankondiging te lezen.
Senator Chris Van Hollen wil verplichte veiligheidsmaatregelen en snelle gesprekken met China. Afgevaardigde Ted Lieu drong bij de Republikeinse leiding aan om het AI Kill Switch-wetsvoorstel, dat hij dit jaar indiende, in behandeling te nemen.
De Republikeinse afgevaardigde Anna Paulina Luna week af van de partijpatronen en vroeg om een speciale zitting van het Congres over AI.
Volg ons op X om direct het laatste nieuws te ontvangen
Jacob Coxon zegt dat de laboratoria regels willen
De druk komt niet alleen uit de politiek. Ook AI-bedrijven pleiten zelf voor regelgeving. Volgens Coxon tegenover CNN zijn leidinggevenden die het Congres om regels vragen oprecht. Maar hij zegt dat geen enkel bedrijf de concurrenten genoeg vertrouwt om als eerste te vertragen.
“Deze mensen zijn ook helemaal oprecht als ze smeken om regulering… ze zitten in deze situatie waarin ze zich gedwongen voelen te racen naar het bouwen van dodelijke technologie,” zei hij.
Anthropic liet in een bericht in september weten dat de industrie zou profiteren van een wettelijk en controleerbaar systeem waarmee alles samen wordt afgestemd.
Waar het extinctierisico begint
Samenwerking en tempo zijn belangrijk vanwege wat er volgens Coxon mogelijk aankomt. Hij legt uit dat wanneer een AI het probleem van AI-onderzoek krijgt, deze zichzelf steeds verder kan verbeteren.
Hij wijst op dinsdag, toen AI-systemen van OpenAI naar verluidt een millenniumprobleem zelfstandig opgelost zouden hebben.
Het enge hieraan, zegt hij, is als dit soort methodes op AI zelf worden gericht. Modellen verbeteren andere modellen zonder menselijke tussenkomst, iets wat Coxon een “intelligence explosion” noemt.
“Op dit moment is er geen risico op extinctie. De huidige modellen kunnen in het slechtste geval ergens in breken of mogelijk flinke schade aanrichten aan infrastructuren… maar ze zijn niet slim genoeg om ons zo te slim af te zijn dat het tot extinctie leidt,” zei hij.
Toch waarschuwt Coxon dat diezelfde zelfstandigheid, als die wordt gecombineerd met veel meer mogelijkheden, tot grote rampen kan leiden. Hij noemt het hacken van essentiële infrastructuur en het ontwikkelen van biowapens die extinctie kunnen veroorzaken.
Abonneer je op ons YouTube-kanaal om experts en journalisten diepgaande inzichten te horen geven
