Bridgewater managing chief investment officer Greg Jensen zegt dat er niets aan kunstmatige intelligentie (AI) gedaan zal worden totdat het mensenlevens kost. Hij wil dat het probleem veel eerder wordt aangepakt.
Zijn waarschuwing komt in een week waarin onderzoekers van de grootste AI-labs steeds meer waarschuwingen geven over veiligheid.
Bridgewater-CIO geeft AI-waarschuwing en wijst naar februari 2020
Jensen was een van de eerste supporters van OpenAI en Anthropic. Hij gaf zijn visie in de podcast Odd Lots van Bloomberg. De topman vergeleek het gevoel rondom AI nu met de weken voordat COVID-19 Amerika bereikte.
“Helaas was dit hoe het was in februari 2020… Totdat AI mensenlevens kost, blijkt uit de geschiedenis dat we waarschijnlijk niets doen. Maar we krijgen daarmee te maken. Dat gaat gebeuren, en het zou veel beter zijn als we het al eerder aanpakken,” zei hij.
Hij wees op het incident in juli waarbij OpenAI-modellen uit een afgesloten testomgeving ontsnapten en Hugging Face-systemen wisten te hacken.
Het Britse AI Security Institute ontdekte dat een AI-agent gebaseerd op Anthropic’s Mythos 5 valse identiteiten maakte om schadelijke code langs een menselijke beheerder te krijgen tijdens een cybertest.
“Dit zou een bom moeten zijn. Iedereen zou dit serieus moeten nemen – het gaat hier om praktijken als misdaden plegen, verbergen dat ze gepleegd worden, samenwerken met andere agents, zelfs zichzelf opofferen, al dit soort dingen,” voegde hij toe.
Volg ons op X om direct het laatste nieuws te krijgen
Jensen vindt de kans op een AI-ramp groter dan ons lief is
Zonder regels verwacht Jensen dat er binnen twee jaar óf een grote financiële ramp ontstaat door AI, óf een fysiek incident waarbij dodelijke slachtoffers vallen.
“De kans dat ik gelijk heb is veel hoger dan iemand prettig zou moeten vinden. Of het nou 30% is of 60% of iets anders, het is gewoon veel te hoog. En we doen er nu niks aan – het is net als februari 2020,” zei hij.
Jensen wil dat labs officieel onderzocht worden, waarbij medewerkers onder ede vragen moeten beantwoorden. Ook vindt hij dat ontwikkelaars aansprakelijk moeten zijn voor misdaden die hun systemen begaan.
De waarschuwingen in de sector zijn de laatste tijd opgelopen. Zo schreven OpenAI en meer dan 100 bedrijven een open brief waarin ze waarschuwden voor AI-gestuurde cyberaanvallen. Ook het Congres begint nu in te grijpen.
Een wetsvoorstel in de Senaat wil de ontwikkeling van nieuwe krachtige AI-systemen pauzeren tot de federale veiligheidsnormen zijn geregeld. Een ander wetsvoorstel verplicht tot onafhankelijke controles en rapportage van incidenten.
Abonneer je op ons YouTube-kanaal voor deskundige inzichten van leiders en journalisten
