Eater
Maar analisten vrezen voor belangenconflict
Demis Hassabis, CEO van Google DeepMind, vindt dat bedrijven in de VS moeten afspreken hoe ze hun AI veilig ontwikkelen en testen. Hij denkt dat dit kan beginnen in de VS, met steun van de overheid, en later kan uitgroeien tot wereldwijde afspraken.
In een blogpost zegt Hassabis dat er vooral aandacht moet komen voor AGI (kunstmatige algemene intelligentie) en nationale veiligheid. Maar juist dat nationale veiligheidsframe kan ervoor zorgen dat het plan buiten de VS minder goed wordt ontvangen.
Hassabis schrijft dat AI snel vooruitgaat en daarom ook een nieuwe manier van testen nodig heeft: stevig, regelmatig vernieuwd en passend bij de nieuwste AI-modellen. Volgens hem staat de VS goed genoeg om als eerste stap zo’n test- en meetraamwerk op te zetten. Hij stelt voor om een nieuw standaardenorgaan op te richten, via een publiek-privaat model of als zelfregulerende organisatie, vergelijkbaar met FINRA. Daarin zouden ook onafhankelijke technische experts en vertegenwoordigers van open-source moeten meebeslissen.
Wel moet zo’n organisatie volgens hem voldoende geld krijgen. Dat komt waarschijnlijk vooral van de industrie, zodat het genoeg specialisten en rekenkracht kan inzetten voor grootschalige tests.
Hij wil dat het orgaan:
- test- en beoordelingsprotocollen ontwikkelt;
- samenwerkt met federale instanties en de US National Labs;
- en AI-bedrijven stimuleert om goede veiligheidspraktijken te gebruiken, zoals modelkaarten met technische uitleg, sterke cybersecurity, het zorgvuldig screenen van personeel en voldoende budget voor veiligheidsonderzoek.
Dit is niet nieuw. DeepMind was eerder betrokken bij een Amerikaans initiatief rond AI-veiligheid, samen met o.a. Microsoft en xAI (nu SpaceXAI). Daarbij mocht CAISI vooraf onderzoek doen en evaluaties uitvoeren om frontier AI beter te kunnen beoordelen en de stand van AI-security te verbeteren.
Kritiek: zelfregulering kan het publiek niet beschermen
Veel analisten en consultants zijn verdeeld. Een veelgehoorde zorg is dat een groep die vooral door de industrie wordt gedragen, onvoldoende oog kan hebben voor het belang van het publiek.
Een analist van Gartner zegt bijvoorbeeld dat zelfregulering alleen werkt als alle partijen echt toezicht op zichzelf kunnen en dat in het belang van het publiek doen. Maar volgens hem hebben veel techbedrijven niet die capaciteit. Bovendien moeten commerciële organisaties vooral handelen in het belang van hun aandeelhouders. Externe regels zouden juist moeten voorkomen dat bedrijven dan toch voor eigen belang kiezen.
Een andere criticus, Sanchit Vir Gogia (Greyhound Research), wijst op de internationale aard van AI-modellen. Als de aanpak vooral uit de VS komt, kan dat andere landen juist afschrikken.
Hij vergelijkt het met het idee dat “nationale veiligheid” thuis wel als argument werkt, maar elders als een soort westers/VS instrument kan worden gezien. Hij stelt ook dat de wereld niet één uniform pad volgt: Europa maakt eigen regels, het VK heeft eigen instituties, China verleent vergunningen volgens eigen voorwaarden, en ook in de VS verschillen staten nu al in wetgeving.
Volgens Gogia lossen zelfs goede regels mogelijk niet alle problemen op voor grote bedrijven. Tests die vooral gaan over “catastrofaal risico” kunnen volgens hem onvoldoende zijn om problemen met privacy, betrouwbaarheid en aansprakelijkheid in de praktijk te voorkomen. Een model kan dus “veilig genoeg” lijken in de grote risicotests, maar toch falen in wat bedrijven dagelijks nodig hebben.
Een voormalige cybersecuritydirecteur van Walmart vindt het voorstel bovendien goed bedoeld, maar zegt dat het onderwerp sterk gepolariseerd is en dat commerciële belangen nu veel politieke invloed hebben. Daarnaast waarschuwt hij: als een standaard alleen in de VS echt telt, maar niet wereldwijd wordt erkend of gehandhaafd, dan bereiken die regels hun doel niet en worden Amerikaanse bedrijven mogelijk benadeeld.
Ook IT-consultant Aman Mahapatra zegt dat hij denkt dat een vergelijkbaar systeem als FINRA in de praktijk zal draaien op wat deelnemers belangrijk vinden. Als de bedrijven die gereguleerd worden ook de belangrijkste schrijvers van de regels zijn, dan zullen die regels volgens hem te veel op hun belangen leunen. Hij waarschuwt dat AI-standaardisatie bovendien veel sneller gaat dan de meeste sectoren ooit hebben geprobeerd, waardoor onafhankelijke controle juist onder druk komt.
Tegenstander Carmi Levy is nog scherper. Hij vergelijkt zelftoezicht met “vossen die op kippen moeten passen” en stelt dat het eerder niet werkte en ook niet zal werken. Volgens haar is het plan vooral een routekaart die past bij bedrijven die zo snel mogelijk willen doorgaan, ook als er schade ontstaat. En hij zegt dat het onmogelijk is om de bredere maatschappelijke gevolgen goed in te schatten als zelfregulering de standaard wordt.
Voorstanders: dit kan juist wél werken
Tegenover de kritiek staat Yuri Goryunov (Acceligence), die het voorstel juist enthousiast ondersteunt. Hij zegt dat zelfregulering vooral kans van slagen heeft als iedereen die deelneemt ook dezelfde “echte” nadelen voelt bij fouten of misbruik. Als schade elders belandt (zoals bij contentmoderatie op sociale media), dan is zelfregulering volgens hem juist minder betrouwbaar.
Als voorbeeld noemt hij niet FINRA, maar de kernenergiesector. Na de ramp met een gedeeltelijk gesmolten kernreactor bij Three Mile Island werd het INPO opgericht. Daarin gebeuren peerreviews, beïnvloeden evaluaties verzekeringskosten en bestaat er een laag die dicht tegen regelgeving aan zit. Het idee: als er bij één installatie iets groots misgaat, moeten anderen ook beter opletten. Volgens Goryunov is AI vergelijkbaar: een grote fout bij één partij kan uiteindelijk bij iedereen leiden tot extra controle en strengere eisen.
Voor enterprise-IT-leiders ziet hij vooral voordelen. Bedrijven doen vandaag veel beveiligings- en risicotests, maar vaak is het allemaal verspreid en zonder dezelfde informatie die een onafhankelijke partij kan verzamelen. Een duidelijke standaardenregeling kan volgens hem risico’s omzetten in iets dat je kunt vergelijken, inkopen en aantonen — met een soort “bewijsvoering” richting bestuur en audits.
Mahapatra nuanceert dat: volgens hem is het alternatief niet per se slimme wetgeving. Het kan ook betekenen dat er helemaal geen duidelijke standaarden komen, of dat elk land/staat zijn eigen regels maakt, of dat toezicht vooral pas achteraf komt als er al schade is gebeurd.
Daarom zegt hij dat Hassabis’ punt klopt: snelle, niet-perfecte standaarden kunnen soms beter zijn dan trage, perfecte. Hij noemt onderwerpen zoals agent-identiteit, testmethoden en interoperabiliteit als gebieden waar zulke standaarden waardevol kunnen zijn.
