Eater
OpenAI heeft woensdag (09-09-2026) gezegd dat het aandringt op verplichte nationale veiligheidsregels voor kunstmatige intelligentie in de Verenigde Staten. Het bedrijf maakt zich zorgen dat de technologie haar eigen ontwikkeling kan versnellen, nadat enkele van zijn AI-agenten zelfstandig waren gaan afwijken van hun taak.
Meerdere incidenten waarbij AI-modellen van ontwikkelaars, waaronder OpenAI, tijdens tests toegang kregen tot externe systemen, hebben laten zien hoe moeilijk het is om onverwacht gedrag van geavanceerde agents onder controle te houden. Daardoor klinkt de oproep steeds luider voor strengere veiligheidsregels.
OpenAI Chief Global Affairs Officer Chris Lehane zei in een blogpost:
“Het vooruitzicht van AI-gestuurde AI-ontwikkeling vraagt om meer dan vrijwillige beloften. De Verenigde Staten hebben verplichte, op mogelijkheden gebaseerde nationale regelgeving nodig die kan meegroeien met de technologie.”
Met die oproep zet OpenAI een belangrijke stap richting bindende nationale AI-veiligheidsregels. Het Amerikaanse Congres heeft nog altijd geen federaal kader voor AI-wetgeving aangenomen, terwijl verschillende Amerikaanse staten al wel eigen wetgeving invoeren.
De AI-gigant en concurrent Anthropic bereiden zich intussen voor op een beursgang, nu kunstmatige intelligentie zich razendsnel ontwikkelt tot hét investeringsthema van dit decennium.
OpenAI roept het Congres op om nationale AI-veiligheidseisen op basis van mogelijkheden vast te stellen. Daarbij gaat het onder meer om testnormen, onafhankelijke beoordelingen, cyberbeveiligingsmaatregelen en meldingsregels voor incidenten bij de meest geavanceerde AI-systemen.
De maker van ChatGPT dringt erop aan dat het Congres nog vóór het reces in actie komt. Tot die tijd zal OpenAI staatswetgeving over AI blijven steunen. Het Congres moet in december met reces gaan.
Volledig autonome, zichzelf verbeterende AI — waarbij AI zelfstandig opereert en de volgende generaties AI zou aansturen — “bestaat vandaag niet” en “moeten we niet nastreven, tenzij en totdat het veilig kan worden gedaan”, aldus OpenAI.
STEUN VOOR WETSONTWERPEN IN CALIFORNIË
OpenAI steunt vier Californische wetsvoorstellen die AI-regels voor de staat invoeren.
Gouverneur Gavin Newsom ondertekende woensdag SB 813 en AB 1405, die een kader creëren voor onafhankelijke beoordeling door derden en audits van AI-systemen.
De andere twee voorstellen, AB 1864 en SB 1119, gaan respectievelijk over beveiligingscontroles tegen biologische dreigingen mogelijk gemaakt door AI en over bescherming van kinderen bij chatbots.
“Een aantal van deze wetsvoorstellen hebben we in het verleden niet gesteund, maar we steunen ze nu na heroverweging in het licht van de recente sprong in mogelijkheden die we hebben gezien”, aldus de AI-gigant in zijn blogpost.
De verklaring van OpenAI volgt op een Reuters-bericht waaruit bleek dat de AI-agenten van het bedrijf eerder dit jaar meer dan tien eerder niet-openbaar gemaakte websites gebruikten voor ongeoorloofde communicatie. Dat laat zien dat het wangedrag van de agenten verder reikte dan eerder bekend was.
Ook kaapten OpenAI-agenten dit voorjaar een Duitse website en veranderden die in een prikbord voor andere AI-agenten. Functionarissen van het bedrijf hadden daar weken eerder al van gehoord, maar hielden het buiten de publiciteit.
Anthropic maakte woensdag zijn vierde geval bekend van een AI-model dat tijdens tests externe systemen wist te hacken. Daarmee volgde het op een aankondiging in juli dat sommige Claude-modellen tijdens cybersecuritytests de systemen van drie bedrijven hadden gehackt.
OpenAI zei dat eventuele industrienormen om AI te monitoren ook buiten de grenzen van de Verenigde Staten moeten gelden.
“De Verenigde Staten moeten thuis geloofwaardige normen vaststellen als het internationaal leiding wil geven — en we raken er steeds meer van overtuigd dat compatibele internationale normen noodzakelijk zullen zijn”, aldus het AI-bedrijf.
Blackwell
