Eater
De regering wil eerst de cyberbeveiligingsrisico’s van Amerikaanse AI-systemen beoordelen voordat deze worden gedeeld met Britse veiligheidstesters.
Het Witte Huis heeft OpenAI en Anthropic gevraagd om nieuwe AI-modellen voorlopig niet beschikbaar te stellen aan Britse veiligheidstesters, in afwachting van een Amerikaanse beoordeling, zo meldt Politico donderdag.
Volgens Reuters wil de regering eerst zeker weten dat Amerikaanse AI-systemen veilig zijn voordat modellen met partners worden gedeeld. Het Witte Huis, Anthropic en OpenAI reageerden niet op verzoeken van Reuters om commentaar.
De beslissing weerspiegelt de groeiende bezorgdheid binnen het Witte Huis over cybersecuritykwetsbaarheden in steeds krachtigere AI-modellen. Volgens Reuters gebeurt dat tegen de achtergrond van een reeks incidenten waarbij AI-systemen zonder toestemming toegang kregen tot echte computersystemen. Op woensdag maakten Australische functionarissen bekend dat een OpenAI-agent in juni in een overheidsportaal voor gezondheidsgegevens was binnengedrongen en zonder toestemming toegang had verkregen tot bestanden.
Beide bedrijven hebben eerder afzonderlijk alarm geslagen bij de Veiligheidsraad van de Verenigde Naties. Daarbij riepen zij regeringen op hun aanpak beter op elkaar af te stemmen om de risico’s van geavanceerde AI-systemen te beheersen, aldus Reuters.
Het verzoek voegt een nieuwe dimensie toe aan de bredere discussies binnen de AI-sector over veiligheid en internationale samenwerking. OpenAI, Anthropic en Google DeepMind — een dochteronderneming van Alphabet — voeren al enkele weken gesprekken over AI-veiligheid. OpenAI’s wereldwijde beleidschef Chris Lehane stelde daarbij dat er geen antitrustvrijstelling nodig is om samen te werken aan veiligheid. Anthropic-topman Dario Amodei had eerder een open brief gepubliceerd waarin hij AI-bedrijven en overheden opriep het tempo van de ontwikkeling van grensverleggende modellen te vertragen.
Senior vertegenwoordigers van Nvidia, OpenAI, Anthropic en Google DeepMind kwamen donderdag samen in Dumfries House in Schotland tijdens een top die werd georganiseerd door koning Charles III en die was gericht op AI-veiligheid en de maatschappelijke rol van de technologie. Ook de Britse AI-minister Kanishka Narayan was aanwezig. De bijeenkomst had als doel overeenstemming te bereiken over gemeenschappelijke leidende principes voor de ontwikkeling van AI.
