Eater
Anthropic vecht het besluit van de Amerikaanse overheid aan dat buitenlandse staatsburgers beperkt in het gebruik van Claude Fable 5. Daarbij krijgt het bedrijf steun van veel cybersecurityprofessionals en experts op het gebied van exportcontrole.
Het bedrijf sprak deze week in Washington met functionarissen van het Witte Huis om te proberen de maatregelen die vrijdag werden aangekondigd terug te draaien of te beperken.
Na het besluit schakelde Anthropic Fable 5 volledig uit. Het bedrijf zei dat het in realtime moeilijk is om niet-Amerikaanse gebruikers te filteren. Anthropic werkt nu samen met de overheid aan een oplossing.
Achtergrond: waarom cyberexperts Anthropic steunen
Anthropic bracht Fable 5 uit als een consumentenversie van zijn Mythos-modelarchitectuur, met beveiligingen om gevoelige vragen over cybersecurity, biologie en chemie te blokkeren.
Het model was tijdelijk gratis beschikbaar voor Pro-, Max- en Enterprise-gebruikers tot en met 22 juni.
Zorgen over mogelijke jailbreak-kwetsbaarheden kwamen naar voren door het cybersecurityonderzoeksteam van Amazon.
De kwestie werd door de CEO van Amazon voorgelegd aan het Witte Huis, waarna de Amerikaanse overheid beperkingen oplegde aan buitenlandse toegang tot het model. Daarop haalde Anthropic Fable 5 offline voor alle gebruikers.
Dit is niet de eerste keer dat Anthropic botst met de Amerikaanse overheid. In maart bestempelde het Pentagon Anthropic als een risico voor de toeleveringsketen en beval het federale agentschappen te stoppen met het gebruik van de modellen, nadat het bedrijf weigerde zijn producten in te zetten voor autonome wapens of massale binnenlandse surveillance.
Een federale rechter heeft bepaald dat het bevel van het Pentagon niet mag worden gehandhaafd zolang de rechtszaak van Anthropic tegen die aanwijzing loopt.
Tientallen cybersecurityleiders hebben een open brief ondertekend waarin zij de Amerikaanse overheid oproepen de beperkingen op Fable 5 op te heffen. In de brief staat dat Anthropic “meerdere beveiligingslagen in het Fable-model heeft ingebouwd om gebruik voor offensieve cyberdoeleinden te voorkomen.”
De ondertekenaars stellen dat de door functionarissen van het Witte Huis genoemde jailbreaktechniek ook geldt voor andere publiek beschikbare modellen. Volgens hen lost een beperking specifiek voor Fable 5 dus het kernprobleem niet op.
De brief waarschuwt dat het wegvallen van een model dat zo geschikt is voor cybersecuritytaken, “terwijl de tegenstanders van de VS snel vooruitgang boeken, gevaarlijk is.”
Ook experts op het gebied van exportcontrole vragen zich af of de Amerikaanse overheid wel de wettelijke bevoegdheid heeft om de beperkingen in hun huidige vorm op te leggen. Hun bezwaren voegen een juridisch aspect toe aan een conflict dat inmiddels draait om technische, veiligheids- en regelgevingsvragen.
Standpunt van de Amerikaanse overheid over Fable 5 tot nu toe
De Amerikaanse overheid heeft nog niet publiekelijk uitgelegd welke specifieke zorgen aan de beperkingen ten grondslag liggen. Reuters meldt dat ambtenaren van Anthropic willen horen dat het model niet zal worden gebruikt om Amerikaanse burgers schade te berokkenen.
Minister van Handel Howard Lutnick nam deel aan de gesprekken en wordt verwacht de besprekingen met Anthropic-topman Dario Amodei voort te zetten tijdens de G7-top in Frankrijk. Ook nationaal cyberdirecteur Sean Cairncross was aanwezig bij de gesprekken.
De eerdere beoordeling van de genoemde jailbreak wees volgens Anthropic uit dat er slechts een klein aantal geringe kwetsbaarheden werd gevonden. Die zijn al bekend en zouden ook met andere publiek beschikbare modellen ontdekt kunnen worden, zonder omzeilingstechnieken.
Wat deze opschorting betekent voor gebruikers en waarom deze zaak belangrijk is
Fable 5 en Mythos 5 zijn momenteel voor alle gebruikers offline zolang de onderhandelingen doorgaan. Anthropic heeft nog geen indicatie gegeven wanneer de modellen weer beschikbaar komen.
Gebruikers van Pro, Max en Enterprise die Fable 5 tijdens de gratis proefperiode hebben geactiveerd, hebben op dit moment geen toegang tot de dienst. Andere Claude-modellen, zoals Opus 4.8, blijven wel beschikbaar en vallen niet onder deze beperkingen.
Het geschil groeit uit tot een belangrijk voorbeeld van hoe streng overheden geavanceerde AI-systemen mogelijk gaan reguleren. De uitkomst kan bepalen hoe AI-bedrijven in de toekomst omgaan met exportcontrole, veiligheidscontroles en verzoeken van de overheid om toegang.
Het kan ook duidelijk maken of zorgen over nationale veiligheid leiden tot beperkingen op productniveau of tot bredere regelgeving voor de hele sector.
Anthropic heeft nog geen tijdlijn gegeven voor wanneer Fable 5 weer beschikbaar kan zijn. De komende G7-top in Frankrijk kan de volgende publieke update over de onderhandelingen opleveren.
