Eater
Anthropic heeft per direct wereldwijd de toegang tot zijn onlangs gelanceerde modellen Claude Fable 5 en Mythos 5 opgeschort vanwege zorgen over de nationale veiligheid in de Verenigde Staten.
In april van dit jaar lanceerde Anthropic het frontiermodel Claude Mythos Preview, met geavanceerde cyber- en programmeermogelijkheden, voor een select aantal bedrijven wereldwijd. Na het treffen van passende beveiligingsmaatregelen bracht Anthropic eerder deze week Claude Fable 5 en Mythos 5 uit, de krachtigste AI-modellen van het bedrijf tot nu toe. Claude Fable 5 is bedoeld voor algemene gebruikers en bevat strikte veiligheidsmaatregelen, terwijl Mythos 5 met minder beperkingen is ontwikkeld voor toepassingen op het gebied van cybersecurity en biologie.
Vandaag heeft Anthropic abrupt de toegang tot de AI-modellen Fable 5 en Mythos 5 voor alle klanten opgeschort, nadat het een exportcontrolebevel van de Amerikaanse overheid had ontvangen. Het bedrijf kreeg die aanwijzing vandaag om 17.21 uur ET van de overheid. In de brief stonden geen details over de nationale veiligheidszorgen. Anthropic vermoedt dat de overheid op de hoogte is geraakt van een methode om Fable 5 te omzeilen, of te “jailbreaken”, en dat dit mogelijk de reden is voor het bevel.
Het bevel is uitgevaardigd op basis van nationale veiligheidsbevoegdheden en verplicht het bedrijf om alle toegang tot Fable 5 en Mythos 5 te blokkeren voor iedere buitenlandse nationaliteit, ongeacht of die persoon zich binnen of buiten de Verenigde Staten bevindt. De maatregel geldt ook voor werknemers met een buitenlandse nationaliteit die bij Anthropic werken. Daarom heeft het bedrijf beide modellen voor alle klanten uitgeschakeld om aan de regels te voldoen. De toegang tot eerdere Anthropic-modellen zoals Opus en Sonnet wordt door dit overheidsbevel niet beïnvloed.
Het bedrijf benadrukte dat het sterke beveiligingsmaatregelen had ontwikkeld om de kans te verkleinen dat Fable zou worden misbruikt voor cybergerelateerde taken. Veel ontwikkelaars klagen zelfs dat die maatregelen te streng zijn. Daarnaast werkte het bedrijf samen met de Amerikaanse overheid, de Britse AISI, meerdere private externe organisaties en interne teams om de beveiliging van Fable gedurende duizenden uren te testen op zwakke plekken. Tot slot meldde Anthropic dat geen enkele tester tot nu toe een universele jailbreak voor Fable 5 heeft weten te vinden.
Zoals verwacht is Anthropic het er niet mee eens dat een beperkte, mogelijke jailbreak moet leiden tot het intrekken van een commercieel model dat door honderden miljoenen mensen wordt gebruikt. Het bedrijf waarschuwde dat wanneer deze norm op de hele AI-sector wordt toegepast, de uitrol van nieuwe frontiermodellen feitelijk kan worden stilgelegd.
Anthropic besloot met de mededeling dat het werkt aan het zo snel mogelijk herstellen van de toegang tot Fable 5 en Mythos 5 en dat het binnen 24 uur meer details wil delen.
