Eater
Anthropic heeft pogingen verijdeld om zijn Claude-modellen te gebruiken voor de ontwikkeling van biologische wapens en voor een vermoedelijke cyberspionagecampagne met Russische betrokkenheid tegen Oekraïne, aldus het AI-bedrijf in een rapport dat donderdag werd gepubliceerd.
In zijn nieuwste Threat Intelligence Report beschuldigt het bedrijf ook Chinese concurrenten van hackpogingen die erop gericht waren de mogelijkheden van Claude te ontfutselen. Het rapport documenteert kwaadaardig gebruik van de technologie in de afgelopen acht maanden.
Het groeiende aantal illegale hackpogingen door losgeslagen AI-agenten, samen met de zorgen van insiders uit de sector over de risico’s van de technologie, vergroot de druk op toonaangevende pioniers in dit vakgebied. Dat vergroot ook de kans op strengere regelgeving.
Twee onderzoekers van Anthropic waarschuwden deze week dat snel voortschrijdende kunstmatige intelligentie in de niet al te verre toekomst zelfs zou kunnen leiden tot het uitsterven van de mensheid.
RAKETTEN, DRONES EN BIOLOGISCHE WAPENS
In het rapport zegt Anthropic al langer bezorgd te zijn dat AI-modellen ooit het niveau van vermogen bereiken waarop zij kunnen helpen bestaande ziekteverwekkers gevaarlijker te maken of geheel nieuwe te creëren. Het bedrijf documenteerde vijf voorbeelden van wetenschappers die zijn modellen gebruikten op manieren die de ontwikkeling van biologische wapens zouden kunnen ondersteunen. In één geval gebruikte een onderzoeker in een door Anthropic niet ondersteunde regio infrastructuur van een virtual private server om toegang te krijgen tot Claude. Gedurende weken gebruikte hij het model om experimenten te plannen voor de aanpassing van vogelgriep aan zoogdieren.
Niet-ondersteunde regio’s van Anthropic omvatten onder meer landen als Rusland, China en Noord-Korea. Na het detecteren van dit misbruik blokkeerde Anthropic de betrokken accounts en verwerkte het bedrijf de bevindingen in zijn beveiligingsmaatregelen voor geavanceerde modellen, handhaving en threat-intelligenceprocessen. Anthropic noemde geen instellingen, de landen waar zij gevestigd zijn, of de specifieke biologische agentia en onderzoekstechnieken die betrokken waren.
Het bedrijf identificeerde ook wat het “nieuwe categorieën dreigingsactoren” noemde die Claude misbruikten. Daarbij ging het onder meer om het ontwikkelen van software voor conventionele wapens, waaronder vuurwapens, raketten, gewapende drones, bommen en andere munitie, evenals de systemen voor aansturing en doelbepaling die deze wapens gebruiken. Het rapport beschrijft incidenten waarbij gebruikers in China, Rusland en Jemen Claude inzetten om software te ontwikkelen voor wapendesign en -ontwikkeling, of om inlichtingen te verzamelen en aankopen te ondersteunen die verband hielden met wapenprogramma’s. Snelle verbeteringen in de modellen van Anthropic hebben nieuwe risico’s met zich meegebracht, vertelde Jacob Klein, hoofd threat intelligence van het bedrijf, aan Reuters.
“Een jaar geleden, stel dat je een drone wilde optimaliseren of de software op een raket wilde verbeteren: de modellen waren daar toen simpelweg nog niet zo goed in als nu,” zei hij.
RUSSISCHE HACKERS ZETTEN ANTHROPIC-AI IN TEGEN OEKRAÏENSE FUNCTIONARISSEN
Anthropic ontdekte dat cybercriminelen en door staten gesteunde hackers steeds vaker AI inzetten om grote delen van cyberaanvallen te plannen en uit te voeren, waarbij mensen vaak meer de rol van toezichthouder hebben dan van directe uitvoerder.
“Het gebruik van AI ging verder dan simpele vragen en antwoorden van een chatbot, maar betrof de inzet van multi-agent frameworks,” aldus het bedrijf.
Een hackersgroep zou phishing, het kapen van hotel-wifi en WhatsApp-overnameoperaties hebben uitgevoerd tegen doelwitten binnen de Oekraïense overheid, het leger en diplomatieke sectoren, waarbij AI in bijna elke fase werd gebruikt, aldus Anthropic.
De werkwijze van de groep kwam overeen met die van de in Rusland gevestigde dreigingsactor Midnight Blizzard, die de Amerikaanse overheid eerder aan Rusland’s buitenlandse inlichtingendienst SVR heeft gekoppeld.
De Russische ambassade in Washington reageerde niet onmiddellijk op een verzoek om commentaar.
De groep zou AI hebben gebruikt om een systeem te bouwen dat automatisch detecteerde wanneer malware door beveiligingsmaatregelen werd gemarkeerd en de code herschreef totdat deze detectie wist te ontwijken. Anthropic zei ook activiteit te hebben gedetecteerd en verstoord die verband hield met gelieerde partijen van de ShinyHunters-collectief, momenteel een van de meest productieve cybercriminele netwerken, dat in verband wordt gebracht met aanvallen op grote ondernemingen wereldwijd.
CHINESE AI-LABORATORIA VOEREN AANVALLEN UIT OM CAPACITEITEN VAN CLAUDE TE ONTTREKKEN
Anthropic zei aanvallen te hebben verstoord van zeven in China gevestigde laboratoria, waaronder Alibaba, Moonshot, DeepSeek en Xiaomi, gedurende de periode die het rapport bestrijkt.
Deze bedrijven reageerden niet onmiddellijk op een verzoek om commentaar.
Gebruikers die aan Alibaba werden gelinkt, voerden volgens Anthropic wat het bedrijf de grootste “ongeoorloofde distillatie”aanval noemde uit, vermoedelijk om de mogelijkheden van de Claude-modellen te ontfutselen en die te gebruiken om de Qwen-modellen van het Chinese technologiebedrijf te verbeteren.
Anthropic zegt meer dan 151 miljoen uitwisselingen te hebben waargenomen die het aan Alibaba toeschrijft tussen mei en juli 2026, met een piek van bijna 3 miljoen per dag vanaf meer dan 3.500 accounts die het bedrijf als frauduleus beschouwt.
Distillatie verwijst naar het trainen van kleinere AI-modellen met output van grotere, duurdere modellen, met als doel de kosten van het trainen van een nieuwe AI-toepassing te verlagen.
Bij ander misbruik van de technologie zei Anthropic dat de Kimi-chatbotmaker Moonshot en DeepSeek naar verluidt live klantgesprekken, die soms gevoelige informatie bevatten, via Claude lieten lopen en de reacties gebruikten als trainingsdata.
Het Chinese ministerie van Buitenlandse Zaken zei niet op de hoogte te zijn van het rapport van Anthropic en stelde dat de overheid vindt dat AI moet worden ontwikkeld voor het goede. Ook zei het ministerie zich te verzetten tegen verdraaiing van feiten en tegen laster over het land.
Blackwell
