Eater
De aan Noord-Korea gelieerde hackersgroep Kimsuky heeft een lokale AI-omgeving opgezet die kan helpen bij phishing, het analyseren van gestolen informatie en het automatiseren van onderdelen van cyberaanvallen.
Dat meldt het Zuid-Koreaanse cybersecuritybedrijf Genians, op basis van infrastructuur die volgens Reuters aan de groep kan worden gekoppeld. Onderzoekers troffen onder meer Ollama, GPT4All, Msty, de AI-programmeertool Cursor en technologie voor retrieval augmented generation aan, meestal afgekort tot RAG.
De bevindingen zijn niet onafhankelijk geverifieerd. Ze bewijzen ook niet dat Kimsuky al volledig autonome aanvallen met AI uitvoert. Wel laat het onderzoek zien dat statelijke hackers bestaande AI-software kunnen combineren tot een private werkomgeving waarop buitenlandse AI-aanbieders nauwelijks zicht hebben.
Waarom gebruikt Kimsuky lokale modellen?
Diensten zoals ChatGPT, Gemini en Claude draaien vooral op servers van de aanbieder. Een opdracht en eventueel geüploade informatie worden daarbij naar een extern platform gestuurd.
Voor een hackersgroep is dat riskant. De aanbieder kan verdachte opdrachten herkennen, accounts blokkeren en gegevens bewaren die later van belang kunnen zijn bij een onderzoek.
Lokale AI-modellen draaien op computers of servers die de gebruiker zelf beheert. Vertrouwelijke of gestolen informatie hoeft daardoor niet naar OpenAI, Google, Anthropic of een andere externe partij te worden verstuurd.
Ollama en GPT4All maken het relatief eenvoudig om beschikbare modellen lokaal uit te voeren. Msty biedt een interface waarmee gebruikers verschillende lokale en online modellen vanuit één omgeving kunnen beheren.
Daarvoor hoeft een groep niet zelf een taalmodel vanaf nul te trainen. Bestaande modellen kunnen worden gedownload en met aanvullende software worden aangepast aan een specifieke taak.
Dat verlaagt zowel de kosten als de technische drempel aanzienlijk.
RAG maakt gestolen documenten doorzoekbaar
Genians trof ook technologie aan voor retrieval augmented generation. Bij RAG wordt een taalmodel gekoppeld aan een afzonderlijke verzameling documenten.
Wanneer een gebruiker een vraag stelt, zoekt het systeem eerst relevante passages in die documenten. Het taalmodel gebruikt die informatie vervolgens om een antwoord te formuleren.
Bedrijven zetten RAG bijvoorbeeld in om medewerkers vragen te laten stellen over interne handleidingen, contracten of klantendossiers. Een hackersgroep kan dezelfde methode toepassen op buitgemaakte informatie.
Na een succesvolle aanval kan een organisatie duizenden bestanden verliezen. Het handmatig lezen en ordenen daarvan kost veel tijd. Met RAG kunnen aanvallers vragen stellen zoals: welke documenten wachtwoorden bevatten, welke medewerkers toegang hebben tot gevoelige systemen of welke bestanden waardevolle technische informatie bevatten.
Het AI-model hoeft die documenten daarbij niet al tijdens de oorspronkelijke training te hebben gezien. De informatie wordt op het moment van de vraag opgezocht en toegevoegd aan de context.
Dat maakt RAG bijzonder bruikbaar voor spionage en digitale diefstal.
Van eenvoudige phishing naar een complete gereedschapskist
Criminelen gebruiken generatieve AI al langer om phishingberichten te schrijven. Een model kan spelfouten verbeteren, een tekst vertalen of een bericht aanpassen aan de functie en achtergrond van een doelwit.
Volgens Genians gaat Kimsuky inmiddels verder. De gevonden verzameling software wijst op een bredere infrastructuur voor verschillende fasen van een cyberoperatie.
De systemen kunnen mogelijk worden gebruikt voor:
- het samenvatten en classificeren van gestolen documenten
- het schrijven van overtuigende phishingmails
- het maken van valse financiële en zakelijke documenten
- het analyseren van grote hoeveelheden buitgemaakte data
- het genereren of aanpassen van programmacode
- het omzetten van opgenomen gesprekken naar tekst
- het automatiseren van afzonderlijke aanvalsstappen
Genians vond ook documenten over investeringen, financiën en cryptovaluta die mogelijk met AI waren gemaakt. Zulke bestanden kunnen als lokaas worden verstuurd.
Een slachtoffer denkt dan bijvoorbeeld een investeringsrapport of zakelijk voorstel te ontvangen. Het bestand of een gekoppelde website probeert vervolgens inloggegevens te stelen of schadelijke software te installeren.
Wat is Kimsuky?
Kimsuky is een hackersgroep die door Amerikaanse en Zuid-Koreaanse autoriteiten in verband wordt gebracht met de Noord-Koreaanse overheid.
De groep richt zich vooral op digitale spionage. Doelwitten zijn onder meer overheden, denktanks, defensieorganisaties, journalisten en deskundigen die zich bezighouden met Noord-Korea.
Het Amerikaanse ministerie van Financiën legde Kimsuky in 2023 sancties op. Volgens het ministerie verzamelt de groep informatie die de strategische doelstellingen van de Noord-Koreaanse regering ondersteunt.
Andere Noord-Koreaanse groepen worden ook in verband gebracht met financiële diefstal en aanvallen op cryptobedrijven. De opbrengsten uit cybercriminaliteit zouden worden gebruikt om inkomsten te genereren voor de Noord-Koreaanse staat.
Noord-Korea ontkent regelmatig beschuldigingen over zijn betrokkenheid bij internationale cyberaanvallen.
Lokale AI is moeilijk centraal te stoppen
Grote AI-aanbieders kunnen maatregelen nemen tegen misbruik op hun eigen platform. Ze kunnen opdrachten controleren, gevaarlijke antwoorden blokkeren en accounts met verdacht gedrag afsluiten.
Bij lokaal uitgevoerde modellen ontbreken veel van die mogelijkheden. De oorspronkelijke ontwikkelaar heeft doorgaans geen direct zicht op wat een gebruiker met een gedownload model doet.
Dat betekent niet dat lokale AI op zichzelf gevaarlijk is. Bedrijven gebruiken lokale modellen juist om bedrijfsgeheimen, persoonsgegevens en andere vertrouwelijke informatie binnen hun eigen infrastructuur te houden.
Diezelfde privacyvoordelen zijn echter ook aantrekkelijk voor aanvallers. Een model dat geen gegevens naar een externe server stuurt, laat bovendien minder sporen achter bij een aanbieder die misbruik zou kunnen ontdekken.
Daarmee ontstaat een fundamentele spanning rond open en downloadbare AI. De technologie geeft bedrijven en ontwikkelaars meer controle, maar beperkt tegelijkertijd de mogelijkheid om misbruik centraal tegen te houden.
