Eater
AI-model van Anthropic brengt cyberveiligheid in gevaar
Deze week klonken er klinkende alarmbellen vanuit Washington. Scott Bessent, de Amerikaanse minister van Financiën, en Jerome Powell, voorzitter van de Federal Reserve, organiseerden een spoedbijeenkomst met de CEO’s van ’s lands grootste banken. De reden? Een nieuwe en krachtige dreiging vanuit de wereld van kunstmatige intelligentie.
Het AI-bedrijf Anthropic, bekend van de chatbot Claude, heeft onlangs een geavanceerd model geïntroduceerd: Claude Mythos. Dit model blinkt uit in het detecteren van kwetsbaarheden in software, zo krachtig dat het volgens de makers bijna elke menselijke cybersecurity-expert overtreft. Hoewel deze doorbraak indrukwekkend is, brengt hij ook grote risico’s met zich mee. Anthropic besloot daarom de brede uitrol van Mythos uit te stellen uit angst dat het model onbekende beveiligingslekken zou blootleggen die kwaadwillenden kunnen exploiteren.
Cyberrisico’s onder een vergrootglas
De financiële sector behoort traditioneel tot de meest getargete industrieën als het gaat om cybercriminaliteit. Banken beheren enorme geldbedragen en hebben de persoonlijke gegevens van honderden miljoenen klanten in handen. De introductie van een AI-model dat zwakke plekken in beveiligingssystemen snel en nauwkeurig kan opsporen, kan het speelveld drastisch veranderen.
Volgens ingewijden voert Anthropic inmiddels intensieve gesprekken met Amerikaanse overheidsinstanties over de offensieve en defensieve cybercapaciteiten van hun model. Ook worden topfunctionarissen binnen de overheid en belangrijke spelers uit de industrie proactief geïnformeerd over de mogelijkheden en risico’s van Mythos.
De bijeenkomst in Washington: veiligheid voorop
De spoedvergadering, georganiseerd door het ministerie van Financiën, vond plaats op dinsdag in Washington D.C. en had als doel om de leidinggevenden van banken bewust te maken van de potentiële risico’s die AI-modellen zoals Mythos met zich meebrengen. Daarbij werd besproken welke maatregelen banken kunnen treffen om hun beveiliging te versterken tegen deze nieuwe dreigingen.
Aanwezig waren onder anderen de CEO’s van Citigroup, Morgan Stanley, Bank of America, Wells Fargo en Goldman Sachs. JPMorgan CEO Jamie Dimon kon niet aanwezig zijn, maar waarschuwde eerder al voor de toenemende risico’s van AI binnen de bankenwereld.
Het is nog onduidelijk welke concrete stappen de financiële sector gaat nemen om zich te wapenen tegen deze krachtige en snel evoluerende AI-technologie. Wel is duidelijk dat het onderwerp hoog op de agenda staat.
De toekomst van AI en cyberveiligheid
De komst van Claude Mythos illustreert de dubbele kant van kunstmatige intelligentie. Aan de ene kant biedt AI ongekende mogelijkheden om processen te verbeteren en veiligheidslekken sneller op te sporen dan ooit tevoren. Aan de andere kant brengt het ook nieuwe en complexe risico’s met zich mee die om zorgvuldige regulering en voorbereiding vragen.
De financiële sector, een cruciale pijler van onze economie, staat voor een onzekere toekomst. Het is daarom van essentieel belang dat banken, toezichthouders en AI-ontwikkelaars nauw blijven samenwerken om dit krachtige gereedschap op een veilige manier te benutten — voordat het te laat is.
Blackwell