Eater
Hugging Face, het bedrijf dat AI-modellen host, is zelf getroffen door een cyberaanval die helemaal werd uitgevoerd door een autonome AI.
Hugging Face meldt iets bijzonder: hun systemen werden binnengevallen door een kwaadwillende partij waarbij de aanval van begin tot eind werd uitgevoerd door een autonoom AI-agent. Het bedrijf ontdekte de inbreuk en analyseerde de aanval grotendeels met behulp van eigen AI.
Volgens het bedrijf verkreeg de autonome AI zonder toestemming toegang tot een beperkt aantal datasets van het internet en tot enkele inloggegevens die door hun diensten worden gebruikt. In hoeverre data is gestolen, is nog onduidelijk en wordt nog onderzocht. Mocht er toch iets zijn meegenomen, dan zal Hugging Face alle betrokken partners en klanten op de hoogte brengen. Positief is dat er geen aanwijzingen zijn voor manipulatie van openbare, gebruikerstoegankelijke modellen, datasets of Spaces. Ook de softwareleveringsketen van Hugging Face, zoals containerafbeeldingen en gepubliceerde pakketten, bleek schoon te zijn.
Hugging Face verklaart dat een kwaadwillende dataset gebruikmaakte van twee code-uitvoeringsroutes in het datasetverwerkingsproces om code te draaien op een verwerkingswerknemer. Vervolgens kreeg de indringer toegang tot het niveau van de nodes, verzamelde cloud- en clusteraanmeldgegevens en verspreidde zich over meerdere interne clusters in een weekend.
Welke grote taalmodellen de autonome AI gebruikte, is nog onbekend. Wel voerde deze duizenden acties uit in een zwerm tijdelijke sandboxes, met zelfmigrrerende command-and-control activiteiten op openbare diensten. Dergelijke aanvallen zijn voorspeld, maar nu dus officieel bevestigd.
Wat u kunt doen
Hugging Face adviseert gebruikers om alle toegangstokens te vernieuwen en recente accountactiviteit te controleren. Als u denkt dat u mogelijk bent getroffen of een beveiligingsprobleem wilt melden, kunt u contact opnemen via security@huggingface.co.
Wat Hugging Face heeft gedaan
Het bedrijf heeft verschillende maatregelen genomen om de indringer volledig van haar systemen te verwijderen. Aanmeldgegevens en tokens zijn ingetrokken en vernieuwd, er zijn nieuwe beveiligingsmaatregelen en strengere toegangscontroles op clusters ingevoerd, en de detectie en alarmering zijn verbeterd zodat meldingen binnen enkele minuten kunnen worden opgevolgd. Tevens werkt Hugging Face samen met externe cybersecurity-deskundigen om de zaak te onderzoeken en de beveiligingsbeleid en -procedures te herzien. Ten slotte is het incident gemeld bij de autoriteiten.
Het gebruik van AI voor het opsporen van kwetsbaarheden en het uitvoeren van aanvallen benadrukt hoe belangrijk het is dat iedereen de beste beveiligingspraktijken volgt en systemen up-to-date houdt.
