Eater
NVIDIA en oprichters vormen een nieuwe alliantie om open tools te ontwikkelen en delen die verantwoordelijk gebruik van en vertrouwen in AI bevorderen.
Open source software is een essentiële pijler van de wereldeconomie. Het ondersteunt cloud computing, financiële diensten, productie, telecommunicatie, overheid en internetdiensten door technologie toegankelijk en inzichtelijk te maken voor expertgemeenschappen.
Cyberbeveiliging is een van de grootste profiteurs van open source software. De Open Secure AI Alliance — voortbouwend op de leiding van de Linux Foundation’s Akrites-initiatief en de OpenSSF-gemeenschap — werkt aan het verhelpen en openbaar maken van kwetsbaarheden met open technologieën.
Net zoals open source een gedeelde basis voor software heeft gecreëerd, staat de VS en zijn partners nu voor een keuze in AI-beveiliging: worden de verdedigingssystemen die onze infrastructuur beschermen ingebouwd in enkele gesloten systemen, of gebouwd op open modellen, tools en omgevingen die elke verdedigingsspecialist kan bestuderen, aanpassen en inzetten?
De wereld heeft zowel gesloten als open modellen nodig. Voor cyberbeveiliging zijn open modellen en tools onmisbaar omdat ze verdedigingsmogelijkheden democratiseren, de transparantie voor verdedigingsspecialisten vergroten, cyberverdediging mogelijk maken zonder data te schenden, en gesloten geavanceerde modellen aanvullen met aanpasbare, lokale controles. Open source maakt massaal gedistribueerde, door de gemeenschap aangestuurde zelfverdediging mogelijk — zonder single point of failure.
Open modellen kunnen, zoals elke krachtige technologie, worden misbruikt — bijvoorbeeld om beveiligingen te verzwakken of voor cyberaanvallen — maar die risico’s zijn niet exclusief voor open systemen en moeten overal waar geavanceerde AI wordt ingezet beheerd worden.
Het recente beveiligingsincident bij Hugging Face herinnert duidelijk: cyberverdedigers hebben open, geavanceerde agent-gebaseerde systemen nodig voor zelfverdediging. Toen gesloten AI-tools — die aanvallers en verdedigers niet konden onderscheiden — essentiële forensische analyses blokkeerden, draaide Hugging Face de open GLM 5.2-model op eigen infrastructuur en analyseerde zo meer dan 17.000 acties om de inbraak in te dammen.
Dit incident toont een praktische waarheid: als verdedigers geavanceerde AI niet kunnen inspecteren, aanpassen en zelf draaien, wordt hun reactievermogen beperkt juist op het moment dat snelheid het belangrijkst is. Bedrijven en landen hebben open geavanceerde verdedigingsmiddelen nodig om beveiligingssystemen ecosysteembreed te bouwen en single points of failure te vermijden.
Dat is de missie van de Open Secure AI Alliance: ervoor zorgen dat verdedigers overal open geavanceerde tools hebben die ze kunnen vertrouwen en controleren.
Leiders uit cloud computing, cyberbeveiliging, bedrijfssoftware, open source-stichtingen en AI-onderzoek — waaronder NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, de Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab en TrendAI — zijn de eerste partners in de Open Secure AI Alliance, een beweging om open technologieën, technieken en tools te ontwikkelen en te delen ter bescherming van software en agenten in het AI-tijdperk.
Sommigen menen dat open modellen van nature minder veilig zijn omdat ze kunnen worden misbruikt voor cyberaanvallen of aangepast om beveiligingen te verwijderen. Die risico’s zijn reëel, maar verdwijnen niet in gesloten systemen; alleen het sluiten van modelgewichten voorkomt niet dat vastberaden aanvallers krachtige AI zoeken of misbruiken.
De juiste reactie is niet om verdedigers toegang tot capabele open systemen te ontzeggen. Het is om openheid te combineren met sterke beveiligingen, duidelijke regels tegen kwaadwillig gebruik, grondige evaluatie en snelle oplossingen. In cyberbeveiliging is de veiligste weg die waarbij meer verdedigers systemen kunnen testen, verifiëren en versterken waarop de maatschappij vertrouwt.
Verdedigers hebben zowel geavanceerde gesloten als geavanceerde open modellen nodig, die samenwerken, zodat ze het juiste systeem kunnen kiezen voor de taak en ervoor kunnen zorgen dat transparantie, aanpassing en soevereine controle beschikbaar zijn waar de veiligheid dat vereist.
Open Onderzoek Versterkt Cyberbeveiliging en AI Veiligheid
Een AI-agent is niet slechts een taalmodeled. Het is een complex systeem opgebouwd uit modellen, omgevingen en beveiligingen.
Echte AI-veiligheid en -beveiliging hangen af van de volledige agentenstack — identiteit, toegangsrechten, omgevingen, beveiligingen, logs en evaluatie — en niet alleen van de vraag of modelgewichten open of gesloten zijn. Open omgevingen en tools maken die controles makkelijker inspecteerbaar, testbaar en verbeterbaar voor veel verdedigers.
NVIDIA draagt open modellen, modelgewichten, data en nieuw agent-omgevingonderzoek bij aan de Open Secure AI Alliance om de ontwikkeling van nieuwe cybersecurity-tools en technieken te versnellen.
Het nieuwe open source NVIDIA Labs Object-Oriented Agent (NOOA) project is beschikbaar op GitHub om geavanceerde AI-veiligheidsmogelijkheden beter beschikbaar te maken voor agent-omgevingen. Het NOOA onderzoeksraamwerk maakt integratie van omgevingen en modellen beter zodat agentgedrag makkelijker getest, getraceerd, gecontroleerd en beheerst kan worden.
Binnen de Alliance bouwen bijdragers aan een open verdedigingsstack voor agenten — van identiteit en isolatie tot veilige modelvormen, multi-model scanning en veilige codeerworkflows.
HPE levert een bijdrage aan SPIFFE/SPIRE, dat zero-trust identiteitstandaarden en methoden ontwikkelt om AI-agenten en -diensten cryptografisch te verifiëren zodat alleen geautoriseerde workloads communiceren en toegang krijgen tot bedrijfsbronnen.
Hugging Face heeft Safetensors aangeboden — een veilig formaat voor opslag van AI-modelgewichten, dat transparantie en garanties biedt tegen remote code execution — aan de PyTorch Foundation.
IBM en Red Hat’s Lightwell breiden beveiliging uit over de open source-leveringsketen met digitaal ondertekende patches.
Microsoft’s MDASH multi-model agent scanning omgeving coördineert gespecialiseerde AI-agenten om kwetsbare bugs te ontdekken, bediscussiëren en bewijzen.
SpaceXAI heeft de Grok Build terminal-gebaseerde AI-codeeragent open source gemaakt om vertrouwen, transparantie en nieuwe mogelijkheden te bevorderen, en plant de weights van de Grok-modelreeks open source te maken ter ondersteuning van ontwikkelaars en onderzoekers.
Oproep aan Beleidsmakers en Regelgevers
Terwijl beleidsmakers en regelgevers worstelen met AI-veiligheid, is het cruciaal open modellen, omgevingen en beveiligingstools te erkennen als verdedigingsmiddelen en niet als risico’s binnen AI- en cyberbeleid. Totale beperkingen op open geavanceerde AI-systemen zouden de verdedigingscapaciteit verzwakken en het risico vergroten dat macht, afhankelijkheid en kwetsbaarheid geconcentreerd raken bij enkele gesloten aanbieders.
Bedrijven en overheden moeten investeren in gedeelde open infrastructuur voor AI-verdediging — datasets, evaluatiekaders, aanvalssimulatoren en red-teamtools — zoals vroegere generaties in open source software investeerden.
De Toekomst die We Moeten Bouwen
Het tijdperk van AI-agenten kan een tijdperk van veerkracht en gedeelde veiligheid zijn. Met de juiste keuzes kunnen open veilige AI-systemen verdedigers de benodigde tools geven, concurrentie versterken, technologische leiderschap uitbreiden en ervoor zorgen dat de veiligheid van deze bijzondere technologie open en voor iedereen wordt opgebouwd.
Die toekomst wordt niet veilig gesteld door te denken dat geheimhouding alleen al veiligheid brengt. Ze wordt veilig gesteld door systemen te bouwen die sterk genoeg zijn om scrutinie te doorstaan, flexibel genoeg om verbeterd te worden en open genoeg om de volledige gemeenschap van verdedigers te mobiliseren.
Die toekomst is de moeite waard om te bouwen — en de Open Secure AI Alliance nodigt overheden, industrie en onderzoekers uit om samen de AI-tijd te verdedigen.
