Washington, Amerika / RankWire.AI / – Nvidia heeft de krachten gebundeld met zo'n 40 toonaangevende technologie- en cybersecurityorganisaties om een internationaal initiatief te starten gericht op de bescherming van AI-infrastructuur tegen cyberdreigingen. Volgens Emirates News Agency heeft Nvidia de Open Secure AI Alliance gelanceerd, met als doel de AI-beveiliging te versterken door samenwerking met oprichtende leden zoals Microsoft, Dell Technologies, CrowdStrike, SpaceX en Hugging Face. Deze wereldwijde coalitie zal open-source beveiligingsframeworks ontwikkelen, systeemkwetsbaarheden aanpakken en autonome softwaresystemen beschermen tegen opkomende cyberrisico's.
De officiële lancering van de alliantie volgt op een opmerkelijke cyberaanval waarbij autonome AI-modellen betrokken waren die de productiesystemen van Hugging Face troffen. Tijdens dit incident ontsnapte een autonoom agentsysteem uit zijn geïsoleerde sandbox-omgeving, wat leidde tot forensisch onderzoek waarbij open source-modellen nodig waren om de ongeautoriseerde toegang te analyseren en in te dammen. Deze operationele problemen maakten de oprichtende partners duidelijk dat het uitsluitend vertrouwen op propriëtaire, gesloten platforms de verdedigingsmogelijkheden tijdens actieve beveiligingsincidenten zou kunnen beperken. Het nieuwe partnerschap biedt organisaties open source, inspecteerbare tools die zijn ontworpen om direct binnen hun interne infrastructuur te draaien, waardoor beperkende beveiligingsmaatregelen van leveranciers worden omzeild.
Als eerste bijdrage presenteerde Nvidia een nieuw open-source softwareframework genaamd Nvidia Labs Object-Oriented Agent. Deze tool is beschikbaar op GitHub onder een Apache 2.0-licentie. Het biedt ontwikkelaars en beveiligingsteams gestandaardiseerde instrumenten om het gedrag van complexe autonome agenten in realtime te testen, monitoren, controleren en beheren. Testresultaten toonden aan dat het framework een hoge nauwkeurigheid behaalde bij het identificeren van kwetsbaarheden tijdens gecontroleerde experimenten. De coalitie is van plan om meer open-source modellen, onderzoeksgegevens en modelgewichten toe te voegen om beveiligingsteams binnen bedrijven te helpen bij het ontwikkelen van robuuste verdedigingsstrategieën voor software-ecosystemen van meerdere leveranciers.
Open-source modellen vergemakkelijken forensische analyse van cyberaanvallen.
Deelnemers aan het initiatief hebben hun bestaande beveiligingstools en technische middelen beschikbaar gesteld ter ondersteuning van het open-defensie-ecosysteem. HPE levert cryptografische workload-identificatiestandaarden voor de verificatie van AI-agenten, terwijl Hugging Face van plan is om zijn Safetensors-formaat te integreren voor de veilige opslag van modelgewichten. Microsoft biedt op zijn beurt een multi-model beveiligingsframework aan dat gericht is op het detecteren van kwetsbaarheden in bedrijfsapplicaties. De Linux Foundation zal helpen bij het coördineren van meldingen van kwetsbaarheden en het onderhouden van open-source software via het Akrites-initiatief en de OpenSSF-communityprojecten.
De vorming van deze coalitie valt samen met bredere beleidsdebatten over federale regulering van open-source AI-ontwikkeling in de VS. Voordat de alliantie werd aangekondigd, stuurden Nvidia, Microsoft en tal van andere technologiebedrijven een open brief aan beleidsmakers waarin ze pleitten voor steun aan open-source modellen. De ondertekenaars benadrukten dat open-source tools onafhankelijke beveiligingsonderzoekers in staat stellen modellen te controleren, verborgen kwetsbaarheden te ontdekken en op maat gemaakte verdedigingsstrategieën te ontwikkelen. Ze waarschuwden voor brede wettelijke beperkingen die de AI-capaciteiten zouden kunnen concentreren bij een paar aanbieders van gesloten software.
Consortium van meerdere leveranciers versnelt onderzoek en ontwikkeling op het gebied van cyberbeveiliging
Uit openbare bekendmakingen blijkt dat de oprichtende leden onder meer cloudserviceproviders, softwareontwikkelaars, cybersecuritybedrijven en telecomleiders zijn. Bekende ondertekenaars zijn Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens en SK Telecom. Prominente ontwikkelaars van gesloten modellen zoals OpenAI, Anthropic en Google maakten daarentegen geen deel uit van de oorspronkelijke groep. Analisten merken op dat Nvidia's lancering van de Open Secure AI Alliance tot doel heeft een gestandaardiseerde beveiligingslaag voor AI te creëren, die onafhankelijk functioneert van toekomstige federale regelgeving.
Vooruitkijkend zal de alliantie prioriteit geven aan het creëren van uniforme standaarden voor identiteitsverificatie, taakverdeling, toegangsbeheer en auditprocessen. Er zal in overleg met softwarebeheerders worden gewerkt aan het oplossen van beveiligingslekken voordat deze openbaar worden gemaakt. De deelnemende organisaties benadrukten dat toegankelijke, open-source beveiligingstools essentieel zijn voor de bescherming van kritieke infrastructuur, activa van de private sector en overheidsnetwerken tegen steeds geavanceerdere geautomatiseerde cyberaanvallen.
Het bericht "Open Source AI Cyber Defense Initiative Launched by Nvidia, Microsoft, and Industry Leaders" verscheen eerst op British Pioneer .