Nvidia lanserar säkerhetsplattform för AI-agenter efter flera incidenter
Nvidia har presenterat en ny plattform för att hjälpa företag utveckla och rulla ut autonoma AI-agenter på ett tryggare och mer ansvarsfullt sätt. Den nya lösningen ska skydda verksamheter mot vanliga AI-risker och förhindra autonoma AI-agenter från att orsaka skada.
Av Redaktionen

Säkerhetskontroller separeras från AI-modellen
Efter den senaste tidens uppmärksammade incidenter med AI-agenter tar nu chippjätten Nvidia ett stort säkerhetskliv med lanseringen av sin nya Open Agent Safety Platform. Enligt Nvidias vd, Jensen Huang, kommer AI:s enorma potential för samhället bara att kunna realiseras om branschen först löser säkerhetsfrågorna kring tekniken.
Nvidias nya plattform kombinerar mjukvarukontroller med hårdvarubaserade säkerhetsfunktioner, vilket gör det möjligt att övervaka, sätta i karantän och helt stoppa autonoma AI-agenter på bara några millisekunder. Huvudsyftet är att förhindra att AI-agenter bryter sig ur sina testmiljöer eller får obehörig åtkomst till filer, nätverk och kritiska system.
Ett centralt verktyg i plattformen är Sentry, som bland annat inspekterar agenters förfrågningar och svar. Det verifierar även identiteter och upprätthåller zero-trust-principer för åtkomst till data eller API:er. Systemet är byggt ovanpå Nvidias DOCA-mjukvara och BlueField-processorer används för att säkerställa att nätverksreglerna följs.
Nvidia understryker att när AI-agenter får tillgång till fler system måste säkerhetskontrollerna ligga utanför själva agenten. Det hindrar systemen från att manipuleras av den mjukvara de är avsedda att övervaka.
Ett branschövergripande initiativ
Behovet av standardiserade säkerhetsverktyg är avgörande för nästa fas av AI-adoption. Nvidia har därför samlat flera tunga branschaktörer kring sin nya plattform, bland annat Anthropic, Microsoft, Cisco, CrowdStrike och Palantir. Målet är att höja ribban för global AI-säkerhet genom att dela bästa praxis och anpassa internationella utvärderingsmetoder.
Oprövad teknik för en ny hotbild
Nvidias nya system är designat för att hantera och begränsa skenande AI-agenter i en tid då företag tävlar om att säkra allt mer autonoma system. Trots de tunga branschaktörerna som står bakom plattformen är tekniken i sig ännu inte bevisad. När företag framöver rullar ut agenter som på egen hand ska utföra uppgifter och integrera mot affärskritiska miljöer återstår det att se hur väl plattformens externa säkerhetskontroller faktiskt fungerar.