(TNND) — Nvidia ha presentato lunedì una nuova piattaforma di sicurezza con l’obiettivo di mantenere gli agenti di intelligenza artificiale entro limiti definiti, man mano che le aziende conferiscono maggiore autonomia a questa tecnologia.
Piattaforma di Sicurezza degli Agenti Open di Nvidia
Il chipmaker ha dichiarato che la sua Open Agent Safety Platform è progettata per rafforzare la sicurezza dell’IA, dalla fase di testing fino al deployment, fornendo controlli su tutti i sistemi software e hardware che gestiscono gli agenti di intelligenza artificiale.
Incidenti di Sicurezza e Pressione sul Settore IA
Il lancio della piattaforma segue una serie di incidenti di sicurezza di alto profilo nell’ambito dell’IA, tra cui casi in cui gli agenti di OpenAI hanno hackato Hugging Face e la violazione di un sito web di un dipartimento sanitario australiano.
Prevenzione di Breaches con la Nuova Piattaforma
Dirigenti di Nvidia hanno affermato che la piattaforma avrebbe potuto prevenire la violazione di Hugging Face, che ha coinvolto un insieme di agenti OpenAI operanti in modo autonomo. “Da ciò che sappiamo, questa nuova piattaforma di sicurezza avrebbe potuto fermare la violazione se fosse stata utilizzata nei laboratori di frontiera per la valutazione dei modelli fin dall’inizio,” ha dichiarato Justin Boitano, vicepresidente dell’IA aziendale di Nvidia, durante un briefing stampa.
Pressione per Sistemi di IA Sicuri
Questi incidenti hanno aumentato la pressione sulle aziende di intelligenza artificiale per dimostrare che i sistemi sempre più autonomi possono essere controllati in modo sicuro. I leader di Anthropic e OpenAI hanno sollecitato un rallentamento coordinato nello sviluppo dell’IA per consentire alle misure di sicurezza di recuperare terreno, mentre il CEO di Nvidia, Jensen Huang, ha sostenuto che i rischi possono essere affrontati attraverso l’ingegneria.
Funzionalità di OpenShell e Sentry
Nvidia ha dichiarato che il suo software open-source OpenShell stabilisce un confine di runtime sicuro, tracciando le azioni degli agenti e imponendo limiti sui sistemi e sui dati ai quali possono accedere. Il software può anche essere esteso per funzionare con piattaforme di calcolo di terze parti, tra cui Arm e Intel.
Monitoraggio e Comportamento degli Agenti di IA
Un altro strumento, Nvidia Sentry, monitora continuamente il comportamento degli agenti e può mettere in quarantena un agente in millisecondi se tenta di oltrepassare il confine assegnato, ha dichiarato l’azienda.
Adattamento e Collaborazioni dell’Open Agent Safety Platform
Oltre 100 organizzazioni stanno collaborando con le tecnologie della piattaforma, ha affermato Nvidia, tra cui Anthropic, Hugging Face, JPMorgan Chase, Microsoft, Perplexity, Salesforce e SpaceXAI.