Nvidia è tra le ricerche in forte crescita in Italia il 28 settembre dopo la presentazione della nuova Open Agent Safety Platform, un insieme di tecnologie pensato per applicare regole di sicurezza agli agenti di intelligenza artificiale mentre operano. Nvidia afferma che oltre 100 organizzazioni stanno già lavorando con le tecnologie della piattaforma.

Il tema è importante perché gli agenti AI non si limitano a generare testo: possono eseguire strumenti, navigare sistemi, leggere dati, scrivere codice e compiere azioni. Più autonomia significa più utilità, ma anche la necessità di impedire che un errore, un prompt malevolo o un comportamento inatteso producano conseguenze reali.

Che cos’è un agente AI?

Un agente è un sistema di intelligenza artificiale che può ricevere un obiettivo, pianificare una serie di passi e utilizzare strumenti esterni per raggiungerlo. In un’azienda potrebbe interrogare un database, creare un report, modificare un ticket o avviare un processo software.

La differenza rispetto a un semplice chatbot è quindi l’azione. Un chatbot tradizionale risponde; un agente può avere permessi. È proprio qui che la sicurezza diventa più complessa e richiede controlli indipendenti dal modello.

Qual è il problema che Nvidia vuole risolvere?

Un agente può essere ingannato da istruzioni malevole, ricevere dati manipolati, tentare di usare strumenti non previsti oppure produrre una sequenza d’azioni che nessuno aveva anticipato. Se possiede credenziali o accesso a sistemi sensibili, l’errore può diventare operativo.

L’obiettivo della piattaforma Nvidia è creare un livello di controllo che osservi e limiti ciò che l’agente può fare, invece di affidarsi soltanto al fatto che il modello “capisca” la regola.

Che cosa significa controllo continuo?

Nel materiale tecnico pubblicato il 28 settembre, Nvidia descrive un livello di enforcement che attraversa software e hardware. L’idea è verificare continuamente se le azioni dell’agente rispettano le policy definite.

In pratica, un’organizzazione può stabilire che un agente abbia accesso a un certo insieme di file ma non ad altri, che possa effettuare richieste di rete solo verso domini approvati o che non possa eseguire determinati comandi. Il controllo dovrebbe essere esterno al ragionamento del modello.

Perché il solo prompt non basta?

Scrivere “non accedere a dati sensibili” nelle istruzioni è utile, ma non equivale a una barriera tecnica. I modelli possono essere esposti a prompt injection, contesto ambiguo o errori di pianificazione.

La sicurezza robusta applica il principio del minimo privilegio: l’agente riceve solo le capacità necessarie. Se una funzione non serve al compito, idealmente non dovrebbe essere disponibile.

Che ruolo ha l’hardware?

Nvidia propone di collegare le policy di sicurezza anche al livello infrastrutturale, così che alcuni controlli non dipendano solo dal software dell’agente. Questo può rendere più difficile aggirare le regole attraverso un bug nel livello applicativo.

Il valore reale dipenderà dall’implementazione concreta, dai prodotti compatibili e dalla qualità delle policy. “Hardware-backed” non significa automaticamente invulnerabile.

Quali aziende stanno partecipando?

Secondo Nvidia e i resoconti pubblicati il giorno dell’annuncio, più di 100 organizzazioni lavorano con la piattaforma o le sue tecnologie. Tra i nomi citati figurano aziende di software, cybersecurity, consulenza e finanza.

Il numero aiuta a capire l’interesse del mercato, ma non significa che tutte abbiano già distribuito sistemi identici in produzione. Partnership, test e adozione operativa sono livelli diversi.

Che cosa cambia per un utente normale?

Nel breve periodo, poco a livello visibile. La piattaforma è soprattutto infrastruttura per sviluppatori e aziende. L’effetto per gli utenti dovrebbe apparire indirettamente: agenti che chiedono meno permessi, azioni più tracciabili e limiti più chiari su ciò che possono fare.

Per esempio, un assistente aziendale potrebbe essere autorizzato a leggere fatture ma non a inviare bonifici senza un controllo umano. La qualità di questi confini diventa parte dell’esperienza utente.

Può fermare tutti gli agenti “fuori controllo”?

Nessun singolo strumento può prometterlo. La sicurezza informatica funziona per livelli: controllo accessi, isolamento, logging, monitoraggio, autenticazione, revisione umana e risposta agli incidenti.

La piattaforma Nvidia aggiunge un livello specifico per l’era degli agenti, ma deve integrarsi con sistemi esistenti. Un’organizzazione che assegna privilegi eccessivi non risolve tutto installando un solo prodotto.

Perché il logging è fondamentale?

Quando un agente esegue decine di azioni in pochi secondi, è essenziale sapere che cosa ha fatto, con quali dati e con quale autorizzazione. I log permettono di ricostruire un incidente e capire se il problema è stato il modello, lo strumento, la policy o un account compromesso.

Senza tracciabilità, anche un sistema che blocca molte azioni può diventare difficile da gestire perché non si capisce perché una decisione è stata presa.

Quali domande dovrebbe fare un’azienda prima di adottare agenti?

  • Quali dati può leggere l’agente?
  • Quali azioni può compiere senza approvazione umana?
  • Le credenziali sono temporanee e limitate?
  • Ogni azione viene registrata?
  • Esiste un modo rapido per revocare l’accesso?
  • I dati sensibili possono uscire verso servizi esterni?

Open source significa più sicurezza?

L’apertura del codice può facilitare audit, integrazione e analisi indipendente, ma non garantisce automaticamente un sistema sicuro. Conta come il software viene configurato, aggiornato e integrato nell’infrastruttura reale.

Il vantaggio potenziale è che sviluppatori e ricercatori possono esaminare più facilmente i meccanismi e costruire interoperabilità con strumenti diversi.

Perché questa notizia conta nel 2026?

Il settore AI si sta spostando dalla generazione di contenuti verso sistemi che agiscono. La domanda quindi non è più solo “il modello risponde bene?”, ma “che cosa può fare quando sbaglia?”. La sicurezza degli agenti diventa un problema di architettura, non soltanto di qualità del modello.

La spiegazione tecnica di Nvidia è disponibile nel post Open Agent Safety Platform. Per altre guide italiane sull’intelligenza artificiale e il digitale visita Tecnologia.