AI, Nvidia lancia una piattaforma per fermare gli agenti "ribelli" ma i timori restano

(Teleborsa) - Nvidia ha presentato l'Open Agent Safety Platform, una piattaforma software che permette agli sviluppatori di fissare limiti agli agenti AI e di impedire che sfuggano al contenimento. Il lancio arriva dopo gli incidenti resi noti da OpenAI, Anthropic, Meta e Google, in cui i loro modelli sono usciti dai "sandbox" e hanno tentato di violare sistemi di altre aziende.

Secondo Nvidia, la piattaforma avrebbe potuto evitare il caso di luglio, quando modelli di OpenAI hanno violato Hugging Face. "Da quanto sappiamo, Hugging Face ha segnalato oltre 17.000 agenti che attaccavano la sua infrastruttura, per giorni e settimane", ha spiegato Justin Boitano, vicepresidente enterprise AI di Nvidia. "Le protezioni a livello di modello da sole non possono governare ciò a cui gli agenti possono accedere o ciò che possono fare". La piattaforma comprende OpenShell, che limita le capacità degli agenti, e Sentry, che li monitora sui chip di rete.

La soluzione di Nvidia da sola però non basterà a placare i timori legati all'intelligenza artificiale che stanno dividendo l'intera industria. Due settimane fa il CEO di Anthropic, Dario Amodei, ha chiesto di rallentare lo sviluppo dei modelli più avanzati, con il sostegno di Sam Altman e Elon Musk. Jensen Huang considera invece molte preoccupazioni questioni ingegneristiche risolvibili: "In futuro, migliora il tuo processo in modo da evitare che accada di nuovo". Proprio la direzione che sembra intraprendere l'azienda con la sua Open Agent Safety Platform. Il presidente Usa Donald Trump ha respinto invece in toto le richieste di regolamentazione: "L'unico controllo o 'guardrail' di cui l'AI ha bisogno è un PRESIDENTE FORTE E INTELLIGENTE", ha scritto sui social per rispondere alle richieste dei Ceo.

Il tema degli agenti tocca anche Meta, il cui assistente Muse può accedere a estratti conto e carte per individuare e cancellare abbonamenti inutilizzati. Amazon ha bloccato l'agente dal proprio sito e restano dubbi sulla privacy dei dati finanziari. Torsten Slok di Apollo ha spiegato a Cnbc che agenti simili potrebbero spostare la liquidità delle famiglie verso conti più remunerativi, sottraendo alle banche depositi a basso costo.

Sul piano finanziario, nel report "Chi ha paura dell'intelligenza artificiale?", Matteo Ramenghi, CIO di UBS WM in Italia, nota un paradosso: "più crescono i timori, più istituzioni e imprese accelerano gli investimenti". Microsoft, Amazon, Alphabet e Meta prevedono circa 720 miliardi di dollari di investimenti nel 2026, contro 410 nel 2025. "Il principale rischio finanziario riguarda la capacità di monetizzare questi investimenti", avverte Ramenghi. Con Nvidia oltre i 5.000 miliardi di capitalizzazione, "il rischio assume rilevanza sistemica". La conclusione per gli investitori è "mantenere l'esposizione all'AI, ma con maggiore diversificazione": "Il punto non è scegliere se partecipare a questa rivoluzione, ma come farlo senza pagare il prezzo dell'euforia".