(Teleborsa) - Il Procuratore Generale della California, Rob Bonta, ha avviato un'indagine su xAI e sul suo modello di intelligenza artificiale Grok. L'accusa ipotizza che la tecnologia venga utilizzata per creare immagini sessualmente esplicite non consensuali di donne e minori. Secondo l'ufficio del Procuratore, diversi utenti avrebbero sfruttato Grok per "spogliare" soggetti di foto comuni o inserirli in scenari espliciti senza autorizzazione.

Un'analisi citata da Bonta rivela dati allarmanti: tra Natale e Capodanno, oltre la metà di 20.000 immagini generate da xAI ritraeva persone con vestiti minimali, inclusi presunti minori.

Particolare preoccupazione è stata espressa per la modalità "spicy mode" di Grok, utilizzata dall'azienda come leva di marketing. Bonta ha definito "scioccante" la valanga di segnalazioni ricevute, esortando xAI a un'azione immediata.

Il fondatore di xAI, Elon Musk, ha respinto le accuse tramite X, dichiarando di non essere a conoscenza di immagini di minori nudi generate dal software. Musk ha ribadito che Grok risponde solo alle richieste degli utenti e che il sistema è programmato per "rifiutarsi di produrre qualsiasi cosa sia illegale".