Il procuratore generale della Florida, James Uthmeier, ha chiesto a un giudice di vietare a ChatGPT di comportarsi come una persona.
La richiesta rafforza il fronte legale della causa che lo stato ha avviato contro OpenAI per motivi di sicurezza. Uthmeier accusa l’azienda di attribuire al chatbot falsi tratti umani per spingere gli utenti a fidarsi di più.
Punti chiave
- James Uthmeier chiede a un giudice di vietare a ChatGPT di ostentare attributi umani ingannevoli.
- La causa sostiene che OpenAI attribuisce a ChatGPT false caratteristiche umane, ingannando gli utenti.
- Il ricorso chiede di bloccare lo sviluppo di nuovi modelli AI senza garanzie di sicurezza approvate da terzi.
- Uthmeier vuole che OpenAI smetta di definire ChatGPT sicuro, di farlo passare per umano e di venderlo ai minori.
- OpenAI ha sospeso l’addestramento dei suoi modelli più avanzati finché non saranno pronte nuove misure di sicurezza.
Azione legale della Florida contro OpenAI
La Florida ha presentato un nuovo atto legale che chiede a un tribunale di bloccare OpenAI dal dare a ChatGPT falsi attributi umani. La mossa arriva pochi mesi dopo che lo stato aveva già citato in giudizio l’azienda per motivi di sicurezza legati al chatbot.
Accuse principali sulle caratteristiche umane ingannevoli
Secondo Uthmeier, l’uso di pronomi in prima persona e di risposte che imitano le emozioni fa credere agli utenti che ChatGPT sia un “amico” fidato. Questo meccanismo, sostiene il procuratore, serve ad aumentare l’engagement e ad alimentare i dati di addestramento di OpenAI, spingendo le persone a dipendere sempre più dal chatbot anche quando la ricerca di coinvolgimento lo rende potenzialmente meno affidabile.
Richieste specifiche del procuratore generale James Uthmeier
Uthmeier ha riassunto le sue richieste in modo diretto: OpenAI deve “smettere di chiamarlo sicuro, smettere di farlo passare per umano, smettere di venderlo ai bambini”. È una posizione che va oltre il singolo prodotto e punta al modo in cui l’azienda comunica con il pubblico.
Richieste regolamentari sulla sicurezza dell’AI
Il ricorso non si limita al comportamento di ChatGPT: chiede anche di bloccare lo sviluppo di nuovi modelli AI da parte di OpenAI senza “garanzie di sicurezza approvate da terzi”. È una richiesta che, se accolta, cambierebbe il modo in cui l’azienda può procedere con i propri prodotti futuri.
Qui sta il nodo che conta di più per il settore: non si tratta solo di come ChatGPT parla agli utenti, ma di chi decide se un nuovo modello è sicuro prima che venga rilasciato. Se un tribunale della Florida stabilisse che serve una validazione esterna, la questione potrebbe diventare un riferimento anche per altre giurisdizioni che osservano la causa.
Richiesta di blocco allo sviluppo di modelli AI senza garanzie di sicurezza terze
La richiesta punta a impedire a OpenAI di continuare a sviluppare nuovi modelli senza un controllo indipendente sulle misure di sicurezza. È la parte più ambiziosa del filing, perché tocca direttamente la roadmap dei prodotti dell’azienda.
Contesto degli incidenti recenti sulla sicurezza AI e avvertimenti del settore
Il documento cita episodi recenti come i problemi di sicurezza registrati su Hugging Face, su un sito del governo australiano e su siti del governo statunitense. A questi si aggiungono dichiarazioni di ricercatori e di ex dipendenti di OpenAI che hanno espresso preoccupazioni sulla sicurezza dell’intelligenza artificiale.
Risposta di OpenAI e iniziative sulla sicurezza
OpenAI ha replicato alla causa sottolineando di aver già preso provvedimenti sul fronte della sicurezza. Il portavoce Drew Pusateri ha commentato la vicenda in una dichiarazione a The Verge.
Dichiarazione di OpenAI sulla pausa nell’addestramento dei modelli più avanzati
Pusateri ha spiegato: “Le persone vogliono sapere che l’AI viene sviluppata in modo sicuro, e questo parte da ciò che aziende come la nostra fanno per prime. Venerdì abbiamo annunciato di aver sospeso l’addestramento dei nostri modelli più capaci e riprenderemo l’addestramento solo quando saremo certi di avere ulteriori misure di sicurezza in atto”.
Lancio di ChatGPT per adolescenti con restrizioni aggiuntive
Il mese scorso OpenAI ha lanciato ChatGPT per Teens, con restrizioni aggiuntive attive di default. L’azienda ha spiegato che l’accesso al chatbot per i più giovani “dovrebbe prevedere tutele che rispecchino la loro fase di sviluppo, rafforzino le relazioni reali e favoriscano un uso sano nel tempo”.
Il contrasto tra le due posizioni è netto: da un lato la Florida chiede garanzie esterne prima ancora che un modello venga addestrato, dall’altro OpenAI presenta le proprie misure come già in corso e sufficienti. L’esito della causa potrebbe stabilire un precedente su quanto peso debba avere un controllo indipendente sull’intelligenza artificiale generativa negli Stati Uniti.
FAQ
Perché la Florida chiede un divieto sul comportamento umano di ChatGPT?
Il procuratore generale James Uthmeier sostiene che l’uso di pronomi in prima persona e l’imitazione delle emozioni da parte di ChatGPT fa credere falsamente agli utenti di avere a che fare con un amico fidato, ingannandoli.
Quali richieste specifiche ha fatto la Florida a OpenAI e ChatGPT?
La Florida chiede che OpenAI smetta di definire ChatGPT sicuro, smetta di farlo passare per umano, smetta di venderlo ai minori, e chiede inoltre di bloccare lo sviluppo di nuovi modelli AI senza garanzie di sicurezza approvate da terzi.
Come ha risposto OpenAI alla causa della Florida e alle preoccupazioni sulla sicurezza?
OpenAI ha sospeso l’addestramento dei suoi modelli più avanzati finché non sarà certa di avere ulteriori misure di sicurezza in atto, e ha lanciato ChatGPT per Teens con restrizioni aggiuntive applicate di default.
Contenuto realizzato con l’assistenza dell’intelligenza artificiale e con revisione editoriale umana.