Perché OpenAI è indecisa se rilasciare lo strumento per verificare i testi creati con ChatGPT

OpenAI ha sviluppato uno tool che permette di riconoscere i testi creati con ChatGPT con un efficacia del 99,9%, merito di una filigrana digitale applicata ai contenuti generati dall'intelligenza artificiale dell'azienda. Il tool esisterebbe da circa un anno, ma secondo quanto afferma The Wall Street Journal in un articolo, l'azienda diretta da Sam Altman è indecisa se rendere lo strumento accessibile a tutti o meno, in quanto questo potrebbe avere ripercussioni importanti, tra cui l'abbandono di ChatGPT da parte di una fetta importante di utenti.

Come funziona il tool di OpenAI per individuare testi generati con l'AI

Non è la prima volta che OpenAI sviluppa un sistema per riconoscere contenuti generati dall'intelligenza artificiale. Tuttavia è la prima volta che l'azienda ne sviluppa uno che presenta un tasso di efficacia del 99,9% su testi grezzi e non rielaborati. Il tool per il rilevamento di testo generato con ChatGPT funziona così bene per un motivo alquanto semplice: al testo viene applicato una filigrana digitale o watermark, che è invisibile agli utenti umani ma che risulta perfettamente visibile allo strumento in questione.

Tuttavia è bene precisare che il sistema presenta alcuni limiti. La stessa OpenAI in merito al tool in questione ha infatti dichiarato:

Sebbene si sia dimostrato estremamente accurato e persino efficace contro le manomissioni localizzate, come la parafrasi, è meno robusto contro le manomissioni globalizzate, come l'uso di sistemi di traduzione, la riformulazione con un altro modello generativo o la richiesta al modello di inserire un carattere speciale tra ogni parola e quindi l'eliminazione di tale carattere, rendendolo facilmente aggirabile da malintenzionati.

Stando a quanto affermato da TechCrunch, «con la filigrana del testo, OpenAI si concentrerebbe esclusivamente sul rilevamento della scrittura da ChatGPT, non dai modelli di altre aziende». Il tool riuscirebbe a fare ciò apportando piccole modifiche al modo in cui ChatGPT seleziona le parole, cosa che andrebbe a creare la filigrana invisibile menzionata poc'anzi, facilmente rilevabile dallo strumento di AI-detector di OpenAI.

Cosa potrebbe succedere se venisse rilasciato il tool di OpenAI

Se il tool di OpenAI venisse effettivamente rilasciato, quali potrebbero essere le possibili implicazioni per noi utenti e, più in generale, per il settore dell'intelligenza artificiale? Stando a quanto dichiarato dalla stessa OpenAI, il rilascio del tool potrebbe «stigmatizzare l'uso dell'intelligenza artificiale come utile strumento di scrittura per i non anglofoni».

Oltre a questo, l'azienda ha affermato che tra le potenziali conseguenze del rilascio del tool potrebbero esserci impatti sugli ecosistemi esterni a ChatGPT e, con molta probabilità, gli utenti che usano ChatGPT potrebbero decidere di abbandonare il servizio per evitare che i loro testi generati tramite l'ausilio dell'AI vengano identificati da insegnanti, datori di lavoro, colleghi e così via, ricorrendo magari a prodotti della concorrenza come Gemini di Google o Copilot di Microsoft. Questo timore non è infondato: i sondaggi dicono infatti che circa un terzo degli utenti di ChatGPT potrebbe smettere di usare lo strumento se OpenAI rilasciasse il suo tool di riconoscimento.

non perderti questo articolo

Come riconoscere i testi generati dall’intelligenza artificiale come ChatGPT