Le immagini del “topo assurdo” in una rivista scientifica riaccendono il dibattito sull’abuso dell’AI

L'immagine che vedete qui sopra, che ritrae un topo dai genitali enormi, è stata generata da Midjourney, un popolare software di intelligenza artificiale generativa capace di creare immagini a partire da input di testo, ed è comparsa in un articolo scientifico pubblicato il 13 febbraio 2024 sulla rivista Frontiers in Cell and Developmental Biology. L'articolo, firmato dai ricercatori cinesi Xinyu Guo, Liang Dong e Dingjun Hao, studia il legame tra le cellule staminali spermatogone e un particolare sistema di mediazione biochimica di cancro e infezioni.

Quello che ci interessa qui però non è il contenuto dell'articolo ma le figure al suo interno, perché entrano a gamba tesa nel dibattito sempre più acceso sugli effetti di un uso improprio dell'AI e più in generale sui problemi del sistema di revisione delle pubblicazioni scientifiche.

Ora, non serve essere maestri jedi di biologia per capire che si tratta di una figura tutt'altro che accurata da un punto di vista scientifico. Appare evidente infatti che il ratto raffigurato abbia un pene assolutamente sproporzionato rispetto al resto del corpo, dotato addirittura di quattro testicoli. Anche leggendo le scritte nella figura capiamo subito che qualcosa non torna: testtomcels, dck e iollotte sserotgomar sono parole inesistenti, che non significano nulla.

Tutto questo avrebbe poca importanza se non fosse per il fatto che questa figura faceva parte di un articolo scientifico vero e proprio, perlopiù sottoposto al processo cosiddetto di peer review: in poche parole, il suo contenuto è stato – teoricamente, almeno – verificato e validato da esperti accademici indipendenti. Non stupisce quindi che l'articolo sia stato ritirato tre giorni dopo la pubblicazione a seguito di numerose segnalazioni da parte di altri ricercatori sull'inconsistenza scientifica di questa e delle altre due figure presenti nell'articolo.

Ma la domanda a questo è: come hanno fatto queste figure a finire in un articolo scientifico? Chiariamo subito un punto: la rivista che ha pubblicato l'articolo, come ogni altra del gruppo editoriale Frontiers, non vieta l'uso di AI generativa per la produzione di immagini, purché l'uso di tali strumenti sia dichiarato e le immagini siano verificate da umani in sede di peer review. Gli autori del paper hanno giustamente dichiarato nelle didascalie che le immagini erano realizzate tramite AI, ma rimane da chiarire come sia possibile che abbiano ritenuto il caso di inserire figure “senza senso” nel loro articolo, e come i revisori del paper non abbiano apparentemente avuto nulla da eccepire. Al momento Frontiers non ha dato spiegazioni a riguardo, limitandosi a ringraziare per le segnalazioni.

Naturalmente è sorto il sospetto che anche il testo dell'articolo, oltre alle immagini, fosse stato generato da intelligenza artificiale, ma le analisi compiute finora sono state inconcludenti.

La portata di questa vicenda diventa preoccupante nel momento in cui ci rendiamo conto che, se queste immagini hanno superato il processo di peer review, chissà quante altre di più realistiche lo avranno fatto senza che nessuno se ne sia accorto.

Questo episodio è dunque un po' come il bambino che grida «il re è nudo»: da anni infatti ricercatori e ricercatrici lamentano il fatto che il sistema di pubblicazione accademica spinga fortemente sulla quantità di articoli prodotti, anche con incentivi economici. Una vera e propria “corsa alla pubblicazione” con conseguenze tangibili sulla qualità degli articoli stessi e sulle carriere degli scienziati. Da questo punto di vista le AI possono rappresentare un modo per produrre di più in meno tempo, e può capitare talvolta che si ecceda nel sorvolare su errori e incongruenze.

Non è un caso se un recente studio pubblicato sulla prestigiosa rivista Nature abbia calcolato che il 2023 è stato l'anno con il record di articoli ritirati dopo la pubblicazione (oltre 10.000), non solo per dati di dubbia provenienza ma anche per via di testi prodotti tramite AI generative. Nature, tra l'altro, a differenza di Frontiers ha vietato l'uso di AI per generare immagini e video, proprio perché i software di intelligenza artificiale non forniscono le fonti da cui traggono le informazioni con cui generano le immagini, pertanto il processo di verifica può diventare molto complicato.

È possibile che fossero proprio dinamiche di questo tipo alla base di quanto è accaduto con l'articolo ritirato di Frontiers. Ecco perché non sarebbe corretto trattare la vicenda del “ratto dal pene gigante” come una curiosità divertente o un errore isolato, ma il sintomo di un problema più grande a monte. Un problema che è particolarmente sensibile nel mondo scientifico, che è così cruciale per la società in cui viviamo. Un problema che, se non affrontato, potrebbe diventare sempre più grave, visto che i rapidi progressi dell'intelligenza artificiale stanno rendendo sempre più difficile distinguere un contenuto generato tramite AI da un contenuto originale umano.

non perderti questo articolo

I primi video creati da Sora, la nuova AI lanciata da OpenAI: cosa può fare e come funziona