Amazon è inondata di libri scritti da IA generative. Alcuni di questi libri contengono consigli pericolosi, persino potenzialmente mortali. In alcuni casi, l’IA consiglia agli utenti di Internet di ingerire un fungo velenoso…
La comparsa di ChatGPT, Google Bard e altri ha rimescolato le carte nel mondo dei libri. Non sorprende che molte persone si stiano affidando all’intelligenza artificiale generativa per scrivere libri al posto loro. Infatti, il gigante Amazon è stato travolto da un’ondata di libri scritti dall’intelligenza artificiale sul suo negozio Kindle.
Nella maggior parte dei casi, queste raccolte di poesie, manuali di istruzioni, romanzi e libri per bambini si distinguono per la loro mediocrità. In genere sono pieni di approssimazioni, idee di base e contenuti banali. Purtroppo, i libri creati dall’intelligenza artificiale possono anche essere pericolosi per gli acquirenti.
I pericoli dei libri scritti dall’IA
La New York Mycological Society, un’organizzazione no-profit che riunisce persone appassionate di funghi, ha scoperto alcune raccomandazioni potenzialmente letali in alcuni libri. Alcuni libri, dedicati alla raccolta e al consumo di funghi, sembrano parlare a vanvera. Le descrizioni, identificate come contenuti AI, sono approssimative, fuorvianti e possono indurre in errore i neofiti.
Dopo aver esaminato diverse descrizioni attraverso i rilevatori di IA, i nostri colleghi di 404Media hanno potuto confermare che alcuni libri dedicati ai funghi non sono stati scritti da un essere umano. Per rassicurare i lettori, tuttavia, i libri riportano un autore umano, il cui nome è puramente fittizio. Alcuni degli autori elencati su Amazon hanno pubblicato una dozzina di libri di questo tipo nel giro di due mesi. Sul web non si trovano informazioni affidabili sui loro conti.
Secondo Sigrid Jakob, presidente della New York Mycological Society, gli errori fattuali segnalati nei libri potrebbero mettere in pericolo le persone che si avvicinano per la prima volta al mondo dei funghi:
“Ci sono centinaia di funghi velenosi in Nord America, e molti sono mortali. Possono assomigliare a specie commestibili popolari. Una cattiva descrizione in un libro può indurre qualcuno a mangiare un fungo velenoso”.
Un principiante potrebbe acquistare uno dei libri scritti dall’AI, seguirne i consigli e rimanere avvelenato da un fungo non adatto al consumo. Le conseguenze potrebbero essere fatali, sottolinea l’organizzazione, che ritiene che l’IA non sia ancora in grado di distinguere tra tutti i funghi. Allertata dalla New York Mycological Society, Amazon ha prontamente bandito i libri contenenti errori:
“Amazon valuta costantemente le tecnologie emergenti e si impegna a fornire la migliore esperienza di acquisto, lettura e pubblicazione possibile per i nostri autori e clienti”. Tutti gli editori del negozio devono aderire alle nostre linee guida sui contenuti, indipendentemente dal modo in cui i contenuti sono stati creati. Investiamo molto tempo e risorse per garantire il rispetto delle nostre linee guida e rimuoviamo i libri che non le rispettano”.
Non deve sorprendere che l’intelligenza artificiale possa generare contenuti errati. Tutte le IA, da ChatGPT a Claude a Bard, possono generare risposte molto lontane dalla realtà. A volte un modello linguistico “allucina”, cioè inventa risposte, se non ha dati nel suo corpus di riferimento. Il modello inizia quindi a improvvisare, il che può portare a errori o assurdità. Ecco perché Savey Meal, il ChatGPT di un supermercato neozelandese, ha iniziato a suggerire ai suoi interlocutori ricette di riso sbiancato…
Fonte : 404Media
