Il Cambridge Dictionary sta aggiornando la definizione della parola “allucinare” a causa dell’IA.
L’allucinazione è il fenomeno per cui le IA sputano in modo convincente errori fattuali come se fossero verità.
È una parola che cattura anche una delle sfide principali dell’industria dell’IA: la disinformazione.
La parola dell’anno appena incoronata dal Cambridge Dictionary è una parola familiare, ma sta assumendo un nuovo significato grazie all’intelligenza artificiale.
Il 15 novembre l’organizzazione ha annunciato che “allucinazione” avrebbe assunto una nuova definizione che va oltre il semplice vedere o sentire qualcosa che non esiste. La voce della parola nel dizionario sarà modificata per includere:
Quando un’intelligenza artificiale (= un sistema informatico che possiede alcune delle qualità del cervello umano, come la capacità di produrre linguaggio in modo da sembrare umano) ha un’allucinazione, produce informazioni false.
Allucinazione è un termine molto usato nell’industria dell’IA e si riferisce a episodi in cui l’IA sputa in modo convincente inesattezze come se fossero verità, a volte con conseguenze dannose.
Alcuni organi di informazione, tra cui Gizmodo, CNET e Microsoft, sono finiti in un mare di guai a causa di errori riscontrati nei loro articoli scritti dall’intelligenza artificiale. Un avvocato ha raccontato venerdì a Insider di essere stato licenziato per aver usato ChatGPT per aiutarlo a migliorare una mozione, dopo che il chatbot aveva inventato cause inesistenti come citazioni.
A febbraio, gli analisti di Morgan Stanley hanno scritto che uno dei principali difetti di ChatGPT è il fatto che a volte si inventa i fatti. È un problema che, secondo gli analisti, persisterà “per i prossimi due anni”. Anche i leader aziendali e gli esperti di disinformazione hanno espresso le loro preoccupazioni su come l’IA potrebbe peggiorare lo stato della disinformazione online.
Il fatto che le IA possano “avere le allucinazioni” ci ricorda che gli esseri umani devono ancora mettere in campo le loro capacità di pensiero critico nell’uso di questi strumenti”, ha scritto Wendalyn Nichols, responsabile editoriale del Cambridge Dictionary, nell’annuncio delle modifiche apportate dal gruppo al dizionario.
