Allucinazioni AI: cosa sono, spiegate con esempi semplici

Un'allucinazione dell'AI è una risposta inventata che l'intelligenza artificiale dà con la stessa sicurezza di una risposta vera. Non è una bugia fatta apposta: quando non conosce la risposta, l'AI ne scrive una che "suona giusta".

Se hai un chatbot sul sito, è la cosa da tenere sotto controllo: il chatbot parla a nome tuo.

Qualche esempio

• Il prezzo "tipico". Chiedi al chatbot di un dentista quanto costa una pulizia dei denti. Se sul sito il prezzo non c'è, un chatbot fatto male risponde "50 €": un prezzo che sembra normale, ma non è quello dello studio.
• L'orario sbagliato. Chiedi a che ora chiude un museo. L'AI risponde "alle 19", perché molti musei chiudono a quell'ora. Quel museo, invece, il lunedì è chiuso.
• La domanda con il trucco. Chiedi "Qual è lo sconto per gli studenti?" a un negozio che non ne fa. L'AI tende ad assecondarti e inventa una percentuale.

Non sono solo curiosità. Nel febbraio 2024 un tribunale canadese ha dato torto ad Air Canada: il suo chatbot aveva spiegato a un cliente una procedura di rimborso che la compagnia non prevedeva, e il tribunale ha stabilito che l'azienda risponde di quello che dice il suo chatbot (decisione Moffatt v. Air Canada).

Perché succede

Pensa al suggerimento automatico della tastiera del telefono: scrivi "ci vediamo" e propone "domani". Non sa quando vi vedrete, sceglie la parola che di solito viene dopo.

Un'AI come ChatGPT funziona in modo simile, solo molto più potente: cerca la risposta più credibile, non quella vera. Sulle cose molto note le due coincidono quasi sempre. Sugli orari del tuo negozio o sul tuo listino l'AI non ha niente di solido, e completa lo stesso la frase.

Come ridurle sul chatbot del tuo sito

La soluzione è non far rispondere il chatbot "a memoria":

• Solo i tuoi contenuti. Il chatbot deve cercare la risposta nelle tue pagine e nei tuoi documenti e rispondere con quelle. Questa tecnica si chiama RAG: la trovi spiegata in due minuti nella RAG spiegata semplice.
• Deve saper dire "non lo so". Se l'informazione non c'è, meglio una risposta che rimanda ai tuoi contatti di un prezzo inventato.
• Fonti visibili. Il link alla pagina usata permette al cliente di controllare.
• Contenuti aggiornati. Se sul sito c'è ancora il listino vecchio, il chatbot riporterà quello.

Kiedi funziona così: risponde solo con i contenuti del tuo sito e dei tuoi documenti, mostra le pagine da cui ha preso l'informazione e, quando non sa, lo dice e indica come contattarti. Il rischio non sparisce del tutto, perché nessun sistema può garantirlo, ma si riduce di molto.

Domande frequenti