Le allucinazioni dell'IA sono risposte errate o false fornite dai modelli di IA generativa.
Dopo aver letto questo articolo sarai in grado di:
Argomenti correlati
Cos'è l'intelligenza artificiale (IA)?
Cos'è l'IA generativa?
Cos'è un LLM?
Database vettoriale
Low-Rank Adaptation (LoRA)
Abbonati a theNET, il riepilogo mensile di Cloudflare sulle tematiche più discusse in Internet.
Copia link dell'articolo
Le allucinazioni dell'intelligenza artificiale (IA) sono falsità o imprecisioni nell'output di un modello di IA generativa. Spesso, questi errori sono nascosti all'interno di contenuti che appaiono logici o che sono altrimenti corretti. Poiché l'uso dell'IA generativa e dei modelli linguistici di grandi dimensioni (LLM) si è diffuso, sono stati osservati molti casi di allucinazioni dell'IA.
Il termine "allucinazione" è metaforico: i modelli di intelligenza artificiale non soffrono realmente di allucinazioni come potrebbe fare un essere umano con problemi di salute mentale. Invece, producono output inaspettati che non corrispondono alla realtà in risposta ai prompt. Potrebbero identificare erroneamente degli schemi, fraintendere il contesto oppure utilizzare dati limitati o distorti per ottenere tali risultati inattesi.
Alcuni esempi documentati di allucinazioni dell'IA includono:
Sebbene l'IA abbia una serie di casi d'uso e applicazioni nel mondo reale, in molti casi la tendenza dei modelli di IA ad avere allucinazioni implica che non ci si possa affidare completamente a essi senza la supervisione umana.
Tutti i modelli di intelligenza artificiale sono costituiti da una combinazione di dati di addestramento e un algoritmo. Nel contesto dell'IA, un algoritmo è un insieme di regole che definiscono come un programma per computer deve ponderare o valutare determinati attributi. Gli algoritmi di intelligenza artificiale contengono miliardi di parametri: le regole che definiscono la valutazione degli attributi.
L'IA generativa necessita di dati di addestramento perché apprende tramite l'inserimento di milioni (o miliardi, o trilioni) di esempi. Da questi esempi, i modelli di IA generativa imparano a identificare le relazioni tra gli elementi di un set di dati, in genere tramite l'utilizzo di database vettoriali che memorizzano i dati come vettori, consentendo ai modelli di quantificare e misurare le relazioni tra gli elementi di dati. Un "vettore" è una rappresentazione numerica di diversi tipi di dati, inclusi tipi non matematici come parole o immagini.
Una volta addestrato, il modello continua a perfezionare i suoi output in base ai prompt che riceve. I suoi sviluppatori perfezioneranno ulteriormente il modello per usi più specifici, continuando a modificare i parametri dell'algoritmo oppure utilizzando metodi come l'adattamento low-rank (LoRA) per adattare rapidamente il modello a un nuovo utilizzo.
Nel complesso, il risultato è un modello in grado di rispondere ai prompt degli utenti generando testo o images sulla base dei modelli appresi.
Tuttavia, i prompt creati dagli utenti possono variare notevolmente in complessità e causare comportamenti imprevisti nel modello, poiché è impossibile prepararlo per ogni possibile richiesta. Inoltre, il modello potrebbe fraintendere o interpretare erroneamente le relazioni tra concetti ed elementi anche dopo un'approfondita formazione e messa a punto. Prompt imprevisti e interpretazioni errate degli schemi possono causare allucinazioni dell'IA.
Fonti dei dati di addestramento: è difficile vagliare i dati di addestramento perché i modelli di intelligenza artificiale ne richiedono una quantità tale che un essere umano non può esaminarli tutti. I dati di addestramento non revisionati potrebbero essere errati o eccessivamente sbilanciati in una certa direzione. Immagina un modello di intelligenza artificiale addestrato per scrivere biglietti di auguri, ma il suo set di dati di addestramento finisce per contenere principalmente biglietti di compleanno, all'insaputa dei suoi sviluppatori. Di conseguenza, potrebbe generare messaggi allegri o divertenti in contesti inappropriati, ad esempio quando viene richiesto di scrivere un biglietto di "Guarisci presto".
Limiti intrinseci della progettazione dell'IA generativa: i modelli di intelligenza artificiale utilizzano la probabilità per "prevedere" quali parole o elementi visivi è probabile che appaiano insieme. L'analisi statistica può aiutare un computer a creare contenuti apparentemente plausibili: contenuti che hanno un'alta probabilità di essere compresi dagli esseri umani. Ma l'analisi statistica è un processo matematico che potrebbe non cogliere alcune delle sfumature del linguaggio e del significato, portando ad allucinazioni.
Mancanza di esperienza diretta del mondo fisico: i programmi di intelligenza artificiale odierni non sono in grado di rilevare se qualcosa è "vero" o "falso" in una realtà esterna. Mentre un essere umano potrebbe, ad esempio, condurre esperimenti per determinare se un principio scientifico sia vero o falso, l'IA al momento può addestrarsi solo su contenuti preesistenti, e non direttamente sull'universo fisico. Pertanto, ha difficoltà a distinguere tra dati accurati e inaccurati, specialmente nelle proprie risposte.
Difficoltà nella comprensione del contesto: l'IA analizza esclusivamente dati letterali e potrebbe non comprendere il contesto culturale o emotivo, il che porta a risposte non pertinenti e allucinazioni dell'IA. La satira, ad esempio, può confondere l'IA (anche gli esseri umani spesso confondono la satira con la realtà).
Distorsioni: se il set di dati non è sufficientemente ampio, i dati di addestramento utilizzati possono portare a distorsioni integrate. La distorsione può semplicemente discostare i modelli di intelligenza artificiale, orientandoli verso determinati tipi di risposte, oppure può portare alla promozione di stereotipi razziali o di genere.
Attacchi al modello: persone malintenzionate possono utilizzare attacchi di prompt injection per alterare il modo in cui i modelli di IA generativa percepiscono i prompt e producono risultati. Un esempio molto noto si è verificato nel 2016, quando Microsoft ha lanciato un chatbot, Tay, che nel giro di un giorno ha iniziato a generare contenuti razzisti e sessisti a causa degli utenti di Twitter (ora X) che lo alimentavano con informazioni che ne distorcevano le risposte. Da allora, i modelli di intelligenza artificiale sono diventati più sofisticati, ma rimangono vulnerabili a tali attacchi.
Overfitting: se un modello di intelligenza artificiale viene addestrato eccessivamente sul set di dati di addestramento iniziale, può perdere la capacità di generalizzare, rilevare tendenze o trarre conclusioni accurate da nuovi dati. Può anche rilevare modelli nei suoi dati di addestramento che non sono effettivamente significativi, il che porta a errori che non sono evidenti finché non vengono inseriti nuovi dati. Questi scenari sono chiamati "overfitting": i modelli si adattano troppo strettamente ai dati di addestramento. Come esempio di overfitting, durante la pandemia di COVID-19, i modelli di IA addestrati sulle scansioni di pazienti affetti da COVID negli ospedali hanno iniziato a rilevare il tipo di carattere utilizzato dai diversi ospedali e a trattare tale carattere come predittore della diagnosi di COVID. Per i modelli di intelligenza artificiale generativa, l'overfitting può causare allucinazioni.
Sebbene gli sviluppatori non possano eliminare completamente le allucinazioni dell'IA, esistono misure concrete che possono adottare per ridurre la probabilità di allucinazioni e altre imprecisioni.
Scopri come Cloudflare for AI aiuta gli sviluppatori a creare ed eseguire modelli di intelligenza artificiale da qualsiasi parte del mondo. E scopri come Cloudflare Vectorize consente agli sviluppatori di generare e archiviare incorporamenti in un database vettoriale distribuito a livello globale.
Le allucinazioni dell'IA sono risposte errate o false fornite dai modelli di IA generativa (GenAI). Talvolta questi errori sono nascosti all'interno di contenuti che altrimenti sembrano corretti. Il termine è una metafora; l'IA non sta sperimentando deliri, ma sta producendo output inaspettati che non sono in linea con la realtà.
Diversi fattori possono causare allucinazioni dell'IA, tra cui problemi con dati di addestramento imprecisi o distorti, l'incapacità di un modello di comprendere il contesto del mondo reale, i limiti intrinseci dell'analisi statistica utilizzata da GenAI e un addestramento troppo intensivo su un singolo set di dati — quest'ultima condizione è nota come "overfitting."
Sebbene eliminare completamente le allucinazioni potrebbe essere impossibile, gli sviluppatori possono adottare diverse misure per ridurne la probabilità. Tra queste misure rientrano l'utilizzo di set di dati più ampi e diversificati, l'evitare di adattare eccessivamente il modello a un singolo set di dati e l'esecuzione di test approfonditi con un'ampia gamma di prompt. È inoltre importante utilizzare modelli progettati specificamente per il caso d'uso previsto e implementare delle misure di sicurezza, come ad esempio istruire un chatbot a dichiarare quando non ha informazioni sufficienti per rispondere a una domanda.
Molte persone hanno chiesto ai modelli GenAI di scrivere per loro articoli o memorie legali, solo per scoprire che il modello includeva riferimenti a fonti o casi inesistenti. Gli utenti dei generatori di immagini basati sull'intelligenza artificiale hanno scoperto che a volte i modelli non producono immagini accurate in risposta ai primi prompt — ad esempio includendo troppe dita sulla mano di una persona.
L'overfitting è un caso in cui un modello di intelligenza artificiale è stato addestrato eccessivamente su un singolo set di dati, causando interpretazioni errate o imprecisioni quando il modello viene presentato con nuovi dati Gli sviluppatori possono evitare l'overfitting addestrando i propri modelli su un'ampia base di dati di esempio provenienti da diverse fonti.