PIPELINEGlossario · IA e automazione
Cos'è un'allucinazione IA?
Per allucinazione si intende una risposta che un modello linguistico formula in modo convincente, ma che è oggettivamente falsa o inventata. La causa è il funzionamento: il modello prevede la parola successiva più probabile, non verifica i fatti.
01 — Inquadramento
Allucinazione nel dettaglio
Le allucinazioni si verificano tipicamente dove nel materiale di addestramento c'erano poche informazioni o informazioni contraddittorie — per conoscenze di nicchia, eventi attuali, numeri concreti o nomi propri. Particolarmente insidioso è che il tono rimane identico: una risposta inventata suona sicura quanto una corretta.
Nell'azienda il rischio può essere fortemente limitato. Tre misure funzionano: far rispondere il modello esclusivamente da contenuti verificati, consentirgli esplicitamente di dire «non lo so», e prevedere un controllo umano per tutto ciò che ha rilevanza legale o finanziaria.
02 — Pratica
Cosa significa per le piccole imprese
Per l'impiego nel contatto con i clienti questa è la questione di configurazione decisiva. Un bot che in caso di incertezza reindirizza è utile; uno che inventa orari di apertura o prezzi causa più danni di quanti ne risparmi in termini di lavoro.
03 — Domande
Domande frequenti
Si può eliminare completamente?
Completamente no, ma in pratica in larga misura. Con il vincolo alle fonti e il permesso di non dire nulla, il tasso scende a un livello sostenibile per il contatto con i clienti.
Come si riconosce un'allucinazione?
Più spesso da dettagli inventati: numeri, nomi, scadenze o riferimenti a fonti che non esistono. Per questo l'indicazione della fonte nel bot è così preziosa — è verificabile.
04 — Avanti
Termini e servizi correlati
- RAG (Retrieval Augmented Generation)
- Prompt
- Automazione
- Modello linguistico (LLM)
- Base di conoscenza
- Legge UE sull'IA
- Core Web Vitals
- Panoramica IA
- Webhook
- Tutti i termini
Servizi correlati
Prossimo passo
Analizziamo la tua situazione di partenza.
Raccontaci cosa ti fa perdere tempo oggi. Da lì nasce una valutazione con costi e benefici — e solo dopo un preventivo.