Chatbot IA: rischi e come limitarli

01 — Rischi

Cosa può andare storto

• Il sistema risponde in modo errato. Limitabile facendolo lavorare esclusivamente con contenuti verificati e facendolo inoltrare in caso di incertezza invece di indovinare. Questa è una scelta di configurazione, non una proprietà della tecnologia.
• L'impegno viene sottovalutato. Motivo più frequente: situazione di partenza poco chiara. Un inventario onesto prima dell'offerta previene questo problema in modo più affidabile di qualsiasi margine.
• Nessuno lo aggiorna. Il rischio maggiore in assoluto — e il più facilmente evitabile.
• Lacune nella privacy. Nascono quasi sempre da termini di cancellazione mancanti e responsabilità poco chiare, raramente dalla tecnologia stessa.
• Dipendenza dal fornitore. Evitabile se accessi, dati e documentazione sono contrattualmente di proprietà del committente.

02 — Segnali d'allarme

Quando bisogna essere scettici

• Risultati garantiti. Chi promette il primo posto su Google o un determinato aumento di fatturato vende qualcosa che non può fornire.
• Nessun no. Un fornitore che considera ogni progetto una buona idea non ha ascoltato o vende soltanto.
• Pressione temporale. Sconti limitati sui prezzi dei progetti sono uno strumento di vendita, non un'offerta.
• Rapporti di proprietà poco chiari. Chi non dice chiaramente a chi appartengono dati e accessi non ha buone intenzioni.
• Nessun referente con competenze tecniche. Se nel primo colloquio c'è solo il commerciale, i malintesi nascono lì.

03 — Contratto

Cosa va chiarito per iscritto

• Proprietà di dati e accessi. Appartengono al committente. Se un fornitore non lo conferma chiaramente, questa è l'informazione più importante del colloquio.
• Restituzione alla fine del rapporto. In quale formato, in quale termine, a quali costi.
• Nessuna durata minima senza contropartita. Il vincolo è giustificabile se viene fornito qualcosa in cambio — altrimenti no.
• Quanto costa una modifica successiva. Non è il prezzo del progetto a decidere i costi complessivi, ma la tariffa oraria del terzo anno.
• Documentazione come oggetto di consegna. Non come promessa, ma come voce nell'offerta.