Chatbot IA : risques et comment les limiter

01 — Risques

Ce qui peut mal tourner

• Le système répond faux. Limitez cela en le faisant travailler exclusivement à partir de contenus vérifiés et en le configurant pour qu'il transfère en cas d'incertitude au lieu de deviner. C'est une décision de configuration, pas une propriété de la technologie.
• L'effort est sous-estimé. Raison la plus fréquente : situation de départ floue. Un état des lieux honnête avant l'offre l'évite plus sûrement que n'importe quelle marge de sécurité.
• Personne ne le maintient. Le plus grand risque de tous — et le plus facile à éviter.
• Failles dans la protection des données. Elles proviennent presque toujours de délais de suppression manquants et de responsabilités floues, rarement de la technologie elle-même.
• Dépendance vis-à-vis du fournisseur. Évitable si les accès, données et documentation appartiennent contractuellement au donneur d'ordre.

02 — Signaux d'alarme

Quand il faut devenir sceptique

• Résultats garantis. Qui promet la première place sur Google ou une augmentation précise du chiffre d'affaires vend quelque chose qu'il ne peut pas livrer.
• Aucun non. Un prestataire qui trouve chaque projet une bonne idée n'a soit pas écouté, soit ne fait que vendre.
• Pression temporelle. Les rabais limités dans le temps sur les prix de projet sont un instrument commercial, pas une offre.
• Propriété floue. Qui ne dit pas clairement à qui appartiennent les données et les accès n'a pas de bonnes intentions.
• Pas d'interlocuteur avec expertise métier. Si seuls les commerciaux sont présents au premier entretien, les malentendus naissent là.

03 — Contrat

Ce qui doit être clarifié par écrit

• Propriété des données et des accès. Ils appartiennent au donneur d'ordre. Si un fournisseur ne le confirme pas clairement, c'est l'information la plus importante de l'entretien.
• Restitution en cas de résiliation. Dans quel format, dans quel délai, à quel coût.
• Pas de durée minimale sans contrepartie. Un engagement est acceptable s'il y a quelque chose en retour — sinon non.
• Ce que coûte une modification ultérieure. Ce n'est pas le prix du projet qui détermine les coûts globaux, mais le taux horaire de la troisième année.
• La documentation comme élément livrable. Pas comme promesse, mais comme poste dans l'offre.