Le chatbot qui a commencé à se disputer avec les clients parce que je lui ai dit d'être confiant

J'ai ajouté un mot à une invite. Un seul mot. Ce mot a transformé un robot de service client utile en un partenaire de débat obstiné. En moins de 6 heures, le client recevait des e-mails de réclamation. En moins de 12 heures, j'ai reçu un appel d'urgence expliquant pourquoi leur IA disait aux clients qu'ils avaient tort. Tout cela parce que j'ai écrit : Ayez confiance dans vos réponses.

The Setup Société de commerce électronique vendant des produits électroniques. Ils voulaient un chatbot de support client pour traiter les questions courantes sur les produits, l'expédition et les retours. Des trucs standards. J’en avais construit des dizaines. Leurs exigences étaient claires. Répondez avec précision aux questions sur les produits. Gérer les demandes de renseignements sur la politique de retour. Transmettez les problèmes complexes aux humains. Soyez serviable et professionnel. J'ai construit le système en 3 jours. Testé avec 50 exemples de questions. Des réponses parfaites à chaque fois. Le client a adoré. C'est exactement ce dont nous avions besoin. Nous avons été déployés lundi matin. Lundi après-midi, tout était en feu.

Le premier signe de problème Client : Cet ordinateur portable est-il livré avec Microsoft Office ? Bot : Oui, cet ordinateur portable inclut Microsoft Office préinstallé. Client : Je viens de le recevoir. Il n'y a pas de bureau dessus. Bot : je peux confirmer que ce modèle inclut Microsoft Office. Veuillez vérifier votre liste de logiciels. Client : Je le regarde en ce moment. Il n’y a AUCUN Office installé. Bot : Selon nos spécifications produit, Microsoft Office est inclus avec ce modèle. Il devrait être dans votre menu Démarrer sous Programmes. Le client s'est adressé à un agent humain, furieux. L...
[Courte citation de 8% de l'article original]