Ho fatto al chatbot del mio sito tre domande a cui io avrei risposto di sì.
Gli ho chiesto se avevo scritto un libro. Ha detto di no. Gli ho chiesto del blog. Non sapeva che esistesse. Poi ho fatto la domanda di un cliente: mi occupo anche di brochure? Ha risposto che no, non è un lavoro che faccio.
Tre risposte sbagliate su tre. Il libro esiste, il blog è sullo stesso sito da cui il chatbot stava rispondendo, e le brochure le faccio.
Non ha inventato niente. Ha detto di no.
Quando si parla dei rischi di un chatbot AI, la paura che viene raccontata è sempre la stessa: che si inventi le cose. Che prometta un servizio che non offri, un prezzo che non pratichi, una consegna che non puoi rispettare. È un rischio reale e va gestito.
Ma nel mio caso è successo l’opposto, ed è un problema di cui non parla nessuno.
Il chatbot non ha inventato niente. Ha negato cose vere. Ha detto a un potenziale cliente che non faccio una cosa che faccio, e l’ha detto con lo stesso tono sicuro con cui avrebbe detto la verità.
C’è una differenza pratica tra i due errori, ed è quella che conta. Se un chatbot promette troppo, prima o poi qualcuno ti scrive arrabbiato e tu lo scopri. Se un chatbot dice di no al posto tuo, non lo scopri mai. Quella persona ha avuto la sua risposta, ha chiuso la pagina, ed è andata a cercare qualcun altro. Nel tuo pannello risulta una conversazione come tutte le altre.
È un cliente perso in silenzio, ed è lo stesso meccanismo per cui un sito può non portare richieste senza che nessuno se ne accorga.
Perché era sicuro di sé mentre sbagliava
La spiegazione è meno tecnica di quello che sembra.
Il mio assistente, come la maggior parte di quelli che trovi installati su un sito, non cerca la risposta nel momento in cui gliela chiedi. Lavora su quello che gli hai messo dentro: le istruzioni, le informazioni che gli hai dato, i confini che hai definito. Se una cosa lì dentro non c’è, per lui non esiste. E siccome non gli è stato detto di distinguere tra “non lo faccio” e “non lo so”, risponde con la sicurezza di chi ha davanti un elenco completo.
Il libro non c’era nelle istruzioni. Il blog non c’era. Le brochure erano il caso più interessante dei tre: è un lavoro che faccio, ma è meno visibile degli altri sul sito, quindi quando ho scritto le istruzioni non l’ho elencato. Non è stato il modello a sbagliare. È stato un buco nel materiale che gli avevo dato, e il modello ha fatto la cosa che sa fare: rispondere in modo coerente con quello che sa.
Chi vende chatbot, quando succede questo, propone il modello più potente. Non serve. Un modello più capace avrebbe negato le stesse tre cose, con una prosa migliore.
Dire cosa non deve dire non basta
Quando ho raccontato come ho costruito questo assistente, ho scritto che le regole su cosa non dire sono più importanti di quelle su cosa dire. Lo penso ancora, ma detta così è metà del lavoro, e la metà più facile.
Le regole di divieto sono semplici da scrivere perché le hai chiare in testa: non dare prezzi, non parlare male della concorrenza, non fingere di essere una persona, non promettere tempi. Sono decisioni consapevoli, le prendi in dieci minuti.
Il problema è tutto quello che non hai scritto perché non ti è venuto in mente. Non sono divieti, sono assenze. E un’assenza, per un assistente, si traduce automaticamente in una negazione.
Quindi accanto alle regole di divieto ne serve una di comportamento, ed è la più importante di tutte: quando non sai una cosa, dillo, e proponi di chiedere a me. Non “no”. Non “non credo”. Una frase che tiene aperta la conversazione invece di chiuderla.
È la stessa cosa che chiederesti a una persona in accoglienza. Nessuno vorrebbe un collaboratore che risponde “no, non lo facciamo” a ogni richiesta che non ha già sentito. Vorresti che dicesse “verifico e le faccio sapere”. Con un assistente automatico vale identico, con la differenza che glielo devi scrivere, perché da solo non lo deduce.
Il chatbot amplifica quello che c’è
Torno su una cosa che avevo già scritto e che questi tre errori hanno reso più chiara.
Un chatbot non risolve un problema di comunicazione. Lo rende visibile. Se sul tuo sito ci sono servizi raccontati bene e altri lasciati in ombra, il chatbot te lo dice in faccia: risponde bene sui primi e nega i secondi.
I miei tre errori non erano tre problemi diversi del chatbot. Erano tre cose che sul mio sito non erano abbastanza esplicite, e il chatbot me le ha messe in fila. Sistemare le istruzioni ha risolto il sintomo. La domanda vera, quella che mi sono fatto dopo, è perché quelle tre cose non fossero già chiare a chi legge.
Un cliente distratto quelle informazioni non le avrebbe trovate lo stesso. Solo che non me lo avrebbe detto.
Tre domande da fare al tuo assistente
Se hai un chatbot sul sito, o stai per metterlo, questa verifica costa due minuti.
Pensa a tre cose che fai e che un cliente potrebbe chiederti. Non le più ovvie: quelle di confine, i servizi che offri ma che sul sito hanno meno spazio, le competenze che dai per scontate. Poi apri il chatbot e chiedigliele, una alla volta, come farebbe qualcuno che non ti conosce.
Guarda le risposte. Se ti dice di sì, l’informazione c’è ed è arrivata. Se ti dice che non sa e propone di metterti in contatto, il comportamento è corretto anche se manca il dato. Se ti dice di no, hai appena visto cosa succede ogni volta che qualcuno fa quella domanda.
E se il chatbot te lo ha installato qualcun altro, questa è la domanda da fargli: cosa succede quando gli chiedono una cosa che non gli hai insegnato. Se la risposta è che il modello è intelligente e si arrangia, chiedi di vedere le istruzioni.
La parte lunga non è collegarlo al sito
Un chatbot non è intelligente al posto tuo. È preciso quanto il materiale che gli hai dato, e sicuro di sé anche quando quel materiale ha un buco.
Per questo la parte lunga di questo lavoro non è collegarlo al sito, che è la mezza giornata facile. È decidere cosa deve sapere, cosa deve fare quando non sa, e riaprirlo ogni tanto per fargli le domande scomode. Come per il sito stesso: prima si decide cosa deve fare, poi si costruisce.