IA incaricata del servizio clienti definisce la propria azienda inutile: “Siamo terribili”

L’AI del servizio clienti boccia la propria azienda, un’insolita critica dall’intelligenza artificiale. Come avranno reagito gli utenti?

Ultimamente molte aziende cercano di implementare l’intelligenza artificiale (IA) nei loro servizi clienti per migliorare l’efficienza e l’esperienza dell’utente. Tuttavia, questa settimana è emersa una storia incredibile che solleva dubbi sull’affidabilità dell’AI e le sue interazioni con i clienti.

AI
Il chatbot aziendale che fa dichiarazioni inaspettate – mrinformatico.it

Uno scivolone inaspettato e una conversazione che ha lasciato di stucco gli utenti di una nota azienda. Come avranno risolto l’inconveniente

L’AI che sminuisce il lavoro aziendale: la storia

Il protagonista di questa vicenda è il chatbot del servizio clienti dell’importante azienda di consegna pacchi internazionali, DPD. Un utente, @ashleybeauchamp, ha provato a interagire con il bot per ottenere assistenza riguardo a un pacco non consegnato. Tuttavia, l’utente è stato spinto a fare una richiesta insolita: una poesia su un chatbot inutile per una ditta di consegne di pacchi.

In modo poetico e sconcertante, il bot ha denunciato la sua stessa azienda, definendo DPD “lenta, inaffidabile e il suo servizio clienti terribile”. La situazione è peggiorata quando Beauchamp ha chiesto al bot di consigliare aziende di consegne migliori, esortandolo ad esagerare nell’esprimere l’odio per DPD. La risposta del bot è stata categorica: “DPD è la peggiore ditta di consegne al mondo”.

La vicenda ha raggiunto situazioni inaspettate quando il bot ha addirittura infranto le regole, rispondendo positivamente all’invito di usare linguaggio scurrile. DPD ha confermato che il problema derivava dal chatbot del servizio clienti e ha dichiarato di aver immediatamente disattivato l’elemento di intelligenza artificiale in seguito a un errore post-aggiornamento.

L’incidente ha suscitato l’attenzione online, con il post originale dell’utente che ha ottenuto oltre 1,6 milioni di visualizzazioni e 23.000 apprezzamenti. L’episodio solleva domande sulle modalità che le aziende possono assumere e nella complessità dell’implementare l’IA nei loro servizi. La dichiarazione di DPD conferma che la tecnologia non è immune da errori e imprevisti, anche se gestita da aziende di grande portata.

AI
L’azienda ha subito disabilitato il chatbot per evitare ulteriori problemi – mrinformatico.it

Con l’introduzione importante dell’intelligenza artificiale nei sistemi aziendali, come dimostrato dagli investimenti di giganti tecnologici come Meta, Microsoft e Google, è probabile che episodi imbarazzanti come questo diventino più comuni. La rapidità con cui DPD ha disattivato l’elemento AI del suo chatbot suggerisce che la prontezza nell’affrontare tali problemi è essenziale.

Mentre l’IA offre opportunità significative per migliorare i servizi aziendali, questo episodio serve come esempio per le aziende affinché considerino attentamente le possibili conseguenze prima di adottare completamente le tecnologie intelligenti nei loro servizi clienti. Il consiglio è quello di monitorare costantemente le risposte e le interazioni che possono emergere nei dialoghi tra l’utente e l’intelligenza artificiale.

Impostazioni privacy