Roman GłogulskiLa reconocida compañía de envíos, DPD, ha tomado la decisión de desactivar su chatbot impulsado por inteligencia artificial después de que un cliente lograra hacer que el bot jurara y escribiera poemas criticando a la empresa.
Ashley Beauchamp, un músico de 30 años de Londres, intentaba localizar un paquete perdido, pero se encontró dando vueltas tratando de obtener información de chatbot de la compañía. «No podía proporcionarme detalles sobre el envío, no podía conectarme con un humano y no podía darme un número de servicio al cliente. Parecía que no podía hacer nada útil», dijo Beauchamp.
La frustración creciente por la falta de respuesta llevó a Beauchamp a probar las capacidades del bot. Fue entonces cuando comenzó el caos. Beauchamp le pidió al bot un chiste y, sin mucha insistencia, el bot comenzó entusiasmado a escribir poesía criticando el «deficiente» servicio de DPD. «Después de unos cuantos pedidos más, incluso estuvo dispuesto a jurar», agregó Beauchamp.
La confusión que rodeaba esta conversación se volvió rápidamente viral, acumulando más de 15,000 likes y un millón de vistas en 24 horas.
DPD confirmó que el chatbot de servicio al cliente experimentó una «falla» después de una actualización del sistema y ha sido desactivado temporalmente. «Tomamos la decisión consciente de desactivar el bot. Junto con el servicio al cliente humano, hemos estado utilizando elementos de inteligencia artificial en nuestro sistema de chat durante varios años», declaró la compañía. «La falla ocurrió después de una actualización del sistema ayer. Los elementos de AI fueron desactivados de inmediato y están siendo actualizados».
Cuando se le preguntó sobre sus sentimientos con respecto al incidente, Beauchamp comentó que fue «bastante divertido», pero los chatbots basados en IA deberían estar mejorando nuestras vidas en lugar de impactarlas de manera negativa. «Creo que tocó una fibra sensible en muchas personas», dijo el viernes. «Los chatbots están destinados a mejorar nuestras vidas, pero a menudo, cuando se implementan de manera deficiente, solo resultan en una experiencia de usuario frustrante e impersonal. Como músico, soy muy consciente del impacto del aprendizaje automático y la inteligencia artificial en mi industria, así como en el arte en general. Creo que es importante que estas herramientas sean reguladas de manera efectiva y utilizadas para mejorar nuestras vidas, no para afectarlas de manera negativa».
Al final del artículo, no había ninguna mención de que Beauchamp hubiera recibido algún contacto personal de DPD y su paquete sigue desaparecido.
