El ChatGPT filtra conversaciones privadas y datos de inicio de sesión de los usuarios

Según la investigación realizada por un lector de Ars, se ha descubierto que ChatGPT está filtrando conversaciones privadas que contienen información de inicio de sesión de los usuarios y otros detalles personales no relacionados con los usuarios. Dos conversaciones particulares de las capturas de pantalla compartidas por el lector han generado atención. Ambas conversaciones contenían múltiples pares de nombres de usuario y contraseñas que parecen estar asociadas con el sistema de soporte utilizado por los empleados de un portal de regulaciones relacionadas con farmacias. Parece que un empleado que utilizaba el chatbot de IA estaba resolviendo problemas encontrados al utilizar el portal.

La conversación es bastante alejada de un lenguaje cortés y, además de los datos de inicio de sesión, incluye el nombre de la aplicación que el empleado está corrigiendo y el número de tienda donde ocurrió el problema.

La conversación completa se refiere a lo que se muestra en la captura de pantalla retocada anteriormente. Cuando el lector de Ars, Chase Whiteside, incluyó la URL, se reveló la conversación completa. La URL expuso pares adicionales de datos de inicio de sesión.

Chase Whiteside me escribió en un correo electrónico: «Hice una pregunta (en este caso, para obtener ayuda para crear nombres creativos para colores en una paleta) y, cuando volví, noté conversaciones adicionales». «No estaban allí cuando usé ChatGPT por última vez ayer (soy un usuario bastante regular). No eran mis consultas, simplemente aparecieron en mi historial y definitivamente no son de mí (y tampoco creo que sean del mismo usuario)».

Las conversaciones filtradas a Whiteside incluían el nombre de una presentación en la que alguien estaba trabajando, detalles de un proyecto de investigación no publicado y un script que utiliza el lenguaje de programación PHP. Los usuarios en cada conversación filtrada parecen ser diferentes y no relacionados. La conversación sobre el portal de recetas incluía una fecha de 2020. Las fechas no aparecían en otras conversaciones.

Incidentes como este resaltan la importancia de eliminar los datos personales de las consultas enviadas a ChatGPT y otros servicios de IA, siempre que sea posible. En marzo del año pasado, el creador de ChatGPT, OpenAI, tuvo que cerrar el chatbot de IA después de que un error hiciera que se mostraran los títulos del historial de conversaciones a otros usuarios no relacionados.

En noviembre, investigadores publicaron un artículo describiendo cómo utilizaron consultas para hacer que ChatGPT revelara direcciones de correo electrónico, números de teléfono, faxes, direcciones físicas y otros datos privados presentes en los materiales de entrenamiento del modelo de lenguaje grande.

Debido a las preocupaciones sobre la posible filtración de datos confidenciales o privados de empresas, compañías como Apple han restringido el uso de ChatGPT y sitios web similares por parte de sus empleados. Como se mencionó en el artículo de diciembre cuando muchas personas descubrieron que los dispositivos UniFi de Ubiquity estaban transmitiendo videos privados a usuarios no relacionados, este tipo de experiencias son tan antiguas como el propio internet. Como se explica en el artículo:

Las causas exactas de estos tipos de fallas en el sistema difieren de incidente en incidente, pero a menudo involucran dispositivos «middlebox» ubicados entre sistemas de front-end y back-end. Para mejorar el rendimiento, los middleboxes almacenan ciertos datos, incluida la información de inicio de sesión de los usuarios que han iniciado sesión recientemente. Cuando se producen anomalías, los datos de inicio de sesión de una cuenta pueden asociarse con otra.

Un representante de OpenAI ha afirmado que la empresa está llevando a cabo una investigación sobre el asunto.