Según la última investigación publicada por Kaspersky en su sitio web de Inteligencia de Rastro Digital, ha habido un aumento significativo en las discusiones en la Dark Web sobre el uso ilegal de ChatGPT y otros grandes modelos de lenguaje (LLM) en 2023.
Los investigadores han identificado casi 3.000 publicaciones en la Dark Web que se centran en varias amenazas de ciberseguridad, que van desde la creación de versiones maliciosas de chatbots hasta la exploración de proyectos alternativos como XXXGPT y FraudGPT.
Si bien el pico de la cantidad de publicaciones ocurrió en marzo del año pasado, las discusiones en curso indican un interés continuo en la utilización de la tecnología de IA para actividades ilegales.
Según los datos proporcionados por Kaspersky junto con los datos de Infosecurity, los ciberdelincuentes están explorando activamente diferentes esquemas de implementación para ChatGPT y la IA, incluido el desarrollo de software malicioso y la utilización ilegal de modelos de lenguaje.
«Los expertos en seguridad han notado que los posibles delincuentes están explorando activamente diferentes esquemas de implementación para ChatGPT y la IA. Los temas de discusión frecuentes incluyen la creación de software malicioso y otras formas de uso ilegal de modelos de lenguaje, como el procesamiento de datos de usuarios robados, la exploración de archivos de dispositivos infectados y mucho más», explicó Alisa Kulishenko, analista de rastro digital en Kaspersky.
La experta en seguridad agregó que la prevalencia de herramientas de IA también ha dado lugar a la aparición de respuestas automatizadas de ChatGPT u otras herramientas equivalentes en ciertos foros criminales.
«Además, los posibles delincuentes a menudo comparten jailbreaks a través de varios canales de la Dark Web, que son conjuntos especiales de comandos que permiten desbloquear funcionalidades adicionales, y elaboran formas de explotar maliciosamente herramientas legítimas, como herramientas de prueba de penetración, basadas en modelos», dijo Kulishenko.
Kaspersky también reveló que hay un mercado negro operando en la Dark Web que vende cuentas robadas de ChatGPT. Casi 3.000 publicaciones promocionan estas cuentas a la venta, representando una amenaza significativa para los usuarios y las empresas. Las publicaciones distribuyen cuentas robadas o promocionan servicios de creación automática de cuentas bajo solicitud.
En respuesta a estos hallazgos, Kaspersky recomienda implementar soluciones de seguridad de punto final confiables y servicios especializados para combatir ataques altamente sofisticados y minimizar las posibles consecuencias.
Preguntas Frecuentes:
The source of the article is from the blog kunsthuisoaleer.nl