Los deepfakes, una tecnología que permite la manipulación automatizada de medios, se han convertido en un serio problema que requiere atención urgente. La reciente utilización de esta tecnología para generar imágenes explícitas de Taylor Swift y crear un programa de comedia con el difunto George Carlin ha llevado al Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) a pedir su prohibición.
Según SAG-AFTRA, «las imágenes sexualmente explícitas creadas con tecnología de inteligencia artificial, que representan a Taylor Swift, son perturbadoras, perjudiciales y profundamente inquietantes». La organización aboga por una prohibición de la creación y distribución de imágenes falsas, especialmente aquellas de naturaleza drástica, sin el consentimiento de la persona representada.
El hecho de que los deepfakes hayan presentado imágenes explícitas de Taylor Swift, que se volvieron virales y obtuvieron más de 27 millones de visitas en solo 19 horas, ha generado preocupación en el mundo del entretenimiento. Satya Nadella, CEO de Microsoft, calificó estas imágenes como «alarmantes y aterradoras» y afirmó que la compañía debe actuar rápidamente para combatir la generación de desnudos algorítmicos.
Sin embargo, los deepfakes no solo se han centrado en celebridades. A principios de este mes, la tecnología de inteligencia artificial también se utilizó para revivir al difunto comediante George Carlin. El programa especial generado por algoritmo, «George Carlin: Me alegra estar muerto», generó controversia y provocó una demanda por parte de la familia del artista.
SAG-AFTRA se ha puesto del lado de la familia de Carlin, que está emprendiendo acciones legales contra quienes utilizan el trabajo de George Carlin sin permiso o sin ofrecer una compensación adecuada. La organización también respalda la legislación propuesta por el Representante Joe Morelle de los Estados Unidos, la Ley para Prevenir Deepfakes de Imágenes Íntimas, para evitar una mayor explotación de este tipo de contenido en el futuro.
Muchos creadores y actores creen que la tecnología de deepfake supone una amenaza potencial, por lo que durante las negociaciones de los contratos de SAG-AFTRA y el Sindicato de Escritores de América se incluyeron disposiciones para protegerse contra su mal uso, como el requisito de consentimiento informado. Sin embargo, tanto actores como escritores consideran que estas salvaguardias son decepcionantes.
SAG-AFTRA reitera su demanda de regulaciones legales más sólidas con respecto a la tecnología de inteligencia artificial. «También respaldamos la Ley para Prevenir Deepfakes de Imágenes Íntimas propuesta por el Representante Joe Morelle de los Estados Unidos para asegurarnos de que esta explotación nunca sea posible nuevamente», declaró la organización. «Como sociedad, tenemos el poder de controlar estas tecnologías, pero debemos actuar ahora antes de que sea demasiado tarde».