ESTADOS UNIDOS.- Una adolescente estadounidense demandó a los creadores de ClothOff, plataforma que usa inteligencia artificial (IA) generativa para crear desnudos falsos a partir de una imagen real, tras haber sido víctima de esta aplicación, lo que le dejó secuelas emocionales.
Asimismo, la joven denunció a los desarrolladores por el potencial uso que se esté haciendo de sus imágenes para entrenar modelos de IA, según informó este lunes la agencia de noticias Europa Press.
El caso de una adolescente con desnudos hechos con ClothOff
Jane Doe, nombre genérico que se usa para no dar a conocer su identidad, es una estudiante de 17 años cuyos compañeros de instituto obtuvieron y usaron imágenes de ella para cargarlas en la aplicación ClothOff.
Con solo unos cuantos clics, obtuvieron una fotografía de la víctima completamente desnuda, “ofreciendo un resultado que no puede diferenciarse de una imagen real”, de acuerdo con Europa Press.
“Jane Doe estaba mortificada y emocionalmente desconsolada, y ha experimentado consecuencias desde entonces”, recoge el texto de la demanda, presentada en el Tribunal de Distrito de Estados Unidos del Distrito de Nueva Jersey.
AI/Robotics Venture Strategy 3, la demandada por Jane Doe
Junto a sus padres, Jane Doe demandó a la empresa AI/Robotics Venture Strategy 3, responsable de ClothOff, por considerar que su modelo de negocio facilita la creación de desnudos ilegales.
Además, la demanda acusa la distribución y monetización de las imágenes creadas a través de sus planes de pago e, incluso, a través de la provisión de la tecnología base a desarrolladores y otras plataformas.
Los demandantes también indican que las imágenes hiperrealistas de desnudos que se producen sin el consentimiento de las personas producen “un caldo de cultivo de pornografía infantil, explotación y abuso sexual“.
Debido a que no hay forma de determinar hasta qué punto llegaron a distribuirse las imágenes, Jane Doe ahora vive con el temor constante de que su material de abuso sexual infantil (CSAM, por sus siglas en inglés) permanezca disponible en ClothOff y en otros lugares, según se lee en la demanda.
“Le preocupa que esas imágenes puedan distribuirse a otras personas y que su imagen se haya utilizado y se siga utilizando para ayudar a entrenar el sistema de inteligencia artificial de ClothOff para mejorar generar CSAM de otras niñas”.
Demanda de Jane Doe a AI/Robotics Venture Strategy 3
Según se recoge en la demanda, ClothOff produce cada día una media de 200 mil imágenes y recibe unas 27 millones de vistas. La propia promoción de la app invita a los usuarios a “desnudas a cualquiera” con su servicio gratuito.
¿Qué es y cómo funciona ClothOff?
Clothoff.net es “un bot que te ayudará a eliminar todo lo superfluo de una foto”, según la descripción de la propia app que está disponible de manera gratuita a lo largo del mundo y que afirma tener más de 600 mil abonados.
“En el ámbito de la edición fotográfica, Clothoff.net es una fuerza revolucionaria que permite a los usuarios transformar sus imágenes con la tecnología de IA más avanzada”.
ClothOff
El bot de deepnude ofrece una manera de “eliminar elementos no deseados e imperfecciones con precisión”, según la propia plataforma.
Para acceder a esta herramienta, solo se debe acceder a su canal de Telegram, en donde aparece el mensaje: “Herramienta de IA para hacer fotos de desnudos“.
Mantente informado las 24 horas, los 7 días de la semana. Da click en el enlace y descarga nuestra App!
