CIUDAD DE MÉXICO.- La Inteligencia Artificial avanza a pasos agigantados y, mientras la sociedad intenta entender de qué se trata, más empresas se suman a su desarrollo con sus propias propuestas.
Algunas corporaciones como OpenAI, Microsoft y Google, preocupadas por lo que su uso pueda desencadenar, emplean modelos de IA cuidadosamente controlados. Sin embargo, hay otros, como Meta, que abogan por la tecnología de código abierto.
Pero ahora los usuarios le están jugando una mala pasada a Meta, al utilizar su nuevo modelo de Inteligencia Artificial para satisfacer sus deseos mas íntimos. En Tech Bit te contamos qué está pasando.
Usuario crea un chatbot sexual de inteligencia artificial
Todo empezó en febrero, cuando Meta lanzó LLaMa, su nuevo modelo de IA basado en el código abierto, más personalizable y barato, a diferencia de GPT-4. En un inicio, la corporación detrás de Facebook limitó su acceso a ciertos investigadores. Pero a principios de marzo se filtró y se extendió en foros públicos, hasta que estuvo disponible a toda la comunidad.
Fue a partir de la tecnología de LLaMa, que un usuario creó a Allie, un chatbot sexual. Pero, ¿qué lo llevó a utilizar la Inteligencia Artificial de Meta? El creador reveló a The Washington Post que los “chats comerciales como Replika y ChatGPT están fuertemente censurados”. Por lo que ese tipo de proyectos no le pueden ofrecer el tipo de conversaciones sexuales que él desea.
“Realmente no puedo pensar en nada más seguro que un juego de roles basado en texto contra una computadora, sin humanos realmente involucrados”, dijo el creador de Allie a The Washington Post.
Sin embargo, el uso de los modelos de código abierto, como los de Meta, para fines sexuales escala a un nuevo nivel. Pues el medio de comunicación estadounidense reportó que ya se han utilizado para producir pornografía infantil artificial, basada en imágenes de niños reales.
Pero las preocupaciones sobre los delitos que podrían darse tras el consumo de la tecnología de Meta ya alcanzaron a las autoridades estadounidenses.
A principios de junio, los senadores Richard Blumenthal y Josh Hawley se dirigieron a Mark Zuckerberg, a través de una carta, sobre los riesgos que podrían conllevar el empleo de LLaMA, como “spam, fraude, malware, violaciones de privacidad, acoso y otros delitos y daños”, según The Washington Post.
¿Límites al código abierto?
El uso de la Inteligencia Artificial para la creación de chatbots sexuales ha encendido nuevamente la discusión sobre la necesidad o no de los límites dentro del código abierto.
Algunos defensores de este sistema consideran que el problema podría estar en la falta de transparencia, como Clem Delangue, director ejecutivo de Hugging Face, una empresa estadounidense que impulsa la creación de modelos de inteligencia artificial.
“Yo diría que, en realidad, la mayor parte del daño hoy en día lo hacen las cajas negras”, afirmó Delangue a The Washington Post, refiriéndose a aquellos sistemas cuyo funcionamiento interno no es claro.
Por otro lado, hay otros que consideran que debería haber límites, como Marzyeh Ghassemi, profesora asistente de informática en el MIT.
“Al igual que otorgamos licencias a las personas para que puedan usar un automóvil”, dijo, “necesitamos pensar en marcos similares [para las personas] para crear, mejorar, auditar y editar estos modelos de lenguaje de formación abierta”, mencionó Ghassemi al medio estadounidense.
Mantente informado las 24 horas, los 7 días de la semana. Da click en el enlace y descarga nuestra App!
