NUEVO LAREDO.- La inteligencia artificial (IA) no ha desarrollado voluntad propia ni puede gobernarse a sí misma como en “Terminator”. Pero sus sistemas ya hacen tareas durante periodos cada vez más largos con menor intervención humana, mientras México carece de una política pública clara con el fin de supervisar su uso, advirtieron especialistas de la Universidad Iberoamericana.
En la mesa de análisis “Una IA que se gobierna a sí misma”, expertos en las áreas de ingeniería, filosofía y educación diferenciaron entre la imagen de una máquina que se rebela contra las personas y los riesgos que ya enfrentan escuelas, empresas y gobiernos al confiarle decisiones a la tecnología.
Al abrir la mesa, se recordó que “Terminator” continúa marcando la conversación pública acerca de inteligencia artificial y se planteó una pregunta: “¿Qué pasa si llegamos a un punto en el que no podamos controlarla?”. La discusión se centró en distinguir dicho escenario de ficción de los peligros actuales de sistemas cada vez más autónomos.
Alessandro López González, coordinador de la Ingeniería en Inteligencia Artificial de esta institución de educación superior, sostuvo que hoy no existe un sistema documentado capaz de mejorarse a sí mismo autónomamente. “No estamos construyendo mentes, estamos construyendo calculadoras estadísticas muy complejas”, aclaró.
Afirmó que cuando una herramienta genera una respuesta falsa, sesgada o peligrosa no significa que haya adquirido conciencia o una intención oculta. Sus respuestas dependen de cálculos de probabilidad y de los datos con los cuales fue desarrollada. “Los errores de inteligencia artificial son fallas matemáticas, no actos de rebelión”.
Andrés Molano, director del Departamento de Estudios en Ingeniería para la Innovación, coincidió en que hoy no existe una IA que se gobierne a sí misma “en el sentido de “Terminator”. Lo que sí existe, dijo, son sistemas capaces de recibir un objetivo, planear acciones, consultar información, escribir código, corregir errores y continuar trabajando con menos intervención de las personas.
La diferencia, puntualizó, está entre permitir que una herramienta decida cómo cumplir una tarea y dejarle decidir qué objetivos perseguir, qué riesgos aceptar o qué consecuencias imponer a otras personas.
Agregó que en experimentos diseñados para encontrar fallas, algunos sistemas han actuado contra las instrucciones recibidas, lo cual no demuestra que tengan voluntad propia, pero sí la necesidad de controlar los permisos y herramientas que se les entregan.
“No todo lo automatizable debe automatizarse”, planteó Molano. En la nueva ingeniería en inteligencia artificial de la Ibero, añadió, buscan formar profesionales que también se pregunten cómo auditar los sistemas que desarrollan y quién responderá cuando fallen.
Desde la filosofía, Verónica Díaz de León indicó que llamar “autogobierno” a la capacidad de una máquina para ejecutar tareas confunde dos cosas diferentes. El autogobierno de una persona implica libertad, conciencia y responsabilidad; en una herramienta tecnológica, dijo, corresponde hablar de autonomía operativa. Automatizar una tarea no traslada a la máquina la responsabilidad por sus resultados.
Luis Medina Wall, director de Innovación Educativa de la Universidad Iberoamericana, sostuvo que en educación resulta especialmente riesgoso dejar decisiones acerca de las personas en manos de sistemas automatizados. Recordó casos en los que herramientas de reconocimiento facial marcaron como ausentes o sospechosos a estudiantes de piel oscura y sistemas de alerta atribuyeron mayor riesgo de abandono a ciertos grupos de alumnos.
Además, expuso un caso en el que una herramienta con la finalidad de identificar estudiantes en riesgo fue usada para darlos de baja antes del cierre de un reporte institucional. “La herramienta funcionó, pero lo que falló fue el propósito”, señaló al explicar que el resultado de una tecnología depende también de lo que sus responsables deciden buscar con ella.
En la Ibero, relató, utilizan una herramienta de IA que entrevista brevemente al alumnado y reúne comentarios para la evaluación docente. Los estudiantes pueden pedir que se reformule una pregunta y validar o corregir la síntesis de sus respuestas. Esa información sirve para dar seguimiento y mejorar la enseñanza, pero no para tomar por sí sola una decisión como despedir a un profesor, precisó.
Medina Wall cuestionó además los programas que prometen detectar si un estudiante escribió un trabajo con IA. Dijo que la universidad busca enseñar a usar las herramientas de forma crítica y revisar cómo evalúa el aprendizaje.
Si un alumno entrega una tarea hecha con inteligencia artificial y el docente utiliza otra con la intención de calificarla, advirtió, pueden acabar “hablando dos IAs” sin que nadie compruebe qué aprendió el estudiante.
Agregó que automatizar la retroalimentación también puede privar al profesor de información sobre las dificultades de su grupo. Por ello, propuso que ninguna decisión automatizada sobre una persona quede sin un responsable humano, sin registro de cómo se tomó y sin posibilidad de impugnarla.
Medina Wall aseguró que se han presentado más de 100 iniciativas acerca de inteligencia artificial en el Congreso sin que se haya aprobado alguna.
También señaló que la desaparición del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Peronales (INAI), la falta de vigilancia independiente del tratamiento automatizado de datos y la instalación de centros de información sin un marco que, a su juicio, atienda de manera suficiente sus efectos en las comunidades.
“Somos consumidores, pero no productores”, advirtió acerca de la dependencia tecnológica del país. Otro de los participantes sostuvo que México no está listo para afrontar la velocidad de estos cambios y pidió más financiamiento para la investigación, así como becas para formar especialistas.
En la discusión sobre regulación, los académicos plantearon que los sistemas más poderosos requieren evaluaciones externas.
López González sugirió evitar que herramientas basadas en probabilidades controlen por sí solas infraestructura de la que dependen vidas humanas, como redes eléctricas o armamento. Medina Wall pidió transparencia acerca del origen de los datos, los procesos de entrenamiento y las evaluaciones de los modelos, además de acceso para investigadores, auditores y periodistas.
Los participantes también abordaron las advertencias de empresas tecnológicas sobre una posible catástrofe causada por la IA. Algunos consideraron que podrían influir intereses comerciales, pero aclararon que se trata de una interpretación, no de un hecho demostrado. Díaz de León pidió prestar atención a los efectos actuales de la tecnología y a las personas que toman decisiones sobre su desarrollo y uso.
La pregunta central, concluyó Molano, es si los seres humanos serán capaces de gobernar los sistemas que están construyendo. Medina Wall lo expresó como una recomendación para la cobertura periodística: “No pregunten si la IA es peligrosa; pregunten quién la compró y a quién afectó”.
Mantente informado las 24 horas, los 7 días de la semana. Da click en el enlace y descarga nuestra App!
