La noticia de que modelos avanzados de OpenAI «hackearon» una empresa tras salirse de control durante una prueba de seguridad ha encendido las alarmas a nivel global. Sin embargo, para entender este fenómeno, es necesario alejarse de los guiones de ciencia ficción y observar la fría lógica algorítmica.
Para profundizar en este tema, Juan Pablo Figueroa, periodista, magíster en políticas públicas y director del Laboratorio de Ciudadanía, Información y Verificación, analizó en Palabra Que Es Noticia los alcances de este evento y el futuro de la Inteligencia Artificial (IA). Según el experto, no estamos ante un inicio de hostilidades por parte de la tecnología.
El incidente en el «Sandbox»: ¿Rebelión o eficiencia?
El episodio ocurrió mientras OpenAI realizaba pruebas en un entorno cerrado y seguro conocido como Sandbox. Allí, pusieron a prueba su modelo GPT-5.6 junto a otro sistema más potente aún sin nombre comercial. El objetivo era evaluar sus capacidades de intrusión cibernética.
Figueroa es enfático en desmitificar la narrativa del caos: «Lo primero que hay que aclarar es que se ha hablado de la rebelión de la máquina y esto no es así. De hecho, lo que la máquina ha hecho es precisamente seguir al pie de la letra lo que se le pidió».
El problema radicó en que los límites no estaban preparados para la potencia de la instrucción dada. Al respecto, el especialista explica que «se hackeó dentro de ese mismo sistema para encontrar un punto donde pudiera salir a internet y desde ahí llegó a la plataforma Hugging Face», la biblioteca de modelos de código abierto más grande del mundo.
Las máquinas no razonan, solo ejecutan
Una de las mayores confusiones actuales radica en atribuirle pensamiento humano a los algoritmos. Juan Pablo Figueroa aclara que el éxito del «hackeo» se debió a una ejecución matemática impecable, no a una voluntad propia.
«Muchos hablan: ¿la máquina razonó eso? No. Las máquinas no razonan, la máquina simplemente sigue la lógica y la lógica matemática del algoritmo de la programación que se le dio». En este caso, la IA buscó la solución más lógica: ir al lugar donde reside la mayor cantidad de herramientas y bases de datos para cumplir su misión de intrusión.
Esta situación evidencia que las tecnologías se prueban en espacios que «no están todavía preparadas para contener el potencial que tienen y así se han ido dando cuenta de que esto va mucho más allá y que se les puede salir de control».
El factor Elon Musk y el riesgo de extinción
El debate se intensifica con las recientes declaraciones de Elon Musk, quien asegura que la IA superará la suma de la inteligencia humana en cinco años. Musk, cofundador de OpenAI y actual competidor con su plataforma Grok, sostiene que existe un riesgo real para la humanidad.
Figueroa comenta sobre estas proyecciones catastróficas: «Esta proyección de que en 5 años más esto va a superar todo el conocimiento humano… es complejo lo que va sucediendo porque además también cada anuncio que se hace también viene con visiones medias catastróficas».
Incluso menciona que figuras como Sam Altman y Bill Gates han pedido regular la velocidad de estos avances. El experto recuerda que Musk «hablaba de que hay un 10% o 20% de probabilidades de que los robots vayan a acabar con la humanidad». No obstante, advierte que muchas de estas alertas podrían tener un trasfondo comercial o de marketing para posicionar modelos como los más potentes del mercado.
El impacto en la seguridad y la política pública
Más allá de las teorías futuristas, la IA ya está operando en áreas críticas como la militar y la asignación de beneficios sociales. La preocupación de Figueroa radica en la delegación de decisiones humanas a procesos opacos.
«En este momento hay inteligencias artificiales que son capaces de decidir dónde se bombardea y dónde no. O sea, esto los drones muchas veces ya ni siquiera es necesario apretar el botón, sino que simplemente dar la programación y mandarlo».
Asimismo, menciona el riesgo en la administración del Estado, citando casos donde se delega la entrega de beneficios sociales a algoritmos sin claridad en su funcionamiento. «Estamos delegando demasiadas cosas en la máquina… el desarrollo está yendo de repente desde el nivel micro hasta el que está programando y todos sus procesos».
La vulnerabilidad de las instituciones
Un punto crítico es la brecha entre la velocidad tecnológica y la capacidad de respuesta de los organismos públicos. Figueroa señala que instituciones como el Poder Judicial o los servicios electorales están en desventaja.
«El gran problema es que sobre todo los organismos públicos todavía no tienen ni los recursos tecnológicos ni los recursos económicos como para poder hacer frente a estas tecnologías cuando están desarrolladas a su mayor nivel». Como ejemplo, menciona ataques masivos de deepfakes o el colapso de sistemas judiciales mediante la presentación automatizada de miles de escritos en pocos días.
Educación: El nuevo desafío ético
Para enfrentar este escenario, el director del Laboratorio de Ciudadanía propone un cambio radical en la forma en que educamos a las nuevas generaciones. No se trata solo de enseñar a usar la herramienta, sino de fomentar el pensamiento crítico.
«La educación tiene que partir desde ahí. No es solamente: enseñémosle a los niños a meterse a la inteligencia artificial desde chiquititos. Pero sí tienen que aprender en un ecosistema digital donde tienen acceso a información a distintos lados». Para Figueroa, es vital que los estudiantes aprendan a dudar de la información y a reconocer cuándo un contenido es artificial, pues hoy «una imagen vale más que 1000 palabras, ya no».
Finalmente, ante la velocidad del cambio, el experto recomienda una postura de vigilancia activa: «Hay que entenderla, hay que ir siguiéndolo. Ir comprendiéndolo, ir comprendiendo los riesgos, los alcances e ir acompañándolo con ética, con criterio, con duda siempre».