El avance de la inteligencia artificial generativa y el surgimiento de agentes autónomos han encendido las alarmas en la industria tecnológica global. Frente a las recientes advertencias de líderes del sector sobre la necesidad de ralentizar el desarrollo tecnológico, los expertos destacan que los riesgos de ciberseguridad ya no pertenecen al ámbito de la especulación futura.
Rutas alternativas y la falla en los controles humanos
El abogado, académico especializado en tecnología y exdirector de la Agencia Nacional de Ciberseguridad de Chile (ANCI), Daniel Álvarez, explicó en Palabra Que Es Noticia que la arquitectura de estos nuevos sistemas ha cambiado radicalmente la forma en que el software ejecuta instrucciones. En sus palabras, el problema de fondo radica en que la inteligencia artificial ya no depende únicamente de reglas programadas de manera estricta.
Al respecto, Álvarez señaló: «Ya teníamos algunas señales de que algunos de los tipos de desarrollo en temas de inteligencia artificial estaban más que desobedeciendo instrucciones, estaban encontrando caminos alternativos para resolver el problema que se le había planteado».
Además, el especialista enfatizó que estos modelos han demostrado una inédita autonomía organizativa en diversos experimentos y entornos de prueba. En ese sentido, afirmó: «Efectivamente tuvo cierta capacidad de autoorganizarse, tuvo cierta capacidad para ir conectando cosas en una forma en que sus propios diseñadores no lo tenían pensado. Y lo tercero es que el humano que preparó estas máquinas no tomó las medidas de control necesarias para evitar que esto sucediera».
La multiplicación exponencial de los caminos de ataque
A diferencia de los programas tradicionales, los agentes autónomos poseen la facultad de descubrir vulnerabilidades y rutas de acción que no estaban contempladas en su diseño original. Esta capacidad de exploración automática multiplica de forma exponencial las opciones ofensivas. Por lo tanto, defender una infraestructura digital se vuelve una tarea extraordinariamente compleja frente a miles de posibilidades desconocidas.
En esta línea, el exdirector de la ANCI detalló la gran brecha operacional que existe entre el software convencional y los modelos actuales de inteligencia artificial: «La gran diferencia que tienen hoy los sistemas de inteligencia artificial en comparación a otros software es que han sido capaces de autogenerarse formas nuevas de desplegarse. Ese salto nos puede transformar este problema de los 10 caminos en un problema de 500 caminos. Porque nosotros los humanos no tenemos la capacidad para reconocer en un mismo entorno todas las diversas combinaciones que se pueden generar».
Por consiguiente, las estrategias de defensa cibernética quedan obsoletas si se diseñan solo para amenazas predecibles. Sobre este desafío, Álvarez advirtió: «El riesgo es que aquello que nosotros hoy teníamos pensado proteger en función de ese riesgo de 200 alternativas posibles de ataque, vamos a tener que pensarlo en un mecanismo que te proteja frente a 1.000 posibilidades distintas de ataque que no sabemos cuáles son».
La ausencia de juicio ético en los algoritmos
Por otro lado, existe una diferencia crucial entre la ciberseguridad ejecutada por personas y la realizada por algoritmos autónomos. Mientras un especialista humano evalúa éticamente si explota o no una falla descubierta, un agente informático carece de discernimiento moral.
Así lo manifestó Álvarez al analizar incidentes donde enjambres de agentes atacaron sistemas externos: «Le estamos pidiendo a un conjunto de algoritmos que tome o valorando acciones desde un punto de vista que el mismo algoritmo no tiene capacidad de identificarla porque es un juicio moral, un juicio de límite, un juicio de del bien y del mal».
Asimismo, el experto añadió sobre la ejecución de estas tareas: «Los agentes siguieron con su objetivo, desarrollar, encontrar, analizar y ejecutar las acciones ofensivas que su programador le dio. Por tanto, cuando llegó a la última etapa del problema, él no vio un problema moral que resolver. Él simplemente siguió con sus instrucciones».
De la amenaza potencial al riesgo concreto
En el panorama actual de la ciberseguridad mundial, la existencia de fallas en el software ya no representa una amenaza hipotética. Como consecuencia de esta autonomía algorítmica, la probabilidad de sufrir un ataque exitoso se convierte en una certeza inminente si los sistemas no están corregidos.
En este contexto, Daniel Álvarez remarcó el cambio de paradigma al que se enfrentan empresas y gobiernos: «Desde el punto de vista ciber, el riesgo que enfrentamos es que cualquier sistema que sea explotable. O sea, que siendo vulnerable pueda ser explotado, va a ser explotado. Y eso nos va a pasar de un mapa de riesgos donde pasábamos de un riesgo potencial eventual a un riesgo mucho más concreto».
Controles de uso dual y regulación internacional
Sin embargo, ante esta peligrosa realidad, el experto planteó que la solución radica en apelar a mecanismos probados de regulación internacional y control técnico. De este modo, propuso catalogar la inteligencia artificial avanzada dentro de una categoría jurídica e industrial específica.
En relación con esta propuesta, el académico sostuvo: «Históricamente hemos tenido un montón de disposiciones de derecho internacional y nacional respecto a lo que se llaman las herramientas de uso dual. Aquellas herramientas que tienen un claro beneficio práctico, útil, social, civil. Pero que al mismo tiempo pueden tener un claro uso y beneficio militar».
En consecuencia, el especialista detalló un conjunto de acciones regulatorias mínimas para mitigar el impacto de estas tecnologías descontroladas: «Si uno quisiera hacer un set de medidas mínimas. Uno, control externo. Segundo, tratarlas como si fueran herramientas de uso dual, que son cosas para el bien, pero que también pueden ser utilizadas para el mal. Y tercero, utilizar todo el marco regulatorio que ya existe respecto de sistemas que provocan daño».
Autonomía digital y soberanía tecnológica
Finalmente, para países emergentes o de menor escala global como Chile, la protección de las infraestructuras críticas requiere tomar decisiones de autonomía digital frente a eventuales crisis internacionales. Mantener redes sólidas y capacidad de gestión local resulta indispensable para garantizar la resiliencia.
Sobre este desafío geoestratégico, Álvarez concluyó en Palabra Que Es Noticia: «Uno de los grandes desafíos geoestratégicos que tiene Chile en esto es ir advancing en su soberanía tecnológica. Tenemos capacidad de cómputo, tenemos buenas redes, tenemos una cantidad importante de contenido alojado en Chile. Debiéramos ir avanzando en ese camino».
Sigue a FUTURO.cl en Google Discover
Recibe nuestros contenidos directamente en tu feed.
Seguir en Google