El avance acelerado de la inteligencia artificial (IA) ha transformado la tecnología en un tema de debate legal prioritario en todo el mundo. Recientemente, la Unión Europea implementó políticas que exigen transparencia absoluta: los usuarios deben saber cuándo interactúan con una máquina o cuándo un contenido ha sido alterado. En conversación con Andrea Moletto y Álvaro Paci en Palabras Sacan Palabras, Juan Pablo Figueroa, periodista y director del laboratorio LAPSIV, profundiza en este escenario donde la velocidad de la innovación parece superar la capacidad de control de sus propios creadores.
Los niveles de riesgo en la Unión Europea
La Unión Europea lidera la vanguardia regulatoria con el AI Act, una ley que clasifica la tecnología según el peligro que representa para los ciudadanos. Según explica Figueroa, este modelo no es azaroso, sino que responde a una gobernanza basada en la seguridad.
Sobre este punto, el especialista detalla: “Hay niveles de prohibición que son para las características de riesgo máximo. Está el nivel mínimo, un nivel limitado, un nivel de alto riesgo y un nivel inaceptable. El nivel mínimo es el que tiene que ver con las cosas más cotidianas como videojuegos, filtros para las fotos, etcétera, que básicamente no tienen mayor regulación”.
Sin embargo, la preocupación real surge con los niveles superiores. Figueroa aclara que el “nivel limitado está obligado —que tiene que ver con los chatbots, con la generación de productos a través de IA generativa como los deepfakes—, si bien sabemos que se pueden utilizar para fraude, también tienen ciertos usos legítimos. Por lo tanto, lo que ahí se está avanzando es en la transparencia. Se tiene que avisar que si vas a interactuar con una inteligencia artificial, se tiene que transparentar eso”.
La transparencia como barrera ante el fraude y el engaño
Uno de los pilares de la nueva normativa es la implementación de marcas de agua en videos e imágenes generadas por IA. Esta medida busca combatir la desinformación en un entorno donde distinguir lo real de lo ficticio es cada vez más difícil.
Figueroa enfatiza la importancia de esta medida técnica: “El tema de la transparencia ya no va a depender de que yo le ponga el sello de agua, sino que ya me vienen con algún sello de agua respecto de esto fue hecho por tal motor. Eso en algunos casos ya se está implementando porque muchas empresas han ido avanzando en esta autorregulación”.
Además, el experto advierte sobre los usos que la Unión Europea ha catalogado como inaceptables y que ya están prohibidos. Estos “tienen que ver con el tema de la manipulación emocional, que por ejemplo te metan una inteligencia artificial en el trabajo o en los colegios para manipularte emocional y subliminalmente de cierta forma para poderte llegar a hacer cosas. Los deepfakes con uso sexual, por ejemplo. También los que tienen que ver con instrucciones mucho mayores y con mayor impacto”.
El choque geopolítico: Regulación contra desregulación
La discusión no es solo técnica, sino geopolítica. Mientras Europa apuesta por un enfoque humanista, otras potencias como Estados Unidos priorizan la competencia económica, especialmente frente al crecimiento de China.
Al respecto, Figueroa señala: “En Estados Unidos está el otro modelo que apunta a la desregulación precisamente para poder impulsar el desarrollo y no frenar a la industria. Es mucho más pro-industria y menos centrada en los derechos de los usuarios y de las personas que el modelo europeo. Ahí ya se están generando estos dos bloques geopolíticos respecto de la regulación y ahí también las empresas han hecho lobby en ambos lados para lograr sus objetivos”.
Esta carrera por la innovación ha llevado incluso a los mismos desarrolladores a pedir límites. Figueroa recuerda que: “Los mismos desarrolladores estaban pidiendo: ‘Necesitamos mayor regulación nosotros. Por favor regúlennos. Deténgannos un poco porque estamos con el acelerador demasiado rápido. Y si ustedes no nos paran nos obligan a estar en esta carrera desatada’”.
El escenario en Chile y América Latina
En el ámbito local, Chile ha comenzado a dar pasos significativos. Existe un proyecto de ley que sigue la lógica de riesgos del modelo europeo, aunque todavía enfrenta desafíos institucionales.
Figueroa explica la situación actual: “Las iniciativas que se están discutiendo actualmente en Chile, que es como la ley regulatoria macro que ingresó en el gobierno de Boric en 2024 y que en este momento está en su segundo trámite legislativo en el Senado, también clasifica según niveles de riesgo el uso de la inteligencia artificial. Ahora, no está regulando tanto a las desarrolladoras para no ponerle trabas a los desarrollos tecnológicos de startups acá en Chile, pero sí al nivel de uso que se le va a hacer y distintos niveles que apuntan a la transparencia”.
No obstante, existe un nudo crítico: “Una de las trabas todavía es que se está aspirando a que una gran parte de la regulación esté en la Agencia de Protección de Datos Personales, que todavía no existe y que recién va a estar en implementación una vez que entre en vigencia la ley de protección de datos personales. Eso viene ahora el primero de diciembre”.
Un aliado tecnológico con límites éticos
A pesar de los riesgos de estafas y manipulación, Figueroa insiste en que la IA debe ser vista como una herramienta poderosa para el progreso social si se utiliza bajo marcos éticos.
“La IA hay que empezar a adoptarla como algo que es positivo. La IA es una herramienta, una tecnología que va a depender del cómo se usa y cómo se va implementando. Si cae en malas manos efectivamente se abren los espacios para poder hacer fraudes o trampas. Pero también los avances tecnológicos que pudieran haber en medicina, en el manejo de datos públicos y para las áreas de investigación académica son súper importantes”, concluye el experto.