Once principios para la máquina, ninguno para el Estado

Me dedico a construir modelos. No es una frase decorativa: es el oficio que aprendí en un Magíster en Simulaciones Numéricas, y es también el filtro con el que leo cualquier ley que promete domesticar una máquina. Por eso, cuando abrí el articulado del Boletín 16.821-19, el proyecto que regula la inteligencia artificial en Chile y que hoy está en su segundo trámite constitucional en el Senado, ante la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación, no busqué primero el discurso. Busqué los números.

Los números cuentan una historia incómoda. A comienzos de julio de 2025, casi un año exacto antes de esta columna, la Comisión de Hacienda le rechazó a este proyecto su informe financiero: la ley que va a reordenar la tecnología del siglo nació sin un peso asignado para aplicarse. Ni así se detuvo. La Cámara de Diputados lo despachó al Senado el 13 de octubre, donde hoy consta de 31 artículos permanentes, clasifica los sistemas de inteligencia artificial en tres niveles de riesgo (inaceptable, alto, limitado), fija once principios obligatorios (supervisión humana, robustez, privacidad, transparencia, entre otros), crea un Consejo Asesor Técnico de IA y le entrega la fiscalización a la misma Agencia de Protección de Datos Personales que la Ley 21.719 puso en marcha recién el 1 de diciembre pasado.

Once principios razonables. Y sin embargo, ninguno de los once dice de quién es la máquina. Chile copió el modelo de riesgos de la Unión Europea, pero se quedó a medio camino: mientras nosotros regulamos, Bruselas invierte. La Unión Europea lanzó en febrero de 2025 la iniciativa InvestAI, doscientos mil millones de euros, veinte mil solo para construir sus propias "gigafábricas" de inteligencia artificial, para no depender de nadie. Nosotros seguimos dependiendo de Amazon, de Google, de Microsoft: las tres expusieron ante la comisión del Senado, junto a Salesforce, a defender su propio interés. Copiamos la correa y dejamos botado el motor. Esa es la primera falta.

La segunda es la que más me quita el sueño, y es la que de verdad importa hoy. En el título de las prohibiciones, el de riesgo inaceptable, la ley chilena no nombra con todas sus letras dos cosas que el propio reglamento europeo sí prohíbe, en su Artículo 5, sin ambigüedad: el puntaje social y la vigilancia biométrica masiva de la población. Y en el título de alto riesgo guarda silencio sobre los algoritmos que el Estado chileno ya usa hoy, ahora, para decidir sobre personas concretas. El Registro Social de Hogares clasifica a las familias desde 2016 con un algoritmo que compara ingresos contra necesidades. El Sistema Alerta Niñez ya usa inteligencia artificial, construida con la Auckland University of Technology y el GobLab de la Universidad Adolfo Ibáñez, para calcular un puntaje de riesgo de vulneración por cada niño, niña y adolescente del país, cruzando datos de salud, educación y registro social. Ninguno de los dos algoritmos está obligado por ley a ser auditable. Ninguno tiene que dejar apelar su decisión ante una persona, y no ante una pantalla.

Y mientras el Congreso discute esto sin urgencia real, pasó algo que la prensa apenas alcanzó a nombrar. El 8 de junio, el Ministerio Segpres confirmó, por oficio, algo que había evitado antes: que el presidente José Antonio Kast se reunió a fines de abril con Peter Thiel en La Moneda. El gobierno la llamó "breve y protocolar", dijo que se habló de "oportunidades y desafíos" de la inteligencia artificial, y se negó a transparentar el contenido invocando la reserva constitucional de las comunicaciones privadas. No hay actas. No hay minuta. No hay nómina de asistentes.

Conviene saber con quién se reunió el Presidente a puerta cerrada. Peter Thiel cofundó PayPal y cofundó Palantir Technologies, la empresa que en abril de 2025 firmó un contrato de treinta millones de dólares con la agencia de inmigración de Estados Unidos para construir ImmigrationOS, un sistema que le da a esa agencia visibilidad casi en tiempo real de los movimientos de cada migrante, para facilitar deportaciones masivas. Palantir opera también el Proyecto Maven del Pentágono, el sistema que ayuda a elegir blancos para los drones, heredado de Google en 2019. La OTAN adoptó su propia versión, el Maven Smart System NATO, el 25 de marzo de 2025, para uso de su Comando Aliado Operacional. En la misma gira, Thiel se sentó también con el senador Johannes Kaiser, que después contó que el magnate busca invertir en minería y litio del Cono Sur, y con José Piñera, el mismo que diseñó las AFP, el sistema que le cobra comisión de por vida al ahorro obligatorio de cada trabajador chileno, y el Código de Minería que le abrió la puerta grande a la gran minería privada. Los dos códigos que escribió hace cuarenta años todavía deciden cuánto le queda a cada chileno del fruto de su trabajo y de su tierra.

El dueño de la vigilancia algorítmica más grande del planeta se sentó con nuestro Presidente el mismo mes en que el Senado decide si la ley chilena va a prohibir, con nombre y apellido, exactamente lo que la tecnología de ese hombre hace en otros países. Nadie sabe qué se conversó. Esa opacidad no es un detalle de protocolo. Es, precisamente, el problema que esta ley debería resolver y hoy no resuelve.

Hay que ser justo con el otro lado del debate: ya hay pymes y emprendedores de IA que reclaman, con razón, que este proyecto les copia a las europeas una carga de cumplimiento (trazabilidad, gestión de riesgo, multas de hasta 20.000 UTM) que una startup chilena recién partiendo no puede costear igual que una multinacional. Esa crítica es real y hay que escucharla. Pero toda esa exigencia cae entera sobre el privado chico. Ninguna cae sobre el Estado que usa la máquina para decidir sobre los más vulnerables, y ninguna sobre quien construye, en otros países, la infraestructura de vigilancia más grande que existe.

La ley todavía está viva, en segundo trámite, abierta a indicaciones. No hace falta rechazarla: hace falta terminarla. Que el título de riesgo inaceptable nombre el puntaje social y la vigilancia biométrica masiva sin eufemismos. Que el Registro Social de Hogares y el Sistema Alerta Niñez queden clasificados como lo que son, alto riesgo, con auditoría obligatoria y derecho a apelar ante una persona. Y que la agencia llamada a fiscalizar todo esto tenga, por fin, el presupuesto que el informe financiero le negó hace un año. Una ley sin plata para aplicarse es una promesa que nadie piensa cumplir. Esta todavía puede dejar de serlo.