La ley de IA no le pide cuentas al Estado

Señor Director:

En su columna "La IA también es humana" (El Mercurio, 4 de junio), Agustín Squella sostiene que "el derecho siempre va atrás, y el progreso moral, más atrás todavía", hablando de inteligencia artificial. Tiene razón: el proyecto de ley que la regula en Chile, hoy en segundo trámite en el Senado, lo confirma.

Construyo modelos, y por eso leo el articulado con ojo de ingeniero. Fija once principios razonables, supervisión humana, transparencia, robustez, sobre cómo debe comportarse la máquina privada. Pero no prohíbe con todas sus letras lo que otras leyes símiles sí nombran sin ambigüedad: el puntaje social y la vigilancia biométrica masiva. Y calla sobre los algoritmos que ya deciden sobre chilenos hoy, como el que clasifica a las familias en el Registro Social de Hogares o el que predice el riesgo de cada niño en el Sistema Alerta Niñez. Ninguno está obligado a ser auditable ni a dejar apelar ante una persona, no ante una pantalla.

Hay quienes ya reclaman que la ley asfixia a la pyme que recién innova. Puede ser. Pero esa exigencia cae entera sobre la empresa privada, y ninguna sobre el Estado que usa la máquina para decidir sobre los más vulnerables.

¿A quién audita el que audita?