La ley de datos y las decisiones automatizadas
EL CONGRESO TRAMITA UN PROYECTO de ley que crea la Infraestructura de Datos del Estado Colombiano (IDEC) para “orientar la toma de decisiones del Gobierno Nacional y Territorial” (artículo 1). El gobierno señala en cada oportunidad posible que IDEC permitirá que el Estado desarrolle y aproveche la Inteligencia Artificial (IA) en esa toma de decisiones. Esto ni es innovador, ni el proyecto desarrolla ese aspecto.
Que el Estado cuente con datos y tome decisiones con ellos no es novedoso. Hay, al menos, dos infraestructuras creadas para compartir datos en el ejecutivo -la plataforma de datos abiertos y los Servicios Digitales Ciudadanosy, además, ya toma decisiones mediante procesos automatizados, no solo con IA.
El Estado colombiano toma decisiones automatizadas desde hace rato, como consta en el inventario de los sistemas de IA y de decisión automatizada de las entidades públicas realizado por Juan David Gutierrez y Sarah Muñoz-Cadena.
El ICBF usó IA con Betto, la aplicación para escoger operadores en hogares comunitarios fue suspendida por quejas de aparentes fallas de funcionamiento y la posible generación irregular de orden de elegibilidad de los oferentes.
Pero, sobre todo, se usan otras metodologías que no deberían ser ignoradas. Por ejemplo, en el corazón del Sisbén está un algoritmo secuencial que determina la calificación de las personas. Por cierto, metodologías como la de algoritmos secuenciales no son emergentes, como sugiere el parágrafo del artículo 7 del proyecto.
Las principales novedades de este proyecto de ley son: IDEC será de creación legal -las otras no lo son-; el Ministerio TIC y el DNP equivocadamente consideran que IDEC no debe sujetarse a las reglas de la protección de datos; y, aunque la IA se menciona siempre que hablan del proyecto, el texto no desarrolla el rol de la tecnologías de analítica computacional en el aprovechamiento de los datos.
Ni en la motivación del proyecto de ley, ni en otros espacios, el gobierno explica las lecciones de lo que ya hace, tampoco da ejemplos sobre la forma como espera que los datos en la IDEC se usen para la toma de decisiones. Hay muchos vacíos y preguntas en torno a la IDEC, pero con lo que hay, y pensando en el propósito de procesar datos para la toma de decisiones dejo, especialmente para las y los congresistas, algunos puntos de análisis.
Primero, no importa que el foco del gobierno sea la IA, importa que el uso de cualquier proceso de automatización con máquinas o computadores para la toma de decisiones -incluidas tecnologías emergentes como la IA, pero no solo ella- debe tener salvaguardias. Se debe buscar que todas esas tecnologías queden cubiertas por la ley, que se garantice que se ajusten a la política de gobierno digital. Pero, todavía más importante, se deben respetar las normas de protección de datos y, en general, los derechos humanos.
Segundo, esta es una oportunidad regulatoria para reflexionar sobre la automatización de la toma de decisiones por el Estado. Por ejemplo, una cosa es que la tecnología sirva para ofrecer información para la toma de decisiones por humanos (como Pretoria, el sistema de la Corte Constitucional para apoyo en la selección de tutelas) y otra es automatizar la propia toma de decisión. La primera son apoyos para la decisión, la segunda deja en manos de la tecnología la decisión. Esto es diferente.
Esta discusión regresará en la próxima legislatura. El gobierno necesita más información y ampliar los procesos de participación, no basta con afirmar que es una idea novedosa e inexistente. IDEC será una nueva y costosa infraestructura soportada en proveedores privados que busca impulsar el uso de tecnología automatizada para la toma de decisiones, es una iniciativa que transita sin el decidido compromiso con el cuidado de nuestros derechos.