¿Cuán transparentes son los algoritmos públicos?
Tiempo de lectura: 3 minutos Expertos presentaron el segundo informe anual del Repositorio de Algoritmos Públicos 2023 en Chile. que busca visibilizar cómo el Estado toma decisiones utilizando sistemas automatizados. Entre los principales hallazgos, el estudio reveló una mejora en la toma de decisiones con sistemas automatizados en las áreas de la salud y educación.
Con la participación de expertos nacionales e internacionales, en una actividad online se presentó el segundo informe anual del Repositorio de Algoritmos Públicos 2023 la única instancia en Chile que visibiliza las formas en que el Estado toma decisiones con sistemas automatizados o semiautomatizados.
Creado para contribuir a la transformación del sector público mediante ciencia de datos, el Repositorio de Algoritmos Públicos muestra concretamente quiénes, cómo y para qué se usan algoritmos en organismos de todos los poderes del Estado. En 2022 se realizó el primer informe anual de hallazgos de este repositorio organizado por el GobLab, laboratorio de innovación Pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI). El repositorio fue reconocido recientemente con el Premio Latinoamericano Democracia Digital, en la categoría “Sociedad Civil”, por su contribución a la promoción de las buenas prácticas digitales.
“El Estado toma decisiones relevantes sobre nuestras vidas, con el apoyo de sistemas automatizados que utilizan algoritmos de reglas o de Inteligencia Artificial. El problema es que la operación de estos sistemas ocurre, muchas veces, sin los grados de transparencia necesarios o deseados”, afirmó Diana Krüger, Decana de la Escuela de Gobierno de la UAI.
La presentación del informe Repositorio de Algoritmos Públicos estuvo a cargo de María Paz Hermosilla, Directora del GobLab, bajo el título: ¿Qué sabemos de los algoritmos que usa el Estado?
La académica compartió tres definiciones: Algoritmo, un conjunto de instrucciones asignadas a un computador para realizar una tarea en particular; Algoritmo Público, sistema automatizado que usa algoritmos simples o complejos para la toma de decisiones, y Transparencia Algorítmica, que apunta a brindar la información necesaria para evaluar e interactuar con los algoritmos, previniendo resultados injustos, arbitrarios o que afecten derechos fundamentales.
Actualmente, el repositorio tiene 75 sistemas de todo tipo de áreas de la política pública, clasificándose en función del gasto público. Salud y asuntos económicos representan casi la mitad de los algoritmos del repositorio, con un 49%, protección del medioambiente, con un 12%, y orden público y seguridad, con un 12% también.
Entre los ejemplos expuestos por la directora de GobLab fue un sistema implementado en el Instituto de Previsión Social que permite encontrar a los dueños de cotizaciones que no han sido identificadas producto de errores en los datos de identificación. “Gracias a su implementación, entre agosto y septiembre de 2019 se resolvió el 72% de las cotizaciones con identificación incorrecta, lo cual significó una disminución de 1 millón 600 mil casos – algunos registrados desde 1997 – a 450 mil”.
Educación
También se refirió a un algoritmo implementado por la Superintendencia de Educación cuya misión es fiscalizar más de 18 mil establecimientos –escolares y preescolares– a fin de que velen por una educación de calidad.
“Dada la complejidad para supervisarlos a todos, entre 2019 y 2020 se fiscalizó a un 42% del total, mejorando la asertividad de estas muestras a través de modelos basados en Machine Learning. La idea era detectar los establecimientos más propensos al incumplimiento de la normativa educacional. Gracias a esta solución, la efectividad de las fiscalizaciones aumentó en un 50%, mientras que las efectuadas con Machine Learning un 61% en relación a la efectividad de las tradicionales en el programa de recursos de la subvención escolar preferencial, y de 67% en el Programa de Reconocimiento Oficial”, aseguró María Paz.
Cabe destacar que en 6 de cada 10 algoritmos públicos participa alguna institución privada, ya sea ejecutando un sistema (35%) o mediante una alianza público – privada (26%). Otro dato interesante es que el 43% de los proyectos tienen más de un ejecutor.
Un aspecto muy relevante es la distribución territorial de estos algoritmos, puesto que la mitad de ellos alcanza el territorio nacional. Esto se condice con la concentración de los sistemas en el gobierno central y servicios públicos (79%), y solo 8% por las municipalidades.
La experta además indicó que es urgente la aprobación de reforma a la ley de Protección de Datos Personales, que contempla exigencias de transparencia y explicabilidad para decisiones automatizadas con datos personales que afecten significativamente a las personas.
Fuente: UAI
