Por una Inteligencia Artificial supervisada y responsable
El nivel y la velocidad de disrupción y cambio al que se enfrenta la sociedad por el avance de la Inteligencia Artificial no tiene precedentes. Estamos viviendo en una época en la que podemos llevar a la práctica la información derivada de la Inteligencia Artificial para abordar una variedad extraordinaria de retos sociales y científicos. En el ámbito empresarial, impulsa el desarrollo de nuevos productos y servicios, posibilita experiencias extraordinarias de cliente y varía la naturaleza del trabajo en sí. Pero, para tener verdadero éxito, debe implantarse de manera responsable.
La Inteligencia Artificial trabaja con miles, incluso millones, de datos y realiza operaciones muy complejas que no podría hacer una persona. Lo que sucede a menudo es que el algoritmo de machine learning es una “caja negra” y es difícil saber cómo toma una decisión concreta. Esto es un problema. Si el banco deniega un crédito mediante Inteligencia Artificial, es lógico preguntarse cómo ha llegado a esa conclusión.
La Comisión Europea ha tomado cartas en el asunto y en abril de 2021 redactó una propuesta legislativa denominada Artificial Intelligence Act con el objetivo de establecer un marco para una Inteligencia Artificial ética y confiable. Requiere que los sistemas sean legal, ética y técnicamente robustos y respeten los valores democráticos, los derechos humanos y las leyes.
Dejando aparte las cuestiones legales, es evidente que desde el punto de vista práctico la transparencia de los sistemas de Inteligencia Artificial, en el sentido de entender el racional de las conclusiones a las que llegan, es algo necesario tanto para aplicarlas de manera fiable como para poder mantener y mejorar los modelos. La cuestión es: ¿cómo implementar estas ‘explicaciones’ y sobre qué marco lo haremos?
Quizá aporte más luz analizarlo desde el punto de vista de los altos directivos de las empresas. Los gestores recurren frecuentemente a expertos para resolver problemas complejos sobre los que no hay conocimiento en la empresa. ¿Por qué un directivo debería fiarse de un consultor externo? Al igual que sucede con los sistemas, no puede acceder a los procesos cognitivos del consultor, pero sí está la capacidad para explicar cómo ha llegado a las recomendaciones que hace. Probablemente no reflejan de una forma fiel los procesos cognitivos del consultor, pero ayudan a construir una historia coherente, “que encaja” y que hace que el directivo se sienta cómodo (o en desacuerdo) con la solución.
Lenguaje entendible
Uno de los primeros sistemas expertos de la historia, MYCIN, funcionaba de una forma similar al consultor. Empezaba por analizar la información disponible, en este caso haciendo una serie de preguntas al paciente, y emitía un diagnóstico, explicando cómo había llegado a la conclusión (básicamente enumeraba las reglas que había aplicado en un lenguaje entendible). ¿No sería razonable que los sistemas de Inteligencia Artificial se diseñaran de forma que pudieran explicar cómo llegan a las conclusiones?
Muchos de los sistemas actuales están basados en machine learning que, simplificando mucho, son regresiones muy sofisticadas que permiten hacer una predicción (esta persona pagará el crédito con una fiabilidad del 97,3%) o una clasificación (de acuerdo con los síntomas, el paciente tiene la gripe). En este caso la explicación de las conclusiones no puede hacerse en el estilo de MYCIN, pero podrían mostrarse las principales tendencias y correlaciones de los datos originales para entender la plausibilidad de las conclusiones.
La tecnología de Inteligencia Artificial es más sofisticada y permitirá que estos sistemas puedan “entender” cómo llegan a sus propias conclusiones. En este camino hacia la transparencia, España jugará un papel fundamental en la definición de un ecosistema responsable, pues A Coruña ha sido elegida sede de la Agencia España de Supervisión de la Inteligencia Artificial.
La agencia será la encargada de auditar los algoritmos desarrollados en el territorio español, tanto de empresas privadas como de administraciones públicas, “de forma transparente, objetiva e imparcial” y proveerá asesoramiento para que los sistemas de Inteligencia Artificial cumplan con la regulación de los algoritmos que establece la ‘Ley Rider’. Esta ley fue el primer paso para regular la Inteligencia Artificial en nuestro país, estableciendo que los algoritmos no tienen que reproducir la realidad, sino que tienen que cumplir la ley. Lo que nos recuerda a los profesionales que programamos algoritmos la importancia de tener en cuenta los contextos sociales, protegiendo a los colectivos vulnerables.