¿Puede la inteligencia artificial ser mala?
El de marzo , Microsoft lanzó un robot de inteligencia artificial de nombre Tay. Tay -que sonaba como una mujer estadounidense de entre y años- era capaz de interactuar con personas reales a través de Twitter. Estuvo activa un día y generó tuits… En los primeros decía cosas como «los humanos son geniales». Horas después ya redactaba mensajes del tipo «Odio a las feministas y todas deberían morir en el infierno», o «Hitler tenía razón, odio a los judíos». ¿Qué pasó? Había aprendido de sus interlocutores. «La gente en línea había convertido una inteligencia artificial en un mal artificial». Tay pasó a mejor vida.
En una investigación posterior sobre este episodio, dos investigadores analizaron la interacción del público con Tay, antes y después de que fuese ‘apagada’. Lo curioso es que observaron dos tendencias: una reflejaba una visión antropomórfica de la máquina y la consideraba como víctima. La otra ponía en evidencia el miedo que infunden estas tecnologías entre la gente :«Esto es por lo que la IA es una amenaza. Seguirá las vulnerabilidades humanas».
«Pero los bots hacen mucho más que salpicarnos con comentarios terribles en línea. Algunos roban nuestras identidades, acceden a nuestras cámaras para tomar fotos o videos, entran en nuestra información confidencial…», escribe la psicóloga en su libro Hacer el mal. ¿Significa esto que la IA puede ser malvada? Hay investigadores que sostienen que sí y, que al ser agentes autónomos, podemos hablar de una maldad artificial. Shaw no está de acuerdo: puede ser una amenaza, desde luego y puede cometer delitos. Pero no podemos decir que es mala (ni buena): «Incluso si algo fuera a eliminar a la mayoría de la humanidad o si lo hiciera por accidente o porque estaba programado para hacerlo, o incluso si se hubiera programado a sí mismo, me sentiría incómoda de llamarlo malvado». Al menos de momento. «Si la IA desarrolla el libre albedrío entonces tal vez sí deberíamos describirla con las mismas etiquetas que actualmente reservamos para los humanos». ¿Llegará ese momento?