Daniel Innerarity expuso el riesgo de hacer democracia con IA

«Hay un creciente malestar en relación con la democracia en nuestras sociedades». Con esta frase abrió su intervención el filósofo español Daniel Innerarity, quien realizó la charla titulada «¿Sobrevivirá la democracia a la inteligencia artificial?», en el marco de Congreso Futuro 2024.

El director del Instituto de Gobernanza Democrática explicó que hay dos tipos de malestares democráticos. El primero, relacionado con el desconocimiento por parte de los gobernantes respecto a las necesidades de la población, y el segundo es que la opinión de la ciudadanía se verifica solo en algunos momentos.

«La política tiene un elemento de delegación que hace que solamente se verifique nuestra opinión en momentos puntuales, y entre un momento y el otro hay un largo periodo en el que eso se puede debilitar o traicionar», aseguró Innerarity.

Con este escenario de descontento y malestar, el académico del Instituto Universitario Europeo en Florencia planteó la posibilidad de que la inteligencia artificial (IA) rastrée con precisión lo que la ciudadanía quiere.

«Habría una democracia de las recomendaciones, es decir, una democracia elaborada a partir de lo que ha sido nuestro comportamiento registrado a través de nuestra opinión en redes sociales y lo que éste dispositivo sabía de nosotros», planteó.

Y añadió: «En vez de votar, tendríamos datos y objetividad, en vez de esa cosa atávica que se hace en una urna, que dentro de todo será una reliquia del pasado y tan ocasional como ir a votar», indicó.

Una democracia con IA

Una democracia generada con IA implicaría que este instrumento abarcara y registrara todas las preferencias de las personas, explicó el autor de “La democracia del conocimiento”. Sin embargo, esto plantea una serie de problemas.

El primero de ellos tiene que ver con qué tan bien reconocidos están nuestros intereses. «Todos sabemos que el capitalismo es un sistema que no solamente registra preferencias existentes, sino que también las crea. La pregunta es: ¿Está satisfaciendo las necesidades que tenemos o están generando las necesidades que luego buscan satisfacer?», consultó.

Asimismo, la IA dejaría de lado aquellas preferencias que aún no han sido registradas porque aún no las hemos formulado: «Los ciudadanos tampoco somos aquello que hemos dejado en nuestras huellas, en nuestro registro de consumo, de movilidad, etc. Hay un elemento de construcción de esas preferencias que debería poner en aviso», comentó el filósofo.

Para Innerarity, los datos hablan del pasado, pero no consideran la complejidad del cambio: «Los datos son siempre datos del pasado, pero esto sería una especie de comportamiento radical, pensar que nuestro comportamiento pasado va a ser similar en el futuro. Desentenderse del hecho de que los humanos habitualmente hablamos de manera conservadora, rutinaria, pero siempre tenemos la capacidad de romper determinadas costumbres y de actuar».

Un futuro abierto

Para Innerarity, una democracia de datos «arruina la posibilidad de un futuro abierto«.

«La digitalización debería respetar lo que se puede llamar el ‘yo aspiracional‘, ese yo que no quiere estar en estricta continuidad con el pasado, sino que tiene la oportunidad de romper con él», mencionó.

El investigador apuntó a que una democracia generada con IA no puede sustituir a una basada en la deliberación.

«Esta idea de democracia deliberativa no da por sentado que los intereses son algo previo a la conversación, sino que hay intereses previos pero también se modulan, matizan y reformulan en una conversación que tiene el carácter no solo de registro sino de creación de esos intereses», destacó.

A diferencia de una democracia de datos, la deliberativa permite reflexionar en torno al proyecto de sociedad que la ciudadanía quiere conseguir: «No es buena idea esta agregación meramente tecnológica, porque en ningún momento nos permite pensar cuál es la sociedad resultante a la que queremos aspirar«.

Máquinas y política

Para el expositor, la IA no puede ocuparse de la democracia «porque tiene una lógica totalmente distinta«.

«La IA es muy útil cuando se trata de problemas para los cuales dispone de una gran cantidad de datos, no hay incertidumbre ni ambigüedad. Pero si se trata de decisiones que hay que adoptar en un contexto de gran incertidumbre, como en la política, donde las decisiones no son exactas, los humanos tomamos mejores decisiones que las máquinas».

«Hay democracia porque tenemos una ignorancia en relación a lo que aspiramos a hacer. Es por eso que hemos desarrollado instituciones que tienen que ver con la democracia, donde hay reflexión, debate y argumentación razonada», concluyó.