Experta que alertó por sesgos de la IA llega a Congreso Futuro

Falta menos de una semana para el inicio del gran evento científico en nuestro país: Congreso Futuro 2024. Bajo el eslogan ¿IAhora qué hacemos?, este año el foco estará puesto en los desafíos que tendremos como humanidad en los próximos años.

Serán más de 100 expositores de todo el mundo y de distintas disciplinas los que se congregarán en este evento. Una de las presentaciones más esperadas es la de la investigadora australiano-estadounidense, Kate Crawford, quien se ha especializado en las implicaciones sociales y políticas de la inteligencia artificial (IA).

En los últimos 20 años su trabajo ha estado centrado en la comprensión de los sistemas de datos a gran escala, el machine learning y la IA en la historia, la política, el trabajo y el medio ambiente.

La experta es profesora de la USC Annenberg de Los Ángeles, así como investigadora principal de Microsoft Research Lab en Nueva York y catedrática inaugural de Inteligencia Artificial y Justicia en la Escuela Normal Superior de París.

Discriminación perpetuada por IA

Fue una de las primeras en alertar sobre los sesgos de la IA. A través de varios casos, en 2016, avisó que propiciaba la discriminación. Un ejemplo fue el de la aplicación de fotografías de Google, que etiquetaba a personas afrodescendientes como gorilas.

Para Crawford el problema está en que los datos empleados están basados en prejuicios y pueden llegar a ser altamente discriminatorios al crear algoritmos y construir modelos del sistema que perpetúan una sociedad sexista, racista y clasista. La académica ha sido enfática en mencionar que estos modelos replican los valores de quienes los crean, especialmente, de hombre blancos.

En una conversación con revista TIME, la especialista advirtió que «hemos llegado a este punto en el que creo que necesitamos mucho más cuidado, mucha mayor custodia y mucha mayor conciencia crítica sobre cómo entrenamos la IA para representar al mundo»

En 2017, Crawford cofundó el AI Now Institute, una de las primeras instituciones dedicadas a analizar el impacto de la IA en el ámbito social. También, ha sido asesora para la formulación de políticas en las Naciones Unidas, la Comisión Federal de Comercio, el Parlamento Europeo, la Comisión Australiana de Derechos Humanos y la Casa Blanca.

Su premiado libro Atlas de la IA fue nombrado como uno de los mejores libros del año por The Financial Times, y en 2023 figuró en la lista TIME100 como una de las personas más influyentes en IA.

¿Dónde se presentará?

Steffanie Strathdee se presentará el próximo lunes 15 de enero a las 10:00 horas en el Centro de Extensión del Instituto Nacional (CEINA). Su exposición se dará en el marco del bloque «Revolución Evolutiva».

Las inscripciones se encuentran disponibles en el sitio web de Punto Ticket. Además, será transmitido en línea a través de las plataformas de Radio Cooperativa y Cooperativaciencia.cl