El temor a las IA ¿Ficción o realidad?

Sorprendió hace unos días la carta firmada por un grupo de empresarios y científicos relacionados al sector tecnológico, entre ellos el controvertido empresario Elon Musk, quienes solicitaron suspender por seis meses los experimentos con inteligencia artificial (IA). La misiva argumentaba los posibles riesgos de esta tecnología para la humanidad, porque «nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable» a estas mentes digitales.

Días antes de la publicación, un grupo de destacadas universidades, entre ellas, la Universidad de Princeton, arrojó un estudio que advertía sobre el riesgo que corrían algunos empleos de ser reemplazados por tecnologías de IA. El listado incluía 20 profesiones, entre ellas, sociólogos, docentes, jueces, y politólogos.

El revuelo que han generado estos anuncios en torno a las nuevas tecnologías ha abierto el debate sobre el futuro de la IA y cómo convivirá con la humanidad. ¿Seremos reemplazados por máquinas? ¿Nos dominarán en el futuro? ¿Cómo conviviremos con este tipo de tecnologías? Estas son algunas de las preguntas que comienzan a rondar y expertos intentan responderlas.

¿Imagen y semejanza de Terminator?

Jocelyn Dunstan Escudero, académica del Departamento de Ciencia de la Computación e Instituto de Matemáticas UC, compara el panorama que actualmente se vive con la IA al inicio de los grandes desarrollos tecnológicos que han aparecido en la historia de la humanidad: «En el año 1.500, cuando aparecieron los termómetros, la gente decía que un instrumento no podía medir la temperatura. Que tenia que ser una persona con conocimiento clínico que estuviera frente al paciente».

Al igual que los termómetros, esa discusión se traslada ahora a la IA, pero la investigadora aclara: «No es que la IA vaya a reemplazar a los médicos, sino que debería proporcionarle herramientas para lograr un mejor trabajo y uso de la acción humana».

En la misma línea, la co-directora del Núcleo de Inteligencia Artificial, Sociedad, Información y Comunicación, Ana María Castillo, comenta que la discusión sobre IA debe dejar de enfocarse en que la humanidad será sometida a estas tecnologías: «Eso es distopía, es ciencia ficción pura y dura. Pensar que todos los desarrollos tecnológicos están creados a imagen y semejanza de Terminator. Creo que ese es un error de base y del que debemos alejarnos».

Asimismo, la investigadora asegura que el foco debe estar puesto en el estado actual de la IA: «Pensar en términos científicos, éticos y de regulación teniendo en cuenta que va a venir una IA a apoderarse del planeta me parece un error, porque perdemos tiempo y recursos poniéndonos parches antes de la herida, antes de mirar lo que existe hoy día«.

Dunstan Escudero advierte, eso sí, que la IA es mucho más inteligente que otras tecnologías lo que la vuelve mucho más creíble. Ejemplo de ello son las creaciones de textos e imágenes generados por sistemas computacionales: «Hay gente que compara lo que está ocurriendo hoy con IA con la llegada de computadores o celulares, entonces estamos viviendo una era fuerte desde el punto de vista tecnológico. Es algo que está creciendo muy rápido«, explica Dunstan Escudero.

La polémica carta

Respecto a la carta firmada por científicos y empresarios que solicitaron suspender experimentos con IA, Dunstan Escudero pone paños fríos: «No es contradictorio que la gente que trabaja en IA tenga resquemores». La académica detalla que responde al crecimiento exponencial del desarrollo tecnológico: «La carrera está muy rápida. Entonces, la carta va hacia el punto de cómo podemos revisar los posibles daños que podría provocar«.

Por su parte, Castillo señala que adhiere a ciertas preocupaciones de la misiva: «Sobre todo las que tienen que ver con un desarrollo tecnológico exacerbado o que atenten contra los derechos humanos, la libertad de las personas y, en definitiva, contra el ser humano«.

Sin embargo, la académica ICEI de la U. de Chile advierte una contradicción respecto a los firmantes de la publicación: «Que la carta esté firmada por las mismas personas que están financiando el desarrollo de estas tecnologías es paradojal. No tiene ningún valor si las personas que están ahí son las que financian el 80% de desarrollo tecnológico de IA«.

Además, Castillo cuestiona que la publicación omita el trabajo que se ha estado realizado para definir parámetros éticos respecto a la IA: «Hay consensos, hay escritos. Que se diga que no hay nada para proteger a las personas de los usos tecnológicos es inexacto. Porque existen conversaciones respecto a ética y a cómo deben usarse los algoritmos y otras tecnologías de IA».

En noviembre de 2021, 193 estados miembros de la UNESCO, entre ellos Chile, firmaron el primer marco ético sobre inteligencia artificial. El documento tiene por objetivo sentar principios comunes para guiar la construcción de infraestructura jurídica que garantice un desarrollo saludable de la IA.

En este sentido, la investigadora agrega: «Me parece un despropósito firmar para que haya un espacio de seis meses de no desarrollo de la IA para que podamos reflexionar sobre algo que ya se ha estado haciendo en el último tiempo. La verdad es que no entiendo el valor».

¿Hay amenazas?

En la comunidad científica, hay quienes han manifestado una abierta crítica a que la IA simule la inteligencia humana. Por ejemplo, cuestionan el hecho de que las asistentes personales más conocidas, como Siri (Apple) o Alexa (Amazon), tengan una voz similar a la de una mujer.

Incluso, la profesora de lingüística computacional de la U. de Washington, Emilia Bender, advirtió en conversación con el diario El País, de España, que éste sería un anzuelo de las compañías que venden IA para aumentar sus ventas: «Quieren crear algo que parezca más mágico de lo que es, pero en realidad es la máquina creando la ilusión de ser humana. Si alguien está en el negocio de vender tecnología, cuanto más mágica parezca, más fácil será venderla».

Para Dunstan Escudero, la preocupación está en que, cuando la IA produce textos o imágenes tan creíbles, podría usarse para generar discursos de odio y para desinformar: «Las amenazas de la IA son que se use para fines que no son correctos. Esta idea de qué es lo verdadero y qué es falso, cuando lo falso se parece tanto a lo verdadero, puede ser complejo«. Por eso, la científica destaca la necesidad de una legislación en esta materia, que hoy es «una preocupación».