Experta advierte que IA generativa incrementa violencia contra la mujer
Tiempo de lectura: 2 minutos Las imágenes falsas de mujeres desnudas abren el debate acerca de los límites de la inteligencia artificial generativa. La experta de la USM, Claudia López, promueve regular de manera efectiva este tema para proteger a quienes se vean afectadas.
La facilidad en el acceso a sistemas de inteligencia artificial que permiten la generación de deepfake porn, favorece el aumento del riesgo de situaciones de violencia digital contra mujeres e infancias.
La académica de la Universidad Técnica Federico Santa María e investigadora principal del Centro Nacional de Inteligencia Artificial (CENIA), Claudia López Moncada, advierte sobre estas tecnologías de fácil acceso, que pueden ser usadas por personas de casi cualquier edad, generando amenazas de agresión sexual dentro del mundo virtual.
Necesidad de regulación
Además de ser imágenes falsas son muy difíciles de eliminar de internet, por lo que “se deben crear mecanismos para controlarlas de mejor manera. Agregó que debe hacerse «tanto desde la educación familiar y en colegios como desde los poderes del Estado”.
La experta explica que “es un fenómeno invisibilizado y se debe avanzar en formas más justas para proteger los derechos de NNA y mujeres”.
El tema surge nuevamente luego del caso del Colegio Saint George de Santiago, donde un grupo de estudiantes crearon imágenes de siete compañeras a través de IA. Luego las viralizaron, vulnerando su integridad.
Cuestionar el problema con enfoque de género
En relación a este caso, la Dra. López indica que no es un hecho aislado y que se conocen otras situaciones en Chile y el extranjero. Subrayaque “existe una lectura más general y que tiene que ver con los tipos de tecnologías que permitimos como sociedad. Que exista una cuyo único fin sea desnudar cuerpos que están vestidos, y que no sirve para nada más que eso, para mí es preocupante”.
Añade que “hay niños involucrados, pero existen adultos que permitieron que esto pasara.» La académica invita a «cuestionar el problema y entender que los niños lo hacen como producto de una cultura que permiten y reproduce la violencia de género”.
López sostiene que el mercado avala este tipo de productos sin fiscalización. “Si bien pueden decir que es para mayores de edad, nadie verifica este tipo de información. Incluso si fueran mayores de edad, debiese existir un actor institucional que no permitiera estos usos y que socialmente sea considerado de índole criminal”, finaliza.
