Inteligencia Artificial y violencia de género: transformando la prevención y detección

“La IA puede transformar la manera en que se aborda la violencia de género, proporcionando soluciones para su prevención, y para apoyar a las víctimas.”

La violencia de género es una problemática global que afecta a millones de personas, independientemente de su raza, etnia, cultura, edad, orientación sexual, identidad de género o clase social. En este escenario, la inteligencia artificial (IA) emerge como una herramienta eficaz para combatir este problema, proporcionando soluciones innovadoras tanto para la prevención como para la detección temprana de situaciones de riesgo.

La implementación de IA en la lucha contra la violencia de género representa un avance significativo hacia entornos digitales y físicos más seguros, potenciando la protección y el bienestar emocional de las víctimas. Existen diversas herramientas inteligentes diseñadas específicamente para abordar la violencia de género, desde sistemas ciberfísicos y chatbots conversacionales hasta proyectos enfocados en la construcción de la identidad de género en entornos digitales.

Estas innovaciones pueden contribuir a salvaguardar la integridad y la salud mental de personas en situación de vulnerabilidad, donde la tecnología se alía de manera efectiva con los esfuerzos globales para erradicar estas formas de violencia.

Una pulsera ante el riesgo

El Instituto Universitario de Estudios de Género de la Universidad Carlos III de Madrid ha desarrollado un dispositivo inteligente llamado Bindi. Este prototipo es un sistema ciberfísico diseñado por el equipo UC3M4Safety, que combina la portabilidad con la tecnología para ofrecer una solución preventiva contra la violencia de género. El dispositivo, que puede llevarse como pulsera o colgante, se conecta mediante Bluetooth al móvil del usuario y realiza un monitoreo continuo.

Gracias a la computación afectiva multimodal, Bindi es capaz de detectar emociones y situaciones de riesgo mediante la medición de variables fisiológicas como el pulso, la temperatura, o la conductividad de la piel, así como variables físicas como los cambios de voz o el sonido del ambiente circundante.

“La implementación de Inteligencia Artificial en la lucha contra la violencia de género representa un avance significativo hacia entornos digitales y físicos más seguros.”

El principal beneficio de Bindi radica en su capacidad para actuar de manera autónoma, generando alertas sin necesidad de una acción voluntaria por parte de la persona portadora del dispositivo. Esto es beneficioso en situaciones donde la víctima puede experimentar una parálisis por el miedo o el shock, impidiéndole activar alertas manualmente. Además, el sistema puede enviar automáticamente la localización a un círculo de protección previamente seleccionado, lo que facilita una rápida respuesta en caso de emergencia.

Bindi no solo ofrece una respuesta inmediata en situaciones de peligro, sino que también se integra con los sistemas de protección de la policía, aumentando así la eficacia de las medidas preventivas y de seguridad. Este sistema pudiera también utilizarse como prueba judicial, gracias a su capacidad para registrar datos fiables y objetivos sobre las circunstancias que rodean un incidente de violencia.

El proyecto no solo busca ofrecer una solución tecnológica, sino que también forma parte de las iniciativas de la UC3M para el desarrollo de los Objetivos de Desarrollo Sostenible, específicamente el ODS 5, que busca alcanzar la igualdad de género y empoderar a todas las mujeres y niñas.

Un chatbot para el asesoramiento

AINO es un chatbot diseñado para proporcionar asesoramiento inmediato y detectar casos de violencia de género que podrían no ser denunciados. Este modelo de robot conversacional, desarrollado en colaboración con la ciudad de Valencia y varios centros de investigación europeos, no requiere que los usuarios proporcionen datos de contacto ni descarguen aplicaciones. Simplemente, navegando en Internet, es posible iniciar una conversación confidencial. Utilizando tecnologías avanzadas como el procesamiento del lenguaje natural (NLP), AINO es capaz de simular una conversación humana, evaluar el riesgo y orientar a las víctimas sobre los recursos disponibles.

Una de las principales ventajas de AINO es su capacidad para mantener el anonimato de los usuarios, lo que es crucial para aquellas personas que no se sienten preparadas para dialogar directamente con otros sobre su situación. Además, el chatbot está disponible en siete idiomas y está diseñado para adaptarse a diversas situaciones, proporcionando un apoyo efectivo tanto a víctimas como a testigos de violencia de género.

Otro aspecto destacable es que AINO actúa como un recurso complementario a los procedimientos policiales existentes, ayudando a mejorar la detección y prevención de la violencia sin reemplazar los sistemas actuales. Esto permite una integración eficaz con las estrategias de intervención, mejorando la capacidad de respuesta ante casos de violencia de género.

Sara es un chatbot gratuito y confidencial desarrollado por el Programa de las Naciones Unidas para el Desarrollo (PNUD) en América Latina y el Caribe, en colaboración con la Agencia para el Desarrollo Internacional de los Estados Unidos (USAID) a través de su iniciativa Infosegura. Este asistente virtual tiene como principal objetivo prevenir la violencia contra mujeres, niñas y adolescentes. Funciona las 24 horas del día, ofreciendo un espacio seguro y anónimo para que las personas puedan evaluar su situación y acceder a información y orientación sobre cómo proceder en casos de riesgo.

La implementación de Sara no requiere que los usuarios proporcionen datos personales, lo que garantiza la confidencialidad y el anonimato. Utiliza el aprendizaje automático para adaptar las respuestas al contexto específico de cada interacción.

Este chatbot está diseñado para ser intuitivo y fácil de usar, permitiendo a las víctimas y a personas cercanas obtener ayuda de manera inmediata y efectiva. Además, Sara está integrada con los servicios de atención institucionales y de la sociedad civil disponibles en países de Centroamérica y la República Dominicana, proporcionando también asesoramiento legal y planes de emergencia.

Sara es una herramienta vital en la lucha contra la violencia de género, aprovechando las tecnologías de IA para ofrecer una respuesta rápida y adaptada a las necesidades de las víctimas, contribuyendo así a la creación de entornos más seguros e inclusivos.

Una herramienta contra los discursos de odio

Un ejemplo destacado de la aplicación de esta tecnología en la región es la herramienta eMonitor+, creada por el PNUD. Esta herramienta utiliza la IA para identificar de manera automática y masiva los discursos de odio y la violencia basada en género en las conversaciones políticas digitales.

eMonitor+ se distingue de otras herramientas de monitoreo social al no basarse en la identificación de palabras clave, un enfoque común en muchos softwares con fines comerciales. En su lugar, utiliza un análisis basado en cuatro algoritmos entrenados mediante procesos de aprendizaje automático, alimentados con más de 35,000 artículos en español, francés, inglés y árabe, permitiéndole identificar de manera autónoma la presencia de discursos de odio y violencia de género.

Esta tecnología se ha implementada con éxito en contextos de alta violencia y fragilidad institucional, como Túnez, Libia y Líbano, y está disponible en Perú desde noviembre de 2022, marcando su primera aplicación en América Latina.

Mediante el uso de algoritmos de aprendizaje automático, los sistemas inteligentes pueden analizar comportamientos, mensajes de ayuda en redes sociales o registros de llamadas de emergencia, para identificar posibles casos de violencia de género.

eMonitor+ tiene el respaldo de una plataforma conformada por diversas instituciones, que buscan usar la inteligencia provista por esta herramienta para diseñar mejores estrategias comunicacionales, culturales y políticas. Por ello, los datos y análisis de eMonitor+ se publicarán de manera abierta bajo una licencia de bien público digital. Así, Perú será el único país donde esta información estará disponible públicamente, permitiendo que instituciones académicas, periodísticas o activistas accedan y utilicen los datos generados.

Un entorno digital inclusivo

El proyecto EDIGa, enfocado en la construcción de la identidad de género en entornos digitales, ha adoptado un enfoque de diseño mixto que combina métodos cuantitativos y cualitativos para una comprensión integral.

La primera fase del proyecto involucró la aplicación de un cuestionario, EDIGA, en diversas escuelas de Galicia, México y Uruguay, lo que permitió recoger datos de manera amplia y sistemática. Además, se implementaron entrevistas semiestructuradas con adolescentes de 12 a 16 años para explorar sus actividades en espacios digitales como Instagram, Twitch y TikTok, proporcionando una visión más profunda de sus prácticas y la influencia de los entornos digitales en su identidad de género.

Los resultados preliminares del proyecto EDIGA son significativos en cuanto a la identificación de patrones en las prácticas digitales de los adolescentes y la influencia de los entornos socio-familiares en la construcción de identidades de género. Estos resultados han sido bien recibidos por los centros educativos involucrados, a pesar de la carga de trabajo que implica la primera evaluación.

Además, el análisis de los datos ha permitido destacar cómo las plataformas digitales moldean las identidades de género, sugiriendo seguidores y orientando las prácticas de los usuarios. Este fenómeno subraya la importancia de desarrollar una competencia digital crítica entre los jóvenes para que comprendan mejor el entorno digital en el que interactúan.

Un sistema judicial efectivo

Entre las propuestas más innovadoras se encuentra un proyecto piloto en Brasil, desarrollado por el Consejo Nacional de Justicia en asociación con el PNUD. Este proyecto está diseñado para asistir a jueces en casos de homicidio de mujeres, utilizando IA para homogeneizar los criterios de gravedad de las lesiones y facilitar el diálogo entre forenses y jueces.

Financiado por la Unión Europea mediante la iniciativa Spotlight, una acción de las Naciones Unidas dedicada a eliminar todas las formas de violencia contra las mujeres, el modelo de IA automatizará la búsqueda de términos clave para el análisis de género en los procesos judiciales, relacionándolos con la legislación y la literatura relevante. Al identificar estos términos, la herramienta ofrece argumentos que ayudan a los usuarios a determinar si un homicidio puede calificarse como feminicidio.

El proyecto, que se implementará como piloto durante un año, tiene como objetivo mejorar la comprensión de la perspectiva de género en los delitos y contribuir a la respuesta del país ante la violencia contra las mujeres y las niñas.

Un futuro libre de violencia

La IA está desempeñando un importante papel en la lucha contra la violencia de género, con investigaciones que abren nuevas posibilidades para su prevención y detección. Un estudio destacado por el departamento de Métodos Cuantitativos de la Universidad Loyola sugiere que esta tecnología puede prevenir hasta tres cuartas partes de los casos de violencia de género mediante el análisis de documentos legales. Este enfoque innovador no solo proporciona insights clave para la predicción, sino que también optimiza los recursos y estrategias de intervención, ofreciendo resultados más precisos en la identificación de perfiles de víctimas y agresores.

Estos avances representan un paso significativo hacia la creación de entornos más seguros y la optimización de los esfuerzos globales para erradicar la violencia de género, aprovechando el potencial de la IA para transformar la prevención y la detección de esta grave problemática social.

“La Inteligencia Artificial no puede sustituir el trabajo humano ni la necesidad de políticas integrales, leyes eficaces y programas de sensibilización.”

La intersección entre la IA y la lucha contra la violencia de género revela el inmenso potencial de diversas herramientas inteligentes para ofrecer soluciones innovadoras que previenen y detectan situaciones de riesgo. La adopción de tecnología avanzada representa un paso significativo hacia adelante en nuestro esfuerzo colectivo para erradicar la violencia de género.

La IA tiene el potencial de transformar la manera en que se aborda la violencia de género, proporcionando soluciones innovadoras para su prevención, detección y para ofrecer apoyo a las víctimas. No obstante, es crucial reconocer que la IA no puede sustituir el trabajo humano ni la necesidad de políticas integrales, leyes eficaces y programas de sensibilización.

Al mirar hacia el futuro, se hace evidente que la colaboración entre desarrollos tecnológicos, investigación constante y políticas inclusivas es crucial para expandir aún más nuestras estrategias de intervención y prevención.