La inteligencia artificial y vulneración del derecho a la intimidad de las mujeres en espacios virtuales

Artificial Intelligence and Violation of Women’s Right to Privacy in Virtual Spaces

Marielos Alejandra Campos Aparicio

El Salvador

Universidad de El Salvador

ca16019@ues.edu.sv

https://orcid.org/0009-0004-1533-9557

Resumen

Este ensayo aborda la violencia contra las mujeres en el ámbito digital. En primer lugar, se esboza el origen de la inteligencia artificial, la cual es conocida como el campo de conocimiento matemático-lógico-informático que realiza tareas que normalmente debe y puede llevar a cabo la inteligencia humana. En segundo lugar, se analiza si los volúmenes y las complejidades de la inteligencia artificial representan un riesgo o una amenaza a la intimidad de las mujeres salvadoreñas en los espacios virtuales. Además, se analizan las leyes especializadas creadas a nivel nacional, los instrumentos y estándares internacionales en materia de inteligencia artificial, ya que el uso inadecuado de esta herramienta tecnológica plantea desafíos importantes respecto a la ética. Esto, debido al incremento de la violación a los derechos humanos de las mujeres mediante la creación y difusión de material de índole íntima y sexual, que perpetúa la violencia basada en género en las plataformas virtuales. Finalmente, se plantea que, a pesar de los avances, se necesitan nuevas políticas públicas para poder garantizar que el uso de la inteligencia artificial promueva respeto, equidad y protección de los derechos de las mujeres frente a las formas emergentes de la violencia digital.

Palabras clave: derecho, derecho a la privacidad, derechos de la mujer, inteligencia artificial, protección de datos.

Abstract

This essay study the violence against women in the digital realm. Firstly, I trace the origin of artificial intelligence, which is known as the field of mathematical-logical-computer knowledge that performs tasks that normally should and can be carried out by human intelligence. Secondly, it will be addressed whether the volume and complexities of artificial intelligence represent a risk or threat to the privacy of Salvadoran women in the virtual spaces. Moreover, national-level special laws and international instruments and standards on artificial intelligence will be examined, as the improper use of this technological tool poses significant ethical challenges due to the increase in the violation of women’s rights through the creation and dissemination of intimate and sexual material, which perpetuates gender-based violence on virtual platforms. Finally, despite advancements, new public policies are needed to ensure that the use of artificial intelligence promotes respect, equity, and the protection of women’s rights in the face of emerging forms of digital violence.

Keywords: artificial intelligence, data protection, law, right to privacy, women’s rights.

1. Introducción

   Las raíces y orígenes de la inteligencia artificial (IA) son diversos y abarcan múltiples disciplinas como la matemática, la lógica y la informática. Desde la década de 1940 y 1950, el matemático inglés Alan Turing ya se cuestionaba la capacidad de las máquinas para pensar por sí solas en su ensayo «Computing Machinery and Intelligence». Sin embargo, no fue sino hasta las décadas de 1960 y 1970 que comenzaron a desarrollarse los primeros programas de IA, como el Logic Theorist y el General Problem Solver, creados por Herbert Simon y sus colegas. Aunque estos avances iniciales estaban principalmente enfocados en la resolución de problemas matemáticos, sentaron las bases para el desarrollo de la IA moderna.

   En las décadas siguientes, con el aumento de las capacidades de cómputo y la integración de la IA con el Big Data, esta ha evolucionado significativamente, impactando diversos campos como la tecnología, la medicina, el transporte, las finanzas y la investigación. Esta evolución también ha planteado nuevos desafíos éticos, especialmente en lo que respecta a la privacidad y la intimidad de las personas. En este contexto, la «Recomendación sobre la Ética de la Inteligencia Artificial», adoptada por la UNESCO en 2021, se presenta como un estándar internacional crucial para regular el uso de la IA de manera ética y responsable, protegiendo los derechos fundamentales y promoviendo la cooperación global.

2. La inteligencia artificial (IA) y sus orígenes en el desarrollo de la humanidad

   Las raíces y orígenes de la Inteligencia Artificial (en adelante «IA»), son diversos y se atañen a una multiplicidad de ciencias como la matemática, la lógica y la información, principalmente. Omitiendo los avances alcanzados en materia de, por ejemplo, teoría de los sistemas por Ludwig Von Bertalanffy o John Von Neumann; ya desde la década de 1940 y 1950, sin mencionar o referirse a la IA, el matemático inglés Alan Turing, en su ensayo Computing machinery and intelligence, propone considerar la siguiente pregunta: ¿pueden pensar las maquinas? (Turing, 1950, p. 443). A partir de esta interrogante, que el autor desarrolla el llamado «juego de la imitación», mediante el cual puede analizar si una máquina puede exhibir algún comportamiento indistinguible del ser humano, siendo este un criterio para evaluar su capacidad de pensamiento y razonamiento

   No obstante, sería hasta la década de los sesenta y setenta que comenzarían a desarrollarse los programas pioneros de IA, como el Logic Theorist, creado por Allen Newell y Herbert Simon en 1956. El cual fue un programa que consistía en desarrollar pruebas de teoremas de lógica proposicional, simulando la resolución de problemas de manera similar a como lo haría un humano (Newell y Simón, 1956). Aunque Alan Turing no participó directamente en el desarrollo de estos programas, fue su trabajo teórico el que sentó las bases de la inteligencia artificial moderna, particularmente a través de su ensayo «Computing Machinery and Intelligence» (Turing, 1950).

   El siguiente avance en materia de IA se conoció tan solo un año después y por el mismo personaje. Simón, ahora en compañía de sus colegas John Shaw y Allen Newell, crearon el programa de computación al que llamaron General Problem Solver (GPS por sus siglas en inglés). En contraposición a su primera propuesta, el GPS no trabajaba con base en pruebas de teoremas de lógica proposicional, sino en análisis de medios y fines; es decir, tenía la capacidad de solucionar problemas más estructurados a partir de demostraciones lógicas y problemas matemáticos o de palabras (Newell, et al., 1957).

   Estos avances, aunque hay muy restringidos al campo de la matemática y no a la de la «predicción conductual humana» o lo que es más innovador, la «automatización de procesos y hechos», vieron un ocaso en su desarrollo hacia la década de los ochenta y noventa, dado los limitados usos y la falta de resultados contundentes que justificaran su aplicación generalizada. Sin embargo, el interés y reconocimiento de las potencialidades de la inteligencia artificial surgieron principalmente a inicios del siglo XXI cuando comenzó a darse un impulso en las capacidades de cómputo y la IA se fusionó con el Big Data de forma dependiente y complementaria para el manejo de grandes volúmenes de información de forma ágil, efectiva y constante (Gugerty, 2006).

   Es así como, para efectos de este documento, conociendo un poco acerca de los avances de la IA en estos tres momentos y dada su complejidad, es posible retomar el esfuerzo de la Comisión Europea por definirla, al indicar que se trata de:

   Sistemas de software (y posiblemente hardware) que son diseñados por humanos con objetivos complejos y con ámbitos de actuación física y digital en áreas como: 1) Percepción del entorno y 2) Razonamiento sobre el conocimiento y procesamiento de información (Qué es la Inteligencia Artificial, 2023).

   En resumen, la IA es un campo de conocimiento matemático-lógico-informático que realiza tareas que normalmente debe/puede llevar a cabo la inteligencia humana.

3. Los volúmenes de información de la IA: complejidades para la privacidad y la intimidad de las mujeres

   Algunos teóricos de la IA, en cuanto a las premisas sobre qué hace este tipo de inteligencia, apuntan a que esta se divide en algunas categorías tales como:

   1. Los sistemas que piensan como humanos
   2. Los sistemas que actúan como humanos
   3. Los sistemas que racionalizan
   4. Los sistemas que actúan racionalmente (Rúales et al., 2023)

Partiendo de lo anterior, es imposible negar a la fecha los aportes de la IA a la evolución social, y es a su vez oportuno indicar que esta ha llegado para quedarse, al menos hasta que una inteligencia de iguales o superiores proporciones pueda destronarla. Empero, este uso prácticamente irrestricto que se le está dando puede derivar en complicaciones.

En palabras de la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet:

La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero, las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos (Bachelet, 2021).

Nadie puede negar los avances e impactos positivos de la IA en el mundo en áreas como la tecnología y la automatización, la medicina y la salud, el transporte, finanzas y economía, servicio al cliente, investigación y entretenimiento, sin embargo, la utilización de esta deriva en desafíos y consideraciones éticas en diversos campos, y para el caso puntual de este documento, en el de la ética y la privacidad. La Relatora Especial de la ONU, define la violencia en línea contra las mujeres como:

Todo acto de violencia por razón de género contra las mujeres cometido, con la asistencia, en parte o en su totalidad, del uso de las tecnologías de la información y las comunicaciones (TIC), o agravado por este, como los teléfonos móviles y los teléfonos inteligentes, Internet, plataformas de medios sociales o correo electrónico, dirigida contra una mujer porque es mujer o que la afecta en forma desproporcionada (Naciones Unidas,2018, párr. 23).

En este panorama, el principal problema de la IA en el ámbito de la intimidad o privacidad es el uso indiscriminado que se le puede dar a los datos de los usuarios y personas en las diversas plataformas digitales que, aun estando protegidos, se ven vulnerados y, por consiguiente, se viola el derecho a la privacidad y a la intimidad de las personas, ambos derechos humanos que reconocen la dignidad e integridad de todos los seres humanos. Asimismo, es importante evidenciar que no se respeta el derecho al consentimiento, ya que la mayoría de las víctimas no proporcionan la autorización para que sus fotos, videos o imagen circule de forma pública. Lo cual se convierte en violencia sexual indiscriminada contra la libertad sexual de las mujeres.

Para efectos prácticos, se debe entender el «derecho a la intimidad» como aquella facultad subjetiva y reconocida a personas físicas que impide la intromisión de extraños en lo que respecta al ámbito de reserva individual (Quintal, s. f. p. 4).

Sumado a este aporte, y de acuerdo con Carbonell, la doctrina identifica dos tipos de amenazas contra la intimidad: 1) la acción o intrusión en un espacio o zona personal (integridad territorial) y; 2) la intromisión informativa sobre hechos, datos o aspectos relativos a la vida privada de la persona (integridad informacional), (Sánchez Carbonell, 2005).

En El Salvador, este derecho es reconocido constitucionalmente en el artículo 2 de la Carta Magna, al indicar lo siguiente:

Toda persona tiene derecho a la vida, a la integridad física y moral, a la libertad, a la seguridad, al trabajo, a la propiedad y posesión, y a ser protegida en la conservación y defensa de los mismos. Se garantiza el derecho al honor, a la intimidad personal y familiar y a la propia imagen (Constitución de la República de El Salvador, 1983, Art. 2).

Es así como esta relación entre información y privacidad deriva en la siguiente premisa: la IA puede repercutir en el derecho a la intimidad de varias formas debido a su facilidad para recopilar, analizar y utilizar enormes cantidades de datos de carácter personal, incluso, poniéndola a disposición de todo el cibermundo, inclusive.

1. La IA: ¿riesgo o amenaza al derecho a la intimidad para las mujeres?

   Si bien la inteligencia artificial ha revolucionado el ámbito de la comunicación y las nuevas tecnologías, en el ámbito de la jurisprudencia ha supuesto un gran salto hacia la nueva era digital. Las y los profesionales del derecho se han visto obligados a actualizarse para comprender cómo aplicar las leyes en el ciberespacio y cómo proteger su información personal y la de sus clientes. Esto ha propiciado formación en disciplinas como protección de datos personales, ciberseguridad, propiedad intelectual y administración digital. Con la evolución de Internet, las leyes cambian constantemente para satisfacer las necesidades de los ciudadanos, transformando la forma en que se protegen o infringen derechos fundamentales como la libertad de expresión y el acceso a la información.

   Esto conlleva en el ámbito del derecho a que se introduzca el término de «privacidad cibernética», que surge de la distinción entre intimidad y privacidad y hace referencia a un marco jurídico que protege el derecho a la privacidad en el entorno digital, garantizando la correcta gestión de la información personal en redes sociales y aplicaciones (Molina y Castro, 2023).

   Algunos de los riesgos y amenazas específicas se orientan hacia:

   1. Vigilancia de datos y seguimiento a la actividad de los usuarios (as) en cuanto a navegación, compras y comunicaciones: existe cierto tipo de vigilancia en cuanto a la relación que los usuarios tienen con su navegación dentro de internet, respecto a sus hábitos de consumo diarios y sus relaciones personales, esto permite que haya una recopilación masiva de su información y aunque existen filtros de control de datos, esto no evita la filtración de los datos de los usuarios (Zuboff, 2015).
   2. Generación de perfiles automatizados usando de datos personales, que pueden fomentar o perpetuar sesgos de discriminación: la filtración de datos personales de los usuarios en sitios web genera un aumento en los sesgos de discriminación debido a la creación de perfiles falsos mediante la manipulación de los datos obtenidos durante la vulneración a la información de los usuarios (Nonju y Ihua Maduenyi, 2024; MDPI, 2023).
   3. Uso de datos sin consentimiento: con frecuencia la falta de transparencia en los que se refiere al entorno digital y la recolección sin el consentimiento de datos personales de los usuarios constituye un gran riesgo a la vulneración de sus derechos (IT Digital Security, 2023).
   4. Seguridad y acceso a la información: la saturación de información en sistemas digitales puede derivar en filtración de datos personales, usos indebidos y ataques informáticos (Acquisti et al., 2015).
   5. Intromisión en la vida privada: esto se deriva de la constante recopilación de información personal de sistemas digitales y de la inteligencia artificial, lo cual afecta y limita a los usuarios sobre el control de sus datos y privacidad (Westin, 1967).
   6. Cosificación de los cuerpos: la objetificación estética de los cuerpos en plataformas digitales y sistemas de Inteligencia Artificial, no solo reducen a las personas a atributos físicos, sino que refuerzan estereotipos de género y afectan los derechos en los medios digitales, sobre todo en las mujeres. Este fenómeno es analizado por la teoría feminista ya que señala que los medios tecnológicos y algoritmos que reproducen estereotipos de género en plataformas digitales y publicitarios para el consumo masculino en su mayoría (Fredrickson y Roberts, 1997; Nussbaum, 1995).

Los elementos resaltados, si bien podrían considerarse como parte de una lista genérica, son de interés particular del presente esfuerzo, dado que son los que en su mayoría afectan a las mujeres en espacios virtuales por medio de la creación de perfiles falsos con fines de monetización, estafa y principalmente la suplantación de identidad, como una situación, más que de vulneración al derecho a la intimidad, de violencia digital.

El impacto de estos actos en la vida de mujeres, niñas y adolescentes crean nuevas formas de opresión y de violencia de género, ahora en la era digital, que van desde la socialización de imágenes intimas falsas y la usurpación de la identidad con fines de estafa y enriquecimiento o simplemente para consumo masculino.

Por lo general, la suplantación de identidad pasa por crear cuentas falsas en medios sociales en las que se promociona accesos a material «exclusivo» de índole erótico y sexual. En la mayoría de los casos, esto afecta a mujeres a quienes les es usurpada su identidad con estos fines; lo cual repercute en severos daños al honor, intimidad personal, familiar, a la imagen propia, en su salud mental y, muchas veces, proyecto de vida.

En el caso particular de El Salvador, esto se encuentra regulado en la Ley Especial contra los delitos informáticos y conexos, en cuyo artículo 22 de su reforma dispone:

El que suplantare o se apoderare de la identidad de una persona natural o jurídica por medio de las Tecnologías de la Información y la Comunicación, será sancionado con prisión de tres a cinco años. Si con la conducta descrita en el inciso anterior se daña, extorsiona, defrauda, injuria o amenaza a otra persona para ocasionar perjuicio u obtener beneficios para sí mismo o para terceros y el apoderamiento recae sobre datos personales, datos sensibles, o datos confidenciales, definidos así por disposición legal o reglamentaria, o por acuerdo de voluntades entre personas naturales o jurídicas, será sancionado con prisión de cinco a ocho años (Ley Especial contra los Delitos Informáticos y Conexos, 2016).

Como se aprecia, la importancia de contar con una norma que regule este tipo de actos tiene implicaciones legales en favor de la protección de la identidad, la seguridad jurídica, confiabilidad en el uso de las tecnologías de la información (TIC) y la protección a los derechos humanos, a partir del reconocimiento de la importancia del derecho a la intimidad.

A la fecha, la violencia contra las mujeres y niñas en la era digital representa uno de los principales retos, en donde la importancia recae en garantizar la salvaguarda del derecho a la intimidad y a la integridad personal. La violencia digital, vista desde diferentes perspectivas, desde la suplantación de la identidad hasta el intercambio no consentido de material audiovisual íntimo en Internet, entre otras formas de violencia, es una clara violación a los derechos humanos.

Como efecto demostrativo, según cifras de ONU Mujeres, con un rango etario de entre 18 y 24 años, al menos el 73 % de las mujeres en el mundo han estado expuestas o han sufrido algún tipo de violencia digital de género, en donde en el 90 % de los casos, se trata de difusión sin consentimiento de imágenes íntimas, en el que un 23 % también expresó haber sufrido abuso o acoso en línea (Violencia contra mujeres y niñas en el espacio digital lo que es virtual también es real, s. f p. 3).

Ante un panorama tan desalentador como el descrito, surge la necesidad de delinear un conjunto de mecanismos que podrían ser efectivos para el abordaje del tema, en el que deben destacarse elementos como:

1. El diseño de políticas públicas y la formulación de normas que contemplen mecanismos de denuncia y protección de datos de las mujeres.
2. Creación de herramientas de salvaguarda, detección y eliminación rápida del contenido sin consentimiento publicado en la web.
3. Promoción de campañas de sensibilización a través de medios de comunicación o redes sociales, servidoras (es) públicos que atienden a las víctimas para reducir la revictimización secundaria.
4. Crear en la currícula educativa acciones de prevención de la violencia machista y sexista en todos los niveles.
5. Sensibilización en la prevención orientada y dirigida a las masculinidades alternativas desde la primera infancia hasta la adultez.
6. Apoyo psicológico y social para el fortalecimiento individual y establecimiento de redes de apoyo.
7. Cooperación técnica e informática intergubernamental para el desarrollo de tecnologías que ofrezcan soluciones globales a la violencia digital y a la vulneración al derecho a la intimidad.

Desarrollar estas y otras alternativas puede ayudar a promover un espacio virtual más seguro para las mujeres y niñas, reduciendo la probabilidad de ocurrencia de un hecho de vulneración al derecho a la intimidad o cualquier otra forma de violencia digital, así como proporcionar el apoyo y seguimiento efectivo a las víctimas del flagelo.

1. La vulneración del derecho a la intimidad de las mujeres salvadoreñas en los espacios virtuales

   Las mujeres salvadoreñas son objeto de estereotipos, roles discriminatorios, de cosificación, mensajes sexistas y de la explotación de su imagen en los espacios virtuales mediante la utilización de imágenes generadas por inteligencia artificial o de sus propios cuerpos, evidenciando de esta manera diversas expresiones de violencia simbólica, sexual, cibernética, psicológica, entre otras.

   Según la Ley Especial Integral para una Vida Libre de Violencia contra las Mujeres (LEIV), existen diversos tipos de violencia entre los cuales se encuentran regulados en el art 9 que en su forma dispone:

   1. Violencia Económica: es toda acción u omisión de la persona agresora, que afecta la supervivencia económica de la mujer, la cual se manifiesta a través de actos encaminados a limitar, controlar o impedir el ingreso de sus percepciones económicas.
   2. Violencia feminicida: es la forma extrema de violencia de género contra las mujeres, producto de la violación de sus derechos humanos, en los ámbitos público y privado, conformada por el conjunto de conductas misóginas que conllevan a la impunidad social o del Estado, pudiendo culminar en feminicidio y en otras formas de muerte violenta de mujeres.
   3. Violencia física: es toda conducta que directa o indirectamente, está dirigida a ocasionar daño o sufrimiento físico contra la mujer, con resultado o riesgo de producir lesión física o daño, ejercida por quien sea o haya sido su cónyuge o por quien esté o haya estado ligado a ella por análoga relación de afectividad, aun sin convivencia. Asimismo, tendrán la consideración de actos de violencia física contra la mujer, los ejercidos por la persona agresora en su entorno familiar, social o laboral.
   4. Violencia psicológica y emocional: es toda conducta directa o indirecta que ocasione daño emocional, disminuya el autoestima, perjudique o perturbe el sano desarrollo de la mujer; ya sea que esta conducta sea verbal o no verbal, que produzca en la mujer desvalorización o sufrimiento, mediante amenazas, exigencia de obediencia o sumisión, coerción, culpabilización o limitaciones de su ámbito de libertad, y cualquier alteración en su salud que se desencadene en la distorsión del concepto de sí misma, del valor como persona, de la visión del mundo o de las propias capacidades afectivas, ejercidas en cualquier tipo de relación.
   5. Violencia patrimonial: son las acciones, omisiones o conductas que afectan la libre disposición del patrimonio de la mujer; incluyéndose los daños a los bienes comunes o propios mediante la transformación, sustracción, destrucción, distracción, daño, pérdida, limitación, retención de objetos, documentos personales, bienes, valores y derechos patrimoniales. En consecuencia, serán nulos los actos de alzamiento, simulación de enajenación de los bienes muebles o inmuebles; cualquiera que sea el régimen patrimonial del matrimonio, incluyéndose el de la unión no matrimonial.
   6. Violencia sexual: es toda conducta que amenace o vulnere el derecho de la mujer a decidir voluntariamente su vida sexual, comprendida en ésta no solo el acto sexual sino toda forma de contacto o acceso sexual, genital o no genital, con independencia de que la persona agresora guarde o no relación conyugal, de pareja, social, laboral, afectiva o de parentesco con la mujer víctima.
   7. Violencia simbólica: son mensajes, valores, iconos o signos que transmiten y reproducen relaciones de dominación, desigualdad y discriminación en las relaciones sociales que se establecen entre las personas y naturalizan la subordinación de la mujer en la sociedad (Ley Especial Integral para una Vida Libre de Violencia contra las Mujeres, 2016, p. 9).

Como se evidencia, los diferentes tipos de violencia están relacionados con la vulneración al derecho a la intimidad que sufren las mujeres salvadoreñas en los espacios virtuales, esto también se ve reflejado en la misma ley en los artículos 49, 50 y 51 que en su forma disponen:

Artículo 49.- Inducción, promoción y favorecimiento de actos sexuales o eróticos por medios informáticos o electrónicos

Quien de manera individual, colectiva u organizada publicare, distribuyere, enviare, promoviere, facilitare, administrare, financiare u organizare, de cualquier forma, la utilización de mujeres, mayores de dieciocho años, sin su consentimiento en actos sexuales o eróticos, utilizando medios informáticos o electrónicos, será sancionado con prisión de cinco a diez años (LEIV, 2016).

Artículo 50.- Difusión ilegal de información

Quien publicare, compartiere, enviare o distribuyere información personal que dañe el honor, la intimidad personal y familiar, y la propia imagen de la mujer sin su consentimiento, será sancionado con pena de uno a tres años (LEIV, 2016, 50).

Artículo 51.- Difusión de pornografía

Quien publicare, compartiere, enviare o distribuyere material pornográfico por cualquier medio informático o electrónico en el que se utilice la imagen o identidad de la mujer sin su consentimiento, será sancionado con pena de tres a cinco años (LEIV, 2016).

En las diversas plataformas virtuales se ve una constante violación al derecho de la intimidad de las mujeres, incluso dentro de la televisión nacional, radio, espectáculos públicos y todo tipo de audiovisual, y aunque existe la Ley de Igualdad, Equidad y Erradicación de la Discriminación contra las Mujeres, la cual regula la no utilización de imágenes y lenguaje sexista en medios de comunicación y plataformas digitales, este hecho se sigue dando con mucha frecuencia y se puede ver en las constantes publicaciones que hace el Observatorio de violencia de ORMUSA sobre este tema.

Rita Segato (2016), en su libro La guerra contra las mujeres hace un extenso análisis sobre la violencia de género y la describe como una herramienta de poder enraizada una forma de «pedagogía patriarcal», en donde no solo se somete a las mujeres, sino también se consolidan las estructuras de poder que generalmente se dan en diferentes contextos como la colonialidad, globalización y la desigualdad sistémica. Asimismo, hace énfasis en la «pedagogía de la crueldad» la cual alude al uso de la violencia de género para normalizar y desensibilizar actos crueles e inhumanos mediante la consolidación de poder de dichas prácticas con el fin de mantener el control y la dominación.

Dentro de la violencia digital existe una relación muy estrecha con la pedagogía de la crueldad de la que habla Segato, esto se evidencia en la normalización de la violencia simbólica que sufren las mujeres dentro de las plataformas virtuales, en donde se perpetuán ataques que deshumanizan a las víctimas y perpetradores.

El ciberespacio es un lugar lleno de violencia que trae consigo discursos de odio, creación, difusión y distribución de imágenes intimas sin consentimiento, ocasionando que el derecho al honor de las mujeres se vea vulnerado dañando sus vidas y reputaciones ya que son sometidas y exhibidas de manera pública mediante la violencia digital, consolidando una dinámica de dominación patriarcal amplificada, lo que quiere decir que la violencia de género pasa de la esfera física a la virtual, en donde las jerarquías se exponen y perpetúan.

1. Impacto psicológico de la violencia digital y la vulneración al derecho de la intimidad en las mujeres

   La violencia digital tiene un fuerte impacto psicológico en la vida cotidiana de las mujeres. Este tipo de violencia desencadena y promueve la cosificación de los cuerpos femeninos, ciberacoso, ciber hostigamiento, la difamación, así como la sobreexposición no consentida de la información personal e íntima de las mujeres. Existe una alta probabilidad de amenazas y chantajes sobre la difusión de material íntimo, todo ello genera un daño emocional a la autoestima, se perturba el sano desarrollo de la mujer para causar sufrimiento, estrés, ansiedad, miedo, depresión y paranoia, lo que coloca a las mujeres en diferentes situaciones o reacciones psicoemocionales que no les permite desarrollarse. Existe también una sensación de desvalorización, autocensura, aislamiento, culpa y vergüenza que sirven como herramientas de control que el patriarcado utiliza para hacer sentir a las mujeres que son responsables por la violencia que están recibiendo, lo cual limita la participación de las mujeres en espacios digitales y en la vida pública.

   Según datos recopilados por ONU Mujeres, la violencia digital se puede percibir como una extensión de la violencia de genero física, reforzada por el sistema patriarcal que tiende a culpar a las mujeres, lo que contribuye a la revictimización y normalización de las agresiones. Un estudio a nivel mundial revelo que el 38 % de las mujeres tienen experiencias personales sobre la violencia en línea, y que el 85 % de las mujeres han presenciado violencia digital contra otras mujeres de las cuales el 67 % recibió difamación, el 66 % ciberacoso y el 65 % discursos de odio (Organización de las Naciones Unidas, 2021).

   El impacto psicológico de la violencia digital no solo se da a nivel individual, sino que se crea un entorno hostil, en donde las consecuencias se trasladan al entorno personal y laboral. En cuanto el primero, afecta el rol de la mujer dentro de la familia, ya sea porque sufren humillaciones públicas, vergüenza, degradación, malos tratos, así como violencia física y verbal. Respecto al ámbito laboral, las mujeres pueden presentar una disminución en su productividad, cuando la violencia digital involucra difamación o divulgación de material íntimo también existe el riesgo del daño a la reputación profesional por señalamientos, lo que conlleva a la pérdida de oportunidades laborales en roles de liderazgo o hasta la renuncia.

   Según la psicóloga Dinora Elena Torres Amaya, las redes sociales juegan un papel importante en la vulneración del derecho a la intimidad de las mujeres, debido a que no es un espacio seguro por la falta de un medio de control o seguridad lo que perpetua la violencia digital ya sea por la creación y difusión de material íntimo femenino en Facebook, Telegram y otras redes sociales en donde existe una complicidad patriarcal que cosifica los cuerpos de las mujeres. Esto facilita la difusión, comercialización y distribución de material íntimo de las mujeres sin su consentimiento, haciendo que los cuerpos de estas se cataloguen como cosas y no personas, impidiéndoles ser sujetas plenas de derecho. Esta violencia se naturaliza porque la sociedad se encuentra inmersa en el patriarcado y la misoginia estructural.

   La especialista enfatiza que, a pesar de que la IA es una herramienta que permite tener muchos avances en diferentes áreas, sigue teniendo sesgos de género, y en espacios virtuales prevalece una visión androcéntrica patriarcal. También manifiesta la necesidad despatriarcalizar la psicología para crear herramientas que puedan abordar estos temas desde una perspectiva de género feminista, generando abordajes más humanos, éticos y respetuosos, así como también la creación de una legislación que sea nombrada y validada para tener recursos diferenciados como espacios seguros, de terapia y atención que no revictimicen a las mujeres. Desde el área de la psicología se pueden crear protocolos de atención a las víctimas, generar propuesta al Estado para la creación de políticas públicas. (Referente 2; comunicación personal 10 de noviembre de 2024).

2. Estándares internacionales en materia de inteligencia artificial

   a. La recomendación sobre la ética de la inteligencia artificial: standard internacional de regulación multidimensional

   El instrumento al que se refiere este apartado (en adelante «La Recomendación»), fue adoptado en 2021 por los 193 Estados que integran la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), este instrumento constituye el primer marco normativo universal sobre ética de la IA, diseñado para orientar el desarrollo, despliegue y uso de tecnologías basadas en IA de manera ética, responsable y centrada en el ser humano. Aunque no es vinculante en todos sus términos, representa un estándar internacional de referencia que combina valores éticos con principios operativos para guiar a los Estados y demás actores frente a los desafíos sociales, culturales, ambientales y jurídicos derivados del uso de la IA (UNESCO, 2021).

   1. Consignación de principios éticos para el uso de la IA: promoción de valores como la dignidad humana, respeto a los derechos humanos, justicia social, no discriminación, sostenibilidad y bienestar general.
   2. Protección del derecho a la intimidad y privacidad: se enfatiza que los sistemas de inteligencia artificial deben de respetar la privacidad de las personas y el control sobre los datos que les conciernen.
   3. Prevención del abuso de la IA: establecimiento de medidas de evaluación de los riesgos e impactos éticos para evitar el uso perjudicial o discriminatorio.
   4. Fomento de la transparencia en el uso de la IA: acceso a información relevante y claridad sobre cómo operan los sistemas de IA en decisiones que afectan derechos y libertades
   5. Prevención de la discriminación en favor de la inclusión y la equidad: mecanismos para asegurar que la IA no reproduzca sesgos ni genere desigualdades injustas.
   6. Establecimiento de mecanismos de coordinación, colaboración y cooperación internacional; entre otros: incentivo a la colaboración global para desarrollar políticas, compartir conocimientos y armonizar enfoques regulatorios.

Además de estos principios, la Recomendación incluye orientaciones sobre la proporcionalidad, inocuidad, justicia, sostenibilidad y participación social, con el fin de asegurar que la IA se utilice para el beneficio de la humanidad sin vulnerar derechos fundamentales (UNESCO, 2021).

La Recomendación supone un paso importante en la regulación marco internacional del uso de la IA, ya que promueve un manejo integral y ético de la misma, protegiendo el derecho a la intimidad, a la privacidad y facilita la cooperación para enfrentar los desafíos de la IA en un mundo cada vez más globalizado, con miras a garantizar un uso tecnológico de la inteligencia artificial en favor de la humanidad y protegiendo los derechos humanos fundamentales.

b. La recomendación sobre la inteligencia artificial en el sector público: marco de innovación y cooperación regional

El informe, titulado «El uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe», fue publicado en marzo de 2022 por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) en colaboración con la Corporación Andina de Fomento (CAF), el Banco de Desarrollo de América Latina. Este establece un marco de referencia sobre la implementación de la IA en el sector público de América Latina y el Caribe. El documento fue aprobado por varios gobiernos ya que, promueve que la IA mejore aspectos dentro de la eficiencia gubernamental, fomente la transparencia y proteja los derechos humanos fundamentales, tales como la privacidad y la equidad. Entre sus principales aportes se destacan:

1. Establecimiento de principios éticos sobre el uso de la IA.
2. Creación de estrategias nacionales para la implementación de la IA.
3. Prevención sobre los sesgos y la discriminación en los algoritmos de la IA.
4. Fomento de la Cooperación Regional para maximizar los beneficios y mitigar los riesgos sobre la utilización de la IA.

Dicho enfoque permite garantizar que los gobiernos de América Latina y el Caribe utilicen herramientas como la IA de forma ética y responsable, comprometiéndose a proteger los derechos humanos fundamentales, así como también en generar la construcción de una sociedad más equitativa mediante la Cooperación Internacional la cual permite superar los desafíos que el uso de la IA genera.

1. Valoraciones finales

   Según la licenciada Rosa María Centeno, especialista en Derechos Humanos y Educación para la Paz, las niñas, jóvenes y adolescentes son más propensas a sufrir una violación a su derecho a la intimidad en las plataformas virtuales, sin embargo, esto no implica que los demás rangos etarios queden exentos de este mismo riesgo. La violencia hacia las mujeres por medio de la inteligencia artificial puede manifestarse de diferentes modalidades, entre ellas predomina la utilización, distribución, difusión o intercambio de la imagen de la mujer para crear audios, imágenes o videos que generen contenido íntimo o sexual sin su consentimiento, lo cual conlleva a la violencia digital, sexual y simbólica, estos tipos de violencia promueven el acoso hacia las mujeres que son víctimas de la degradación de la sociedad (Referente 1; 12 de septiembre de 2024).

   En conclusión, las redes sociales y plataformas digitales son una gran fuente de información, en donde la privacidad digital se ve vulnerada gracias a las nuevas herramientas tecnológicas como la Inteligencia Artificial, ya que esta permite la creación y difusión de perfiles automatizados, lo que pone en riesgo los derechos de las mujeres, debido a la suplantación de la identidad mediante la utilización de la IA, no solamente se violan sus derechos sino también se ve afectada su dignidad, reputación e integridad, lo cual genera repercusiones sociales, psicológicas, entre otras. A nivel internacional se reconoce la necesidad de generar instrumentos que protejan a las mujeres antes esta nueva forma de violencia. La UNESCO y la OCDE, promueven y establecen marcos éticos y recomendaciones para la regulación del uso de la IA ya que el uso de esta en la vida y vulneración a la intimidad de las mujeres no puede ni debe ignorarse.

   A nivel nacional, el Estado Salvadoreño ha implementado la Ley Especial contra los Delitos Informáticos y Conexos (2016) y la Ley Especial Integral para una Vida Libre de Violencia contra las Mujeres (LEIV, 2010), sin embargo, esto no evita que la violencia contra las mujeres se siga generando. Por ello, se insta al gobierno y a los actores internacionales a que desarrolle políticas públicas que sean inclusivas, que no solamente protejan a las mujeres de la violencia digital, sino que también promuevan la sensibilización y la educación de sus funcionarios ante este tipo de denuncias, para que las mujeres afectadas no sean revictimizadas ni minimizadas y su entorno sea seguro a la hora de accesar a la justicia.

   Por ello, se propone que el Estado salvadoreño pueda crear una iniciativa llamada Observatorio Nacional contra la Violencia Digital de Género, en colaboración con la Organización de Mujeres Salvadoreñas por la Paz (ORMUSA). Este permitiría recolectar datos, generar informes trimestrales, analizar el contenido y las políticas de privacidad de las distintas plataformas digitales donde se manifieste la violación del derecho a la intimidad de las mujeres en El Salvador. Esto permitiría generar nuevas y mejores políticas públicas e incluso formar una red de colaboración internacional, que permita compartir estrategias y experiencias prácticas como la creación de un sistema de denuncia rápida para que las mujeres tengan acceso inmediato a un botón de pánico digital para poder reportar cualquier tipo de violación a su intimidad.

2. Referencias

   Acquisti, A., Brandimarte, L., y Loewenstein, G. (2015). Privacy and human behavior in the age of information. Science, 347(6221), 509–514. https://doi.org/10.1126/science.aaa1465

   Alan Turing, el padre de la inteligencia artificial. (2020, 22 de junio). Secretaría de Cultura de Argentina. https://www.cultura.gob.ar/alan-turing-el-padre-de-la-inteligencia-artificial-9162/

   Asamblea Legislativa de El Salvador. (1983, 29 de julio). Constitución de la República de El Salvador (art. 2). Diario Oficial No. 142. https://www.asamblea.gob.sv/sites/default/files/documents/decretos/171117_072857074_archivo_documento_legislativo.pdf

   Asamblea Legislativa de El Salvador. (2016, 13 de diciembre). Ley Especial Integral para una Vida Libre de Violencia contra las Mujeres (arts. 9, 49–51). Diario Oficial No. 2; reforma Diario Oficial No. 232. https://www.asamblea.gob.sv/sites/default/files/documents/decretos/171117_073006947_archivo_documento_legislativo.pdf

   Asamblea Legislativa de El Salvador. (2016, 26 de febrero). Ley Especial contra los Delitos Informáticos y Conexos (art. 22). Diario Oficial No. 40. https://www.fiscalia.gob.sv/medios/portal-transparencia/normativas/normativas-de-interes/ley-especial-contra-delitos-ciberneticos.pdf

   Bachelet, M. (2021, 15 de septiembre). Los riesgos de la inteligencia artificial para la privacidad exigen medidas urgentes – Bachelet. Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. https://www.ohchr.org/es/press-releases/2021/09/artificial-intelligence-risks-privacy-demand-urgent-action-bachelet

   Fredrickson, B. L., y Roberts, T. A. (1997). Objectification theory: Toward understanding women’s lived experiences and mental health risks. Psychology of Women Quarterly, 21(2), 173–206. https://doi.org/10.1111/j.1471-6402.1997.tb00108.x

   Gugerty, L. (2006). Newell and Simon’s Logic Theorist: Historical background and impact on cognitive modeling. ResearchGate. https://www.researchgate.net/publication/276216226

   IT Digital Security. (2023). Data collection and user consent in digital environments. IT Digital Security. https://www.itdigitalsecurity.org/data-collection-consent

   Molina, K. G. A., y Castro, C. L. A. (2023). La inteligencia artificial y la limitación al derecho a la privacidad cibernética, en estudiantes de Jurisprudencia, Cuenca-Ecuador 2022. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 4(1), 657–666. https://doi.org/10.56712/latam.v4i1.284

   Naciones Unidas. (2018). Informe de la Relatora Especial sobre la violencia contra la mujer, sus causas y consecuencias: La violencia en línea contra las mujeres y las niñas desde la perspectiva de los derechos humanos (A/HRC/38/47). https://documents.un.org/doc/undoc/gen/g18/184/61/pdf/g1818461.pdf

   Nonju, O., y Ihua Maduenyi, P. (2024). Automated profiling and bias in digital platforms. MDPI Digital Ethics, 10(1), 45–62. https://doi.org/10.3390/digitalethics10010045

   Nussbaum, M. C. (1995). Objectification. Philosophy y Public Affairs, 24(4), 249–291. https://doi.org/10.1111/j.1088-4963.1995.tb00032.x

   OCDE y CAF. (2022). El uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. https://www.oecd.org

   Organización de las Naciones Unidas. (2021). Violencia digital contra las mujeres y las niñas. https://mexico.unwomen.org/sites/default/files/2023-03/Brief_ViolenciaDigital.pdf

   Gobierno de España. (2023, 19 de abril). Qué es la inteligencia artificial. Plan de Recuperación, Transformación y Resiliencia. https://planderecuperacion.gob.es/noticias/que-es-inteligencia-artificial-ia-prtr

   Quintal, M. A. C. (s. f.). La protección de la intimidad como derecho fundamental de los mexicanos. https://archivos.juridicas.unam.mx/www/bjv/libros/5/2253/9.pdf

   Rúales, A. L. C., Zambrano, G. R., y Basurto, I. J. D. (2023). La inteligencia artificial y el derecho a la intimidad-privacidad. Dialnet. https://dialnet.unirioja.es/servlet/articulo?codigo=9005138

   Sánchez Carbonell, M. (2005). Los derechos fundamentales en México. UNAM–Porrúa–CNDH.

   Segato, R. (2016). La guerra contra las mujeres. Traficantes de Sueños. https://traficantes.net/sites/default/files/pdfs/map45_segato_web.pdf

   UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000373434

   ONU Mujeres. (s. f.). Violencia contra mujeres y niñas en el espacio digital: Lo que es virtual también es real. https://mexico.unwomen.org/sites/default/files/Field%20Office%20Mexico/Documentos/Publicaciones/2020/Diciembre%202020/FactSheet%20Violencia%20digital.pdf

   Westin, A. F. (1967). Privacy and freedom. Atheneum.

   Zuboff, S. (2015). Big other: Surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30(1), 75–89. https://doi.org/10.1057/jit.2015.5