En la era digital, la creciente omnipresencia de la Inteligencia Artificial (IA) y los Deepfakes plantea serias preocupaciones sobre la violación de los derechos humanos y la privacidad. Estas tecnologías, aunque prometedoras en muchos aspectos, representan una amenaza cada vez mayor para la integridad personal y los valores democráticos fundamentales. 

Una encuesta internacional sobre daños en línea realizada por el Centre for Internacional Governance Innovation (CIGI) en 2020 en 18 países con la participación de 18,149 personas, reveló que el 60% de las personas encuestadas había experimentado al menos una de 13 formas de daños en línea. Las personas LGBTQ+ reportaron la proporción más alta de incidentes experimentados. Además, las mujeres representaron una proporción ligeramente mayor que los hombres, aunque ellas eran más propensas a informar un impacto más grave de estos incidentes en comparación con ellos.  Entre las formas de daño en línea por las que se preguntó, el uso no consentido de imágenes íntimas fue el incidente que la mayoría consideró perjudicial, especialmente las mujeres (82.8% vs. 71.2% de los hombres). 

November 22, 2023 Por Nidia Hidalgo  

Examinemos detenidamente cómo la IA y los Deepfakes están desafiando la ética y la privacidad desde tres perspectivas clave:

Discriminación y Falta de Transparencia

La IA, utilizada en una variedad de contextos, desde la selección de empleados hasta la toma de decisiones gubernamentales, puede perpetuar sesgos y discriminación involuntaria. Los algoritmos opacos y la falta de transparencia en su funcionamiento pueden conducir a decisiones injustas y violaciones de derechos humanos básicos, como la igualdad de oportunidades y la no discriminación. Además, la recopilación masiva de datos personales por parte de sistemas de IA plantea serias preocupaciones sobre la privacidad y la autonomía individual.

Manipulación de la Información y la Identidad

Los Deepfakes, una aplicación particularmente preocupante de la IA, tienen el potencial de manipular la información y la identidad de las personas de manera peligrosa. Al permitir la creación de contenido falso con gran realismo, los Deepfakes debilitan la confianza en la veracidad de los medios y pueden ser utilizados para difundir desinformación, dañar la reputación de personas y empresas, e incluso influir en procesos democráticos, como elecciones. Esta manipulación de la información compromete la integridad personal y la capacidad de los individuos para controlar su propia narrativa. 

Por ejemplo: Imagina a María, una joven estudiante universitaria que, como muchos otros jóvenes de su edad, comparte fotos y videos en sus redes sociales para mantenerse conectada con amigos y familiares. Un día, María descubre con horror que su rostro ha sido superpuesto en un video pornográfico sin su consentimiento. Este video, creado utilizando tecnología de inteligencia artificial conocida como deepfake, muestra a María participando en actos sexuales que nunca ocurrieron. Se siente violada, humillada y completamente impotente ante la difusión de este contenido que atenta contra su integridad y dignidad.

María no es la única víctima de esta forma de violencia digital. En todo el mundo, miles de mujeres y personas LGBTQ+ son objeto de pornografía sin consentimiento generada mediante algoritmos de IA. Esta práctica, además de constituir una grave violación de los derechos humanos, tiene consecuencias devastadoras para las víctimas. Muchas experimentan problemas de salud mental como ansiedad, depresión e incluso intentos de autolesiones debido al trauma y la vergüenza que les provoca la difusión de este material.

Aunque algunos países han comenzado a abordar esta problemática mediante la implementación de regulaciones, como es el caso de China, donde se han establecido normativas para controlar el uso dañino de deepfakes, en lugares como Chile la situación sigue siendo preocupante. La falta de legislación específica deja a las víctimas desprotegidas y limita las acciones legales que pueden emprender para defender sus derechos.

Riesgos para la Autonomía y la Libertad

La proliferación de IA y Deepfakes también plantea riesgos significativos para la autonomía y la libertad individual. La capacidad de estas tecnologías para recopilar, analizar y manipular datos personales puede llevar a la vigilancia masiva y al control indebido por parte de gobiernos y corporaciones. Esto socava los derechos fundamentales a la privacidad y la libertad de expresión, creando un entorno en el que los individuos se sienten constantemente vigilados y manipulados.

Sensorial Sunsets

Violación de derechos y privacidad