A través de una publicación en redes sociales, la legisladora advirtió sobre los riesgos derivados del uso de estas tecnologías. “La inteligencia artificial puede crear imágenes de situaciones que nunca ocurrieron, pero el daño que provocan puede ser muy real”, afirmó.
Zigarán sostuvo que el episodio denunciado en Buenos Aires expuso la necesidad de fortalecer las herramientas legales para resguardar la intimidad y la dignidad de las personas. “Ninguna persona debería tener que enfrentar la difusión de imágenes falsas que vulneren su intimidad y sus derechos”, expresó.
El proyecto, denominado "Protección de la personal frente a imitaciones digitales realistas y contenidos sintéticos con consentidos", busca establecer un marco legal para regular la generación, difusión y explotación de contenidos sintéticos que reproduzcan la imagen, la voz, el rostro u otros rasgos identificatorios de una persona sin su autorización. También contempla mecanismos de protección frente a los denominados “deepfakes”, es decir, videos, audios o imágenes creados mediante inteligencia artificial que pueden aparentar ser auténticos.
La iniciativa establece que toda persona tendrá el derecho de autorizar o impedir la utilización pública de imitaciones digitales realistas de sus rasgos personales. Además, define como especialmente grave la difusión de contenidos íntimos sintéticos no consentidos, así como aquellos que involucren a niñas, niños y adolescentes.
Entre sus principales disposiciones, el texto propone que las plataformas digitales habiliten canales de denuncia accesibles y que retiren contenidos íntimos sintéticos no autorizados dentro de las 24 horas de recibir una notificación fundada. También prevé la preservación de pruebas digitales y sanciones para quienes incumplan las obligaciones previstas por la norma.
En materia penal, el proyecto incorpora figuras específicas para castigar la difusión, comercialización o monetización de contenido íntimo sintético no consentido. Las penas previstas van de seis meses a tres años de prisión, pudiendo elevarse de uno a cuatro años cuando existan agravantes como ánimo de lucro, difusión masiva o cuando la víctima se encuentre en una situación de vulnerabilidad.
La propuesta también aborda el impacto de las tecnologías de inteligencia artificial en los procesos electorales. En ese sentido, prohíbe la difusión de contenidos sintéticos que atribuyan falsamente declaraciones, decisiones o conductas a candidatos, funcionarios o autoridades electorales con capacidad para inducir a error a los votantes.
Al fundamentar la iniciativa, Zigarán señaló que el objetivo no es restringir el desarrollo tecnológico ni afectar la libertad de expresión, la actividad periodística, la sátira o la creación artística. Según el texto, la finalidad es garantizar que ninguna persona sea utilizada “sin consentimiento” para crear contenidos destinados a “engañar, explotar, humillar, extorsionar, defraudar o manipular”.
