El presidente del bloque Nuevos Aires en la Cámara de Diputados bonaerense, Gustavo Cuervo, presentó un proyecto de ley que apunta a establecer pautas de consentimiento, identificación y responsabilidad frente a contenidos generados mediante sistemas digitales para evitar los deepfakes. La iniciativa está orientada a regular el uso de la inteligencia artificial cuando se utilice para recrear o simular rasgos de personas reales en la provincia de Buenos Aires.
“Resulta necesario que los marcos normativos acompañen la evolución tecnológica mediante herramientas flexibles y proporcionales, capaces de reducir los riesgos asociados a la manipulación digital sin afectar la libertad de expresión ni el desarrollo de nuevas tecnologías”, postuló el diputado bonaerense en su presentación.
Según el texto ingresado, la propuesta tiene como objeto “proteger la identidad digital de las personas humanas en el ámbito de la provincia de Buenos Aires frente a la creación, modificación, simulación o difusión de sus rasgos mediante sistemas de inteligencia artificial”, según explicó Cuervo. “Resulta necesario que los marcos normativos acompañen la evolución tecnológica mediante herramientas flexibles y proporcionales”, señaló el diputado bonaerense en su iniciativa.
Cabe señalar que, el proyecto define identidad digital como el conjunto de rasgos biométricos y expresivos que permiten identificar directa o indirectamente a una persona. En tanto que, incluye la imagen facial o corporal, la voz, los patrones vocales, la gestualidad y también representaciones audiovisuales o sonoras generadas artificialmente que resulten verosímiles respecto de una persona real.
En ese marco, la iniciativa de Cuervo que es acompañada por sus pares de bloque, Fabián Luayza y Viviana Romano, establece que la utilización de inteligencia artificial para recrear la identidad digital requerirá “consentimiento previo, expreso y verificable del titular”, salvo en las excepciones previstas. Entre ellas se contemplan usos paródicos, artísticos o educativos que no induzcan a engaño, así como contenidos informativos o periodísticos debidamente contextualizados.
Otro de los puntos centrales es la obligación de identificar los contenidos, ya que el articulado dispone que todo material generado o modificado mediante inteligencia artificial que simule la identidad de una persona deberá incluir una advertencia clara, visible y permanente con la leyenda: “Contenido generado o modificado mediante inteligencia artificial”.
En materia de responsabilidades, el proyecto prevé sanciones para quienes creen contenidos en infracción a la norma y para quienes los difundan con finalidad económica o política con conocimiento de su carácter engañoso. En esos casos, la autoridad de aplicación podrá intimar al responsable a cesar la difusión en un plazo máximo de 48 horas, incorporar advertencias o adecuar el material, en caso de que sea aprobado.
En los fundamentos, Cuervo advierte sobre la expansión de tecnologías que permiten generar imágenes, videos y audios sintéticos con alto grado de realismo. Allí se menciona el crecimiento de los denominados deepfakes y la necesidad de contar con herramientas actualizadas frente a la generación sintética de identidades.
Cuervo señala que las normas vigentes sobre imagen, privacidad y derechos personalísimos fueron concebidas para entornos analógicos o registros reales, lo que generaría vacíos frente a la manipulación digital mediante inteligencia artificial y habilita un vacío legal para las deepfakes. Asimismo, el legislador subraya que distintos sistemas jurídicos internacionales comenzaron a analizar mecanismos para mitigar riesgos asociados a estas tecnologías, priorizando la transparencia y el consentimiento sin frenar el desarrollo tecnológico.
Por caso, el diputado bonaerense plantea que la regulación no busca restringir la libertad de expresión, sino establecer pautas mínimas cuando se reproduzcan rasgos identificables de personas reales. En todos los casos, incluso en las excepciones previstas, se mantiene la obligación de identificar el contenido como generado por la inteligencia artificial.
