En su 11ª sesión ordinaria, la Cámara de Diputados le dio media sanción al proyecto del diputado Juan Carlos Ledesma (FT) que establece un Régimen Jurídico para la Prevención y Sanción del Uso Indebido de Inteligencia Artificial y de Deepfakes Sexuales en la provincia. La iniciativa apunta a abordar la generación, manipulación y difusión de imágenes, voces o contenidos íntimos falsos creados mediante inteligencia artificial sin consentimiento de las personas afectadas, con especial atención a niños, niñas y adolescentes.
Al fundamentar el proyecto, Ledesma advirtió que la expansión de estas herramientas ya está generando situaciones que pueden provocar daños difíciles de revertir, dado que la inteligencia artificial permite simular la imagen, la voz, la identidad e incluso los comportamientos de una persona. Por eso, explicó, la iniciativa busca establecer mecanismos de prevención, asistencia y sanción, con penas que se agravan cuando existe hostigamiento, humillación, intimidación, amenaza, extorsión, lucro o venganza.
El régimen también prevé la creación de un Observatorio Provincial de Violencia Digital, encargado de recopilar datos, elaborar informes, acompañar a las víctimas y desarrollar campañas de prevención y capacitación. A eso se suma la incorporación progresiva de contenidos educativos sobre violencia digital, privacidad, consentimiento, identidad digital, protección de datos y uso responsable de la inteligencia artificial, con aplicación en el nivel secundario y convenios con universidades.
Durante el debate, la diputada Natalia Saseta (PRO) remarcó que se trata de un problema actual, no de un escenario futuro: «La tecnología avanza enormemente y también avanza en las oportunidades que genera de las nuevas formas de violencia, de hostigamiento y vulneración de derechos que requieren respuestas del Estado». La legisladora explicó que el proyecto distingue las conductas que corresponden al régimen contravencional de aquellas que puedan constituir delitos de acción pública, cuya investigación queda en manos del Ministerio Público Fiscal, y puso especial énfasis en el concepto de consentimiento: una foto publicada en una red social, señaló, no habilita a usarla para crear contenidos sexuales, políticos, de odio o agresivos. «Cuando la tecnología avanza no tenemos que prohibir que avance, pero sí tenemos que generar el marco legal para que esa tecnología cuando avance lo haga con respeto, sin vulnerar derechos», sostuvo.
El diputado Tiago Puente (Generar) aportó al debate su propia experiencia: relató que el año pasado había denunciado la circulación de videos generados con IA en los que se lo acusaba falsamente de distintos delitos, y que había puesto la situación en conocimiento de las autoridades. Desde la UCR, Luis Fadel expresó el acompañamiento de su bloque y manifestó su expectativa de que el Senado le dé pronto tratamiento a la iniciativa. Al cierre del debate, Ledesma reafirmó que el proyecto está dirigido específicamente a las falsificaciones sexuales y al uso de imágenes de adultos y menores en contenidos íntimos, y cuestionó que se incorporaran al debate cuestiones ajenas a su objeto.
