Avanza el debate en general del proyecto que busca regular la creación y difusión de imitaciones digitales realistas de personas generadas mediante inteligencia artificial (IA), conocidas como deepfakes (boletín 17795).
La Comisión de Ciencias destinó su última jornada a continuar el debate en general de la moción promovida por la diputada Gael Yeomans. En términos generales, la iniciativa busca otorgar a toda persona el derecho exclusivo a controlar la creación y difusión de imitaciones digitales realistas de su imagen, cuerpo y voz generadas mediante IA.
Para esto, establece deberes de consentimiento previo y revocable, junto a prohibiciones y sanciones por el uso indebido. Además, considera obligaciones claras para las plataformas digitales y mecanismos de reparación judicial y administrativa.
ACTI critica regulación
El presidente de ACTI, Claudio Magliona, planteó reparos al proyecto. Señaló que no queda claro el bien jurídico protegido. Junto a esto, advirtió que la propuesta entra en conflicto con la normativa sobre datos personales y propiedad intelectual. Así también, cuestionó el concepto de “imagen realista”. Esto porque, a su juicio, es difuso y podría generar contradicciones en la aplicación de la norma.
Por otro lado, Magliona recalcó que las plataformas no deben asumir funciones de vigilancia o juzgamiento. Por lo tanto, destacó la necesidad de establecer un organismo especializado encargado de la fiscalización en esta materia. Finalmente, recordó que la regulación debe considerar diversas tecnologías asociadas a usos indebidos de la imagen o la voz, no solo la IA.
Las deepfakes y su impacto democrático
Una visión diferente expresó la abogada experta en tecnologías emergentes, Ebyenia Mestre. En su presentación valoró que el proyecto establezca el derecho a la integridad digital y priorice el consentimiento para difundir o almacenar imitaciones digitales realistas.
Indicó que existe un vacío normativo en Chile y que las deepfakes no constituyen solo un problema tecnológico, sino también político y constitucional. Advirtió que pueden distorsionar el proceso deliberativo, confundir al electorado y afectar derechos colectivos.
Desde su perspectiva, la ausencia total de regulación implica mayores riesgos que una eventual sobrerregulación. Sobre todo cuando se trata de la protección de los sistemas democráticos. “Sin normas, una campaña política podría disputarse en ficciones algorítmicas y no en ideas”, alertó. También señaló que el proyecto requiere mejorar la definición del órgano fiscalizador y la graduación de responsabilidades.
Tramitación legislativa
En la sesión también participó el ministro de Ciencias, Aldo Valle, quien destacó que la iniciativa entrega un complemento indispensable al trabajo para la regulación de la IA. Sin embargo, en la misma línea de los invitados, sostuvo que la propuesta debe reforzar el diseño del órgano fiscalizador de las deepfakes, los niveles de responsabilidad y la definición de los tribunales competentes.
Durante la sesión, la comisión solicitó incorporar antecedentes de legislación comparada para nutrir el debate. Asimismo, el diputado Johannes Kaiser solicitó sumar al debate la moción que pretende establecer límites al desarrollo de la inteligencia artificial, en resguardo de los derechos humanos fundamentales (boletín 17122).
De esta forma, en la próxima sesión se recibirán nuevas audiencias; tras lo cual, la moción de la diputada Yeomans se votaría en general.