El Proyecto de Ley 6524/2023-CR propone que las plataformas digitales jurídicas que usen IA informen obligatoriamente a sus usuarios que usan esa tecnología. En concreto, la iniciativa propone que los sistemas y aplicaciones que usen IA (plataformas digitales y/o software) para interactuar, crear y desarrollar contenidos digitales deberán informar que usan esa inteligencia.
Mediante el etiquetado digital, los sistemas y aplicaciones informarán que usan IA. El proyecto de ley define “etiquetado digital” como el proceso para identificar y clasificar la intervención de la IA en la creación, desarrollo e interacción de contenidos digitales.
¿Quiénes deberán incluir el etiquetado digital?
- Los proveedores nacionales que introduzcan en el mercado o pongan en servicio sistemas de IA.
- Los usuarios de sistemas de IA que se encuentren en el Perú.
- Los proveedores y usuarios de sistemas de IA que se encuentren en un país distinto al Perú, siempre y cuando la información generada por el sistema IA se utilice en territorio nacional.
El proyecto de ley indica que el etiquetado digital deberá proporcionar información clara y comprensible sobre la intervención de la IA en los sistemas y aplicaciones. La información incluirá el propósito del uso de la IA, la naturaleza de la intervención y cualquier impacto negativo en los resultados o contenidos generados.
¿Dónde se exhibirá el etiquetado digital?
El etiquetado digital deberá presentarse de manera accesible, visible e identificable en la interfaz de los sistemas y aplicaciones, para que los usuarios puedan advertir su presencia. Además, la información proporcionada en el etiquetado digital deberá presentar lenguaje sencillo, sin tecnicismos innecesarios.
Si los sistemas o aplicaciones modifican de manera significativa la intervención de la IA al interactuar, crear y desarrollar contenidos digitales, deberán actualizar el etiquetado digital para informar a los usuarios sobre los cambios.
El etiquetado digital no eximirá la obligación de obtener el consentimiento informado de los usuarios para usar IA, se lee en el proyecto de ley. El etiquetado digital solo funcionará como una herramienta adicional que permitirá a los usuarios tomar decisiones informadas.
Es importante precisar que los usuarios de un sistema IA que genere o manipule imágenes, videos, voces o canciones, creando semejanzas con el mundo real, deberán hacer público que su contenido fue generado de forma artificial o manipulada.
Responsabilidades de los proveedores de tecnologías IA
Los proveedores deberán darle seguimiento a sus tecnologías de IA después de haberlas vendido. Así evaluarán el rendimiento, la seguridad y la eficacia de las tecnologías de IA introducidas en el mercado.
El sistema de seguimiento debe ser documentado de manera clara y comprensible. Los documentos incluirán la metodología que se empleó para su creación, los indicadores de rendimiento evaluados y los resultados que se obtuvieron en el seguimiento posterior a la venta.
Si se identifican defectos en el rendimiento o seguridad de las tecnologías de IA, los proveedores deberán implementar medidas correctivas para garantizar la mejora continua.
Si el proyecto de ley es aprobado, se implementará la reglamentación correspondiente. En la reglamentación se especificará cuándo no será necesario que los sistemas y aplicaciones exhiban etiquetado digital.
Finalmente, el proyecto de ley indica que se podrán realizar auditorías periódicas para verificar que se cumplan las disposiciones del etiquetado digital.
Fundamentos del proyecto de ley sobre etiquetado digital
Según el proyecto de ley, la IA ha ocasionado desinformación e incluso amenazas a la privacidad y el empleo, porque no está regulada. Por lo tanto, urge que los sistemas y aplicaciones que usen IA incluyan etiquetado digital.
Por último, se explica que la medida busca proporcionar mayor transparencia a los usuarios y asegurar el reconocimiento claro de la intervención de la IA en las diferentes plataformas.
Fuente: La Ley
Fecha: 27/11/2023
