Marcelo Mendoza comenta sobre la nueva regulación de UE que busca transparentar el uso de IA en los contenidos que se crean o alteran con ella
Tras la transformación digital y el uso de distintas herramientas digitales, la Inteligencia Artificial es una de las principales protagonistas, utilizándose en diferentes áreas profesionales o de automatización, incluso en la cotidianidad para reproducir música o algunos servicios que hoy cuentan con asistencia de IA. Pero en la cotidianeidad, ¿cómo saber cuando un contenido es sintético o está creado por IA? ¿Su contenido es real o falso? Por esta razón, la Unión Europea, a partir de este 2 de agosto busca agregar nuevas obligaciones a su Ley de Inteligencia Artificial, con el fin de reducir la confusión sobre la veracidad de lo que se ve en internet y que ha sido creado o alterado con IA. Dentro de estas nuevas directrices está el etiquetado de imágenes, videos e información que estén generadas con IA. La medida busca entregarle al usuario una información crucial para la toma de decisiones y por sobre todo, tener más conocimiento sobre el contenido que está consumiendo. “Chat GPT, Gemini y Claude” son algunos ejemplos de las plataformas que se verán afectadas con estas medidas, así mismo, las empresas que utilizan estos modelos para su trabajo. Para los textos, audios e imágenes, la nueva normativa busca que tengan alguna marca de agua visible y otra que pueda ser detectada por sistemas computacionales. Dentro del contenido que será regulado se encuentra, principalmente, aquel que utilice imágenes de personas, objetos, lugares o situaciones que parezcan auténticas, ya que pueden generar confusión o inducir a error. También se incluyen los llamados “deepfakes”, contenidos digitales creados o manipulados con inteligencia artificial que buscan suplantar la identidad de una persona. El material que quedará fuera de esta regulación será el de ilustraciones o contenidos que no sean realistas y se note que corresponden a una ficción. Con respecto a estas medidas, el académico del Departamento de Ciencia de la Computación UC, investigador CENIA & IMFD y experto en el área de desinformación e IA generativa, Marcelo Mendoza, señala: “Me parece adecuada ya que abordan el uso de contenidos sintéticos en plataformas digitales en distintas modalidades, lo que facilitará la medición del impacto de contenidos sintéticos en campañas electorales y podrá mitigar los riesgos inherentes a la proliferación de contenidos falsos o tendenciosos en campañas de desinformación”. La creación de textos de interés público que sean generados con Inteligencia Artificial también deberán ser transparentados en el caso de no haber pasado por una revisión editorial previo a la publicación. Con respecto a los sistemas que analizan la biometría, categorizan emociones o comportamientos de las personas también deberán ser informados a los ciudadanos, a excepción de los que estén autorizados por la ley para identificar delitos. Las multas por el no cumplimiento de estas nuevas normativas pueden llegar a ser hasta 15 millones de euros o el 3% de la facturación mundial. En cuanto a las sanciones, el académico Marcelo Mendoza afirma que estas “no solo abordan el mal uso de estos contenidos sino que también la falta de transparencia al ocultar la trazabilidad de la IA”. En cuanto a Chile, se están buscando generar medidas al respecto, actualmente hay un proyecto de ley que se encuentra en su primer trámite constitucional. Esta medida pretende establecer la obligación de que estos contenidos lleven un sello rastreable de aquello que fue generado con IA.
