31 Enero 2025

Álvaro Soto, académico UC y director del Centro Nacional de Inteligencia Artificial, fue uno de los chilenos que participó en el proceso de redacción de AI Safety Report, informe internacional independiente sobre seguridad de inteligencia artificial. Por parte de Chile, también participó del proceso, Raquel Pezoa, académica de la UTFSM. El medio La Tercera, publico el titular: “Dos chilenos participan en informe mundial que identificó principales riesgos de la inteligencia artificial”. El cual hace alusión a las declaraciones del académico e investigador, Álvaro Soto, quien comentó sobre la profundidad y metodología que se ocupó para la confección colaborativa del documento: AI Safety Report. “De los muchos informes que he leído creo que por su profundidad, completitud, diversidad y timming porque incluye mucho de lo que está sucediendo ahora- este es un gran aporte”, comentó en la nota Álvaro Soto. En cuanto a la confección del informe, se expone que Álvaro, participó en dos capítulos técnicos del estado del arte de la IA en términos de sus principales técnicas y cómo están impactando tanto en el caso de los modelos de lenguaje y los modelos multimodales. Lo que contó el profesor del Departamento de Ciencia de la Computación UC, es que “los autores principales hicieron un primer draft y sobre él tuvimos varias iteraciones para indicar “acá falta esto o de frontón esto no es así”. Pudimos aportar significativamente porque ese primer draft cambió bastante”. Según la publicación, AI Safety Report, es un informe que busca convertirse en el primer entendimiento científico integral y compartido de los sistemas avanzados de IA y sus riesgos. Catalogado incluso como “el reporte más esperado a nivel mundial para tomar medidas de seguridad frente a la IA“. Escrito por expertos de 30 países, se espera que el AI Safety Report sea una guía para los responsables e las políticas públicas en todo el mundo. AI Safety Report en profundidad: El texto identificado tres categorías de riesgos1.- Riesgos de uso malintencionado: estos incluyen ciberataques, la creación de material de absorción sexual infantil generado por IA excluso el desarrollo de armas biológicas. 2.- Fallas del sistema: estos incluyen sesgos, problemas de confiabilidad y la posible pérdida de control sobre sistemas avanzados de IA. 3.- Riesgos sistémicos: estos se derivan de la adopción generalizada de IA e incluyen interrupciones en la fuerza laboral, preocupaciónes sobre la privacidad e impactos ambientales. Finalmente, desde desde el gobierno, está Aisen Etcheverry, quién, a través del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación ha liderado políticas públicas en colaboración con la academia: “Chile se ha consolidado como referente en esta materia dentro de América Latina, gracias a las iniciativas como la publicación de la Política Nacional de IA, y el proyecto de ley de Inteligencia Artificial actualmente en discusión en el Congreso, que busca establecer un marco para el desarrollo seguro y ético de esta tecnología en el país. En palabras de la ministra: “Esto no debiera sorprendernos. Como Gobierno hemos participado activamente de todas las instancias internacionales sobre IA durante dos años. Y el último Índice Latinoamericano de IA, que nos pone en el primer lugar del continente”. Puedes encontrar la nota publicada sobre el Índice Latinoamericano de IA: “Cenia y Cepal presentaron la II° edición del Índice Latinoamericano de Inteligencia Artificial”. Revisa a continuación la nota original publicada por el medio La Tercera