Inteligencia Artificial

Jorge Baier es Director de Educación de la Escuela de Ingeniería UC y Profesor Asociado del Departamento de Ciencia de la Computación UC y fue invitado el pasado 20 de agosto al ramo “Inteligencia Artificial: Ciencia y Sociedad”, en donde respondió preguntas que fueron propuestas por los mismos estudiantes del ramo dirigido por Jocelyn Dunstan y Rodrigo Toro. Las preguntas que generaron las y los estudiantes fueron clasificadas en diferentes temáticas, en donde las que tuvieron más relevancia fueron “educación y aprendizaje” y “vínculos y afectos”. Antes de comenzar la entrevista, Jorge Baier contó un poco de su historia, en donde reveló que estuvo interesado en los computadores desde los diez años, en la década de los 80, en donde señala “yo juraba que los computadores hablaban y respondían preguntas… lo que no podía estar más lejos de la verdad en esa época”. Su carrera académica se desarrolló durante años en un área muy técnica de la inteligencia artificial, centrada en el diseño y prueba experimental de algoritmos. Sin embargo, confesó que llegó un punto en que ese trabajo dejó de motivarlo, paso por una época difícil que lo llevó a estudiar psicología por su cuenta y, tiempo después, a integrarse como director de Educación en la Escuela de Ingeniería, invitado por quien entonces era decano y hoy es rector de la universidad. Ese cargo, fue el puente que le permitió acercarse a la docencia y a la psicología sin tener que renunciar por completo a su formación como ingeniero. Durante esta actividad el académico Rodrigo Toro le preguntó a Jorge Baier por el ejemplo más llamativo de uso indebido de IA por parte de un estudiante, en donde Baier compartió dos anécdotas de su curso de formación general sobre bienestar. “En una, un estudiante entregó una respuesta que incluía, sin querer, el propio texto generado por el chatbot “ahora te ayudo a escribir algo en un tono más natural”. En otra, un alumno respondió literalmente “como soy un asistente virtual, no te puedo decir cómo es que yo me sentiría”. Ambos episodios, dijo que muestran cómo la confianza en estas herramientas puede llevar a errores evidentes cuando no se revisa lo que se entrega. Luego de eso, surgió una nueva pregunta y esta era si el feedback de un ayudante vale lo mismo que el de un profesor “si al final la nota es la misma”, en donde Jorge Baier en primera instancia aclaró que sus respuestas eran opiniones personales, no evidencia científica, pero sostuvo que si una máquina corrige con menos errores que una persona, él no tendría problema en que los trabajos escritos fueran evaluados por IA. El punto, planteó, es otro: “¿puede una máquina reemplazar la interacción humana en el aula?” Ahí fue cuando el académico introdujo su primera idea central y es que “los seres humanos nos inspiramos de seres humanos“. Lo que ejemplificó con la música y el deporte: “nadie iría con entusiasmo a un concierto tocado por robots o a ver una carrera de autos autónomos, porque la admiración surge de ver a otra persona lograr algo que a uno le cuesta”. Trasladado a la sala de clases, planteó que muchos estudiantes eligieron su carrera porque un profesor los inspiró con el ejemplo, algo que a su juicio, una máquina no puede replicar. Sobre cómo detectar el uso no declarado de IA en trabajos, relató una estrategia que usa desde hace años y esta es citar a los estudiantes sospechosos, ahí les muestra su propia tarea con una línea borrada y les pide que la reconstruyan. Si no son capaces de deducir lo que escribieron, para él no hay más prueba necesaria. La segunda mitad de la conversación abordó preguntas sobre salud mental, por ejemplo si es válido recurrir a un chatbot en momentos de sufrimiento, o si importa que quien responda sea una persona real. Jorge Baier propuso un experimento mental que consistía en imaginar a alguien que se convierte en psicólogo leyendo absolutamente todos los libros y transcripciones de sesiones de psicología disponibles, sin haber tenido nunca un mentor. “¿Se irían ustedes a atender con un psicólogo que se formó así?”, preguntó abiertamente. Ahí habló del concepto de “maestro”, una persona que, mediante pocas interacciones, genera una admiración tan grande que uno le cree y confía en su criterio. “Un maestro no solo transmite información, sino una forma de enfocarla”. La IA, dijo que, “es parecida a ese psicólogo que se leyó todo, pero nunca tuvo un maestro que le enseñara a discriminar entre buena y mala información”, un problema que se agrava si el modelo fue entrenado, por ejemplo, con foros como Reddit, donde circulan consejos peligrosos. Para finalizar esta entrevista el profesor fue consultado, a través de una plataforma de preguntas realizadas por los estudiantes, sobre el riesgo de que un familiar con ceguera desarrolle dependencia de un asistente tipo Alexa, en donde el académico Jorge Baier trasladó la reflexión a un plano más general, cuando el uso de estas herramientas deja de ser una decisión consciente y se vuelve un impulso “como revisar el celular apenas vibra”, es momento de preguntarse si la balanza se está inclinando hacia un lado que ya no ayuda:“Hay que pensar en qué momento la balanza se va para un lado que ya no te está ayudando. Te ayudó mucho en algo, pero te está desayudando en muchas otras cosas”, expresó.

Los archivos son la base de todos los desarrollos que hoy conocemos como inteligencia artificial: ¿Cómo tratamos estos archivos desde la computación cuando ni sus huellas ni sus registros son parte de lo que conocemos como la historia oficial? Estas son algunas de las preguntas claves que fueron abordadas en el Tercer Workshop NuestramemorIA, “Archivos indígenas e inteligencia artificial”, realizado en la Facultad de Derecho de la Universidad Alberto Hurtado. En la primera parte de la actividad, Domingo Mery, académico del Departamento de Ciencia de la Computación de la Pontificia Universidad Católica de Chile e investigador de NuestramemorIA, destacó el trabajo que se ha realizado en el proyecto con las colaboraciones con instituciones como Nos Buscamos, el Museo de la Memoria y los Derechos Humanos o la Fundación Documentación y Archivo de la Vicaría de la Solidaridad. Entre estas colaboraciones, destacan las realizadas recientemente con Radio Cooperativa y el archivo de la Facultad de Artes de la Pontificia Universidad Católica de Chile, que han entregado material audiovisual de la época de la dictadura. Este material permite al equipo realizar entrenamientos de modelos de lenguaje local con el habla de la época, lo que posibilitará catalogar y realizar búsquedas en archivos de audio e imagen. “En este tipo de tareas, los modelos comerciales de inteligencia artificial tienen muy malos resultados”, señala Domingo Mery. Y añade que “todas estas organizaciones han confiado en nuestra capacidad de garantizar seguridad y privacidad en el uso y manejo de sus archivos, para lo cual hemos realizado importantes inversiones en servidores que nos permiten dar estas garantías, gracias al financiamiento con el que contamos”, añadió el académico. ¿Exhibir lo que no debemos ver? Mukurtu es una palabra que proviene del idioma aborigen australiano warumungu, y su significado es un bolso o morral que se utiliza para guardar elementos sagrados cumpliendo estrictas reglas: sólo pueden ser vistos con el permiso de los líderes de la comunidad. Este nombre fue el elegido para la plataforma digital de código abierto que presentó María Montenegro, académica del Global and International Studies en la Universidad de California – Irvine. La invitada internacional de NuestramemorIA expuso sobre los desafíos del desarrollo de una archivística anticolonial digital y de protocolos culturales que permitan segmentar los accesos en torno a la pertenencia y rol en cada cultura. “Esta es una plataforma digital creada considerando las epistemologías de las comunidades indígenas, que da la posibilidad a estas comunidades de definir cuándo, cómo, y qué contenidos de sus archivos pueden ser vistos y conocidos en formato digital”. La experta destacó que parte del trabajo tradicional de archivística ha involucrado el trato de objetos y archivos siendo recopilados, catalogados y registrados sin consentimiento de las comunidades a las que pertenecían, como también la atribución incorrecta y apropiación errónea de conocimientos indígenas, los que en muchos casos no fueron creados para el conocimiento o divulgación general. El desafío que enfrenta Mukurtu es la traducción a entornos digitales de las normas y costumbres de las comunidades, un punto que se configura cada vez más crítico en el manejo de documentos y archivos para desarrollos de inteligencia artificial. Los archivos privados como espacios de registro, memoria y resistencia La memoria mapuche se sostiene en parte gracias a documentos vinculados a procesos históricos, de acuerdo a la presentación de Pablo Millalén, investigador postdoctoral de la Universidad de California – Los Angeles. Millalén relató en primera persona su experiencia familiar sobre el cuidado de archivos privados en el Lof Mañiuko, en la comuna de Galvarino. “Mi chuchu (abuela) me mostraba imágenes, documentos, cédulas de identidad de los que se habían ido, contratos de compraventa, de arriendos de 90 años, títulos de merced, todos documentos vinculados a procesos históricos y que construyen la memoria de la comunidad a través del nütram, la conversación profunda y experiencia compartida que se construye a través de las generaciones”. Desde esta perspectiva, los archivos no constituyen simples depósitos de información, sino espacios vivos en los que se disputan interpretaciones sobre el pasado y se articulan memorias individuales y colectivas. El Tukulpanzungu es el concepto en mapudungun que se usa para expresar el traer al presente hechos e historias ocurridos en el pasado, y que permanecen alojados, principalmente, en la memoria de las familias. Esta idea existe, con algunas variantes, en diversas culturas indígenas, y la tecnología se incorpora, en este contexto, como una forma de mediación que amplía las posibilidades de preservar, organizar, relacionar y comunicar estos registros. Al mismo tiempo, los nuevos desarrollos abren nuevas interrogantes sobre cómo se construye el conocimiento histórico, vinculando el pasado con las experiencias colectivas y produciendo nuevas relaciones sociales y políticas en el presente. Aprendizajes transversales y desafíos interdisciplinarios La discusión del panel, dirigida por Hugo Rojas, académico de la Universidad Alberto Hurtado y de la Universidad Católica del Uruguay, además de investigador de NuestramemorIA y VioDemos, planteó una serie de desafíos desde la archivística y el manejo de documentos de comunidades indígenas hacia los desarrollos realizados con inteligencia artificial en los que trabaja NuestamemorIA. “El reto no es solo tecnológico, sino también epistemológico, ético y de gobernanza: desarrollar una IA que preserve el contexto, respete los derechos colectivos y contribuya a una gestión del patrimonio basada en la colaboración y la confianza, en lugar de la mera extracción de información”, señaló el también docente del Study Abroad Program de University of California en Chile. Para NuestramemorIA, el trabajo conjunto con expertos y expertas del área de archivos indígenas confirma el desafío que estos presentan para el desarrollo de la IA: este tipo de registro contienen conocimientos contextualizados, colectivos y culturalmente situados que no pueden tratarse como datos convencionales. Esto exige modelos interdisciplinarios que integren soberanía de datos, consentimiento, protocolos culturales y participación efectiva de las comunidades, objetivos en los cuales el nuestro proyecto está trabajando conscientemente.

Tras la transformación digital y el uso de distintas herramientas digitales, la Inteligencia Artificial es una de las principales protagonistas, utilizándose en diferentes áreas profesionales o de automatización, incluso en la cotidianidad para reproducir música o algunos servicios que hoy cuentan con asistencia de IA. Pero en la cotidianeidad, ¿cómo saber cuando un contenido es sintético o está creado por IA? ¿Su contenido es real o falso? Por esta razón, la Unión Europea, a partir de este 2 de agosto busca agregar nuevas obligaciones a su Ley de Inteligencia Artificial, con el fin de reducir la confusión sobre la veracidad de lo que se ve en internet y que ha sido creado o alterado con IA. Dentro de estas nuevas directrices está el etiquetado de imágenes, videos e información que estén generadas con IA. La medida busca entregarle al usuario una información crucial para la toma de decisiones y por sobre todo, tener más conocimiento sobre el contenido que está consumiendo. “Chat GPT, Gemini y Claude” son algunos ejemplos de las plataformas que se verán afectadas con estas medidas, así mismo, las empresas que utilizan estos modelos para su trabajo. Para los textos, audios e imágenes, la nueva normativa busca que tengan alguna marca de agua visible y otra que pueda ser detectada por sistemas computacionales. Dentro del contenido que será regulado se encuentra, principalmente, aquel que utilice imágenes de personas, objetos, lugares o situaciones que parezcan auténticas, ya que pueden generar confusión o inducir a error. También se incluyen los llamados “deepfakes”, contenidos digitales creados o manipulados con inteligencia artificial que buscan suplantar la identidad de una persona. El material que quedará fuera de esta regulación será el de ilustraciones o contenidos que no sean realistas y se note que corresponden a una ficción. Con respecto a estas medidas, el académico del Departamento de Ciencia de la Computación UC, investigador CENIA & IMFD y experto en el área de desinformación e IA generativa, Marcelo Mendoza, señala: “Me parece adecuada ya que abordan el uso de contenidos sintéticos en plataformas digitales en distintas modalidades, lo que facilitará la medición del impacto de contenidos sintéticos en campañas electorales y podrá mitigar los riesgos inherentes a la proliferación de contenidos falsos o tendenciosos en campañas de desinformación”. La creación de textos de interés público que sean generados con Inteligencia Artificial también deberán ser transparentados en el caso de no haber pasado por una revisión editorial previo a la publicación. Con respecto a los sistemas que analizan la biometría, categorizan emociones o comportamientos de las personas también deberán ser informados a los ciudadanos, a excepción de los que estén autorizados por la ley para identificar delitos. Las multas por el no cumplimiento de estas nuevas normativas pueden llegar a ser hasta 15 millones de euros o el 3% de la facturación mundial. En cuanto a las sanciones, el académico Marcelo Mendoza afirma que estas “no solo abordan el mal uso de estos contenidos sino que también la falta de transparencia al ocultar la trazabilidad de la IA”. En cuanto a Chile, se están buscando generar medidas al respecto, actualmente hay un proyecto de ley que se encuentra en su primer trámite constitucional. Esta medida pretende establecer la obligación de que estos contenidos lleven un sello rastreable de aquello que fue generado con IA.