Ética archivos - Departamento de Ciencia de la Computación

Marcelo Mendoza lanza libro en conjunto con Gabriela Arriagada y Claudia López sobre Ética en IA y Tecnologías de la Información

El libro titulado: Ethics in Artificial Intelligence and Information Technologies (Ética en la Inteligencia Artificial y Tecnologías de la Información)Autores: Gabriela Arriagada-Bruneau • Claudia López • Marcelo Mendoza Según la descripción publicada detrás del libro, este texto aborda los desafíos que plantea la adopción y el desarrollo de nuevas tecnologías de inteligencia artificial (IA) y cómo estas impactan a las personas. La ética, el alcance y el impacto de la tecnología en las personas son aspectos fundamentales. El libro comienza con los aspectos éticos de la IA, presentando un enfoque sociotécnico para integrar la ética en los proyectos de IA, y describe perspectivas en torno al feminismo, la sostenibilidad y la transformación laboral. Luego, se introducen los conceptos de equidad, responsabilidad y transparencia, discutiendo sus implicancias en el desarrollo de sistemas de información como los sistemas de recomendación, incluyendo aspectos relacionados con la privacidad de los datos. Después, el libro cubre la relevancia de los sistemas de procesamiento de lenguaje natural, destacando estrategias para reducir sesgos y metodologías de evaluación. También se presentan los alcances de enfoques basados en la equidad para ChatGPT y otros modelos generativos de texto. Finalmente, se abordan temas avanzados que incluyen la relación entre la IA y la desinformación, incluyendo una discusión sobre el alcance de los modelos generativos de noticias como los deepfakes. El libro concluye con una discusión sobre las perspectivas y desafíos en el área. Este libro está dirigido a estudiantes avanzados de pregrado y posgrado de todas las disciplinas relacionadas con los sistemas de información. También es útil para investigadores y profesionales interesados en el tema. Invitación de los autores Por parte de Marcelo Mendoza: “Es un libro con un enfoque interdisciplinario sobre la ética y la inteligencia artificial. Propone un marco conceptual para abordar el desarrollo de la IA integrando la ética, conceptualiza a los sistemas IA como sistemas sociotécnicos y define las principales amenazas vinculadas a la IA. Al respecto, aborda aspectos metodológicos que permiten el desarrollo de IA segura y reseña los avances de los enfoques normativos y regulatorios de la IA a nivel global. Es un libro escrito desde Chile pero con perspectiva global, ideal tanto para investigadores, estudiantes y desarrolladores de soluciones IA“. Por parte de Gabriela Arriagada: “¿Qué tipo de futuro queremos construir con la inteligencia artificial?Ética en la Inteligencia Artificial y las Tecnologías de la Información es una obra fundamental para cualquier persona que desee comprender, anticipar y responder a los dilemas éticos que emergen en un mundo cada vez más mediado por algoritmos. Con un enfoque riguroso pero accesible, este libro examina cómo la IA está transformando ámbitos como la educación, la justicia, la comunicación, el trabajo, la privacidad y la toma de decisiones automatizadas. Esta obra propone un recorrido crítico por los desafíos contemporáneos que plantea el uso de la IA en la sociedad. Desde una mirada sociotécnica e interdisciplinaria, se abordan conceptos clave como la equidad, la transparencia, la rendición de cuentas, la sostenibilidad, la gobernanza de datos, la desinformación y los sesgos algorítmicos. También se exploran enfoques emergentes como el feminismo de datos, la justicia de diseño, y la ética explicativa (XAI), aplicados a sistemas reales como ChatGPT, modelos generativos de imágenes y sistemas de recomendación. Este libro está pensado tanto para estudiantes universitarios de pregrado y posgrado como para profesionales del derecho, la ingeniería, la filosofía, las ciencias sociales y la informática. Asimismo, es una herramienta valiosa para docentes, investigadores y responsables de políticas públicas que buscan integrar principios éticos en la investigación, el desarrollo y la implementación de tecnologías digitales. Porque no basta con saber lo que la IA puede hacer; necesitamos discutir lo que debe hacer.Este libro ofrece los marcos, herramientas y ejemplos necesarios para repensar críticamente el papel de la inteligencia artificial en nuestras vidas y decidir colectivamente hacia dónde queremos ir”. ¿Dónde comprarlo?, ingresa al siguiente enlace: https://www.routledge.com/Ethics-in-Artificial-Intelligence-and-Information-Technologies/Arriagada-Bruneau-Lopez-Mendoza/p/book/9781032594187

Marcelo Mendoza lanza libro en conjunto con Gabriela Arriagada y Claudia López sobre Ética en IA y Tecnologías de la Información Leer más ”

“Foro sobre la ética y la Inteligencia Artificial en América Latina y el Caribe”

Con la presencia de veinte países de Latinoamérica y el Caribe, junto a representantes de la academia, la industria, parlamentarios y sociedad civil, se llevó a cabo el Foro de Altas Autoridades sobre la Ética de la Inteligencia Artificial de América Latina y el Caribe. La instancia se desarrolló durante el lunes 23 y martes 24 de octubre donde el objetivo principal fue permitir a las distintas naciones describir las políticas públicas que están impulsando en esta materia, compartir sus preocupaciones respecto de los usos de la Inteligencia Artificial (IA) y definir políticas regionales para abordar este desafío. Países presentes en el encuentro: Argentina, Brasil, Chile, Colombia, Costa Rica, Cuba, Ecuador, El Salvador, Guatemala, Honduras, Jamaica, México, Perú, Paraguay, República Dominicana, Santa Lucía, San Vicente y las Granadinas, Surinam, Uruguay y Venezuela. La posición de liderazgo de Chile en materia de IA es reconocida a nivel continental, en parte, por su institucionalidad: Chile fue uno de los primeros países de la región en contar con una política de IA en 2021, que dio pie a la formación de centros de investigación, la creación de diversos fondos y hasta becas de posgrado dirigidas. Esto fue corroborado hace pocos meses por el Índice Latinoamericano de IA de CENIA (Centro Nacional de Inteligencia Artificial), donde nuestro académico Álvaro Soto es director. En ese primer informe se midieron diversos factores y se demostró a Chile como país pionero en aspectos de formación, conectividad, institucionalidad, entre otros. La UNESCO señala un llamado de urgencia a los gobiernos, para que aceleren su hoja de ruta sobre los marcos de gobernanza de la IA, con el fin de garantizar la seguridad pública y la estabilidad económica y política en sus países. De allí la relevancia de que los gobiernos puedan entablar espacios permanentes de intercambio y toma de decisión como el de este Foro. Cecilia Besa, investigadora de IHealth (Instituto Milenio en Ingeniería e Inteligencia Artificial para la salud) e integrante de uno de los paneles del Foro, en marco de la misma conversación, declaró a El Mercurio: “por ejemplo, para mejorar el accceso a la salud, hay una iniciativa de usar modelos de lenguaje natural que ha liderado Jocelyn Dunstan, académica DCC- IMC UC e investigadora IMFD (Instituto Milenio Fundamentos de los Datos) que puede priorizar las patologías más requeridas por región, sexo y edad, para gestionar de una manera más eficiente la lista de espera en el sistema público”. En esa misma línea Cecilia, tomó un nuevo ejemplo que relaciona la IA con la salud, esta vez refiriéndose a evitar procesos invasivos: “Hay una iniciativa del profesor Domingo Mery (académico DCC UC), que es parte también de IHealth, y que plantea junto con el Departamento de Dermatología de la UC: identifican a través de una fotografía si las lesiones en la piel son benignas o malignas, usando modelos de IA”. Algunos integrantes del panel concluyeron que la “IA debe estar al servicio de las personas de Chile”, y gracias a las investigaciones nombradas y reconocimientos a nuestros docentes expertos, muestra lo trascendente que son los proyectos en los que se está trabajando y cómo estas materias impactan al mundo y a la realidad de las personas. A continuación, dejamos disponible el link de la nota de El Mercurio: