X

Ética

Jocelyn Dunstan es entrevistada por Visión UC ante la pregunta: “Por qué no se puede usar la inteligencia artificial como terapia psicológica”

Este 12 de junio, la Vicerrectoría de Comunicaciones a través de su periódico oficial Visión UC publicó una nota titulada: “Por qué no se puede usar la inteligencia artificial como terapia psicológica”, que profundiza sobre la realidad de personas que utilizan ChatGPT como apoyo emocional o terapeuta. Si bien Chile lidera el uso de inteligencia artificial en Latinoamérica, no todos sus usos son recomendados. Tres académicas UC explican, desde diferentes áreas, cuáles son los límites de esta tecnología en salud mental. ¿Conoces a alguien que le cuenta sus problemas a ChatGPT? ¿O incluso tú tienes este hábito? No eres la única persona en hacerlo. Cada vez más usuarios en Chile —líder latinoamericano en inteligencia artificial, según el Índice Latinoamerica de Inteligencia Artificial (ILIA 2024)— están usando este tipo de herramientas para hablar de emociones, buscar consejo o incluso lidiar con momentos difíciles. Pero, ¿es buena idea utilizarlas en este contexto?  Tres académicas UC advierten que, aunque la IA puede ser útil como apoyo, no reemplaza en ningún caso la atención de un profesional de la salud mental.  La costumbre de la respuesta rápida  Desde la Escuela de Psicología, la académica Paula Errázuriz, ha notado que cada vez más pacientes conversan con ChatGPT antes de ir a terapia. “Puede hacernos sentir escuchados o darnos herramientas de autoayuda, pero no reemplaza lo que puede hacer un profesional”, afirma. En casos de angustia, síntomas graves o de riesgo vital, acudir a la inteligencia artificial es en realidad un peligro. “Una persona con riesgo no debe descansar en lo que le digan estas herramientas”, enfatiza.  Por su parte, la académica del Instituto de Éticas Aplicadas, Gabriela Arriagada-Bruneau, observa que muchas personas —especialmente jóvenes— buscan en la IA una respuesta sin juicio. “Es una paradoja: buscamos consuelo emocional en un mundo automatizado”, explica. Esa sensación de compañía inmediata puede generar dependencia emocional. “Conversar con un modelo como ChatGPT puede parecer más fácil que hablar con un amigo o familiar. Pero eso no significa que sea mejor”, añade.  Además, según Arriagada, la inteligencia artificial también responde a otra solicitud de la gente más joven, “entrega el confort de obtener esa respuesta inmediata y les permite obtener una respuesta, quizás, más personalizada”  “Es una paradoja: buscamos consuelo emocional en un mundo automatizado”, Gabriela Arriagada, académica del Instituto de Éticas Aplicadas. Jocelyn Dunstan, investigadora en IA del Departamento de Ciencia de la Computación (Facultad de Ingeniería) también reconoce otra fortaleza de estas herramientas: ordenar ideas o detectar urgencias, pero pone una alerta: “Estos sistemas pueden apoyar la gestión clínica, no reemplazar la consulta psicológica”. Parte del problema es que están diseñados para mantener al usuario enganchado, no necesariamente para actuar con responsabilidad emocional.  La académica resalta también un punto muy importante que olvidamos al usar este tipo de plataformas: “modelos como ChatGPT no siempre tienen la razón y es necesario estar alerta y poder aplicar criterio a la hora de leer una respuesta. El negocio de estos servicios es interactuar la mayor cantidad de tiempo posible, por lo que es rentable hacer la inteligencia artificial y otros sistemas, aduladores y cercanos.” A esto se suman los sesgos en los modelos de IA, que pueden ser invisibles, pero profundos. Arriagada-Bruneau lo explica así: “Muchos de estos sistemas están entrenados con textos anglosajones y racionalistas. No entienden del todo el contexto personal, cultural o emocional del usuario”.  ¿Y entonces, qué podemos hacer?  La clave está en la educación digital: entender cuándo la IA puede ser útil y cuándo no. También urge un diseño ético que advierta a los usuarios si están en una situación emocional delicada, y que derive hacia atención profesional cuando sea necesario.  “Gente ha reportado sentirse menos sola al hablar con chatbots, como lo que ocurre en China con el uso extendido de DeepSeek. Una posible aplicación para aplicar esta tecnología a la salud mental, sería un clasificador que, de acuerdo al diálogo, indique el grado de urgencia de una consulta psicológica”, propone Dunstan. Desde la psicología, Errázuriz señala que mucha gente opta por la inteligencia artificial por el acceso. “A veces no es fácil conseguir atención en salud mental. Pueden haber listas de espera larga o sesiones que no tienen la frecuencia que la persona necesita, o puede ser muy cara. Y por lo mismo es que Psiconecta, tienen una clínica de atención a bajo costo y también hay otras instituciones que están tratando de llenar ese vacío, cosa de que las personas que lo necesitan puedan acceder a atención de salud mental con profesionales”. Por su parte, Gabriela Arriagada, propone “diseñar arquitecturas que promuevan una autonomía mucho más crítica y la prevención de estas dependencias emocionales. Esto podría traducirse en cosas simples como mecanismos de alerta que reconozcan patrones de interacción, por ejemplo, que sugieran algún estado de crisis en las personas, con redireccionamiento automático hacia recursos profesionales, limitaciones en el número de interacciones continuas vinculadas a temáticas sensibles”. Mientras esta tecnología no esté aplicada formalmente, la académica de Psicología UC, hace un llamado final “a que las personas, a pesar de encontrar quizá un alivio más fácil y más a la mano con la inteligencia artificial, no dejen de hacer el esfuerzo de generar contactos con otras personas en su entorno. Ojalá contacto cara a cara, si eso no es posible, al menos por videoconferencia, si eso no es posible, por teléfono, y si eso no es posible, recién optar por WhatsApp, pero no perder los vínculos humanos”. Para concluir, en la cuenta de UCatolicaoficial de Instagram, se publicó un reel que acompañó la nota. Pueden reproducirlo en el siguiente enlace: https://www.instagram.com/p/DKxGKH_vFqf/ Nota periodística hecha por Daniela Zárate, Coordinadora de Redes Sociales UC

Jocelyn Dunstan es entrevistada por Visión UC ante la pregunta: “Por qué no se puede usar la inteligencia artificial como terapia psicológica” Leer más ”

Marcelo Mendoza lanza libro en conjunto con Gabriela Arriagada y Claudia López sobre Ética en IA y Tecnologías de la Información

El libro titulado: Ethics in Artificial Intelligence and Information Technologies (Ética en la Inteligencia Artificial y Tecnologías de la Información)Autores: Gabriela Arriagada-Bruneau • Claudia López • Marcelo Mendoza Según la descripción publicada detrás del libro, este texto aborda los desafíos que plantea la adopción y el desarrollo de nuevas tecnologías de inteligencia artificial (IA) y cómo estas impactan a las personas. La ética, el alcance y el impacto de la tecnología en las personas son aspectos fundamentales. El libro comienza con los aspectos éticos de la IA, presentando un enfoque sociotécnico para integrar la ética en los proyectos de IA, y describe perspectivas en torno al feminismo, la sostenibilidad y la transformación laboral. Luego, se introducen los conceptos de equidad, responsabilidad y transparencia, discutiendo sus implicancias en el desarrollo de sistemas de información como los sistemas de recomendación, incluyendo aspectos relacionados con la privacidad de los datos. Después, el libro cubre la relevancia de los sistemas de procesamiento de lenguaje natural, destacando estrategias para reducir sesgos y metodologías de evaluación. También se presentan los alcances de enfoques basados en la equidad para ChatGPT y otros modelos generativos de texto. Finalmente, se abordan temas avanzados que incluyen la relación entre la IA y la desinformación, incluyendo una discusión sobre el alcance de los modelos generativos de noticias como los deepfakes. El libro concluye con una discusión sobre las perspectivas y desafíos en el área. Este libro está dirigido a estudiantes avanzados de pregrado y posgrado de todas las disciplinas relacionadas con los sistemas de información. También es útil para investigadores y profesionales interesados en el tema. Invitación de los autores Por parte de Marcelo Mendoza: “Es un libro con un enfoque interdisciplinario sobre la ética y la inteligencia artificial. Propone un marco conceptual para abordar el desarrollo de la IA integrando la ética, conceptualiza a los sistemas IA como sistemas sociotécnicos y define las principales amenazas vinculadas a la IA. Al respecto, aborda aspectos metodológicos que permiten el desarrollo de IA segura y reseña los avances de los enfoques normativos y regulatorios de la IA a nivel global. Es un libro escrito desde Chile pero con perspectiva global, ideal tanto para investigadores, estudiantes y desarrolladores de soluciones IA“. Por parte de Gabriela Arriagada: “¿Qué tipo de futuro queremos construir con la inteligencia artificial?Ética en la Inteligencia Artificial y las Tecnologías de la Información es una obra fundamental para cualquier persona que desee comprender, anticipar y responder a los dilemas éticos que emergen en un mundo cada vez más mediado por algoritmos. Con un enfoque riguroso pero accesible, este libro examina cómo la IA está transformando ámbitos como la educación, la justicia, la comunicación, el trabajo, la privacidad y la toma de decisiones automatizadas. Esta obra propone un recorrido crítico por los desafíos contemporáneos que plantea el uso de la IA en la sociedad. Desde una mirada sociotécnica e interdisciplinaria, se abordan conceptos clave como la equidad, la transparencia, la rendición de cuentas, la sostenibilidad, la gobernanza de datos, la desinformación y los sesgos algorítmicos. También se exploran enfoques emergentes como el feminismo de datos, la justicia de diseño, y la ética explicativa (XAI), aplicados a sistemas reales como ChatGPT, modelos generativos de imágenes y sistemas de recomendación. Este libro está pensado tanto para estudiantes universitarios de pregrado y posgrado como para profesionales del derecho, la ingeniería, la filosofía, las ciencias sociales y la informática. Asimismo, es una herramienta valiosa para docentes, investigadores y responsables de políticas públicas que buscan integrar principios éticos en la investigación, el desarrollo y la implementación de tecnologías digitales. Porque no basta con saber lo que la IA puede hacer; necesitamos discutir lo que debe hacer.Este libro ofrece los marcos, herramientas y ejemplos necesarios para repensar críticamente el papel de la inteligencia artificial en nuestras vidas y decidir colectivamente hacia dónde queremos ir”. ¿Dónde comprarlo?, ingresa al siguiente enlace: https://www.routledge.com/Ethics-in-Artificial-Intelligence-and-Information-Technologies/Arriagada-Bruneau-Lopez-Mendoza/p/book/9781032594187

Marcelo Mendoza lanza libro en conjunto con Gabriela Arriagada y Claudia López sobre Ética en IA y Tecnologías de la Información Leer más ”

“Foro sobre la ética y la Inteligencia Artificial en América Latina y el Caribe”

Con la presencia de veinte países de Latinoamérica y el Caribe, junto a representantes de la academia, la industria, parlamentarios y sociedad civil, se llevó a cabo el Foro de Altas Autoridades sobre la Ética de la Inteligencia Artificial de América Latina y el Caribe.  La instancia se desarrolló durante el lunes 23 y martes 24 de octubre donde el objetivo principal fue permitir a las distintas naciones describir las políticas públicas que están impulsando en esta materia, compartir sus preocupaciones respecto de los usos de la Inteligencia Artificial (IA) y definir políticas regionales para abordar este desafío.   Países presentes en el encuentro: Argentina, Brasil, Chile, Colombia, Costa Rica, Cuba, Ecuador, El Salvador, Guatemala, Honduras, Jamaica, México, Perú, Paraguay, República Dominicana, Santa Lucía, San Vicente y las Granadinas, Surinam, Uruguay y Venezuela.   La posición de liderazgo de Chile en materia de IA es reconocida a nivel continental, en parte, por su institucionalidad: Chile fue uno de los primeros países de la región en contar con una política de IA en 2021, que dio pie a la formación de centros de investigación, la creación de diversos fondos y hasta becas de posgrado dirigidas. Esto fue corroborado hace pocos meses por el Índice Latinoamericano de IA de CENIA (Centro Nacional de Inteligencia Artificial), donde nuestro académico Álvaro Soto es director. En ese primer informe se midieron diversos factores y se demostró a Chile como país pionero en aspectos de formación, conectividad, institucionalidad, entre otros.   La UNESCO señala un llamado de urgencia a los gobiernos, para que aceleren su hoja de ruta sobre los marcos de gobernanza de la IA, con el fin de garantizar la seguridad pública y la estabilidad económica y política en sus países. De allí la relevancia de que los gobiernos puedan entablar espacios permanentes de intercambio y toma de decisión como el de este Foro.   Cecilia Besa, investigadora de IHealth (Instituto Milenio en Ingeniería e Inteligencia Artificial para la salud) e integrante de uno de los paneles del Foro, en marco de la misma conversación, declaró a El Mercurio: “por ejemplo, para mejorar el accceso a la salud, hay una iniciativa de usar modelos de lenguaje natural que ha liderado Jocelyn Dunstan, académica DCC- IMC UC e investigadora IMFD (Instituto Milenio Fundamentos de los Datos) que puede priorizar las patologías más requeridas por región, sexo y edad, para gestionar de una manera más eficiente la lista de espera en el sistema público”.   En esa misma línea Cecilia, tomó un nuevo ejemplo que relaciona la IA con la salud, esta vez refiriéndose a evitar procesos invasivos: “Hay una iniciativa del profesor Domingo Mery (académico DCC UC), que es parte también de IHealth, y que plantea junto con el Departamento de Dermatología de la UC: identifican a través de una fotografía si las lesiones en la piel son benignas o malignas, usando modelos de IA”.   Algunos integrantes del panel concluyeron que la “IA debe estar al servicio de las personas de Chile”, y gracias a las investigaciones nombradas y reconocimientos a nuestros docentes expertos, muestra lo trascendente que son los proyectos en los que se está trabajando y cómo estas materias impactan al mundo y a la realidad de las personas.   A continuación, dejamos disponible el link de la nota de El Mercurio:  

“Foro sobre la ética y la Inteligencia Artificial en América Latina y el Caribe” Leer más ”