Esta nota publicada por El Mercurio, analiza el intenso debate sobre si la inteligencia artificial es una amenaza para los humanos, tras los dichos de Jacob Coxon, exinvestigador en Anthropic, quien tras su salida expresó que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes del final de la década“, pues sus declaraciones venían de su percepción en la que habla de personas que trabajan en el desarrollo de esta tecnología y que “tendría miedo”, ante la velocidad o avance con la que se está desarrollando la IA sin regulaciones que estén monitoneando o regulando los progresos de los modelos, dejando un vacío legal en las grandes empresas pioneras en el área.
Jacob Coxon, hizo estas declaraciones a la BBC después de que sus dichos sobre los peligros de la IA se hicieran virales, en un contexto de preocupación entorno a este tema. Estas declaraciones, además de poner sobre la mesa la rapidez del desarrollo, retoma debates sobre la brecha digital o la alfabetización digital que hay en otros lugares del mundo, pues este tipo de casos invitan a repensar y replantear los propósitos o hacia donde se están encaminando los nuevos avances de la IA general.
Por ejemplo, tras los dichos de su ex empleado, Dario Amodei (director de Anthropic), pidió ralentizar el desarrollo de la IA, aunque se cuestiona las motivaciones que hay detrás de esta petición.
En cuanto a las declaraciones al respecto, Denis Parra, académico UC e investigador CENIA, IMFD & IHealth, comentó: “ralentizar no significa que avance más lento la investigación, sino, dedicar más recursos a crear modelos seguros”.
La nota hace énfasis en distinguir las declaraciones de expertos locales con respecto a esta noticia que se expresa en el siguiente párrafo: “Los expertos coinciden en que esto no significa que el avance de la IA sea inocuo. Parra plantea que, a medida que los modelos mejoran su capacidad para procesar enormes cantidades de información, también pueden encontrar vulnerabilidades en sistemas que hasta ahora eran difíciles de atacar”.
¿Qué desafíos tendría la ciencia?
Hay un énfasis en recalcar que las máquinas no poseen conciencia, ni son capaces de comprender la información que producen. Ante este panorama, diversas naciones y organismos internacionales proponen establecer un marco normativo “común” y una supervisión humana estricta. En última instancia, la fuente subraya la necesidad de monitorear el progreso tecnológico con mecanismos de seguridad.
Parra identifica otro desafío: las nuevas arquitecturas de la IA permiten que múltiples agentes trabajen coordinadamente y, mientras más participan y más pasos requiere una tarea, más difícil puede resultar comprender por qué adoptaron ciertas decisiones y detectar comportamientos inesperados. El experto recuerda el incidente ocurrido en julio cuando agentes de Open AI se coordinaron para explotar vulnerabilidades de la plataforma Hugging Face.
Revisa la nota original de El Mercurio
Fuente: https://www.ing.uc.cl/wp-content/uploads/2026/09/2209202601.jpg
