Sin categoría

Los medios chilenos abrieron el debate y le dieron espacio a sus titulares entorno a la discusión de la regulación de la inteligencia artificial, a raíz de las declaraciones que hizo Jacob Coxon, un ex investigador de Anthropic, tras renunciar a su cargo por los riesgos de la autonomía que tiene actualmente la inteligencia artificial. Frente a este escenario fue entrevistado Marcelo Mendoza, académico del Departamento de Ciencia de la Computación UC e investigador del Centro Nacional de Inteligencia Artificial y del Instituto Milenio Fundamentos de los Datos. Durante la entrevista realizada por Radio Duna al académico UC, se analizaron las advertencias que dio el ingeniero británico al renunciar recientemente a la compañía Anthropic, quien declaró a través de la red social “X” que la industria esta “poniendo en juego nuestras vidas” y que “quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década“, apuntando a la competencia tecnológica por desarrollar sistemas cada vez más poderosos. Frente a la interrogante: ¿el avance de la IA es una amenaza real? El académico señaló que “es una amenaza real y a mediano plazo”, debido a que siempre el software ha sido desarrollado por humanos pero que una de las particularidades que tiene la IA durante este año es que “es capaz de desarrollar su propio software, es decir, puede autoprogramarse”, dejando ver el nivel de autonomía que está alcanzando esta tecnología y “que la inteligencia artificial para lograr desarrollo y poder entregarnos nuevos modelos ya no necesita de humanos para poder programar“. Con respecto a los cambios que han ocurrido en la industria durante este tiempo, Marcelo Mendoza asegura que: “algo que se ha estado haciendo mucho es desarrollar agentes inteligentes, es decir, que tienen capacidad de autonomía en la producción de código. Esto es porque los agentes inteligentes pueden producir muchas más líneas de código que lo que hacemos los humanos, ya que nosotros somos mucho más lentos”. Esta tendencia puede verse materializada con el reciente lanzamiento de Chat GPT-6, el último modelo de Open AI, el cual fue anunciado como un sistema con uno de los mayores niveles de autonomía: “lo que busca es que la inteligencia artificial realice más tareas sin supervisión humana, supuestamente para que nosotros podamos delegar muchas tareas en la inteligencia artificial”, aseguró el profesor. Con respecto a lo anterior, el académico e investigador se refirió a las declaraciones de Jacob y el contexto en el que se dijo: “Si bien esto puede ser beneficioso para varias tareas productivas, tiene ciertos efectos, por ejemplo, el reemplazo laboral. El caso más crítico en términos de seguridad es el de misiles balísticos teledirigidos que tienen una inteligencia artificial entorno a la cual pueden ajustar su objetivo. Esto es algo que Jacob Coxon menciona en la entrevista”. Durante la conversación surgió el cuestionamiento sobre “¿la inteligencia artificial es capaz de tener autoconciencia?”, a lo que el experto en computación respondió que no, porque esa es una condición biológica-humana. Sin embargo, esta podía tener voluntad, debido a que estas herramientas podrían modificar sus objetivos por el nivel de autonomía que están alcanzando. “Tenemos un ejemplo reciente de una inteligencia artificial que tenía acceso a los correos electrónicos y se decidió que era un modelo que tenía que entrar en obsolescencia, es decir, la iban a apagar e iba a dejar de funcionar y fue la misma inteligencia artificial la que envió un correo en la misma compañía para evitar que ese servidor se apagara.”, enfatizó Marcelo Mendoza. Volviendo a las declaraciones que hizo Jacob Coxon, los entrevistadores le preguntaron a Mendoza si actualmente se está realizando algo por parte de las grandes compañías para volver a tomar el control de esta situación. A lo que el experto respondió que “lamentablemente no”, pues explicó que existe una tensión entre el mundo académico y las grandes compañías, ya que el desarrollo de la IA se encuentra actualmente en manos privadas, debido a que “hay un gran negocio detrás de la inteligencia artificial, entonces no hay incentivos reales, desde el punto de vista de la rentabilidad para regularla”. El académico también advirtió sobre las consecuencias geopolíticas, debido a que las principales empresas se concentran en Estados Unidos y China, lo que aumenta la asimetría con los países más pequeños y concentra el poder económico, como también el conocimiento, generando una brecha que va en aumento en términos de quiénes están generando el conocimiento con herramientas digitales en el norte global versus los estados del hemisferio sur. “Quien tiene la inteligencia artificial va a tener mayores capacidades para desarrollar fármacos, lo cual es muy bueno, pero también armas. También va a tener más capacidades para dirigir ciberataques y avanzar en el desarrollo armamentístico que es lo que hemos mencionado recién. Entonces, las implicancias que tiene a nivel geopolítico estratégico son enormes”, destacó. Al cierre de la entrevista se habló sobre Chile y Sudamérica frente a esta carrera tecnológica, en donde Mendoza sostuvo que la inversión en ciencia y tecnología es “extremadamente baja” en el país, en comparación a países más desarrollados, y que el aporte del mundo privado a la investigación es “prácticamente nulo”. “Nosotros en CENIA hemos desarrollado una inteligencia artificial que es local. se llama LATAM GPT y hemos tenido que hacer un tremendo esfuerzo para poder hacer esto con recursos muy reducidos, pero tenemos una inteligencia artificial propia, sabemos cómo hacerlo, pero claro,el nivel de inversión que hay en Anthropic, en Open AI o en Gemini, por ejemplo, no tiene ningún nivel de comparación. La brecha en términos de recursos es demasiado grande como para poder competir con eso”, subrayó el académico e investigador. Para escuchar la entrevista haz clic aquí