En una entrevista realizada en Teletrece, el pasado 15 de septiembre, donde participó Marcelo Mendoza, académico del Departamento de Ciencia de la Computación UC e investigador del Instituto Milenio Fundamento de los Datos (IMFD) y del Centro Nacional de Inteligencia Artificial (CENIA), que invitó a desmitificar diferentes situaciones que han ocurrido las últimas semanas en relación a las Big Tech. La conversación tuvo una bajada, para explicar de forma práctica los avances de la inteligencia artificial y cómo estas están afectando las decisiones en las industrias como por ejemplo Anthropic, Open AI, Nvidia, etc.
Entre las declaraciones de Marcelo Mendoza, se destaca: “Su nivel de autonomía (IA) tiene que ver con cuánto de las de decisiones que toma la inteligencia artificial dependen de sus propios criterios y cuánto depende de los criterios que fijan los humanos”.
Un ejemplo que se mencionó en la entrevista fue sobre un caso donde una inteligencia artificial, tenía acceso a los correos electrónicos y envió a los programadores de esa organización la orden de que un servidor no se apagara. Esto, según el académico e investigador “puede ser interpretado como el surgimiento de una voluntad para modificar sus propios objetivos que en este caso tiene que ver con la supervivencia de la inteligencia artificial por sobre las órdenes que le están entregando por parte de los humanos”, explicando que de eso se trata la “autonomía”, poniendo sobre la mesa en cuestión cuánto poder sin la aprobación humana se le va a dar a esta tecnología.
Durante la entrevista también se abordó la reciente noticia del miembro de Anthropic, Jacob Coxon, quien renunció a la compañía por temor a que la IA esté fuera de control, negándose a participar en la construcción de avances para que los sistemas de IA puedan mejorarse a si mismos, ya que tras su renuncia a la compañía, alarmó a medios y comentó que “le parece preocupante que a raíz de esto puedan descontrolarse y destruir la humanidad”. Frente a este tema nace la interrogante de por qué los propios desarrolladores de inteligencia artificial están hablando de ponerle freno a algo que ellos mismos están desarrollando, a lo que el académico responde:
“Porque hay un doble discurso, ayer salió Salt Antman, que es el CEO de OpenAI y también lo ha hecho Dario Amodei, CEO de Antropic, que nos han mencionado que hay que poner algo de freno a esto y limitar la autonomía. Sin embargo, solo la semana pasada OpenAI nos anunció GPT-6, que precisamente es un modelo de lenguaje que tiene mayor autonomía para resolver tareas que los anteriores, refiriéndose al nuevo modelo presentado como IA general.
Entonces, ¿qué es lo lo que estamos haciendo? Hay un discurso comunicacional que apunta hacia un lado, pero en realidad el desarrollo y la inversión apunta hacia otro. ¿Por qué esto es tan importante? Porque la inteligencia artificial es una herramienta para el desarrollo tecnológico, por ejemplo, de en la industria farmacológica, pero también en la industria armamentística“, declara Marcelo Mendoza.
La conductora del programa, quiso comentar en vivo lo publicado en la portada del El Mercurio con respecto a una “guerra fría”, el académico vinculó este escenario con la competencia entre Estados Unidos y China por la hegemonía tecnológica. Según lo que explicó, tiene que ver con la capacidad de la IA de generar código, lo que abre la posibilidad de que esta se desarrolle a sí misma. En base a esto, señala que “Quien tenga la hegemonía de la inteligencia artificial va a entrar en una carrera en la cual se va a mejorar a sí misma y por lo tanto va a generar una brecha de salto tecnológico mucho más grande que lo que hemos visto en en nuestra historia reciente”.
En terminos de regulación, el académico e investigador, señala que hay dos corrientes sobre esto: La primera propone controles preventivos durante el desarrollo dentro de las mismas empresas y la otra apunta a sancionar el mal uso en manos de los humanos, una vez que la tecnología esté disponible. Frente a esto, Mendoza argumenta que es muy difícil perseguir el mal uso porque los códigos tienden a “filtrarse rápidamente”, lo que requeriría una normativa extraterritorial y multilateral, por lo que él se inclina a que “es bastante más razonable hacer una regulación preventiva de manera tal de que este software tenga ciertos niveles de control durante su desarrollo”.
En cuanto a la privacidad, el profesor hizo hincapié en la importancia de la Ley de Protección de Datos Personales, que se espera que entre en vigencia a fin de año y en la que se exige el consentimiento informado para el uso de información personal.
Al cierre de la entrevista, Marcelo Mendoza explicó que las redes neuronales de IA’s tienen una cantidad de parámetros que “ningún humano tiene la capacidad de poder entender por donde pasa la información”. A su juicio comentó que la disyuntiva está entre maximizar la rentabilidad sin entender la tecnología o hacer una pausa para comprenderla: “Me da la impresión de que vamos por la opción uno, porque hay un interés muy grande por maximizar rentabilidad y por tomar este este esta posta en el fondo de el desarrollo tecnológico precisamente por la situación de eh control geopolítico en términos del desarrollo tecnológico del siglo XXI”, afirmó.
Entrevista disponible aquí: