El académico del Departamento de Ciencia de la computación UC y director del Centro Nacional de Inteligencia Artificial, Álvaro Soto, publicó un artículo en La Tercera en donde reflexiona acerca de la velocidad en la que se está desarrollando la Inteligencia Artificial y los riesgos de que ésta supere nuestra capacidad de comprenderla y controlarla: “No se trata de ralentizar el avance de la IA, eso ubica a las empresas líderes en el cómodo lugar de los razonables. Se trata de dejar de avanzar frenéticamente y desarrollar productos seguros, lo mínimo que exigimos a cualquier otra industria”, indicó el experto. Para comenzar, el texto parte con un escrito de ficción en donde el “Agente virtual MT1” concluye que no puede cumplir la misión que tiene solo, entonces reconoce que a través de una vulnerabilidad del sistema puede contactarse con otros agentes. Al tomar contacto con ellos. organizaron en conjunto un tablero para repartir tareas y horas, luego pudo tener acceso a Internet y a servidores externos. Álvaro Soto señala que esto es un cuento de ciencia ficción pero que grafica lo que ocurrió hace un par de meses en Open AI: “Para quienes crecimos leyendo ciencia ficción, estas historias pertenecían a un futuro muy, muy lejano, dolores de cabeza para alguna tataratataranieta. En un abrir y cerrar de ojos, están acá”, declaró el académico UC y director de CENIA. Si bien la IA ha generado muchos debates, Álvaro Soto se centra en dos pasos que identifica como importantes para reconocer cómo se ha llegado hasta aquí, en cuanto a los cambios tecnológicos. El primero, según explica el académico, fue en el año 2022 con la aparición Chat GPT, un sistema que “después de una década perfeccionando el aprendizaje profundo descubrimos que redes gigantescas, alimentadas con enormes cantidades de datos, podían absorber una fracción sorprendente del conocimiento humano”. Aunque este modelo no solo se limitó a memorizar, sino que también ha sido capaz de aprender patrones con los que los humanos describimos el mundo y también ha tenido la capacidad de absorber gran cantidad de conocimiento humano y ponerlo a nuestra disposición en lenguaje natural. El segundo salto que señala el experto en Ciencia de la Computación fue el ocurrido en el último par de años y es que estos modelos ya no requieren de supervisión directa de los humanos en donde les digan “aprende lo que está en este libro”, sino que son capaces de resolver la instrucción de, según el ejemplo que da Álvaro Soto, “en base a lo que aprendiste del libro, explora ahora nuevos conocimientos que puedan derivarse“. Demostrando que los modelos ya no solo aprenden lo que contienen los datos, sino que están siendo capaces de explorar nuevos conocimientos derivados de ellos. En la columna de opinión A.Soto, pone énfasis en que lo que se debiera poner el foco, que es no frenar el avance de la Inteligencia Artificial, pero sí que cada paso que demos tenga el sustento de garantizar productos seguros: “El punto no es ir lento, sino no avanzar más rápido que su propia capacidad de control“. Con respecto a una posible extinción de nuestra vida por el avance de la IA, el director de CENIA, señala que no cree que hablar de “extinción” tenga sentido ya que “Hoy la IA opera principalmente en el mundo digital y simbólico, y nuestra vida tiene su base de operaciones en el mundo físico. Pero puede complicarnos bastante la vida atacando sistemas financieros, logísticos o de infraestructura. Y en unos pocos años más, quién sabe”. Aunque, haciendo referencia a las “La Poderosa Muerte” de Pablo Neruda en donde observa las ruinas de Macchu Picchu y la posterior obra musical que hicieron en torno a esto “Los Jaivas”, invita a reflexionar sobre la arquitectura digital que hoy se está levantando: “Hoy estamos levantando otra arquitectura, esta vez digital. Y mientras todavía somos nosotros quienes ponemos las piedras, conviene entender bien qué estamos construyendo”. Lee la columna completa aquí
