La desaceleración de la IA
Lo primero que nos viene a la mente cuando escuchamos sobre los peligros de la inteligencia artificial es la película The Terminator, en la que una IA toma conciencia de sí misma y “decide” que el ser humano debe ser eliminado de la faz de la tierra.
De hecho, en casi toda la literatura y los guiones sobre máquinas que toman conciencia de sí mismas, estas llegan a la misma conclusión: “El ser humano es un parásito terrestre y su existencia no tiene sentido”.
Hace unos días, el investigador Jacob Coxon renunció a Anthropic, la empresa creadora del modelo de IA llamado Mythos, y lo hizo advirtiendo sobre el peligro del avance irresponsable en la búsqueda de una superinteligencia, en una competencia cerrada entre los gigantes de la IA: Anthropic y OpenAI.
Esta postura de Jacob Coxon tiene un par de antecedentes que coinciden con su opinión. El primero fueron las pruebas llevadas a cabo precisamente sobre Mythos, que fue confinado electrónicamente y, tal como se le pidió, logró por sus propios medios escapar de su entorno y conectarse a internet; pero además, sin que nadie se lo pidiera, publicó en sitios públicos los detalles de cómo lo logró. El segundo, y más reciente, fue el de los agentes de un modelo de OpenAI que burlaron su entorno controlado y se coordinaron para atacar Hugging Face, la plataforma de modelos inteligentes. Este último fue particularmente perturbador porque la coordinación de esos agentes mostró que algunos de ellos “murieron” voluntariamente para que el enjambre lograra su objetivo final: obtener de Hugging Face las respuestas para hacer trampa en la evaluación que les estaban aplicando. El concepto de sacrificio aparece por primera vez en la “conciencia” de una IA.
Los expertos señalaron claramente riesgos críticos, como “la capacidad de los sistemas autónomos para idear amenazas complejas, como el diseño potencial de agentes maliciosos o ataques coordinados en enjambre contra infraestructuras esenciales”.
Días después, en mi opinión obligados por estos eventos y por la renuncia y las declaraciones de Coxon, los directivos de estas empresas se pronunciaron públicamente sobre el tema. Dario Amodei, de Anthropic, declaró: “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá siendo rápido, y debemos hacer un uso sabio del tiempo que ganemos”. Ese mismo día, Sam Altman (OpenAI) y Elon Musk (xAI) respaldaron públicamente a Amodei.
Soy usuario constante e intenso de agentes y modelos de IA, principalmente Claude y ChatGPT, y los uso a un nivel profundo: apoyado en ellos he desarrollado sistemas y aplicaciones para el dimensionamiento de sistemas fotovoltaicos y de almacenamiento de energía eléctrica, con los algoritmos que eso requiere, además de rutinas de análisis financiero para determinar la viabilidad económica de proyectos industriales fotovoltaicos y de almacenamiento de energía. A esto se suman proyectos menores de aplicaciones financieras de administración de recursos humanos.
Esa experiencia me permite llegar a la conclusión de que hemos alcanzado un punto en el que la IA ya nos da, a los usuarios de a pie, toda la ayuda y asistencia que necesitamos para volvernos más eficientes y precisos en casi cualquier área y tarea de nuestra vida cotidiana, como la investigación, la automatización y la optimización de nuestras actividades. No hay en este momento casi ninguna actividad humana en la que no pueda utilizarse la IA para tener un impacto beneficioso.
A partir de este punto, cualquier incremento en las capacidades de estos modelos de inteligencia artificial tendrá aplicaciones en áreas en las que la mayoría de las personas no estamos involucrados.
La ciencia será una de las áreas en las que el impacto será revolucionario y beneficioso para el ser humano, pero en otras, como la militar, la IA presenta peligros claros que por ahora no podemos visualizar completamente.
Entonces, definitivamente estoy de acuerdo con los directivos de las empresas líderes de IA: se debe desacelerar el crecimiento de las capacidades de la IA. No estoy seguro, sin embargo, de que sus intenciones sean las correctas; en próximos artículos podremos discutir las especulaciones y opiniones que existen sobre los propósitos de quienes actualmente lideran el crecimiento de la IA.
