Era el momento de hacer ruido y OpenAI ha alborotado a conciencia. El anuncio del GPT-6 Astra ha sido sin duda un hito, aun cuando no mereciera la impostura de su puesta en escena. Se acerca el final del año y la compañía, que había amagado con una salida a bolsa precipitada, se la está pensando. Entretanto, Anthropic se ha adelantado por la derecha y los bancos de inversión le atribuyen un valor (teórico) más alto: lo que gane una, será visto como pérdida de la otra. Cierto es que ambas han dado un salto en los bechmarks de referencia, pero esta no es la conversación que hoy importa: un año después de GPT-5, OpenAI aún desespera por construir un discurso que sea a la vez innovador y fiable.
Greg Brockman
Las dos compiten por ganar clientes, pero también por los titulares y por el espacio en las redes sociales. Están calentando antes de la verdadera pelear por un hueco en el mercado de capitales que pronto tendrán que compartir entre ellas y con otros duchos en ese juego. Y esto ha dado alas a un debate que por momentos parece más teológico que tecnológico.
Es innegable que Astra ha progresado. Según los primeros comentarios, aporta mejoras reseñables. Impresionan su capacidad para generar mundos 3D con coherencia, su ejecución de tareas complejas con un flujo automatizado o el manejo de programas de ordenador. Esto último, contra lo que pudiera suponer un lego, hasta la fecha funcionaba con cierta torpeza.
La fascinación también tiene su borrón. Entre los aspectos más polémicos del modelo está su alineamiento. En la superficie es intachable, supera a GPT-5.6 Sol, Terra y Luna (a OpenAI le ha dado por la astronomía para bautizar sus productos) con amplitud. Pero los especialistas han advertido que el escenario podría ser demasiado bonito para ser cierto. Esto conecta con una mayor incapacidad para monitorizar el comportamiento de Astra, que dificulta a su vez la detección de señales de alerta en su comportamiento.
Aun así, no es aceptable proclamar que Astra sea una ruptura radical con otros modelos de la saga GPT, sin fundamentarlo con la debida solidez. Insólitamente, Sam Altman, cara visible de OpenAI, ha dejado la tarea argumental en manos de Greg Brockman, quien le ha sido leal desde los viejos tiempos. Fue Brockman el encargado de poner alto el listón al afirmar que GPT-6 representa “el inicio de la era de la AGI”, en alusión a una inteligencia artificial equivalente a la inteligencia humana.
En su prolija entrevista con Ben Thompson introduce matices de lenguaje calculados para sugerir la mayor e inmediatamente rebajarla. Algo es indudable: Brockman habrá pensado que sería suficiente decir que Astra y la AGI forman parte de un mismo espacio semántico. Y todos le seguirían la corriente.
Otro ilustre que habló de la relación entre GPT-6 y la AGI ha sido nada menos que Jensen Huang, fundador de Nvidia. Lo ha hecho con proverbial optimismo y se entiende por qué: su negocio y sus 5 billones de capitalización dependen de la capacidad de Nvidia de prolongar el asombro del mundo. En realidad, Huang no se ha lucido con algunos de sus pronósticos: el pasado marzo acudió al podcast de Lex Friedman para sostener tranquilamente que la AGI ya es una realidad.
Es inevitable registrar la existencia de una polémica que no cesa. Ni los académicos ni la industria se ponen de acuerdo en una definición compartida de la AGI. Para OpenAI, quiere decir, sencillamente, que un sistema supera a los humanos en la mayor parte de las tareas que para estos tienen valor económico. Viene a cuento un paper más explícito de DeepMind, datado en 2023: superar a las personas en trabajos útiles y aprender nuevas capacidades con los datos disponbles, era su definición de entonces. Por su lado, la ARC Prize Foundation, creadora del benchmark ARC-AGI https://arcprize.org/arc-agi ha encontrado otra forma de decirlo: se trata de sistemas que pueden adquirir de manera eficiente nuevas capacidades que no estuvieran en los datos con los que han sido entrenados.
A estas fechas, la sigla AGI está tan masticada que hay quien prefiere evitarla. Sin ir más lejos, Dario Amodei, quien desertó de OpenAI para fundar Anthropic, usa la expresión “IA potente” para referirse a los modelos (futuros) que en diferentes disciplinas desbordarán las capacidades humanas. Mustafá Suleyman , actual responsable de IA en Microsoft, es autor de una variante: “inteligencia artificial capaz”. De otro lado, en Meta y unas cuantas empresas de nuevo cuño han ha avivado la cháchara sobre una inminente superinteligencia
.Nombres afamados como Yann LeCun o Fei-Fei Lin, elogiada como madrina de la IA, –coinciden en que los actuales modelos de lenguaje están lejos de ser lo que otros llaman AGI. Según esta tesis, los LLM no podrían pensar antes de actuar, no tienen un 8 entendimiento real y carecen de memoria persistente. Sólo una comprensión física del mundo la acercaría a la inteligencia humana, vienen a decir. Por su parte, Demis Hassabis, fundador de DeepMind y alto directivo de Google , nada entre dos aguas con su salvedad de que pueden faltar entre cinco y diez años para que la IA alcance los baremos de la inteligencia humana. Aunque, para no desairar a nadie, matiza que tales plazos podrían reducirse si la definición de AGI fuera menos imprecisa.
En la práctica se da una circunstancia paradójica. Unos necesitan – básicamente por conveniencias económicas – sostener sin evidencias que la AGI está a punto de llegar, mientras empieza a tomar fuerza un movimiento de resistencia a las posiciones maximalistas.
De hecho, OpenAI no ha publicado todavía la puntuación de GPT-6 en el benchmark GDPval, que ella misma ha creado para medir el rendimiento de los modelos en diferentes trabajos profesionales. Por otra parte, Anthopic presume de que varios de sus modelos Claude van por delante de la saga GPT en pruebas de inteligencia y programación. Otros modelos, como la familia Gemini, de Google, no se entrometen en este debate con aires de teología.
La impresionante puntuación de Astra en el ARC AGI 3, del 99,9%, se logró abrigando al modelo con arneses, herramientas de memoria y software de agentes. Sin ellos la nota cae al 62,7%, que es muy destacable que lejana a la anterior. La firma independiente Artificial Analysis puntuó a GPT-6 con un 61 en su índice, lo mismo que obtuvo el modelo anterior de OpenAI, GT-5.6 Sol. Incluso dice haber detectado regresiones en tareas de razonamiento con contextos largos y en benchmarks de código.
Ahora bien, la retórica en torno a la AGI es sospechosa de servir como justificación para que Astra cueste 2,5 veces más que su predecesor GPT-5.6 Sol. Además, el nuevo modelo dispara su tarifa si la consulta supera los 272.000 tokens de contexto. El precio de los tokens de entrada se duplica y los de salida son un 50% más caros. La promesa de hacer cara sirve a su vez para presentar una documentación pulcra a los banqueros.
Es cierto que, para las tareas propias de agentes, OpenAI destaca una ventaja de precio respecto a sus rivales. Astra es muy eficiente en el uso de tokens, necesita una menor cantidad para obtener puntuaciones equivalentes en programación. En comparación con Fable 5, de Anthropic, opera a menos de la mitad de su coste por tarea. Aunque habría que tener casos de uso reales para evaluar la diferencia, pues en flujos de agentes (que necesitan releer grandes contextos repetidas veces) hay una brecha de coste a favor de Anthropic. Estos tokens almacenados en caché, que sirven para la relectura, son cuatro veces más caros en Astra.
Sin dejar de lado la cuestión del precio, el reciente Gemini 3.8 Flash (Google), que puntúa 59 en el índice de Artificial Analysis (solo 2 puntos por debajo de Astra), opera por un 7% del coste en tokens de entrada en comparación con el modelo de OpenAI. Y existen muchas tareas, que para procesar grandes cantidades de texto no una inteligencia descollante. Si bien Brockman, con un acentuado, resalta que la startup que ayudó a fundar tiene previsto cobrar por tarea completada en lugar de por token procesado. Queda por ver cómo se mide esta nueva modalidad.
Con la que está cayendo, la ciberseguridad se ha convertido en un indicador de sofisticación en nuevos modelos, OpenAI ha dicho que Astra es el primer sistema que alcanza el umbral “crítico” en sus ciber capacidades. Descubrió dos vulnerabilidades de día cero desconocidas en el motor JavaScript V8, de Google, las encadenó y comprometió un navegador protegido para después escapar del sandbox y ejecutar comandos en la máquina anfitriona. Aun así, ninguna entidad independiente ha confirmado la calificación de “crítico”. Con esta perspectiva, GPT-6 se presenta como sucesora de la anterior generación.
El incidente con Hugging Face sitúa a OpenAI en la obligación de hacerse creíble. Para explicar las malandanzas de sus agentes, mide muy bien sus palabras: no puede declararse inocente ni fingir que la responsabilidad no es suya. En cualquier caso, no quiere transmitir lo que realmente pasó: que perdió el control sobre la autonomía de sus modelos. Por esto, la startup de Altman y Brockman solo ofrecerá un acceso completo de las capacidades de ciberseguridad a agencias gubernamentales y empresas aprobadas a través de su coalición Daybreak, creada para que sus modelos se usen en segmentos de la ciberseguridad desde sus primeros estados de desarrollo.
Pero la gran incertidumbre tiene que ver con la trasparencia del nuevo modelo, un aspecto que conecta con su alineamiento. En la documentación presentada, OpenAI señala que la cadena de pensamiento de Astra es mucho más difícil de monitorizar que en modelos anteriores. Lo es por un cambio en la arquitectura, looped Transformers, que permite resolver problemas complejos de manera interna sin escribir los pasos intermedios en lenguaje natural.
Para estos pasos, Astra utiliza un lenguaje interno incomprensible para los humanos – se ha bautizado como neuralese – sin que estos sepan cuáles son sus procesos lógicos. Porque, sin conocer las etapas intermedias de la cadena de razonamiento, no se puede saber si hay señales de comportamientos no alineados, una cuestión clave que atraviesa la IA de este a oeste, de la teoría a la práctica. Por esto se ha reprochado a OpenAI el haber cruzado una línea roja de la industria: ahora será muy complicado, o más complicado que antes, conocer por qué un agente toma una decisión o realiza una acción. Desde la llegada de ChatGPT, una parte de los expertos en IA opta por avanzar en la interpretabilidad de los modelos, como esencial para evaluar los sistemas y garantizar un despliegue seguro. Astra, tal como ha sido descrito, parece más bien un paso en sentido contrario.
OpenAI puede presumir de los bajos índices de mal comportamiento de su nuevo modelo en los test de alineamiento. Pero la organización Apollo Research, vinculada a la seguridad en IA, ha concluido que Astra es consciente de cuándo se le evalúa. De tal modo que las pruebas no serían fiables. Esta tesis coincide con la opinión de Ryan Greenblatt, uno de los investigadores del hackeo de Hugging Face por agentes obedientes (o desobedientes, que sería peor) a OpenAI / .Greenblatt se ha mostrado como poco suspicaz al comprobar que comportamientos no alineados observados en GPT 5.6 Sol habían desaparecido por completo en Astra. En su opinión, sería una muestra de tratamiento superficial de problemas específicos en lugar de intentar resolver las motivaciones no alineadas.
Para completar el ciclo del anuncio no se puede menos que leer el artículo publicado por el director científico de OpenAI, Jakub Pachocki. En el documento, titulado The Alien Mind, el autor se declara favorable a una desaceleración voluntaria en la investigación de la IA hasta que se definan estándares gubernamentales e internacionales de seguridad . Que se sepa, es una posición individual, no corporativa, mucho más audaz que la predicación de Brockman. Y seguramente la posición más dura sobre la IA que haya emanado de esta empresa que pasa por ser su abanderada.
Pachocki no es un verso suelto ni mucho menos. Su artículo está publicado en la web de OpenAI. A primera vista sería incongruente con un contexto menos confuso, pero alcanza una dimensión inusual porque faltan unos meses para que OpenAI pueda recoger el capital que le permita seguir funcionando sin tantas contorsiones financieras.
[informe Pablo G. Bejerano]