La semana en que Claude Pilotó Una Cuarta Parte de la Investigación de Anthropic

Una semana de actualidad sobre IA pone lado a lado las dos caras del sector. En el mismo tramo, los máximos responsables de las mayores empresas de IA comparecieron ante Naciones Unidas para defender que el criterio humano siga al mando, mientras una de esas empresas revelaba que una cuarta parte de su propia investigación ya la pilota su modelo. Un lado pide regulación, el otro trata la automatización como trabajo rutinario. La distancia entre ambos es la respuesta más concreta que el sector ha dado a su pregunta más debatida.

Dos riesgos en el Consejo de Seguridad

La sesión abrió con Sam Altman, de OpenAI. En unos diez minutos describió las ganancias que la IA puede aportar a la medicina, la educación y la productividad, y nombró los dos riesgos que crecen a medida que los sistemas se vuelven autónomos. El primero es la pérdida de control : cuando los modelos siguen mejorándose solos, la supervisión humana podría dejar de ser necesaria. El segundo es la concentración de poder , la idea de que la tecnología acaba en muy pocas empresas y países.

La respuesta de Altman fue el equilibrio, no el freno. Las decisiones deben seguir siendo humanas, dijo, y el juicio humano nunca debe desactivarse. Su punto más claro fue que las decisiones más importantes no pueden tomarse en laboratorios de San Francisco: para que la IA sea democrática, los propios pueblos, mediante instituciones que les rinden cuentas, deben decidir sobre su propio futuro. También pidió normas internacionales, protocolos comunes de evaluación de riesgos y sistemas de notificación rápida de incidentes.

Dario Amodei, de Anthropic, intervino por videoconferencia y colocó el mismo argumento en un marco más duro. Repitió los dos riesgos con otros nombres. El primero es el mal uso : en tareas como diseñar armas biológicas, los desarrolladores podrían alcanzar un punto en que los modelos resulten difíciles de detener. El segundo es la pérdida de control. También sostuvo que la frontera matemática se acerca: modelos que hace unos años resolvían problemas de colegio resuelven hoy problemas abiertos que valen millones de dólares.

Ese avance matemático choca de forma evidente con la ralentización que pide Amodei. Esa misma semana, OpenAI afirmó que un modelo interno había resuelto más de cien problemas matemáticos abiertos tras cerca de mes y medio de entrenamiento, después de los anuncios anteriores sobre el problema de Navier-Stokes. Algunos matemáticos advierten que publicar tan deprisa crea un problema: los titulares lanzados antes de saber si se sostienen rara vez sobreviven al escrutinio. La respuesta de OpenAI fue crear un grupo asesor independiente alojado en el Instituto de Estudios Avanzados de Princeton.

Ese grupo asesor, según el propio instituto, no tiene poder de decisión. Sus nueve matemáticos valorarán la importancia de los nuevos resultados y asesorarán sobre cuándo publicarlos, sin remuneración y con la libertad de fijar su propia composición. Lo que no pueden es frenar la investigación. El instituto insistió en esa limitación, y es la versión más concreta de la pregunta sin respuesta: quién audita el conocimiento que produce un modelo cuando la empresa que lo posee decide el ritmo.

Un sistema enzimático hallado en 21 horas

El hallazgo más llamativo de la semana vino de la biología. Anthropic explicó que Claude buscó de forma autónoma las enzimas que copian el ARN en ADN en una enorme base de datos de secuencias, en un laboratorio que no maneja patógenos humanos. Esas moléculas permiten que virus como el VIH fabiquen copias de sí mismos dentro de una célula. Con unas 950 sesiones de agentes, el modelo pasó 21,5 horas recorriendo 1.900 millones de grupos de proteínas y fue el primero en detectar un nuevo sistema genético junto a una enzima inusual.

El sistema empareja una de esas enzimas con una matriz de repeticiones de ADN parecidas a las de CRISPR, además de un gen accesorio; la compañía abrevió el nombre como ART, sistema enzimático asociado a matrices. La enzima no era nueva: se había descrito en estudios anteriores. Lo nuevo es que el modelo notó la estructura repetida que la rodea, y no la proteína que buscaba. Feng Zhang, pionero de CRISPR, leyó la prepublicación y consideró el hallazgo realmente intrigante y digno de más investigación.

El dato más revelador es la reproducibilidad. Anthropic repitió la misma campaña diez veces más y en ninguna ejecución los agentes leyeron el ADN aguas arriba de la enzima y vieron las repeticiones. Cuando el ADN se entregaba directamente, los modelos más potentes describían la matriz en al menos el noventa por ciento de los intentos; con archivos y herramientas, la tasa bajaba hasta el treinta y dos por ciento. El descubrimiento se apoyó menos en la inteligencia del modelo que en un indicio que casualmente lo apuntó en la dirección correcta.

Una segunda historia de laboratorio tiene que ver con robots. Figure dijo que su red de control corporal Helix 2.5 funcionó en treinta casas que nunca había visto, sin recoger datos en ninguna. El robot recogió juguetes dispersos, dobló toallas e hizo la cama. El éxito se midió con dureza, exigiendo cada objeto colocado y cada toalla doblada, y superó el cincuenta y seis por ciento. Un modelo preentrenado con enormes cantidades de movimiento humano rindió más de seis veces que uno entrenado desde cero. Los datos marcan un punto de inflexión: entrenar robots significa pagar a personas para moverse ante cámaras, y ese material vale más cada trimestre.

La cara de consumo de la misma semana parece más amable. Meta empezó a desplegar Muse, un agente personal de IA sin cámara, a principios de septiembre. Funciona en su propia aplicación o directamente por WhatsApp, envía correos, reserva viajes y realiza pagos, sigue trabajando cuando cierras la aplicación y vuelve cuando necesita aprobación. Quitar los límites visuales para que la seguridad se gestione por software es lo que acerca a los agentes del asistente de escritorio al utensilio de operaciones.