La mejora recursiva pasa de la teoría de IA a las hojas de ruta de laboratorios frontera

La mejora recursiva está pasando de ser un experimento mental lejano a formar parte de la planificación cercana de los laboratorios de IA frontera. AP informó que los principales desarrolladores dicen ahora que los sistemas de IA se acercan al punto en que pueden ayudar a mejorarse a sí mismos y contribuir a construir modelos sucesores más avanzados. La idea, conocida como RSI, ha sido central en los debates de seguridad porque podría acelerar la ciencia y al mismo tiempo hacer que los sistemas sean más difíciles de entender, vigilar o limitar.

La evidencia reciente más clara proviene de la divulgación de Anthropic sobre el papel de Claude en su investigación y desarrollo internos. La compañía dijo que Claude lidera alrededor del 26% de las tareas de desarrollo de modelos bajo supervisión humana. Eso no significa que Claude diseñe de manera independiente la próxima generación de IA, pero muestra que los modelos ya forman parte de la maquinaria usada para construir modelos futuros. En un laboratorio frontera, la automatización parcial de código, evaluación, datos y diseño de experimentos puede acumularse rápidamente.

OpenAI también describió avances hacia la investigación automatizada. AP informó que la empresa anunció un “interno de investigación” automático capaz de ejecutar tareas bien definidas bajo dirección humana, incluidas labores que podrían tomar días a un investigador calificado. OpenAI trabaja hacia un investigador de IA más autónomo para marzo de 2028, pero también advierte que aún no sabe cómo llegar de forma segura a una RSI completa y alineada. Elon Musk ha descrito el desarrollo de Grok en xAI como un proceso con menos intervención humana, con mayor autonomía prevista para 2027.

La disputa no es si la IA puede ayudar a investigadores de IA. Eso ya ocurre. La pregunta difícil es si el bucle puede volverse lo bastante fuerte para que cada sistema ayude a construir uno más capaz, que luego mejore de nuevo el proceso. Sus defensores dicen que podría acelerar avances en medicina, materiales, clima y seguridad. Un investigador automatizado puede probar hipótesis, revisar código, ejecutar experimentos y detectar errores a una escala inalcanzable para humanos.

Los críticos temen esa misma aceleración. Si los modelos empiezan a mejorar los sistemas que los entrenan o evalúan, las compañías pueden perder capacidad para prever hacia dónde van las capacidades. En el escenario de riesgo, la mejora avanza más rápido que la supervisión y deja menos tiempo para probar, comprender o intervenir. Incluso versiones más concretas importan: agentes de investigación pueden introducir errores sutiles, optimizar métricas equivocadas o crear herramientas difíciles de auditar.

Microsoft habla de “superinteligencia humanista”, con sistemas limitados y al servicio de las personas, no entidades autónomas sin límites. OpenAI dice que cualquier decisión sobre RSI rápida debe depender de preservar control humano y decisiones democráticas. La RSI aún no está completa, pero los primeros bucles ya son visibles y obligan a laboratorios, reguladores y público a tratarla como un asunto práctico de gobernanza.