Rekursive Selbstverbesserung rückt von KI-Theorie in Roadmaps der Labore

Rekursive Selbstverbesserung bewegt sich von einem entfernten KI-Gedankenexperiment in die kurzfristige Planung von Frontier-Laboren. AP berichtete, führende Entwickler sähen KI-Systeme inzwischen kurz davor, sich selbst bei Verbesserungen zu helfen und am Bau leistungsfähigerer Nachfolgemodelle mitzuwirken. Die Idee, oft RSI genannt, ist seit langem ein zentrales Thema in Sicherheitsdebatten, weil sie wissenschaftlichen Fortschritt beschleunigen, Systeme aber auch schwerer verständlich, überwachbar und begrenzbar machen könnte.

Der klarste aktuelle Hinweis stammt aus Anthropics Angaben zur Rolle von Claude in der eigenen Forschung und Entwicklung. Anthropic erklärte, Claude führe inzwischen rund 26 Prozent der Modell-F&E-Aufgaben unter menschlicher Aufsicht. Das bedeutet nicht, dass Claude selbstständig die nächste KI-Generation entwirft. Es zeigt aber, dass Modelle Teil der Maschine werden, mit der künftige Modelle gebaut werden. In einem Frontier-Labor können teilweise Automatisierung von Code, Evaluation, Datenarbeit und Experimentdesign schnell kumulieren.

Auch OpenAI beschreibt Fortschritte hin zu automatisierter KI-Forschung. AP berichtete, OpenAI habe einen automatisierten „Research Intern“ vorgestellt, der klar definierte Aufgaben unter menschlicher Anleitung ausführen kann, darunter Arbeiten, die qualifizierte Forscher Tage kosten würden. Das Unternehmen arbeitet auf einen autonomeren KI-Forscher bis März 2028 hin, warnt aber zugleich, es wisse noch nicht, wie man sicher zu ausgerichteter vollständiger RSI gelangt. Elon Musk hat den Grok-Entwicklungsprozess von xAI ebenfalls als zunehmend weniger menschenabhängig beschrieben.

Der Streit dreht sich nicht darum, ob KI KI-Forschern helfen kann. Das geschieht bereits. Schwieriger ist die Frage, ob die Rückkopplung stark genug werden kann, dass jedes neue System ein leistungsfähigeres nächstes System mitbaut, das dann den Prozess erneut verbessert. Befürworter sehen Chancen für Medizin, Materialwissenschaft, Klimamodellierung und Sicherheitsforschung. Ein automatisierter Forscher könnte Hypothesen testen, Code prüfen, Experimente ausführen und Fehler in einem Maßstab finden, den Menschen nicht erreichen.

Kritiker fürchten genau diese Beschleunigung. Wenn Modelle beginnen, die Systeme zu verbessern, die sie trainieren oder evaluieren, verlieren Unternehmen möglicherweise die Fähigkeit vorherzusagen, wohin Fähigkeiten führen. Das Risikoszenario ist, dass Verbesserungen schneller werden als Aufsicht und Menschen weniger Zeit zum Testen, Verstehen oder Eingreifen bleibt. Auch bodenständigere Risiken zählen: Forschungsagenten könnten subtile Fehler einführen, falsche Metriken optimieren oder schwer auditierbare Werkzeuge erzeugen.

Microsoft nennt den eigenen Ansatz „humanistische Superintelligenz“ und betont begrenzte Systeme im Dienst von Menschen statt unbegrenzter Autonomie. OpenAI sagt ebenfalls, schnelles RSI dürfe nur von menschlicher Kontrolle und demokratischen Entscheidungen abhängig gemacht werden. RSI ist noch nicht vollständig erreicht, doch die ersten Schleifen sind sichtbar genug, um es als praktisches Governance-Problem zu behandeln.