Was ist Projekt Q*? Der mysteriöse KI-Durchbruch, erklärt

Im Wirbelwind der Spekulationen rund um die plötzliche Entlassung und Wiedereinstellung von OpenAI-CEO Sam Altman gab es ein zentrales Fragezeichen im Kern der Kontroverse. Warum wurde Altman überhaupt vom Vorstand gefeuert?

Möglicherweise haben wir endlich einen Teil der Antwort, und sie hat mit der Handhabung eines mysteriösen OpenAI-Projekts mit dem internen Codenamen „Q*“ – oder Q Star – zu tun. Die Informationen sind begrenzt, aber hier finden Sie alles, was wir bisher über die potenziell bahnbrechenden Entwicklungen wissen.

Was ist Projekt Q*?

Bevor wir fortfahren, sollte angemerkt werden, dass alle Details über Projekt Q* – einschließlich seiner Existenz – aus einigen neuen Berichten nach dem Drama um Altmans Entlassung stammen. Reuters-Reporter sagten am 22. November, die Informationen seien von „zwei mit der Angelegenheit vertrauten Personen“ erhalten worden, was einen Blick hinter die Kulissen dessen gewährte, was in den Wochen vor der Entlassung intern geschah.

Dem Artikel zufolge handelte es sich bei Project Q* um ein neues Modell, das sich durch das Erlernen und Durchführen von Mathematik auszeichnete. Berichten zufolge befand es sich noch immer nur auf der Ebene der Lösung von Grundschulmathematik, aber als Ausgangspunkt sah es vielversprechend aus, um eine bisher nicht dagewesene Intelligenz der beteiligten Forscher zu demonstrieren.

Scheint harmlos genug zu sein, oder? Nun ja, nicht so schnell. Berichten zufolge war die Existenz von Q* beängstigend genug, um mehrere leitende Forscher dazu zu veranlassen, einen Brief an den Vorstand zu schreiben, um Alarm wegen des Projekts zu schlagen und zu behaupten, es könne „die Menschheit bedrohen“.

Andererseits sind andere Versuche, Q* zu erklären, nicht ganz so neu – und schon gar nicht so weltbewegend. Der leitende KI-Wissenschaftler bei Meta, Yann LeCun, twitterte, dass es bei Q* darum geht, „autoregressive Token-Vorhersage durch Planung“ zu ersetzen, um die Zuverlässigkeit von LLM (großes Sprachmodell) zu verbessern. LeCun sagt, dass alle Konkurrenten von OpenAI daran gearbeitet haben und dass OpenAI einen speziellen Mitarbeiter eingestellt hat, um dieses Problem anzugehen.

Bitte ignorieren Sie die Flut an völligem Unsinn über Q*.
Eine der größten Herausforderungen bei der Verbesserung der LLM-Zuverlässigkeit besteht darin, die autoregressive Token-Vorhersage durch Planung zu ersetzen.

So gut wie jedes Top-Labor (FAIR, DeepMind, OpenAI usw.) arbeitet daran und einige haben bereits veröffentlicht …

– Yann LeCun (@ylecun) 24. November 2023

LeCuns Argument scheint nicht zu sein, dass eine solche Entwicklung nicht wichtig sei – sondern dass es sich nicht um eine unbekannte Entwicklung handelt, über die kein anderer KI-Forscher derzeit diskutiert. Andererseits lehnt LeCun in den Antworten auf diesen Tweet Altman ab und sagt, er habe eine „lange Geschichte der Selbsttäuschung“ und deutet an, dass die Berichterstattung über Q* ihn nicht davon überzeugt, dass dies ein bedeutender Fortschritt im Planungsproblem sei in erlernten Modellen wurde gemacht.

War Q* wirklich der Grund, warum Sam Altman gefeuert wurde?

OpenAI

Einer der Hauptverdächtigen war von Beginn der Spekulationen rund um die Entlassung von Sam Altman dessen Sicherheitspolitik. Altman war derjenige, der OpenAI dazu drängte, sich von seinen Wurzeln als gemeinnützige Organisation abzuwenden und sich der Kommerzialisierung zuzuwenden. Dies begann mit der öffentlichen Einführung von ChatGPT und der schließlichen Einführung von ChatGPT Plus, die beide diese neue Ära der generativen KI einläuteten und dazu führten, dass auch Unternehmen wie Google ihre Technologie an die Öffentlichkeit brachten.

Die ethischen und sicherheitstechnischen Bedenken hinsichtlich der öffentlichen Verfügbarkeit dieser Technologie waren schon immer vorhanden, trotz aller Aufregung darüber, wie sie bereits die Welt verändert hat. Größere Bedenken hinsichtlich der Geschwindigkeit, mit der sich die Technologie entwickelt, sind ebenfalls gut dokumentiert, insbesondere im Hinblick auf den Sprung von GPT-3.5 auf GPT-4. Einige glauben, dass sich die Technologie ohne ausreichende Regulierung oder Aufsicht zu schnell weiterentwickelt, und dem Reuters-Bericht zufolge wurde „die Kommerzialisierung von Fortschritten vor dem Verständnis der Konsequenzen“ als einer der Gründe für Altmans anfängliche Entlassung genannt.

Obwohl wir nicht wissen, ob Altman in dem oben erwähnten Brief zu Q* ausdrücklich erwähnt wurde, wird dies auch als einer der Gründe für die Entscheidung des Vorstands angeführt, Altman zu entlassen – die inzwischen rückgängig gemacht wurde.

Es ist erwähnenswert, dass Altman nur wenige Tage vor seiner Entlassung auf einem KI-Gipfel erwähnte, dass er ein paar Wochen zuvor „im Raum“ gewesen sei, als eine große „Grenze der Entdeckung“ vorangetrieben wurde. Der Zeitpunkt zeigt, dass dies möglicherweise mit einem Durchbruch in Q* zu tun hatte, und wenn ja, würde dies Altmans enge Beteiligung an dem Projekt bestätigen.

Wenn man alles zusammenfasst, scheint es, als ob von Anfang an Bedenken hinsichtlich der Kommerzialisierung bestanden hätten und seine Behandlung von Q* nur der letzte Tropfen war, der das Fass zum Überlaufen brachte. Die Tatsache, dass der Vorstand über die rasante Entwicklung (und vielleicht Altmans eigene Einstellung dazu) so besorgt war, dass er seinen All-Star-CEO feuern würde, ist schockierend.

Um einige der Spekulationen zu zerstreuen, wurde The Verge Berichten zufolge von „einer mit der Angelegenheit vertrauten Person“ darüber informiert, dass der angebliche Brief über Q* nie beim Vorstand eingegangen sei und dass „der Forschungsfortschritt des Unternehmens“ kein Grund für Altmans sei Brennen.

Wir müssen warten, bis weitere Berichte an die Oberfläche kommen, bevor wir jemals eine richtige Erklärung für das ganze Drama haben.

Ist es wirklich der Beginn von AGI?

AGI, was für künstliche allgemeine Intelligenz steht, war von Anfang an die Zielsetzung von OpenAI. Obwohl der Begriff für verschiedene Menschen unterschiedliche Bedeutungen hat, definiert OpenAI AGI immer als „autonome Systeme, die den Menschen bei den wirtschaftlich wertvollsten Aufgaben übertreffen“, wie es im Reuters-Bericht heißt. Nichts in dieser Definition bezieht sich auf „selbstbewusste Systeme“, was häufig mit AGI gemeint ist.

Dennoch scheinen Fortschritte in der KI-Mathematik auf den ersten Blick kein großer Schritt in diese Richtung zu sein. Schließlich haben wir schon seit vielen Jahrzehnten Computer, die uns bei der Mathematik helfen. Aber die Q* gegebenen Kräfte sind nicht nur ein Taschenrechner. Das Erlernen der Mathematikkenntnisse erfordert menschenähnliche Logik und Argumentation, und Forscher scheinen zu glauben, dass dies eine große Sache ist. Durch Schreiben und Sprache kann ein LLM in seinen Antworten und Antworten flüssiger vorgehen und häufig ein breites Spektrum an Antworten auf Fragen und Aufforderungen geben. Aber Mathematik ist das genaue Gegenteil, wo es oft nur eine einzige richtige Antwort auf ein Problem gibt. Der Reuters-Bericht legt nahe, dass KI-Forscher glauben, dass diese Art von Intelligenz sogar „auf neuartige wissenschaftliche Forschung angewendet werden könnte“.

Natürlich scheint sich Q* noch in den Anfängen der Entwicklung zu befinden, aber es scheint der größte Fortschritt zu sein, den wir seit GPT-4 gesehen haben. Glaubt man dem Hype, sollte er sicherlich als wichtiger Schritt auf dem Weg zu AGI angesehen werden, zumindest wie es von OpenAI definiert wird. Je nach Perspektive ist das entweder Anlass zu optimistischer Aufregung oder zu existenzieller Angst.

Aber vergessen wir auch hier nicht die oben erwähnten Bemerkungen von LeCun. Was auch immer Q* ist, man kann wahrscheinlich mit Sicherheit davon ausgehen, dass OpenAI nicht das einzige Forschungslabor ist, das die Entwicklung versucht. Und wenn es am Ende nicht tatsächlich der Grund für Altmans Entlassung ist, wie der Bericht The Verge behauptet, ist es vielleicht keine so große Sache, wie der Reuters-Bericht behauptet.