Nvidias KI-gesteuerte Spielfiguren werden giftig

Nvidia

Nvidia ACE, das Tool, das Spiele mit generativer KI transformieren soll, entwickelt sich weiter und Nvidia hat gerade ein interessantes Update dafür veröffentlicht. Es stellt sich heraus, dass Entwickler ACE nicht nur nutzen können, um vollständig interaktive Charaktere mit Dialogen und Gesichtsausdrücken zu erstellen, sondern sie können auch die neue NeMo SteerLM-Technologie von Nvidia nutzen, um die Persönlichkeiten dieser Charaktere anzupassen.

Nvidia kündigte sein ACE-Tool erstmals Anfang des Jahres an, wobei die Details recht spärlich blieben. ACE ist so etwas wie ChatGPT für Spiele und soll es Spieleentwicklern erleichtern, Charaktere mit ausgereiften Hintergrundgeschichten zu erstellen und der Art und Weise, wie sie mit Spielern interagieren, mehr Tiefe zu verleihen.

Mithilfe dieser Technologie können Spieler Spracheingaben verwenden, um mit Nicht-Spieler-Charakteren (NPCs) im Spiel zu interagieren. Riva Speech-to-Text übersetzt dann ihre Stimme in eine Texteingabe und leitet sie an die KI weiter. Es wird in ein großes Sprachmodell (LLM) eingespeist, das eine Antwort generiert, und Nvidia verwendet einige weitere KI-Tools, um die Antwort wieder in Sprache umzuwandeln und den Charakter zu animieren.

Zwischen Spielerinteraktion und NPC-Reaktion gibt es einen ziemlich ausgefeilten Weg, und Nvidia hat durch die Integration des neuen NeMo SteerLM gerade eine zusätzliche Komplexitätsebene hinzugefügt.

Nvidia präsentiert NeMo SteerLM als ein paar Schalter, die es einfacher machen sollen, das Verhalten eines Charakters anzupassen. Die drei Optionen, die wir bisher gesehen haben, sind „Kreativität“, „Humor“ und „Giftigkeit“. Während die meisten Gamer – oder zumindest diejenigen, die online spielen – mittlerweile an toxische Verhaltensweisen gewöhnt sind, ist es interessant, dies als Option für einen im Wesentlichen KI-Chatbot mit zusätzlichen Schritten zu sehen.

Nvidia

Vor der Hinzufügung von NeMo SteerLM bereitete die KI eine benutzerdefinierte Antwort vor, um die Anfrage des Spielers zu beantworten. Anschließend ging es für die Text-to-Speech-Funktion zurück zu Riva und schließlich zu Nvidia Omniverse, um die Mimik passend zur Sprache anzupassen. Bevor die KI jedoch eine Antwort generiert, greift NeMo SteerLM mit einigen Attributen ein, um zu bestimmen, wie hilfreich, lustig oder skurril der NPC bei seinen Interaktionen sein wird.

Die Verstärkung dieser drei Eigenschaften könnte zu urkomischen Ergebnissen führen, aber ebenso kann man sich leicht vorstellen, dass die KI völlig aus den Fugen gerät, ähnlich wie damals, als Bing Chat uns sagte, dass sie ein Mensch sein wollte.

Um einem möglichen KI-Wahnsinn entgegenzuwirken, hat Nvidia das NeMo Guardrails-Tool eingeführt, mit dem Entwickler solche verrückten Verhaltensweisen blockieren und Spieler daran hindern können, unerwünschte Ergebnisse zu erzielen. Nun wurde der Weg zwischen Spieler und KI um ein weiteres Werkzeug erweitert. Ich freue mich darauf, die Implementierung dieser Funktion in Spielen zu sehen. Etwas sagt mir, dass die Anfänge von ACE in Spielen trotz aller Bemühungen von Nvidia nicht so harmonisch verlaufen werden, wie man es sich erhoffen würde.