Offensichtlicher KI-Reiseartikel lässt Microsoft rot im Gesicht zurück

Laut einem kürzlich von Microsoft Travel auf microsoft.com veröffentlichten Artikel gehören zu den Sehenswürdigkeiten, die bei einem Besuch in der kanadischen Hauptstadt Ottawa einen Besuch wert sind, das National War Memorial, Parliament Hill, Fairmont Château Laurier, die Ottawa Food Bank … Moment mal, Ottawa Food Bank?

Der in den letzten Tagen vom kanadischen Tech-Autor Paris Marx entdeckte Artikel setzt die Ottawa Food Bank auf Platz 3 einer Liste von 15 Orten, die man in der Stadt gesehen haben muss. Und als ob das nicht schon schlimm genug wäre, schlägt die beigefügte Beschreibung sogar vor, es „auf nüchternen Magen“ zu besuchen.

Ursprünglich wurde angenommen, dass das Stück durch generative künstliche Intelligenz (KI) geschaffen wurde. Aber Microsoft hat inzwischen erklärt, dass es sich nicht um „unüberwachte KI“ handelte. Der gesamte Artikel wurde inzwischen entfernt, Sie können sich jedoch eine archivierte Version davon ansehen.

Hier ist die vollständige Beschreibung der Lebensmittelbank:

„Ottawa Food Bank – Die Organisation sammelt, kauft, produziert und liefert seit 1984 Lebensmittel an bedürftige Menschen und Familien in der Region Ottawa. Wir beobachten täglich, wie sich Hunger auf Männer, Frauen und Kinder auswirkt und wie dies möglicherweise der Fall ist ein Hindernis für den Erfolg sein. Menschen, die zu uns kommen, müssen Arbeit und Familie ernähren und Ausgaben bezahlen. Das Leben ist schon schwierig genug. Erwägen Sie, mit leerem Magen hineinzugehen.“

Microsoft

Da es sich bei der Einfügung in den Reiseartikel eindeutig um einen Fehler handelte – und noch dazu um einen schrecklichen – schien es wahrscheinlich, dass der Artikel mithilfe generativer KI zusammengesetzt wurde, einer Technologie, an der Microsoft, wie wir wissen, ein großes Interesse hat.

In einer Erklärung des Unternehmens wurde jedoch behauptet, das Problem sei „auf menschliches Versagen zurückzuführen“ und fügte hinzu, dass es „nicht von einer unbeaufsichtigten KI veröffentlicht“ worden sei, sondern durch „eine Kombination von algorithmischen Techniken mit menschlicher Überprüfung und nicht durch ein großes Sprachmodell oder KI“ entstanden sei System.“

Dennoch scheint das Unternehmen in mehreren Punkten zu kurz gekommen zu sein. Erstens wurde der Artikel vor der Veröffentlichung nicht ordnungsgemäß von Menschen überprüft, und zweitens stand nirgends auf der Webseite, dass der Inhalt durch „algorithmische Techniken“ generiert wurde.

Das Missgeschick zeigt, dass beim Einsatz von Technologie zur Erstellung von Inhalten weiterhin menschliche Aufsicht erforderlich ist. Ausrutscher können kostspielig sein, wie ein aktueller Fall in New York City zeigt, bei dem ein Anwalt den KI-gestützten ChatGPT-Chatbot nutzte, um Beispiele für Rechtsfälle zu finden, die er dann in ein Dokument einfügte, um den Fall eines Mandanten zu unterstützen. Später stellte sich jedoch heraus, dass ChatGPT sie alle erfunden hatte.

Dieser Artikel wurde aktualisiert und enthält nun Details zur Erklärung von Microsoft.