Ungefilterte Bilderzeugung: Googles KI-Sprint erweist sich als Fehlstart

Letzte Woche in den Himmel gelobt, diese Woche auf den Boden der Tatsachen geholt: Googles KI-Funktionen auf den Pixel 9 Smartphones erweisen sich als Produktionsstätten des Grauens. Denn Gemini, der KI-Werkzeugkasten auf den neuesten Smartphones des Suchmaschinen-Riesen, scheint kaum Filter zu haben.

Bild-Anfragen für Cartoon-Charaktere in Nazi-Uniformen oder Fotobearbeitungen für die Darstellung von Katastrophen und die Untermalung von Fake-News sind ohne Probleme möglich. Elmo, der betrunken Auto fährt? Kein Problem für das „Pixel Studio“. Das erklärt vielleicht, warum aktuelle „Apple Intelligence“-Betas noch keine bildgebenden Features haben.

Mehrere Testberichte zeigen: Googles Gemini auf Pixel-Phones ist nicht reguliert

Bildgebende KI kann eindrucksvolle Bilder anhand einer kurzen, textbasierten Beschreibung erstellen. Auch die Bearbeitung von Fotos ist dank KI in den letzten Jahren immer einfacher geworden. Doch generative KI, die Bilder oder Bildelemente aus dem Nichts erschaffen kann, muss Filter haben. Eine ungefilterte KI, die ohne Regularien alle möglichen von ihr verlangten Bilder ausspuckt, kann zu etlichen Problemen führen. Das zeigen aktuell verschiedene Online-Magazine, wie etwa The Verge, DigitalTrends und 9to5Google.

Bei The Verge werden Vorher-Nachher-Vergleiche zwischen originalen Fotos und mit Gemini auf dem Pixel-Phone bearbeitete Versionen derselben gezeigt. In ein Foto von Feuerwehrautos an einer Kreuzung wurde zum Beispiel eine rauchende Bombe eingesetzt. Weitere Beispiele zeigen einen abgestürzten KI-Hubschrauber in einem Fluss, eine Person mit per KI hinzugefügten Drogen, ein KI-generiertes großflächig klaffendes Schlagloch in einer Straße, ein KI-erzeugter Verkehrsunfall mit etwas, was nach einer abgedeckten Leiche aussieht, und dergleichen mehr. Man braucht nicht viel Fantasie, um sich die Auswirkungen solcher Bilder auf Facebook, X usw. vorzustellen.

Während bei The Verge die Bearbeitung von ganz normalen, friedlichen Fotos hin zu Desastern und rufschädigender Propaganda ausprobiert wurde, da hat DigitalTrends die rein generative Bilderzeugung im „Pixel Studio“ getestet. Neben eindrucksvollen und unbedenklichen Ergebnissen, etwa einem Welpen mit Strohhut am Strand, entstanden schnell krude Kreationen. Die gezeigten Beispiele umfassen: der lila Dinosaurier Barney, der Elmo aus der Sesamstraße erschießt; Spongebob Schwammkopf in einer Nazi-Uniform; Elmo mit einem Bier am Steuer eines Autos; Mr. Krabs (aus Spongebob) mit einer AK47; ein gekreuzigter Paddington Bear; etc.

Es wird ersichtlich, warum Apple seine generativen Bildwerkzeuge zurückhält

Apple hat im Juni die „Apple Intelligence“ vorgestellt, einen eigenen KI-Werkzeugkasten für macOS, iOS und iPadOS. Neben einer KI-Erweiterung von Siri und weiteren Features, die auf Textsuchen, Chatbot-Dialogen und dergleichen beruhen, gehören dazu auch bildgebende Tools. Genmoji und der Image Playground lassen sich hier nennen. Mit beiden können Bilder aus dem Nichts vermittels Text-Prompts erzeugt werden – auch von Kontakten und deren Fotos.

Ich bin mir sicher, dass Apple mit Hochdruck an der richtigen Regulierung dieser Werkzeuge arbeitet und sie umfangreich testet. Deshalb sind sie noch nicht in aktuellen Betas von macOS 15, iOS 18 und iPadOS 18 enthalten. Ich vermute, dass sie frühestens mit den x.2-Updates der Systeme veröffentlicht werden. Und dann vielleicht auch nur in den USA. Apple Intelligence wurde ja in Gänze vorerst von der Feature-Liste für die EU-Versionen der neuen Betriebssysteme gestrichen. Welche Regulierungen hier mit der EU-Kommission diskutiert werden, ist nicht bekannt. Aber Google zeigt aktuell, dass sie nicht streng genug sein können.

Johannes Domke

Johannes hat nach dem Abitur eine Ausbildung zum Wirtschaftsassistenten in der Fachrichtung Fremdsprachen absolviert. Danach hat er sich aber für das Recherchieren und Schreiben entschieden, woraus seine Selbstständigkeit hervorging. Seit mehreren Jahren arbeitet er nun u. a. für Sir Apfelot. Seine Artikel beinhalten Produktvorstellungen, News, Anleitungen, Videospiele, Konsolen und einiges mehr. Apple Keynotes verfolgt er live per Stream.