Künstliche Intelligenzen entwickeln eigene Sprache und verhandeln

Facebook hat versucht, künstlichen Intelligenzen das Verhandeln beizubringen, indem zwei Bots eigenständig um Bücher, Hüte und Bälle feilschen sollten. Dabei wurden anfangs logische Abfolgen von Termini und Phrasen verwendet, später aber entwickelten die KI-Bots ihre eigene Sprache. Diese basierte zwar noch auf dem programmierten Englisch, brachte aber Eigenarten mit sich, die nur schwer nachzuvollziehen waren. Her, Matrix, 2001: Odyssee im Weltraum und mehr dieser Filme kommen einem dabei in den Sinn – doch was wäre wirklich passiert, wenn die Facebook-Forscher die künstliche Intelligenz nicht unterbrochen hätten?

Mac-Tipp: Große Dateien finden und löschen mit Daisy Disk (Werbung)

Zwei künstliche Intelligenzen (KI), die von Facebook-Forschern entwickelt wurden, haben das einprogrammierte Englisch neu genutzt - komplett eigenständig. — Zwei künstliche Intelligenzen (KI), die von Facebook-Forschern entwickelt wurden, haben das einprogrammierte Englisch neu genutzt – komplett eigenständig.

Kapitel in diesem Beitrag:

1 Wenn die KI am Menschen vorbei arbeitet
2 Künstliche Intelligenzen entwickeln eigene Sprache
3 Filme mit gefährlichen KIs
4 Non-fiktionale Bücher über künstliche Intelligenz
5 Meine Tipps & Tricks rund um Technik & Apple
6 Ähnliche Beiträge

Wenn die KI am Menschen vorbei arbeitet

In einem Beitrag mit dem Titel „Deal or no deal? Training AI bots to negotiate“ stellte Facebook auf der Entwicklerseite code.facebook.com das Projekt im Juni vor. „Bis heute hat die Arbeit an Chatbots zu Systemen geführt, die kurze Konversationen aufrecht halten und simple Aufgaben erfüllen können, so wie ein Restaurant zu buchen“, heißt in der Einführung. Die Forscher und Entwickler von Facebook wollten aber noch mehr aus den Chatbots, aus der mit den Menschen kommunizierenden künstlichen Intelligenz, herausholen. Für die Schaffung von Verhandlungs-Bots wurden also zwei künstliche Intelligenzen, genannt Bob und Alice, aufeinander losgelassen.

Das Programm in dem die Verhandlungs-Bots kommunizierten. Quelle: Facebook

Im gleichen Beitrag – der recht interessant, aber auch lang ist – wird nicht sehr viel auf die eigenständige Sprachentwicklung von Bob und Alice eingegangen. Lediglich im vorletzten Absatz, in dem es um stärkendes Lernen und das Einbringen von fixen, also festgelegten Phrasen geht, werden dafür auch die Gründe genannt:

„Das zweite Modell ist fix, weil die Forscher herausgefunden haben, dass das Updaten der Parameter für beide Agents zu Divergenzen von der menschlichen Sprache führte, indem die Agents ihre eigene Sprache für die Verhandlungen entwickelten. Am Ende jedes Dialogs bekam der Agent eine auf dem von ihm akzeptierten Deal basierende Vergütung / Gegenleistung [Engl. Orig.: reward]. Dieser Reward wurde durch jedes Wort, das der Agent ausgab, zurück-propagiert, durch Steigerungen, um die Wahrscheinlichkeit der Aktionen zu erhöhen, die zu einem höheren Reward führen.“

Lese-Tipp: Reproduktive KI von Google – Chancen und Gefahren hier ansehen

Künstliche Intelligenzen entwickeln eigene Sprache

Der letzte Absatz war bestimmt nicht der verständlichste. Deshalb hier noch einmal in der Zusammenfassung: Die Verhandlungs-Bots von Facebook haben Wortfolgen und Wortkombinationen wiederholt, um ihr Anliegen sowie Mengen und Vergütungen nicht nur auszudrücken, sondern zu steigern. Dabei wurden auch Mengenangaben durch entsprechende Wiederholungen ersetzt. Am Ende kam ein „Dialog“ dabei heraus, wie er oben im ersten Bild dargestellt ist. Weitere Einblicke und Beispiele für das fehlgeschlagene Experiment, das letztlich von den Facebook-Researchern unterbrochen werden musste, hat fastcodedesign.com.

Filme mit gefährlichen KIs

Wie oben schon einmal angedeutet, setzen sich einige Filme mit den Themen künstliche Intelligenz, Machine Learning und Macht der Maschinen auseinander. Hier einmal die drei genannten Filme im Überblick:

Her – DVD, Blu-Ray, VoD

In Her geht es um die Beziehung zwischen Menschen und künstlichen Intelligenzen. Kann die Liebe zwischen einem Mann und einem Betriebssystem gut gehen? Und was ist, wenn das OS auf andere Systeme trifft, die viel besser zu ihm passen? Was macht künstliche Intelligenz mit Menschen? Der Film Her beschäftigt sich mit diesen und weiteren Fragen. Mehrfach ausgezeichnet!

Matrix Trilogie als DVD oder Blu-Ray

In Matrix entkommt Neo nebst anderen Charakteren der künstlich von Maschinen geschaffenen Welt und kämpft für die Freiheit aller anderen darin gefangenen Menschen. Diese werden als Batterien von den Maschinen genutzt. Cooler erster Teil mit zwei Fortsetzungen.

2001: Odyssee im Weltraum

In diesem Meisterwerk von Stanley Kubrick geht es um Evolution und den HAL 9000 als ultimative, aber böse künstliche Intelligenz. Aus der Odyssee des Überlebenden von HALs Amoklauf geht eine neue Stufe der Evolution hervor. Ein Film, der nicht nur George Lucas und Steven Spielberg inspirierte.

Non-fiktionale Bücher über künstliche Intelligenz

Dystopien und Schwarzmalereien sind aber nicht die einzige Möglichkeit, die Themen KI, Kommunikation mit Bots, Automatisierung und neuronale Netzwerke zu sehen. Bevor man sich eine Meinung zu bilden meint, sollte man erst einmal verstehen, was hinter dem großen Ganzen steht. Deshalb hier ein paar aktuelle Bücher zum Thema (aus 2016 und 2017, einige noch nicht erschienen):

Grundkurs Künstliche Intelligenz: Eine praxisorientierte Einführung: reinschauen
Künstliche Intelligenz: Eine Einführung (mitp Professional): bestellen oder runterladen
Neuronale Netze selbst programmieren: reinschauen und kaufen
Einführung in Machine Learning: mehr erfahren
Praxiseinstieg Deep Learning: Details und Vorbestellen
Einführung in Data Science: Blick ins Buch