Facebook stoppt KI nach Entwicklung eigener Sprache

 

Bereits im Sommer diesen Jahres, hat eine von Facebook erschaffene Künstliche Intelligenz während eines Experiments eine eigene Sprache entwickelt, der selbst die KI-Entwickler nicht mehr folgen konnten. Das Ende vom Lied: Die Entwickler brachen das Experiment ungeplant ab.

 

Während eines KI-Experimentes entschieden sich die Bots namens Bob und Alice dazu, nicht mehr die Ihnen beigebrachte Sprache Englisch zu benutzen und stattdessen in einer eigenen, abgewandelten Geheimsprache miteinander zu kommunizieren.

 

Offenbar versuchte die Künstliche Intelligenz dabei, die ihr unlogisch und uneffizient erscheinenden Teile der englischen Sprache durch effizientere Ausdrucksweisen zu ersetzen. Daraus ergaben sich Konversationen, bei denen Bob z.B. »I can i i everything else« äußerte, und Alice darauf mit »balls have zero to me to me to me...« antwortete.

 

Was für uns Menschen nach einer Menge Unsinn klingt, ergab für die KI dahinter offensichtlich überaus Sinn.

Den Entwicklern gelang es zumindest, die gezielte Wiederholung von Wörtern zu interpretieren. So könnten die Mehrfachnennungen von »i« und »to me« möglicherweise dafür gestanden haben, welche benötigte Anzahl von Gegenständen Bob und Alice haben wollten.

 

Für einen Außenstehenden mag das vielleicht unscheinbar erscheinen, bewies den Entwickler jedoch eine fast schon menschliche Sprachoptimierung.

 

Der am Programm »Facebook AI Research (FAIR)« beteiligte Wissenschaftler Dhruv Batra merkte dabei an, dass dieses KI-Verhalten in Ansätzen der Art und Weise ähnelt, wie menschliche Gemeinschaften ihre Kürzel und Kurzschriften entwickeln.

 

Den Forschern wurde es dann jedoch zu viel: Sie konnten den KI-Konversationen auf Anhieb nicht mehr logisch folgen und brachen das Experiment daraufhin ab.


Doch wie kam es dazu?

 

Grund für die Entwicklung einer eigenen Sprache war, dass die Entwickler für die Verwendung der Sprache Englisch keine Belohnung mehr vorgesehen hatten. So arbeiten moderne KIs in der Regel mit einem Reward-Prinzip, bei dem gewünschtes Verhalten belohnt wird. Da es bei diesem Experiment ausblieb, sahen die Bots offensichtlich keinen Nutzen mehr darin, die für sie uneffizient erscheinende Sprache für ihre Aufgaben zu nutzen.

 

Zwar ist das alles noch kein Grund zur Panik, sollte aber zu denken geben, dass der Zeitpunkt einer Technologischen Singularität damit wieder etwas näher gerückt ist. Die Technologische Singularität markiert dabei den Zeitpunkt, ab dem die Fähigkeiten einer sich selbst weiterentwickelnden KI die des Menschen übersteigen. Zahlreiche Experten erwarten, dass dieser Zeitpunkt nicht mehr lange auf sich warten lässt. Allerdings muss man auch eingestehen, dass der prognostizierte Zeitpunkt für dieses Ereignis schon mehrfach um Jahrzehnte in die Zukunft verschoben wurde.

 

Bei einem sind sich aber alle sicher: Das Erreichen der Technologischen Singularität wird selbst für die Entwickler dieser KI überraschend stattfinden und die Menschheit in eine ungewisse Zukunft führen.

 

Während Tesla-Gründer und KI-Investor Elon Musk zuletzt eine eher unfreundliche Zukunft für die Auswirkungen von KI prognostizierte, zeigte sich Facebook-Chef Mark Zuckerberg dahingehend grundsätzlich zuversichtlich. Hoffen wir, dass Herr Zuckerberg recht behält...

 

Kommentar schreiben

Kommentare: 0