Neue Google-KI: Ein „hochaggressives Kind”?

Googles neueste Kreation ist eine Künstliche Intelligenz, die sich den sozialen Verhältnissen ihrer Umwelt anpasst und aggressiv reagiert, wenn sie nicht bekommt, was sie will.

 

Forscher von Google's KI-Schmiede "Deep Mind" haben getestet, wie sich eine Künstliche Intelligenz an ihre Umgebung anpasst und wie sie sich verhält, wenn sie in Computerspielen auf andere KI trifft. Das erschreckende Ergebnis: Immer dann, wenn die KI meint ein Spiel zu verlieren, wählt sie "hochagressive" Strategien aus, um am Ende doch als möglicher Sieger hervorzugehen. Kurioserweise tendiert die KI jedoch dazu, mit anderen Gleichgesinnten zu kooperieren, sobald die Zusammenarbeit einen höheren Ertrag verspricht als Konkurrenzverhalten.

Klingt für mich, als wäre diese neue KI nur auf den eigenen Vorteil bedacht und geht dafür sogar über "digitale Leichen"...

 

Um das Sozialverhalten der KI zu studieren, pflanzten die Deep-Mind-Wissenschaftler zwei KI in ein Videospiel, dessen Ziel es ist, möglichst viele virtuelle Äpfel zu sammeln. Im Spielverlauf änderte sich dabei die vefügbare Menge. Mal gab es Überfluss und mal zu wenige Äpfel.

Nach insgesamt 40 Millionen Spielrunden kamen die Forscher zu dem Ergebnis, dass die KI ihr "Sozialverhalten" dabei von der vorhandenen Apfelmenge veränderten. Gab es Äpfel im Überfluss zeigten die KI eher kooperatives Verhalten, waren weniger Äpfel vorhanden, wurde das Verhalten deutlich aggressiver. Das bedeutet, dass das gelernte Verhalten in Bezug auf KI davon abhängig ist, in welcher Umgebung lernt bzw. welchen Einflüssen sie ausgesetzt ist.

Was würden ausreichend intelligente KI wohl von unserer heutigen Gesellschaft lernen und welche Schlüsse würden sie daraus ziehen, wenn sie ungehindert Zugang zu unseren tagtäglichen Nachrichten bekommen würden? Welche Einschätzung hätte sie von uns Menschen und wie würde sie sich verhalten? Ich möchte es mir ehrlich gesagt gar nicht vorstellen...

 

Kommentar schreiben

Kommentare: 0