News

Aus Angst: Google will Notbremse für Künstliche Intelligenz

Künstliche Intelligenz soll nicht zur Gefahr für die Menschheit werden.
Künstliche Intelligenz soll nicht zur Gefahr für die Menschheit werden. (©CC: Flickr/Dick Thomas Johnson 2016)

Künstliche Intelligenz soll nicht zur Gefahr für die gesamte Menschheit werden. Damit ein Schreckensszenario, vor dem kluge Köpfe wie Stephen Hawking, Bill Gates oder Elon Musk warnen, nicht eintritt, will Google seiner Deep Mind-Forschung quasi einen Ausschalter für den Notfall verpassen.

Jeder, der die Filmreihe "Terminator" kennt, kann sich ein Schreckensszenario, in dem Roboter zur Bedrohung für die Menschheit werden, gut vorstellen. Dass die Künstliche Intelligenz, an der derzeit alle großen Firmen und Konzerne forschen, irgendwann außer Kontrolle gerät und den Untergang der Menschheit einläutet, davor warnen auch Wissenschaftler und Experten wie Stephen Hawking und Elon Musk. Damit Google das mit seinem Deep Mind-Projekt nicht passieren kann, will der Konzern eine Art Notbremse entwickeln. Das teilte das Forschungsteam in einer jetzt veröffentlichten wissenschaftlichen Arbeit mit.

Künstliche Intelligenz soll lernen – aber nicht alles!

Laut Engadget will Google sich die jederzeitige Kontrolle über Künstliche Intelligenz vor allem dadurch sichern, dass ihre Lernfähigkeit an einer wichtigen Stelle eingeschränkt wird. Deep Mind soll niemals in der Lage sein, den Menschen daran zu hindern, es dabei zu unterbrechen, was auch immer es gerade tut. "Interruptibility", also Unterbrechbarkeit, nennt Google diese Eigenschaft, die bei der Forschung zum Thema stets gewahrt werden soll. Menschen sollen Roboter immer stoppen können, wenn es nötig ist. Damit will man sowohl Schäden an den Robotern als auch Schäden an der Umwelt verhindern.

Ganz ruhig schlafen lässt das KI-Warner wie Stephen Hawking aber sicher noch nicht. Laut Business Insider funktioniert das Prinzip der Unterbrechbarkeit bisher erst bei einigen Algorithmen. Andere wie ein Projekt namens "Sarsa" sind – einmal gestartet – nicht mehr zu stoppen. In diesem Fall müssten die Algorithmen schnell verändert werden. Immerhin soll das relativ einfach möglich sein.

Artikel-Themen

Weitere Artikel zum Thema

close
Bitte Suchbegriff eingeben