Schlagworte: Dilemma

Neuer offener Brief zu Kampfrobotern

KI-Forscher und Robotiker sowie weitere Wissenschaftler aus aller Welt haben bei der Eröffnung der IJCAI 2015 Conference am 28. Juli 2015 in einem offenen Brief ein Verbot von autonomen Waffensystemen angemahnt. Zu den Unterzeichnern gehörten der Physiker und Astrophysiker Stephen Hawking, der Apple-Co-Founder Steve Wozniak, der Sprachwissenschaftler und Linksintellektuelle Noam Chomsky und der Tesla-Gründer Elon Musk. In einem weiteren offenen Brief an die Vereinten Nationen, der am 20. August 2017 vom Future of Life Institute veröffentlicht wurde, forderten Elon Musk und über 100 weitere Unternehmer und Wissenschaftler ein Verbot von autonomen Kampfrobotern. Die Maschinenethik widmet sich den moralischen Entscheidungen von Kampfrobotern. Ein Gedankenexperiment von Oliver Bendel aus dem Jahre 2013 ist Buridans Robot, der einen Mann töten soll. Da dieser mit seinem Zwillingsbruder aufritt, ist er sich unsicher, wen er wählen soll, und gerät in ein ähnliches Dilemma wie Buridans Esel, der zwischen zwei Heubündeln verhungert.

Abb.: Die Idee des Kampfroboters ist alt

Autonome Autos in der Sendung „Kontrovers“

In der Sendung „Kontrovers“ (Bayerisches Fernsehen) vom 13. Juli 2016 ging es um selbstfahrende Autos. Zu Wort kamen neben Bürgerinnen und Bürgern u.a. Alexander Dobrindt, Bundesverkehrsminister von Deutschland, und Prof. Dr. Oliver Bendel, Wirtschaftsinformatiker, Informations- und Maschinenethiker an der Hochschule für Wirtschaft FHNW. Im Ankündigungstext wurde unter dem Titel „Auch eine Frage der Moral“ der Inhalt des Films skizziert und auf Dilemmata eingegangen: „Es gibt viele offene Fragen: Wie verhält sich ein autonomes Fahrzeug in einer Gefahrensituation? Was macht das Auto, wenn plötzlich ein kleines Mädchen vor ihm auf die Straße läuft? Was, wenn der Fahrer das Kind nur verschonen kann, indem er ausweicht, aber dadurch zum Beispiel einen Senioren gefährdet? Ist ein junges Leben mehr wert als ein älteres?“ (Website BR) Oliver Bendel ist nicht gegen hoch- und vollautomatisiertes Fahren oder autonome Autos. Diese gehören nur nach seiner Meinung auf die Autobahn, nicht in die Stadt. Selbst die Autobahn ist noch schwierig zu bewältigen; die Stadt zu bewältigen, ist kaum möglich. Ein Problem sind Kameras, die sich schnell täuschen respektive leicht täuschen lassen. Sie müssen auf jeden Fall mit weiteren Sensoren gekoppelt werden. Das Gespräch mit Oliver Bendel führte Patrick Lerch. Weitere Informationen über www.br.de/br-fernsehen/sendungen/kontrovers/autonomes-fahren-selbstfahrende-autos-ethik-100.html.

Schild_Muenchen

Abb.: Das Interview mit Oliver Bendel fand in München statt

Entscheidungen über Leben und Tod

„Wenn der Algorithmus über Leben und Tod entscheidet“ lautet der Titel eines Beitrags von Joachim Laukenmann, erschienen am 7. Februar 2016 in der Sonntagszeitung. Von Carlo Stanga stammt die Illustration zum Roboterauto-Dilemma. Der Beitrag ist ausführlich und fachlich auf hohem Niveau. Eingefangen werden die Stimmen verschiedener Experten. Sepp Huber, Leiter Mediendienst von Swisscom, erklärt, dass autonome Fahrzeuge viele Fragen aufwerfen werden, „die wir als Gesellschaft klären müssen“. „Eine Programmierung des Systems im Sinne einer Entscheidung für einen Menschen und damit gegen einen anderen ist im deutschen Rechtssystem und auch in anderen Ländern rechtlich gar nicht zulässig“, sagt Klaus Schartel, Leiter Legal Mergers und Acquisitions/Kooperationen bei der Daimler AG. Sabine Gless, eine Basler Professorin, die sich mit Roboterrecht beschäftigt, weist auf die Notwendigkeit neuer Haftungskonzepte hin. Prof. Dr. Oliver Bendel, der als Maschinenethiker selbst moralische Maschinen konzipiert, warnt vor einer Einseitigkeit bei Modellen normativer Ethik. Auch rät er davon ab, die Maschinen über Leben und Tod von Menschen entscheiden zu lassen. Seine Forschung konzentriert sich auf Tiere. Die Illustration führt das Dilemma, das bei einem Bremsenversagen entstehen kann, eindrücklich vor Augen. Der Artikel kann hier als PDF heruntergeladen werden. Das Copyright liegt bei der Sonntagszeitung.

tram

Abb.: Das klassische Trolley-Problem kann ins Informationszeitalter übertragen werden

Robots between the Devil and the Deep Blue Sea

„Robots between the Devil and the Deep Blue Sea“ lautet der Titel des Beitrags, der am 1. Dezember 2015 in der brasilianischen Zeitschrift Liinc em Revista erschienen ist. Oliver Bendel stellt klassische Dilemmata vor und überträgt sie ins Informationszeitalter. Insbesondere interessiert der Einsatz von Chatbots, Robotern, Drohnen und selbstständig fahrenden Autos, der immer wieder problembehaftet ist. Bei den Lösungsansätzen wird u.a. die Perspektive der Maschinenethik eingenommen. Es stellt sich heraus, dass klassische Dilemmata für die Herausforderungen der Gegenwart nützlich sind und dabei helfen, die Entscheidungsmöglichkeiten teilautonomer und autonomer Systeme zu diskutieren sowie Robotik, Künstliche Intelligenz und Informatik in dieser Frage zu sensibilisieren und ihre Ergebnisse und Erzeugnisse zu optimieren. Skizziert werden das „Roboterauto-Problem“, die „Parkbucht des Karneades“, „Buridans Robot“ und das „Lügenbot-Problem“. Der Beitrag kann über die Website der Zeitschrift kostenlos heruntergeladen werden.

Teufel

Abb.: Roboter können in Dilemmata geraten

Moral für die Maschine

Der Hessische Rundfunk (hr2 Kultur) bringt am 20. September 2015 eine Sendung zum Thema „Moral für die Maschine – Ansätze einer Roboterethik“. Im Ankündigungstext auf der Website heißt es: „Die Roboter kommen. Aus dem Alltag werden sie bald nicht mehr wegzudenken sein. Roboter-Autos fahren, ohne dass ein Mensch am Steuer sitzt. Pflege-Roboter erinnern alte Menschen daran, regelmäßig zu trinken. Elektronische Plüschtiere geben Pflegebedürftigen Zuwendung und Nähe. Die Maschinen werden immer selbstständiger und intelligenter. Es dauert nicht mehr lange, bis Roboter eigenständig eine moralische Entscheidung fällen müssen. Je autonomer Roboter handeln können, desto dringender ist die Frage nach einer Ethik der Maschinen. An welchen Werten soll sich ein Roboter orientieren? Wie entscheidet das selbstfahrende Auto in einer Dilemmasituation? Inwiefern können emotionale Roboter den Menschen in der Pflege ersetzen? Philosophen und Ingenieure suchen nach Lösungen, den Maschinen moralische Vorstellungen einzuprogrammieren.“ (Website hr2 Kultur) Befragt hat Barbara Schneider u.a. den Maschinenethiker Oliver Bendel. Weitere Informationen über www.hr-online.de/website/radio/hr2/.

robotgirl

Abb.: Roboterfrau mit oder ohne Moral