Schlagworte: Maschinenethik

Digital mündig: Moralische Maschinen

„Selbstfahrende Autos, Pflegeroboter, smarte Helfer: In unserem Alltag treffen wir auf immer klügere Maschinen. Über ein Bewusstsein oder eigenen Willen verfügen sie zwar nicht, dennoch nehmen sie uns immer mehr Entscheidungen ab. Das wirft auch moralische Fragen auf. Soll das Auto in einem Unfall eher die Insassen schonen oder die Fußgänger am Straßenrand? Darf ein Roboter lebenserhaltende Maschinen abschalten, wenn der Patient das wünscht? Welche Chancen sich bieten und wo wir Grenzen setzen sollten, bespricht Christoph Kucklick, GEO, mit dem Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel.“ So die Ankündigung der Körber-Stiftung auf www.koerber-stiftung.de. „1959 vom Unternehmer und Anstifter Kurt A. Körber ins Leben gerufen, ist die Körber-Stiftung heute mit eigenen Projekten, Kooperationen und Veranstaltungen national und international aktiv.“ (Website Körber-Stiftung) Das Gespräch im Rahmen der Reihe „Digital mündig“ mit dem Titel „Moralische Maschinen“ findet am Dienstag, 14. November 2017 um 19.00 Uhr im KörberForum in Hamburg statt. Weitere Informationen über www.koerber-stiftung.de/veranstaltungsuebersicht/digital-muendig-moralische-maschinen-2248.html.

Abb.: Ein alter Ford aus Hamburg

Moralische Maschinen, die Tiere retten

Aleksandra Sowa leitete – so die Beschreibung in The European – „zusammen mit dem deutschen Kryptologen Hans Dobbertin das Horst-Görtz-Institut für Sicherheit in der Informationstechnik“. „Sie ist Autorin diverser Bücher und Fachpublikationen, Mitglied des legendären Virtuellen Ortsvereins (VOV) der SPD und aktuell für einen Telekommunikationskonzern tätig.“ (The European) Im Oktober 2017 war sie im Austausch mit Oliver Bendel. Der Informations- und Maschinenethiker nahm wie folgt Stellung: „Ich bin dafür, bestimmte Maschinen zu ‚moralisieren‘, und zwar solche, die in übersichtlichen Umgebungen und Situationen in unserem Sinne handeln sollen. Der Saugroboter, der Marienkäfer verschont, der Chatbot, der rücksichtsvoll ist und eine Notfallnummer herausgibt. Diese Maschinen haben wir gebaut. Ich bin nicht dafür, solche Maschinen mit einer Form von Moral auszustatten, die in komplexen Umgebungen und Situationen entscheiden müssen. So halte ich wenig davon, dass autonome Autos über Menschenleben entscheiden. Über Tierleben können sie entscheiden, sie können quantifizieren und qualifizieren. Wenn dadurch Tiere gerettet werden können, ohne dass Menschen in Gefahr kommen, bin ich dafür.“ Der Beitrag „Die Antwort lautet nicht 42“ von Aleksandra Sowa, erschienen am 11. Oktober 2017, enthält Statements von Oliver Bendel, gewonnen aus dem genannten Austausch und aus seinen Veröffentlichungen.

Abb.: Auch Schildkröten kann man retten

Kriegsmaschinen

„Kampfroboter, auch als Militärroboter bekannt, sind ferngesteuerte oder aber teilautonome bzw. autonome Maschinen, die in kriegerischen Auseinandersetzungen der Ablenkung in Bezug auf Ressourcen, der Auskundschaftung von Stützpunkten sowie der Beobachtung und der Beseitigung von Gefahren und Gegnern dienen. Wenn sie Standorte bewachen, haben sie eine Nähe zu Sicherheitsrobotern, wenn sie nach Minen suchen und diese räumen und sprengen, zu Minenrobotern, wenn sie Transporte durchführen, zu Transportrobotern. Auch Kampfdrohnen sind, ein weiter Begriff vorausgesetzt, Kampfroboter.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel für das Wirtschaftslexikon von Gabler, veröffentlicht Anfang September 2017. Auch die Perspektive der Maschinenethik wird eingenommen: „Die Maschinenethik widmet sich den moralisch begründeten Entscheidungen von Kampfrobotern. Im Zentrum eines Gedankenexperiments steht Buridans Robot, der einen Terroristen töten soll. Da dieser zusammen mit seinem Zwillingsbruder auftaucht, ist sich die Maschine unsicher, wen sie auswählen soll, und gerät in ein ähnliches Dilemma wie Buridans Esel, der zwischen zwei Heubündeln verhungert.“ Der Beitrag kann über wirtschaftslexikon.gabler.de/Definition/kampfroboter.html aufgerufen werden.

Abb.: Roboter oder Exoskelett?

Co-Robots im Pressesprecher-Magazin

Das Magazin Pressesprecher widmet sich in seiner neuen Ausgabe (4/17) Kooperations- und Kollaborationsrobotern. Diese sind, wie sich dem Wirtschaftslexikon von Springer Gabler entnehmen lässt, moderne Industrieroboter, die mit uns Schritt für Schritt an einem gemeinsamen Ziel (Kooperationsroboter) bzw. Hand in Hand an einer gemeinsamen Aufgabe arbeiten, wobei wiederum ein bestimmtes Ziel gegeben ist (Kollaborationsroboter). Sie nutzen dabei ihre mechanischen und sensorischen Fähigkeiten und treffen Entscheidungen mit Blick auf Produkte und Prozesse im Unternehmen bzw. in der Einrichtung. Co-Robots, wie sie gelegentlich genannt werden, können in Einzelfällen auch als Serviceroboter auftreten, etwa im medizinischen und pflegerischen Bereich. Die intensive Beschäftigung mit kooperativen und kollaborativen Robotern begann bereits in den 1990er-Jahren. In den 2010er-Jahren begannen sie sich durchzusetzen und in der Produktion zu verbreiten. Sie spielen auch in der Industrie 4.0 eine Rolle. Eine Grundlage für den Artikel mit dem Titel „Die Emanzipation der Maschinen“ war ein Interview mit Prof. Dr. Oliver Bendel, der im Text wiederholt zitiert wird und der auch Verfasser des genannten Lexikonbeitrags ist.

Abb.: Werden Co-Robots in Zukunft zusammenarbeiten?

10. Regensburger Intensivpflegetag

Am 11. Oktober 2017 findet der 10. Regensburger Intensivpflegetag statt. Prof. Dr. Martina Müller-Schilling (Universitätsklinikum Regensburg) und Dr. Tomáš Kural (Karls-Universität, Zweigstelle Pilsen) schreiben in ihrem Grußwort: „Erstmals in der nun 10-jährigen Geschichte unseres Intensivpflegetages sind wir ein internationales Organisatoren- und Schirmherrenteam und freuen uns den diesjährigen Pflegetag gemeinsam mit der Medizinischen Fakultät der Karls-Universität Pilsen zu gestalten. Die Partnerstädte Pilsen und Regensburg haben vieles gemeinsam: ein großes kulturelles Erbe, sie stellen das Oberzentrum der Region auf beiden Seiten der Grenze dar und beide haben eine medizinische Fakultät, mit der wir den gegenseitigen Austausch und die Partnerschaft weiter stärken wollen.“ (Programm 10. Regensburger Intensivpflegetag) Es referieren u.a. Prof. Dr. Thomas Bein (Universitätsklinikum Regensburg), Dr. Thomas Böttcher (Universität Konstanz), Dr. Václav Liška (Karls-Universität, Zweigstelle Pilsen) und Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW). Weitere Informationen über http://www.uniklinikum-regensburg.de/service/Veranstaltungen/05031.php.

Abb.: Gesund und munter

Der Bürgermeister musste sterben

Im Jahre 2012 wurde das Roboterauto-Problem entwickelt, das sich vom Trolley-Problem herleitete. Dieses ist ein klassisches und zugleich ein theoretisches Dilemma, jenes ein theoretisches Dilemma, und beide sind philosophische Gedankenspiele. Oliver Bendel beschrieb in seinem Paper den New Autonomous Car (NAC), der sich in einer Unfallsituation zwischen einem Bürgermeister auf dem Gehsteig, einer Bürgerrechtlerin in einem weiteren Roboterauto und einer Gruppe spielender Kinder entscheiden muss. Sein Student Matthias Schnyder erhielt den Auftrag, das Roboterauto-Problem theoretisch zu lösen. Er entwickelte eine Formel, mit der das autonome Auto quantifizieren und qualifizieren, also mögliche Opfer durchzählen und bewerten konnte. Der Bürgermeister musste sterben. Auf der European TA Conference in Prag im März 2013 stellte Oliver Bendel die Ergebnisse vor (wobei er auch die Umsetzbarkeit klassischer Modelle normativer Ethik diskutierte) und wies darauf hin, dass in diesem Zusammenhang weder das Quantifizieren noch das Qualifizieren eine vertretbare praktische Lösung sei. Eine solche zu finden, kann die Aufgabe von unklassischen bzw. praktischen Dilemmata oder auch einfach von „Faktenspielen“, die auf Konfliktsituationen verweisen, sein. So kann man die hohe Komplexität von realen Situationen untersuchen und die Bedeutung der Kommunikation im Stadtverkehr herausstreichen. Bei einer Konferenz der Audi AG wird Oliver Bendel am 20. September 2017 kurz auf die fünf Jahre alte Formel und auf die neue Version der Verkehrspyramide eingehen. Und die praktische Lösung vorschlagen, die er seit langer Zeit propagiert: Das selbstfahrende Auto gehört auf die Autobahn.

Abb.: Mit der Formel kann das Auto quantifizieren und qualifizieren

Ladenburger Diskurs zu Pflegerobotern

Der Ladenburger Diskurs des Jahres 2017 findet am 12. und 13. September statt. Mehr als 15 renommierte Wissenschaftlerinnen und Wissenschaftler treffen in der Villa der gemeinnützigen Daimler und Benz Stiftung in Ladenburg zusammen, tragen vor und diskutieren zu Pflegerobotern und Assistenzsystemen in der Pflege. Vor Ort ist auch ein humanoider Roboter, dessen Funktionen vorgestellt und untersucht werden. Die Stiftung engagiert sich immer wieder in Bezug auf Robotik und Künstliche Intelligenz (KI) und mit Blick auf moralische und soziale Themen, wie 2015 mit einer Tagung zur Roboterethik. Der Workshop ermöglicht technische, wirtschaftliche, medizinische und ethische Reflexionen über Pflegeroboter. Die Teilnehmerinnen und Teilnehmer sollen im Rahmen der Ladenburger Diskurse kontrovers und konstruktiv diskutieren und zu neuen Erkenntnissen gelangen. Die wissenschaftliche Leitung obliegt Prof. Dr. Oliver Bendel. Er lud im Namen der Stiftung Robotiker, Informatiker, Mediziner und Moralphilosophen aus Deutschland, Österreich, der Schweiz und UK ein. Die Ergebnisse des Workshops werden in einem Herausgeberband zusammengefasst, der 2018 bei Springer veröffentlicht wird.

Abb.: Der Mensch ist und bleibt wichtig in der Pflege

KI, Ethik und Rechtswissenschaft

Ein interner Event bei Audi am 20. September 2017 in Ingolstadt widmet sich dem Zusammenhang von Künstlicher Intelligenz (KI), Ethik und Rechtswissenschaft. Eingeladen sind als Referenten u.a. Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Prof. Dr. Sepp Hochreiter (Johannes Kepler Universität Linz) und Dr. Alexander Mertens (RWTH Aachen). Oliver Bendel erklärt, was Ethik und Moral sind (Ethik als Disziplin, Moral als ihr Gegenstand), was die Maschinenethik ist (eine Disziplin, die nach der Möglichkeit maschineller Moral fragt, so wie die KI als Disziplin nach der Möglichkeit künstlicher Intelligenz) und welchen Artefakten sich die Maschinenethik seit ca. zehn Jahren zuwendet (selbstständig fahrenden Autos, zivilen Drohnen, Pflege- und Therapierobotern, Kampfrobotern, Chatbots, um nur einige Typen zu nennen). Anders als Bereichsethiken wie Informationsethik und Technikethik beschäftigt sich die Maschinenethik nicht nur mit Maschinen, sondern setzt sie auch um, zusammen mit KI und Robotik. Audi wurde 1909 gegründet und gehört zum Volkswagen-Konzern.

Abb.: Ein Modell eines A8

Serviceroboter im Wolfspelz

„Große, rote Augen in einem haarlosen Gesicht: Dieser Wolf sieht aus, als sei er einem japanischen 70er-Jahre-Monsterfilm entsprungen. Wie aus der Fiktion sind auch die Geräusche, die er von sich gibt: Der Wolf kann nicht nur furchterregend heulen, sondern auch sprechen.“ (Golem, 28. August 2017) Das wiederum erinnert an den bösen Wolf in „Rotkäppchen“, wobei angemerkt sei, dass es einen solchen eben nur im Märchen gibt. „Der Monsterwolf ist in Wirklichkeit eine robotische Vogelscheuche im Wolfspelz. Er ist 65 Zentimeter lang und 50 Zentimeter hoch. Mit Hilfe von Infrarotsensoren erfasst er, wenn sich echte Tiere dem Reisfeld, an dessen Rand er aufgestellt ist, nähern.“ (Golem, 28. August 2017) Und weiter: „Rehe, Vögel, Wildschweine und sogar Bären vertreibt er durch laute Geräusche: Mit bis zu 95 Dezibel kann er heulen, fauchen, wie ein Mensch sprechen, Gewehrschüsse nachahmen – insgesamt beherrscht die Maschine 18 verschiedene Geräusche. Die Töne sollen variieren, damit sich die zu vertreibenden Tiere nicht daran gewöhnen.“ (Golem, 28. August 2017) Damit ist der Roboterwolf ein Fall für die Tier-Maschine-Interaktion sowie für die Maschinenethik. Und natürlich für die Tierethik.

Abb.: Sie hat keine Angst vor dem bösen Wolf

Neuer offener Brief zu Kampfrobotern

KI-Forscher und Robotiker sowie weitere Wissenschaftler aus aller Welt haben bei der Eröffnung der IJCAI 2015 Conference am 28. Juli 2015 in einem offenen Brief ein Verbot von autonomen Waffensystemen angemahnt. Zu den Unterzeichnern gehörten der Physiker und Astrophysiker Stephen Hawking, der Apple-Co-Founder Steve Wozniak, der Sprachwissenschaftler und Linksintellektuelle Noam Chomsky und der Tesla-Gründer Elon Musk. In einem weiteren offenen Brief an die Vereinten Nationen, der am 20. August 2017 vom Future of Life Institute veröffentlicht wurde, forderten Elon Musk und über 100 weitere Unternehmer und Wissenschaftler ein Verbot von autonomen Kampfrobotern. Die Maschinenethik widmet sich den moralischen Entscheidungen von Kampfrobotern. Ein Gedankenexperiment von Oliver Bendel aus dem Jahre 2013 ist Buridans Robot, der einen Mann töten soll. Da dieser mit seinem Zwillingsbruder aufritt, ist er sich unsicher, wen er wählen soll, und gerät in ein ähnliches Dilemma wie Buridans Esel, der zwischen zwei Heubündeln verhungert.

Abb.: Die Idee des Kampfroboters ist alt