Schlagwörter: Moralische Maschinen

Von künstlichem Leben und natürlicher Technik

Prof. Dr. Annette Kleinfeld und Wolfgang Kornberger sind die Veranstalter der Ringvorlesung „Angewandte Ethik – Transdisziplinäre Einblicke in aktuelle Praxisfelder der Ethik“, die am 11. Oktober 2016 an der Hochschule Konstanz gestartet ist. Prof. Dr. Regine Kather (Philosophisches Seminar, Albert-Ludwigs-Universität Freiburg) berichtete am 22. November „Von der Würde des Menschen und der Würde der Kreatur“ und entwickelte „Grundprinzipien einer integrativen Bioethik“. PD Dr. Claudia Pawlenka (Philosophisches Institut, Heinrich-Heine-Universität Düsseldorf) geht am 20. Dezember auf „Ethische Fragen im Sport“ ein und konkret auf „Perfektionierung und Kommodifizierung des Menschen“. Der Vortrag von PD Dr. Joachim Boldt (Institut für Ethik und Geschichte der Medizin, Albert-Ludwigs-Universität Freiburg) trägt den Titel „Künstliches Leben – Perspektiven der synthetischen Biologie“ und findet am 10. Januar 2017 statt. Prof. Dr. Oliver Bendel (Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW) spricht am 17. Januar über „Die Moral in der Maschine – Maschinenethik“. Auch an den anderen Tagen kann man spannende Einblicke erwarten. Weitere Informationen über www.htwg-konstanz.de.

libelle

Abb.: Künstliches oder natürliches Leben?

Vorbild Mensch

„Mehr als 600 Ausgaben sind in den vergangenen Jahrzehnten von bild der wissenschaft erschienen. Das erste Heft kam 1964 an den Kiosk. Ersonnen hat es Heinz Haber. Der Physiker produzierte und moderierte … die ersten Wissenssendungen im deutschen Fernsehen.“ (Website bdw) So schreibt es die Zeitschrift selbst auf ihrer Website. In der aktuellen Ausgabe (Oktober 2016) ist ein vierseitiges Interview mit Prof. Dr. Oliver Bendel zu finden, unter dem Titel „Maschinen können Moral lernen“. Es geht um Maschinenethik, um Robotik und Künstliche Intelligenz. Der Mensch ist für die Maschine sozusagen Vorbild. Sie versucht ihn zu imitieren und zu kopieren. Und so entwickelt sie Ansätze einer Moral. Die Fotos hat der Stuttgarter Fotograf Kai R. Joachim angefertigt. Er hat für Magazine wie Metal Hammer, Glamour UK und Cosmopolitan gearbeitet und Aerosmith, Roger Hodgson, Mike Rutherford und Destiny’s Child abgelichtet. Oliver Bendel ist auf den Fotos auf dem Campus Brugg-Windisch unterwegs, in den imposanten oberen Stockwerken, an der spektakulären weißen Wendeltreppe der Bibliothek und am berühmten alten Hallerbau. In dem Heft geht es zudem um den tödlichen Tesla-Unfall in den Vereinigten Staaten. Nicht zuletzt wird nach der Sicherheit auch in anderer Hinsicht gefragt; die „Fülle an Elektronik in den Autos macht es Dieben und Hackern leicht“ (bdw, 10/2016).

machine_brain

Abb.: Maschinen können von Menschen lernen

Moralische Maschinen aus dem MIT

Die Maschinenethik ist eine junge, dynamische Disziplin. Insbesondere in den USA werden Konferenzen durchgeführt, Fachbücher veröffentlicht und Plattformen aufgebaut. Auch in Holland, England, Polen und in der Schweiz ist man aktiv. „Welcome to the Moral Machine!“ heißt es auf einer Website des MIT. „A platform for gathering a human perspective on moral decisions made by machine intelligence, such as self-driving cars.“ (Website MIT) Und weiter: „We show you moral dilemmas, where a driverless car must choose the lesser of two evils, such as killing two passengers or five pedestrians. As an outside observer, you judge which outcome you think is more acceptable. You can then see how your responses compare with those of other people.“ Es geht also um moralische Entscheidungen autonomer Systeme, denen wiederum moralische Urteile von Menschen folgen sollen. Damit verweist man auf eine lange Tradition von Gedankenexperimenten, die bereits in der Antike beliebt waren und mit dem Trolley-Problem und dem Fetter-Mann-Problem mit Blick auf Fahrzeuge und Menschen einschlägig wurden. Nun gibt es inzwischen einige Plattformen, die Dilemmata visuell aufbereiten, und auch das SRF hat sich Verdienste in diesem Bereich erworben. Besonders ist freilich folgende Option: „If you’re feeling creative, you can also design your own scenarios, for you and other users to browse, share, and discuss.“ Weitere Informationen über http://moralmachine.mit.edu/.

Tramway

Abb.: Berühmt ist das Trolley-Problem

IMEC-Tagung 2016

Maschinen als Subjekte der Moral werden seit einigen Jahren erforscht, in der Disziplin der Maschinenethik, Maschinen als Objekte der Moral seit mehreren Jahrzehnten, in einem Teilgebiet der Roboterethik und in der Künstlichen Intelligenz. Es geht vor allem um intelligente bzw. teilautonome und autonome Maschinen. Wichtige Grundlagenwerke der Maschinenethik sind „Moral Machines“ (2009) und „Machine Ethics“ (2011); auch Spezialisierungen wie „Machine Medical Ethics“ (2015) und Konkretisierungen wie „Programming Machine Ethics“ (2016) sind auf dem Markt. Aus der Medienethik kamen bisher kaum Beiträge zur Thematik, obwohl auch bestimmte neue Medien und neuere Informations- und Kommunikationstechnologien zum Gegenstand der Maschinenethik gehören können, etwa Münchhausen-Maschinen. Diese Lücke der Disziplin versucht eine Konferenz an der PH Ludwigsburg im Dezember 2016 zu schließen, Auf der Website ist zu lesen, es handle sich um eine Kooperation der Forschungsgruppe Medienethik der PHL und der Professur „Kommunikations- und Medienwissenschaft mit dem Schwerpunkt soziale Kommunikation und Mediatisierungsforschung“ am ZeMKI der Universität Bremen. Thema der Tagung seien „die ethischen Konsequenzen aus einer zunehmenden Kommunikation und Steuerung durch autonome Systeme vor dem Hintergrund der Mediatisierungskonzeption“ (Website PHL). Der Call for Papers kann über die Website der Hochschule heruntergeladen werden.

Radio

Abb.: Die Medienethik ist eine altehrwürdige Disziplin

Wie macht man Maschinen moralisch?

In einer Pressemitteilung, veröffentlicht über den Informationsdienst Wissenschaft, wird ein Seminar zur Maschinenethik auf Schloss Dagstuhl angekündigt. Dr. Roswitha Bardohl geht in ihrem Text auf die Entwicklung teilautonomer und autonomer Systeme ein und schreibt: „Wie bringt man solchen Maschinen die Moral bei?“ „Mit dieser Frage beschäftigt sich diese Woche ein internationales interdisziplinäres Seminar auf Schloss Dagstuhl. Die Teilnehmerinnen und Teilnehmer sind Wissenschaftler aus unterschiedlichen Ländern und kommen aus verschiedensten Fachbereichen: von der Informatik und der Mathematik über die Philosophie und Gesellschaftswissenschaften bis hin zu Wirtschafts- und Rechtswissenschaften.“ (Pressemitteilung IDW, 30. Mai 2016) In mehreren Arbeitsgruppen arbeiten die Teilnehmer, so die Pressemitteilung, zu den Fragestellungen „Wie macht man Maschinen moralisch?“ und „Wie überträgt man menschliche Kriterien der Moral auf künstliche Intelligenz?“ … Nach der Tagung „Roboterethik“ in Berlin und dem Workshop zur Maschinenethik in Bremen (beide 2015) mehren sich damit die Veranstaltungen zur Thematik im deutschsprachigen Raum. Weitere Informationen über https://idw-online.de/de/news653260.

Über die Moral der Maschinen

Ein vierteiliges Interview mit dem Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel ist am 31. Mai 2016 in Telepolis erschienen. Es geht um autonome Autos, um neuartige Chatbots wie den GOODBOT und um tierfreundliche Saugroboter wie LADYBIRD. Es geht um die Forschung in der Schweiz und in den USA und das Zusammenleben mit den Maschinen. Zum Verkehr der Zukunft sagt Bendel: „Was also tun? Ich rate hartnäckig dazu, bestimmte Maschinen in offenen Welten nicht auf uns loszulassen. Es sind vermutlich tragfähige Kompromisse möglich. Man kann autonome Autos in den Städten verbieten und zwischen den Städten fahren lassen, auf bestimmten Spuren, wobei der Spurwechsel meist gut beherrscht wird, zu bestimmten Uhrzeiten, mit bestimmten Geschwindigkeiten. Eventuell auch im Entenmarsch, ein Auto fährt voran, die anderen bilden eine Kette wie die Küken hinter der Mutter. Projekte dieser Art hat es gegeben. Bei einer solchen Entflechtung des Verkehrs sind diejenigen beruhigt, die dem autonomen Auto misstrauen, und es werden kaum Unfälle mit konventionellen Fahrzeugen auftreten.“ (Telepolis, 31. Mai 2016) Der Beitrag mit dem Titel „Über die Moral der Maschinen und eine programmierte Ethik“ kann über http://www.heise.de/tp/artikel/48/48387/1.html abgerufen werden.

Duck

Abb.: Über den Entenmarsch staunt auch die Quietscheente

Roboterethik im Deutschlandfunk

Am Donnerstag, 26. Mai 2016, ist der Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker Oliver Bendel im Gespräch mit Inge Breuer. Das Schwerpunktthema im Deutschlandfunk lautet „Roboterethik: Wieviel Moral brauchen intelligente Maschinen?“ Aus der Ankündigung des Senders: „Bereits heute übernehmen Roboter eine Vielzahl von Aufgaben in der Industrie, im Finanzsektor, aber zunehmend auch bei Serviceleistungen, in der Pflege und im Verkehr. Diese schlauen Maschinen werden zunehmend autonomer und können auch komplexe Entscheidungen selbst treffen. Je autonomer solche intelligenten Systeme aber handeln, desto mehr stellt sich die Grundfrage nach der moralischen Fundierung der von diesen Maschinen getroffenen Entscheidungen. Wie vermag die ‚Moral der Maschine‘ sichergestellt, wie weit kann sie ihr von Beginn an ‚einprogrammiert‘ werden? Z.B. bei einem selbstfahrenden Auto: Soll es einem Unfall ausweichen, wenn es erkennt, dass dann stattdessen ein anderer den Unfall haben wird? Sind die eigenen Insassen – und damit Kunden des Herstellers – schutzwürdiger als Dritte? Wer trägt die Verantwortung für die Entscheidungen der Maschine? Zunehmend wird auch in Deutschland die Frage gestellt, ob man (teil-)autonomen Systemen so etwas wie Moral beibringen kann.“ Die Rubrik „Aus Kultur- und Sozialwissenschaften“ wird ab 20.10 Uhr ausgestrahlt.

Walker

Abb.: Wohin geht der Robot?

Buch „Programming Machine Ethics“

Luís Moniz Pereira und Ari Saptawijaya haben ein Buch geschrieben, das den Titel „Programming Machine Ethics“ trägt. Die relativ junge Disziplin der Maschinenethik wird damit um ein weiteres Grundlagenwerk bereichert. Als Gestaltungsdisziplin ist sie darauf angewiesen, dass konkrete Vorschläge für die Umsetzung unterbreitet werden, in ihrem Falle der Umsetzung moralischer Maschinen. In der Information von Springer heißt es: „This book addresses the fundamentals of machine ethics. It discusses abilities required for ethical machine reasoning and the programming features that enable them. It connects ethics, psychological ethical processes, and machine implemented procedures. From a technical point of view, the book uses logic programming and evolutionary game theory to model and link the individual and collective moral realms. It also reports on the results of experiments performed using several model implementations.“ (Information Springer) Weiter wird erklärt: „Opening specific and promising inroads into the terra incognita of machine ethics, the authors define here new tools and describe a variety of program-tested moral applications and implemented systems. In addition, they provide alternative readings paths, allowing readers to best focus on their specific interests and to explore the concepts at different levels of detail.“ (Information Springer) Weitere Informationen und Bestellung über www.springer.com/de/book/9783319293530.

grace_hopper

Abb.: Grace Hopper aka Grandma COBOL

Noch bleiben die Hände am Steuerrad

Bruno Knellwolf berichtete am 3. März 2016 vom Auto-Salon in Genf. Der Artikel, der u.a. im St. Galler Tagblatt erschienen ist, beginnt mit den Worten: „Neben 120 Welt- und Europapremieren sind ab heute am Auto-Salon in Genf bei einigen Autoherstellern auch ihre Forschungen zum selbstfahrenden Auto zu sehen. Lotta Jakobsson von Volvo erklärt, warum wir noch einige Zeit das Lenkrad im Griff behalten werden.“ (Tagblatt, 3. März 2016) „Wenn jemand fahren will, soll er das tun können. Dafür hat er ja ein Auto“, wird die Expertin zitiert. „Doch sei es ihm auf der langen Reise auf der Autobahn langweilig, sollte er sich mit etwas anderem beschäftigen können. Das autonome Fahren sei aber noch nicht mehrheitsfähig, weil uns die Erfahrung fehle. Unsere Haltung in dieser Frage werde sich aber in fünf bis zehn Jahren ändern.“ (Tagblatt, 3. März 2016) Zu Wort kommt auch Oliver Bendel. „Darf man sein und das Leben anderer also einem Algorithmus anvertrauen? Im ‚Spiegel‘ zweifelt Oliver Bendel von der Fachhochschule Nordwestschweiz daran. Es sei fatal, Maschinen komplexe moralische Entscheidungen zu überlassen.“ Der Wirtschaftsinformatiker und Maschinenethiker spricht sich für einfache moralische Maschinen aus, die einfache moralische Entscheidungen treffen, etwa in Bezug auf Tiere, und dadurch zu deren Wohl beitragen können. Der Artikel mit dem Titel „Noch bleiben die Hände am Steuerrad“ kann hier gelesen werden.

Steuer

Abb.: Bald fehlen die Hände am Steuerrad

 

Telepolis-Buch „Die Moral in der Maschine“

Die Maschinenethik hat die Moral von Maschinen zum Gegenstand. Die meisten ihrer Vertreter und Anhänger sitzen in den USA, doch auch in Europa wächst das Interesse am Thema. Philosophen, Robotiker oder Experten für Künstliche Intelligenz stellen sich Fragen dieser Art: Können Maschinen gut oder böse sein? Kann man von einer Moral der Maschinen sprechen? Verwendet man Regeln oder Fälle? Hat die Maschinenethik eine Existenzberechtigung? Ist sie Konkurrenz oder Pendant zur Menschenethik? Letzten Endes geht es darum, ob bzw. wie man (teil-)autonomen Systemen so etwas wie Moral beibringen kann. Untersucht und erweitert werden unter anderem Chatbots, Serviceroboter, autonome Drohnen, ob zivil oder militärisch genutzt, und selbstständig fahrende Autos. Im Telepolis-Buch „Die Moral in der Maschine“ (Heise Medien), erschienen im Februar 2016, finden sich (populär-)wissenschaftliche und journalistische Beiträge von Oliver Bendel aus den Jahren 2012 bis 2016 zur Roboterethik und zur Maschinenethik. Sie sind in ganz unterschiedlichen schweizerischen und deutschen Zeitungen und Zeitschriften sowie auf einschlägigen Plattformen erschienen und widmen sich technischen Implementierungen, vor allem aber philosophischen Implikationen.

Metropolis

Abb.: Der Roboter aus „Metropolis“ vor seiner Verwandlung