Schlagworte: Moralische Maschinen

Das Gute und das Böse

Matthias Oppliger von der TagesWoche besuchte Oliver Bendel am 4. Mai 2017 auf dem Campus Brugg-Windisch und befragte ihn zu seinem Lügenbot und zu anderen Themen: „Sie sind Maschinenethiker und beschäftigen sich mit den moralischen Aspekten von Technologie. Warum bauen Sie eine unmoralische Maschine, die Lügen erzählt?“ Oliver Bendel antwortete: “Als Ethiker interessiere ich mich für das Gute und das Böse, als Maschinenethiker für moralische und unmoralische Maschinen. Ich will keine bösen Maschinen in die Welt entlassen, aber ich will sie erschaffen und erforschen. Wenn wir wissen, wie ein Lügenbot funktioniert, können wir eine solche Maschine auch entlarven und Strategien entwickeln, um gegen sie vorzugehen.“ Der Moralphilosoph untersucht, so hat es Oliver Bendel immer wieder dargestellt, das Gute und das Böse, in deskriptiver oder normativer Weise. Er nimmt das Moralische also zur Kenntnis, beschreibt es und ordnet es ein. Und er entwirft einen Rahmen, etwa deontologischer oder teleologischer Art, und vergleicht den einen mit dem anderen, womit er in der Metaethik angelangt ist. Das Moralisieren überlässt er dem Moraltheologen, der anders als er weder voraussetzungslos noch ergebnisoffen ist. Das ganze Interview ist am 5. Mai 2017 erschienen und kann über www.tageswoche.ch nachgelesen werden.

Abb.: Eine böse Fee

LADYBIRD-Projekt startet

An der Hochschule für Wirtschaft FHNW startet im März 2017 das LADYBIRD-Projekt. Die Idee des tierfreundlichen Staubsaugerroboters kommt seit 2013 in verschiedenen Publikationen von Oliver Bendel vor. In der Online-Zeitschrift inside-it.ch heißt es, Serviceroboter wie Haushalts- und Gartenroboter „sind in zahlreichen Ausführungen erhältlich und erleben einen wahren Boom“. Und weiter: „Ein gewöhnlicher Saugroboter verschlingt das, was vor ihm und unter ihm ist. Dazu gehören nicht nur Staubflocken und Kekskrümel, sondern auch Spinnen und Käfer. Nach der Meinung vieler Menschen sollte man Tiere nicht einfach verletzen oder beseitigen. Man kann den Roboter mit Bilderkennung und Bewegungssensoren ausstatten und ihm beibringen, Lebewesen vor dem Tod zu bewahren.“ Im letzten Jahr erstellte Oliver Bendel einen annotierten Entscheidungsbaum für die einfache moralische Maschine. Zudem wurden in einem Paper, das Ende März im Rahmen der AAAI-Konferenz an der Stanford University präsentiert wird („LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“), technische Details behandelt. In dem Praxisprojekt arbeiten zwei Studenten und eine Studentin über mehrere Monate. Auftraggeber ist Oliver Bendel, Betreuer Bradley Richards. Wie in anderen Projekten innerhalb der Maschinenethik an der Hochschule geht es darum, dass am Ende ein Prototyp mit den wichtigsten Komponenten und Funktionen vorliegt.

Abb.: Bekannt ist LADYBIRD bereits – nun wird er gebaut

Integrated Robotics Center gegründet

An der Albert-Ludwigs-Universität Freiburg wurde im Februar 2017 ein neues Robotik-Zentrum gegründet, das sich auch mit moralischen Maschinen befasst. In der Pressemitteilung auf der Website heißt es: „Intelligente Roboter entwickeln, die selbstständig Aufgaben wahrnehmen, vom Menschen und ihrer Umgebung lernen und moralisch agieren: Am 17. Februar 2017 hat die Universität Freiburg das Integrated Robotics Center (Integriertes Robotik-Zentrum) an der Technischen Fakultät eröffnet. Wissenschaftlerinnen und Wissenschaftler aus der Medizin, Philosophie, Biologie, Informatik, Mikrosystemtechnik und den Rechtswissenschaften werden dort in Zukunft gemeinsam arbeiten.“ (Website Albert-Ludwigs-Universität Freiburg) Ansprechpartner ist Prof. Dr. Wolfram Burgard. „Seine Arbeitsgruppe Autonome Intelligente Systeme, angesiedelt am Institut für Informatik, findet sich in dem neuen Gebäude unter einem Dach mit dem Exzellenzcluster BrainLinks-BrainTools, der neu eingerichteten Professur für Neurorobotik und einer Graduiertenschule für Doktorandinnen und Doktoranden in der Robotik.“ (Website Albert-Ludwigs-Universität Freiburg) Weitere Informationen über www.pr.uni-freiburg.de/pm/2017/pm.2017-02-17.22.

Von künstlichem Leben und natürlicher Technik

Prof. Dr. Annette Kleinfeld und Wolfgang Kornberger sind die Veranstalter der Ringvorlesung „Angewandte Ethik – Transdisziplinäre Einblicke in aktuelle Praxisfelder der Ethik“, die am 11. Oktober 2016 an der Hochschule Konstanz gestartet ist. Prof. Dr. Regine Kather (Philosophisches Seminar, Albert-Ludwigs-Universität Freiburg) berichtete am 22. November „Von der Würde des Menschen und der Würde der Kreatur“ und entwickelte „Grundprinzipien einer integrativen Bioethik“. PD Dr. Claudia Pawlenka (Philosophisches Institut, Heinrich-Heine-Universität Düsseldorf) geht am 20. Dezember auf „Ethische Fragen im Sport“ ein und konkret auf „Perfektionierung und Kommodifizierung des Menschen“. Der Vortrag von PD Dr. Joachim Boldt (Institut für Ethik und Geschichte der Medizin, Albert-Ludwigs-Universität Freiburg) trägt den Titel „Künstliches Leben – Perspektiven der synthetischen Biologie“ und findet am 10. Januar 2017 statt. Prof. Dr. Oliver Bendel (Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW) spricht am 17. Januar über „Die Moral in der Maschine – Maschinenethik“. Auch an den anderen Tagen kann man spannende Einblicke erwarten. Weitere Informationen über www.htwg-konstanz.de.

libelle

Abb.: Künstliches oder natürliches Leben?

Vorbild Mensch

„Mehr als 600 Ausgaben sind in den vergangenen Jahrzehnten von bild der wissenschaft erschienen. Das erste Heft kam 1964 an den Kiosk. Ersonnen hat es Heinz Haber. Der Physiker produzierte und moderierte … die ersten Wissenssendungen im deutschen Fernsehen.“ (Website bdw) So schreibt es die Zeitschrift selbst auf ihrer Website. In der aktuellen Ausgabe (Oktober 2016) ist ein vierseitiges Interview mit Prof. Dr. Oliver Bendel zu finden, unter dem Titel „Maschinen können Moral lernen“. Es geht um Maschinenethik, um Robotik und Künstliche Intelligenz. Der Mensch ist für die Maschine sozusagen Vorbild. Sie versucht ihn zu imitieren und zu kopieren. Und so entwickelt sie Ansätze einer Moral. Die Fotos hat der Stuttgarter Fotograf Kai R. Joachim angefertigt. Er hat für Magazine wie Metal Hammer, Glamour UK und Cosmopolitan gearbeitet und Aerosmith, Roger Hodgson, Mike Rutherford und Destiny’s Child abgelichtet. Oliver Bendel ist auf den Fotos auf dem Campus Brugg-Windisch unterwegs, in den imposanten oberen Stockwerken, an der spektakulären weißen Wendeltreppe der Bibliothek und am berühmten alten Hallerbau. In dem Heft geht es zudem um den tödlichen Tesla-Unfall in den Vereinigten Staaten. Nicht zuletzt wird nach der Sicherheit auch in anderer Hinsicht gefragt; die „Fülle an Elektronik in den Autos macht es Dieben und Hackern leicht“ (bdw, 10/2016).

machine_brain

Abb.: Maschinen können von Menschen lernen

Moralische Maschinen aus dem MIT

Die Maschinenethik ist eine junge, dynamische Disziplin. Insbesondere in den USA werden Konferenzen durchgeführt, Fachbücher veröffentlicht und Plattformen aufgebaut. Auch in Holland, England, Polen und in der Schweiz ist man aktiv. „Welcome to the Moral Machine!“ heißt es auf einer Website des MIT. „A platform for gathering a human perspective on moral decisions made by machine intelligence, such as self-driving cars.“ (Website MIT) Und weiter: „We show you moral dilemmas, where a driverless car must choose the lesser of two evils, such as killing two passengers or five pedestrians. As an outside observer, you judge which outcome you think is more acceptable. You can then see how your responses compare with those of other people.“ Es geht also um moralische Entscheidungen autonomer Systeme, denen wiederum moralische Urteile von Menschen folgen sollen. Damit verweist man auf eine lange Tradition von Gedankenexperimenten, die bereits in der Antike beliebt waren und mit dem Trolley-Problem und dem Fetter-Mann-Problem mit Blick auf Fahrzeuge und Menschen einschlägig wurden. Nun gibt es inzwischen einige Plattformen, die Dilemmata visuell aufbereiten, und auch das SRF hat sich Verdienste in diesem Bereich erworben. Besonders ist freilich folgende Option: „If you’re feeling creative, you can also design your own scenarios, for you and other users to browse, share, and discuss.“ Weitere Informationen über http://moralmachine.mit.edu/.

Tramway

Abb.: Berühmt ist das Trolley-Problem

IMEC-Tagung 2016

Maschinen als Subjekte der Moral werden seit einigen Jahren erforscht, in der Disziplin der Maschinenethik, Maschinen als Objekte der Moral seit mehreren Jahrzehnten, in einem Teilgebiet der Roboterethik und in der Künstlichen Intelligenz. Es geht vor allem um intelligente bzw. teilautonome und autonome Maschinen. Wichtige Grundlagenwerke der Maschinenethik sind „Moral Machines“ (2009) und „Machine Ethics“ (2011); auch Spezialisierungen wie „Machine Medical Ethics“ (2015) und Konkretisierungen wie „Programming Machine Ethics“ (2016) sind auf dem Markt. Aus der Medienethik kamen bisher kaum Beiträge zur Thematik, obwohl auch bestimmte neue Medien und neuere Informations- und Kommunikationstechnologien zum Gegenstand der Maschinenethik gehören können, etwa Münchhausen-Maschinen. Diese Lücke der Disziplin versucht eine Konferenz an der PH Ludwigsburg im Dezember 2016 zu schließen, Auf der Website ist zu lesen, es handle sich um eine Kooperation der Forschungsgruppe Medienethik der PHL und der Professur „Kommunikations- und Medienwissenschaft mit dem Schwerpunkt soziale Kommunikation und Mediatisierungsforschung“ am ZeMKI der Universität Bremen. Thema der Tagung seien „die ethischen Konsequenzen aus einer zunehmenden Kommunikation und Steuerung durch autonome Systeme vor dem Hintergrund der Mediatisierungskonzeption“ (Website PHL). Der Call for Papers kann über die Website der Hochschule heruntergeladen werden.

Radio

Abb.: Die Medienethik ist eine altehrwürdige Disziplin

Wie macht man Maschinen moralisch?

In einer Pressemitteilung, veröffentlicht über den Informationsdienst Wissenschaft, wird ein Seminar zur Maschinenethik auf Schloss Dagstuhl angekündigt. Dr. Roswitha Bardohl geht in ihrem Text auf die Entwicklung teilautonomer und autonomer Systeme ein und schreibt: „Wie bringt man solchen Maschinen die Moral bei?“ „Mit dieser Frage beschäftigt sich diese Woche ein internationales interdisziplinäres Seminar auf Schloss Dagstuhl. Die Teilnehmerinnen und Teilnehmer sind Wissenschaftler aus unterschiedlichen Ländern und kommen aus verschiedensten Fachbereichen: von der Informatik und der Mathematik über die Philosophie und Gesellschaftswissenschaften bis hin zu Wirtschafts- und Rechtswissenschaften.“ (Pressemitteilung IDW, 30. Mai 2016) In mehreren Arbeitsgruppen arbeiten die Teilnehmer, so die Pressemitteilung, zu den Fragestellungen „Wie macht man Maschinen moralisch?“ und „Wie überträgt man menschliche Kriterien der Moral auf künstliche Intelligenz?“ … Nach der Tagung „Roboterethik“ in Berlin und dem Workshop zur Maschinenethik in Bremen (beide 2015) mehren sich damit die Veranstaltungen zur Thematik im deutschsprachigen Raum. Weitere Informationen über https://idw-online.de/de/news653260.

Über die Moral der Maschinen

Ein vierteiliges Interview mit dem Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel ist am 31. Mai 2016 in Telepolis erschienen. Es geht um autonome Autos, um neuartige Chatbots wie den GOODBOT und um tierfreundliche Saugroboter wie LADYBIRD. Es geht um die Forschung in der Schweiz und in den USA und das Zusammenleben mit den Maschinen. Zum Verkehr der Zukunft sagt Bendel: „Was also tun? Ich rate hartnäckig dazu, bestimmte Maschinen in offenen Welten nicht auf uns loszulassen. Es sind vermutlich tragfähige Kompromisse möglich. Man kann autonome Autos in den Städten verbieten und zwischen den Städten fahren lassen, auf bestimmten Spuren, wobei der Spurwechsel meist gut beherrscht wird, zu bestimmten Uhrzeiten, mit bestimmten Geschwindigkeiten. Eventuell auch im Entenmarsch, ein Auto fährt voran, die anderen bilden eine Kette wie die Küken hinter der Mutter. Projekte dieser Art hat es gegeben. Bei einer solchen Entflechtung des Verkehrs sind diejenigen beruhigt, die dem autonomen Auto misstrauen, und es werden kaum Unfälle mit konventionellen Fahrzeugen auftreten.“ (Telepolis, 31. Mai 2016) Der Beitrag mit dem Titel „Über die Moral der Maschinen und eine programmierte Ethik“ kann über www.heise.de/tp/artikel/48/48387/1.html abgerufen werden.

Duck

Abb.: Über den Entenmarsch staunt auch die Quietscheente

Roboterethik im Deutschlandfunk

Am Donnerstag, 26. Mai 2016, ist der Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker Oliver Bendel im Gespräch mit Inge Breuer. Das Schwerpunktthema im Deutschlandfunk lautet „Roboterethik: Wieviel Moral brauchen intelligente Maschinen?“ Aus der Ankündigung des Senders: „Bereits heute übernehmen Roboter eine Vielzahl von Aufgaben in der Industrie, im Finanzsektor, aber zunehmend auch bei Serviceleistungen, in der Pflege und im Verkehr. Diese schlauen Maschinen werden zunehmend autonomer und können auch komplexe Entscheidungen selbst treffen. Je autonomer solche intelligenten Systeme aber handeln, desto mehr stellt sich die Grundfrage nach der moralischen Fundierung der von diesen Maschinen getroffenen Entscheidungen. Wie vermag die ‚Moral der Maschine‘ sichergestellt, wie weit kann sie ihr von Beginn an ‚einprogrammiert‘ werden? Z.B. bei einem selbstfahrenden Auto: Soll es einem Unfall ausweichen, wenn es erkennt, dass dann stattdessen ein anderer den Unfall haben wird? Sind die eigenen Insassen – und damit Kunden des Herstellers – schutzwürdiger als Dritte? Wer trägt die Verantwortung für die Entscheidungen der Maschine? Zunehmend wird auch in Deutschland die Frage gestellt, ob man (teil-)autonomen Systemen so etwas wie Moral beibringen kann.“ Die Rubrik „Aus Kultur- und Sozialwissenschaften“ wird ab 20.10 Uhr ausgestrahlt.

Walker

Abb.: Wohin geht der Robot?