„Roboter, Empathie und Emotionen“ – dieses Forschungsprojekt hatte die Einrichtung für Technologiefolgenabschätzung der Schweiz, die TA-SWISS, vor einiger Zeit ausgeschrieben. Den Zuschlag hat ein Konsortium von FHNW, ZHAW und Universität St. Gallen erhalten. Der Antragsteller, Prof. Dr. Hartmut Schulze von der Hochschule für Angewandte Psychologie FHNW, deckt die Psychologie ab. Der Co-Antragsteller, Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, nimmt die Perspektive von Informations-, Roboter- und Maschinenethik ein, die Co-Antragstellerin, Prof. Dr. Maria Schubert von der ZHAW, die der Pflegewissenschaft. Die TA-SWISS stellte auf ihrer Website fest: „Welchen Einfluss haben Roboter … auf unsere Gesellschaft und auf die Personen, die mit ihnen interagieren? Sind Roboter vielleicht eher Spitzel als Vertraute? … Was erwarten wir von diesen Maschinen beziehungsweise was dürfen wir effektiv von ihnen erwarten? Zahlreiche soziologische, psychologische, wirtschaftliche, philosophische und rechtliche Fragen im Zusammenhang mit dem gegenwärtigen und künftigen Einsatz und Potenzial der Roboter sind noch offen.“ (Website TA-SWISS) Das Kick-off-Meeting mit einer Begleitgruppe fand am 26. Juni 2019 in Bern statt.
Vom 18. bis zum 20. Juli 2019 findet die Fachtagung „Game of Drones“ statt. Sie wird vom Zeppelin Museum Friedrichshafen in Kooperation mit der Universität Konstanz und der Zeppelin Universität Friedrichshafen organisiert. Es geht, wie der Titel verrät, um die Technologie der Drohnen, um die Spiele und Kriegsspiele damit. „Die wissenschaftliche Fachtagung beleuchtet in drei Panels kritisch das Spannungsfeld dieser Technologie, die absolute Gegensätze in sich vereint. VertreterInnen aus Wirtschaft, Politik und Wissenschaft reflektieren gesellschaftlich relevante Aspekte des militärisch-wirtschaftlichen Sektors sowie der Aneignung durch zeitgenössische KünstlerInnen und Start-Ups. Der Schnittstelle von Drohnen und Künstlicher Intelligenz widmet sich ein Panel aus ethischer und medientheoretischer Perspektive.“ (Website ZM) Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW) – Informations- und Maschinenethiker und Verfasser des Drohnenromans „Verlorene Schwestern“ (2009) – spricht am 20. Juli zu „Die Drohne und die Moral“ (auch aus Sicht der Maschinenethik), Philip Hauser (Universität Konstanz) zu „Mobilität und Macht – Drohnen und künstliche Intelligenz aus medienwissenschaftlicher Perspektive“ und Dr. Goetz Herrmann (Universität Paderborn) zu „Game of Swarms: Adaptabilität“. Das Programm kann hier heruntergeladen werden. Weitere Informationen über www.zeppelin-museum.de.
„Bei einer ersten Begegnung vor fünf Jahren wirkte Oliver Bendel ziemlich abgefahren. Damals skizzierte er eine Zukunft, in der Technologien auf der Kontaktlinse oder unter der Haut stecken und Kriminelle eben jemandem eine Hand abhacken, um sich mit dem implantierten Chip Zugang zu einem Gebäude zu verschaffen. Er erzählte von einer Welt voller virtuellen Assistenten und Roboter, von seinem Staubsauger mit Moral, den er bauen wollte. Es klang nach Science-Fiction.“ (NZZ, 14. Juni 2019) Im Frühjahr 2019 hat Melanie Keim den Informations- und Maschinenethiker nochmals getroffen, im Lichthof der Universität Zürich. Sie findet ihn immer noch abgefahren. Aber sie hält in ihrem Artikel „Er lehrt Roboter Moral“ für die NZZ fest, dass seine Themen – zu denen er seit zwanzig Jahren forscht – im Mainstream angekommen sind. Inzwischen wurde LADYBIRD, der tierfreundliche Saugroboter, als Prototyp gebaut, und der LIEBOT, der systematisch lügen konnte, ist Geschichte. Dieser erklärte im Sommer 2016, dass Donald Trump der Präsident der USA sei. Warum er dies tat, wird in mehreren Papers und auf mehreren Slides erklärt, die u.a. hier und über www.oliverbendel.net heruntergeladen werden können. Nur soviel sei verraten: Es wird sozusagen Pingpong mit Yahoo gespielt. Der Artikel vom 22. Juni 2019 steht als PDF zur Verfügung. Zusätzlich gibt es eine Onlineversion.
Im Sommer 2019 erscheint die zweite Auflage des Lexikons zur Informationsethik von Oliver Bendel im Springer-Verlag. Auf die „300 Keywords Informationsethik“ von 2016 folgen die „400 Keywords Informationsethik“. In beiden Fällen lautet der Untertitel „Grundwissen aus Computer-, Netz- und Neue-Medien-Ethik sowie Maschinenethik“. Sowohl die Bereiche der Informations-, Roboter- und Maschinenethik als auch die der Künstlichen Intelligenz und der Robotik wurden ausgebaut. Es finden sich nun Begriffe wie „Brain-Computer Interface“, „Gesichtserkennung“ und „Echokammer“ darin. 2014 und 2015 war das Projekt noch mit dem Wunsch gestartet, die Informationsethik weiterleben zu lassen und die Maschinenethik einem breiteren Publikum nahezubringen. Das Buch erschien 2016 und wurde seitdem etwa 40.000 Mal heruntergeladen (im Gesamten und in Teilen). In der Zwischenzeit explodierten die Themenbereiche förmlich. Eine zweite Auflage war dringend notwendig. Auf über 300 Seiten kann man sich nun einen Überblick über vergangene, gegenwärtige und zukünftige Entwicklungen verschaffen und sich Definitionen bekannter und weniger bekannter Phänomene aneignen. Weitere Informationen über www.springer.com/gp/book/9783658266639.
„The ‚Next Frontiers‘ conference will bring scientists and science fiction authors into contact. Different sciences getting into interdisciplinary conversations plus authors of fiction offering new, even revolutionary perspectives will open up the territory for new visions of the future. The conference aims at surmounting old, dysfunctional patterns of thinking. Central to this is the reality transforming potential of literature, film and other arts, and the huge contribution of fictional world building to real scientific and technological breakthroughs.“ This is the introductory text for a conference to be held in Stuttgart from 27 to 29 June 2019. The opening lecture will be given by the information and machine ethicist Prof. Dr. Oliver Bendel. He is going to talk about approaches and artifacts of machine ethics. The writer Andreas Brandhorst will then give an introduction to artificial intelligence. On the panel they both will discuss with the journalist Constantin Schnell. Further information via www.next-frontiers.de/en/.
An der Hochschule für Wirtschaft FHNW entsteht zwischen Juni 2019 und Januar 2020 das siebte Artefakt der Maschinenethik. Ideen- und Auftraggeber ist Prof. Dr. Oliver Bendel. Die Maschinenethik bringt moralische und unmoralische Maschinen hervor, derzeit als Konzepte, Simulationen oder Prototypen. Die maschinelle Moral ist überwiegend fest verankert, über Prinzipien bzw. Metaregeln sowie Regeln. Die Maschinen sind damit zu bestimmten Aktionen in der Lage, zu anderen nicht. Ein Ansatz, der eine gewisse Flexibilität verheißt, ist das Moralmenü (kurz MOME). Über dieses überträgt der Besitzer oder Benutzer seine eigene Moral, seine Vorstellungen und Überzeugungen zu Gut und Böse, seine Wertmaßstäbe, seine Verhaltensregeln auf die Maschine. Diese agiert und reagiert so, wie er dies auch tun würde, und zwar im Detail. Er trifft womöglich auf bestimmte Voreinstellungen, hat aber eine gewisse Freiheit, diese zu verändern oder neue Standardeinstellungen festzulegen. Im Projekt wird ein MOME prototypisch implementiert, das auf ein bereits bestehendes System oder ein im Projekt entwickeltes System zugreift.
Am 22. Mai 2019 fand das 23. Berliner Kolloquium der Daimler und Benz Stiftung statt. Es widmete sich Pflegerobotern, nicht nur aus den bekannten, sondern auch aus neuartigen Perspektiven. So hatte der wissenschaftliche Leiter, Prof. Dr. Oliver Bendel, zwei der bekanntesten Maschinenethiker der Welt eingeladen, Prof. Dr. Michael Anderson und Prof. Dr. Susan L. Anderson. Zusammen mit Vincent Berenz hatten sie einen Nao-Roboter mit einer Reihe von Werten programmiert, die sein Verhalten bestimmen und gleichzeitig einer Person in einer simulierten Einrichtung der Altenpflege helfen. Ein Beitrag dazu erschien vor einiger Zeit in den Proceedings of the IEEE. Zum ersten Mal trugen sie die Ergebnisse aus diesem Projekt vor einem europäischen Publikum vor, und ihre insgesamt einstündige Präsentation mit der anschließenden zwanzigminütigen Diskussion kann als eine Sternstunde der Maschinenethik gelten. Mit dabei waren weitere international bekannte Wissenschaftlerinnen und Wissenschaftler, etwa der Japanexperte Florian Coulmas. Er ging auf Artefakte aus Japan ein und relativierte die häufig gehörte Behauptung, die Japaner hielten alle Dinge für beseelt. Mehrere Medien berichteten über das Berliner Kolloquium, beispielsweise Neues Deutschland.
Claudia Brändle ist wissenschaftliche Mitarbeiterin am Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) in Karlsruhe. Prof. Dr. Armin Grunwald hat in Physik promoviert und in Philosophie habilitiert. Er ist Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) und Professor für Technikphilosophie am Institut für Philosophie des KIT. Zu seinen Schwerpunkten gehören die Theorie der Technikfolgenabschätzung, die Ethik der Technik und Konzeptionen der Nachhaltigkeit. Von den beiden Wissenschaftlern stammt der 21. Beitrag für das „Handbuch Maschinenethik“ (Herausgeber Prof. Dr. Oliver Bendel), mit dem Titel „Autonomes Fahren aus Sicht der Maschinenethik“. Veröffentlicht wurde er im Frühjahr 2019 über link.springer.com/referenceworkentry/10.1007/978-3-658-17484-2_18-1. In gedruckter Form kommt das Buch mit allen 23 Beiträgen im Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
„Der zunehmende Einsatz von Künstlicher Intelligenz (KI) ist ein wesentliches Merkmal der digitalen Transformation von Gesellschaft und Wirtschaft und hat Folgen für unser Privat- und Arbeitsleben. Die Schweiz spielt auf diesem Gebiet heute in Forschung und Entwicklung weltweit eine bedeutende Rolle.“ (Website BAKOM, 9. Mai 2019) Der Bundesrat hat laut BAKOM eine interne Arbeitsgruppe eingesetzt, die bis zum Herbst 2019 eine Übersicht über bestehende Maßnahmen, eine Einschätzung zu neuen Handlungsfeldern sowie Überlegungen zu einem transparenten und verantwortungsvollen Einsatz von künstlicher Intelligenz erarbeitet. Dazu gehört auch, Experten zu konsultieren und ihre Positionen öffentlich zu machen. „Wir fragen bei Prof. Dr. Oliver Bendel nach, was Ethik und künstliche Intelligenz miteinander zu tun haben.“ Das Interview mit ihm ist am 9. Mai 2019 auf der Plattform Dialog Digitale Schweiz erschienen. Es kann über www.digitaldialog.swiss/de/dialog/kuenstliche-intelligenz-als-disziplin-zwischen-ingenieurskunst-und-kunst abgerufen werden.
Abb.: Das BAKOM ist u.a. zuständig für Kommunikation
„Maschinenethik ist eine junge Disziplin. Sie beschäftigt sich mit maschineller Moral. Dabei bleibt sie nicht beim Theoretischen stehen, sondern geht ins Praktische. Zusammen mit Künstlicher Intelligenz und Robotik bringt sie moralische und unmoralische Maschinen hervor.“ Mit diesen Worten beginnt die von Prof. Dr. Oliver Bendel verfasste Einleitung zum „Handbuch Maschinenethik“, die im Mai 2019 erschienen ist. Sie führt in grundsätzliche Aspekte der Maschinenethik aus persönlicher und fachlicher Sicht ein. Die Kapitel des Handbuchs werden genannt und in ihren Inhalten umrissen. Das „Handbuch Maschinenethik“ (Springer VS) liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge werden seit 2017 laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Am 21. Februar 2019 traf sich Dr. Norbert Lossau mit Prof. Dr. Oliver Bendel, dem Wirtschaftsinformatiker, Informations- und Maschinenethiker aus Zürich, im ehrwürdigen Journalistenclub der Welt in der Axel-Springer-Straße in Berlin. Es entspann sich ein langes Gespräch über die Maschinenethik und ihre Anwendungsfelder. Die Maschinenethik erforscht die maschinelle Moral und bringt moralische Maschinen hervor. Die eine wie die andere Bezeichnung, „maschinelle Moral“ wie „moralische Maschine“, ist ein Terminus technicus. Die heutige maschinelle Moral hat mit der menschlichen einfach bestimmte Aspekte gemein. So kann eine moralische Maschine beispielsweise moralische Regeln befolgen. Intuition oder Empathie hat sie nicht, genauso wenig Bewusstsein oder gar Selbstbewusstsein. Die Maschinenethik richtet sich auf Serviceroboter, Kampfroboter und Chatbots, um nur ein paar Beispiele zu nennen. Auch Sexroboter und Liebespuppen erregen ihr Interesse, und natürlich kam man auch auf dieses Thema zu sprechen. Das Interview ist am 26./27. April 2019 in der Welt erschienen, in gedruckter und elektronischer Form, in deutscher und englischer Sprache. Die deutsche Onlineversion kann über www.welt.de/wissenschaft/plus192492361/Maschinenethik-An-diese-Spielregeln-sollten-sich-Sexpuppen-halten.html abgerufen werden.
Im Rahmen der Vadian Lectures in St. Gallen betrachtet Oliver Bendel am 9. Mai 2019 ab 18 Uhr „Serviceroboter aus Sicht von Informations- und Maschinenethik“. Aus der Beschreibung auf der Website: „Serviceroboter verbreiten sich immer mehr. Man findet sie in Einkaufszentren, an Hotelrezeptionen, in Pflege und Therapie. Oliver Bendel stellt in seinem Vortrag einige von ihnen vor und wirft Fragen aus den Perspektiven von Informations- und Maschinenethik auf. Es geht nicht nur darum, wie wir die Serviceroboter einordnen, sondern auch darum, wie wir sie entwickeln, wie wir ihr Verhalten so bestimmen, dass wir es als angenehm und angemessen empfinden.“ Die Veranstaltungsreihe wird durch das Zentrum für Ethik und Nachhaltigkeit der FHS St. Gallen initiiert und von der St. Galler Kantonalbank unterstützt. Die Veranstaltung ist kostenfrei, die Platzzahl begrenzt. Die Anmeldung erfolgt über das Anmeldeformular oder per E-Mail an zen@fhsg.ch.
Die Maschinenethik arbeitet mit Künstlicher Intelligenz und Robotik zusammen. Sie bringt maschinelle Moral hervor und untersucht sie. Ausgangspunkt sind teilautonome und autonome Systeme, etwa selbstständig fahrende Autos, Serviceroboter, Kampfroboter und Chatbots. Das „Handbuch Maschinenethik“, herausgegeben von Prof. Dr. Oliver Bendel, liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge des Handbuchs werden seit 2017 laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch mit allen 22 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Am 8. April 2019 startet an der Hochschule für Wirtschaft FHNW das E-MOMA-Projekt. „E“ steht für „Enhancing“, „MOMA“ für „Moral Machine“. Wenig verfolgt wird in der Maschinenethik bisher der Ansatz, dass die Maschine selbst die Moral weiterentwickelt, etwa indem sie die Regeln adaptiert oder priorisiert, mit Hilfe von Machine Learning, speziell auch Deep Learning. Michael Anderson, Susan Leigh Anderson und Vincent Berenz haben einen NAO-Roboter mit Methoden des Machine Learning moralisch erweitert. Ein Beitrag dazu erschien kürzlich in den Proceedings of the IEEE. Im E-MOMA-Projekt soll eine eigene Implementierung entstehen, die diese Ansätze fortführt. Dabei können z.B. neuronale Netzwerke verwendet werden. Es bietet sich die Implementierung eines Chatbots an, aber auch die Modifizierung von Hardwarerobotern ist möglich. Letztlich geht es darum, eine moralische Maschine in die Welt zu bringen, die ihre Moral anpasst und weiterentwickelt, je nach Situation bzw. je nach eingegebenen Daten. Es ist das fünfte Artefakt der Maschinenethik, das nach Ideen, Skizzen und Vorgaben von Prof. Dr. Oliver Bendel entsteht. Das erste war der GOODBOT von 2013.
Das Wissenschaftsjahr 2019 widmet sich der Künstlichen Intelligenz. In diesem Kontext führte Vision Kino ein Interview mit dem Informations- und Maschinenethiker Oliver Bendel. Zuerst wurde er danach gefragt, welche Themen im Zusammenspiel von Künstlicher Intelligenz und Ethik er aktuell für besonders wichtig hält. Er antwortete: „In der Informationsethik ist das Thema Überwachung im Augenblick sehr zentral, hier insbesondere Gesichts- und Emotionserkennung. Sehr problematisch wird es, wenn das mit der so genannten Physiognomik kombiniert wird, einer Pseudowissenschaft. Beispielsweise will man aus Gesichtsmerkmalen und -ausdrücken kriminelle Absichten ableiten.“ Später ging es dann um Fragen der Verantwortung. Nach Oliver Bendel kann ein Computer oder Roboter keine Verantwortung tragen, höchstens in einem sehr rudimentären Sinne, indem er eine Aufgabe übernimmt. Es ergibt nach ihm auch keinen Sinn, ihn in moralischer Hinsicht zur Verantwortung zu ziehen. Das Interview kann hier nachgelesen werden.
Sollten wir Roboter köpfen oder anderweitig bestrafen? Im Moment sicherlich nicht. Im „Handbuch Maschinenethik“, seit 2016 von Prof. Dr. Oliver Bendel herausgegeben, ist der 18. Beitrag erschienen, mit dem Titel „Maschinenethik und strafrechtliche Verantwortlichkeit“. Autorin ist Dr. Monika Simmler. Aus dem Abstract: „Handlungen sind zunehmend das Resultat eines Zusammenwirkens von Mensch und (teil-)autonomer Maschine. Das Verhalten dieser Maschinen lässt sich weder dem Menschen noch der Technik selbst ohne Weiteres als Handlung zurechnen. Dieser Herausforderung für die strafrechtliche Verantwortungszuschreibung nimmt sich der vorliegende Beitrag an. Es wird festgestellt, dass Maschinen keine Strafrechtssubjekte darstellen, was allerdings nicht für alle Zeiten gelten muss. Insbesondere die Emergenz moralischer Handlungsfähigkeit von Technik könnte zu einem Wandel beitragen. Bis dahin steht jedoch die Verantwortlichkeit der Menschen im Zentrum. Sie sind gefordert, adäquate Sorgfalt walten zu lassen. Dabei kann gerade das Anliegen der Maschinenethik – die Moralimplementation – zur eigentlichen Sorgfaltspflicht werden. Die Disziplin entfaltet damit Relevanz für das Strafrecht, hängen doch maschinelle Moral, Handlungsträgerschaft und Verantwortung eng zusammen.“ Die letzten vier Beiträge erscheinen in den nächsten Wochen. Alle bisherigen sind über link.springer.com/referencework/10.1007/978-3-658-17484-2 verfügbar.
