Serviceroboter aus ethischer Sicht

Im Rahmen der Vadian Lectures in St. Gallen betrachtet Oliver Bendel am 9. Mai 2019 ab 18 Uhr „Serviceroboter aus Sicht von Informations- und Maschinenethik“. Aus der Beschreibung auf der Website: „Serviceroboter verbreiten sich immer mehr. Man findet sie in Einkaufszentren, an Hotelrezeptionen, in Pflege und Therapie. Oliver Bendel stellt in seinem Vortrag einige von ihnen vor und wirft Fragen aus den Perspektiven von Informations- und Maschinenethik auf. Es geht nicht nur darum, wie wir die Serviceroboter einordnen, sondern auch darum, wie wir sie entwickeln, wie wir ihr Verhalten so bestimmen, dass wir es als angenehm und angemessen empfinden.“ Die Veranstaltungsreihe wird durch das Zentrum für Ethik und Nachhaltigkeit der FHS St. Gallen initiiert und von der St. Galler Kantonalbank unterstützt. Die Veranstaltung ist kostenfrei, die Platzzahl begrenzt. Die Anmeldung erfolgt über das Anmeldeformular oder per E-Mail an zen@fhsg.ch.

Maschinenethik und Robotik

Prof. Dr. Julian Nida-Rümelin wuchs nach eigenen Angaben in einer Künstlerfamilie auf. Er studierte Philosophie, Physik, Mathematik und Politikwissenschaft. Er ist seit 2004 Professor für Philosophie und politische Theorie an der Ludwig-Maximilians-Universität München. Zuvor lehrte er an den Universitäten Göttingen (1993 – 2003) und Tübingen (1991 – 1993). Seit 2002 ist er Honorarprofessor an der Humboldt-Universität zu Berlin. PD Dr. Fiorella Battaglia promovierte 2004 am Institut für Philosophie der Universität Neapel. Seit 2013 arbeitet sie am Lehrstuhl IV der Ludwig-Maximilians-Universität München. 2016 habilitierte sie zum Thema „Der normative Begriff der Natur des Menschen“. Von den beiden Wissenschaftlern stammt der 19. Beitrag für das „Handbuch Maschinenethik“ (Herausgeber Prof. Dr. Oliver Bendel), mit dem Titel „Maschinenethik und Robotik“. Veröffentlicht wurde er über link.springer.com/referencework/10.1007/978-3-658-17484-2. In gedruckter Form kommt das Buch mit allen 22 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.

Abb.: Eine Roboterhand bzw. Handprothese

Workshop for a Free and Beautiful World


Dr. Mathilde Noual (Freie Universität Berlin) and Prof. Dr. Oliver Bendel (School of Business FHNW) are organizing a workshop on the social implications of artificial intelligence (AI) and robotics. They are looking for constructive proposals of technological and conceptual utopias, of counter-cultures and counter-systems offering strategies for preserving privacy, individuality, and freedom in a technological world, for going beyond the AI’s present limitations and frustrations, and for emphasising the beauty of the world and of humans’ way of accessing it (with high degree of nuance, contextuality, subjectivity, adaptability and acutality). The tracks are: The territory today: core limitations and prospects of AI; technologies and approaches against surveillance technologies (examples: the virtual burka; the hacked social credit system); technologies and approaches for an intact environment (examples: AI and robots for clean waters and seas; animals with weapons for self-defence); technologies and approaches for a new policy (examples: AI as a president); technologies and approaches for shared knowledge and education (example: open research solutions). The workshop will take place on the 29th and 30th of June 2019 in Berlin, at the Weizenbaum Institute. The CfP is addressed exclusively to the invited persons.

Fig.: Free and beautiful

Das Buch zur Maschinenethik

Die Maschinenethik arbeitet mit Künstlicher Intelligenz und Robotik zusammen. Sie bringt maschinelle Moral hervor und untersucht sie. Ausgangspunkt sind teilautonome und autonome Systeme, etwa selbstständig fahrende Autos, Serviceroboter, Kampfroboter und Chatbots. Das „Handbuch Maschinenethik“, herausgegeben von Prof. Dr. Oliver Bendel, liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge des Handbuchs erscheinen seit 2017 und werden laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch mit allen 22 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.

Das fünfte Artefakt der Maschinenethik

Am 8. April 2019 startet an der Hochschule für Wirtschaft FHNW das E-MOMA-Projekt. „E“ steht für „Enhancing“ oder „Enhanced“, „MOMA“ für „Moral Machine“. Wenig verfolgt wird in der Maschinenethik bisher der Ansatz, dass die Maschine selbst die Moral weiterentwickelt, etwa indem sie die Regeln adaptiert oder priorisiert, mit Hilfe von Machine Learning, speziell auch Deep Learning. Michael Anderson, Susan Leigh Anderson und Vincent Berenz haben einen NAO-Roboter mit Methoden des Machine Learning moralisch erweitert. Ein Beitrag dazu erschien kürzlich in den Proceedings of the IEEE. Im E-MOMA-Projekt soll eine eigene Implementierung entstehen, die diese Ansätze fortführt. Dabei können z.B. neuronale Netzwerke verwendet werden. Es bietet sich die Implementierung eines Chatbots an, aber auch die Modifizierung von Hardwarerobotern ist möglich. Letztlich geht es darum, eine moralische Maschine in die Welt zu bringen, die ihre Moral anpasst und weiterentwickelt, je nach Situation bzw. je nach eingegebenen Daten. Es ist das fünfte Artefakt der Maschinenethik, das nach Ideen, Skizzen und Vorgaben von Prof. Dr. Oliver Bendel entsteht.

Abb.: Ein Vorbild ist der Nao der Andersons

Die Frage der Verantwortung

Das Wissenschaftsjahr 2019 widmet sich der Künstlichen Intelligenz. In diesem Kontext führte Vision Kino ein Interview mit dem Informations- und Maschinenethiker Oliver Bendel. Zuerst wurde er danach gefragt, welche Themen im Zusammenspiel von Künstlicher Intelligenz und Ethik er aktuell für besonders wichtig hält. Er antwortete: „In der Informationsethik ist das Thema Überwachung im Augenblick sehr zentral, hier insbesondere Gesichts- und Emotionserkennung. Sehr problematisch wird es, wenn das mit der so genannten Physiognomik kombiniert wird, einer Pseudowissenschaft. Beispielsweise will man aus Gesichtsmerkmalen und -ausdrücken kriminelle Absichten ableiten.“ Später ging es dann um Fragen der Verantwortung. Nach Oliver Bendel kann ein Computer oder Roboter keine Verantwortung tragen, höchstens in einem sehr rudimentären Sinne, indem er eine Aufgabe übernimmt. Es ergibt nach ihm auch keinen Sinn, ihn in moralischer Hinsicht zur Verantwortung zu ziehen. Das Interview kann über wissenschaftsjahr-2019.visionkino.de/thematisches-unterrichtsmodul-zum-thema-kuenstliche-intelligenz/arbeitsmaterialien-zum-film/b-13-maschinen-koennen-keine-verantwortung-tragen-interview-mit-oliver-bendel/ nachgelesen werden.

Abb.: Können Roboter Verantwortung tragen?

Sollten wir Roboter köpfen?

Sollten wir Roboter köpfen oder anderweitig bestrafen? Im Moment sicherlich nicht. Im „Handbuch Maschinenethik“, seit 2016 von Prof. Dr. Oliver Bendel herausgegeben, ist der 18. Beitrag erschienen, mit dem Titel „Maschinenethik und strafrechtliche Verantwortlichkeit“. Autorin ist Dr. Monika Simmler. Aus dem Abstract: „Handlungen sind zunehmend das Resultat eines Zusammenwirkens von Mensch und (teil-)autonomer Maschine. Das Verhalten dieser Maschinen lässt sich weder dem Menschen noch der Technik selbst ohne Weiteres als Handlung zurechnen. Dieser Herausforderung für die strafrechtliche Verantwortungszuschreibung nimmt sich der vorliegende Beitrag an. Es wird festgestellt, dass Maschinen keine Strafrechtssubjekte darstellen, was allerdings nicht für alle Zeiten gelten muss. Insbesondere die Emergenz moralischer Handlungsfähigkeit von Technik könnte zu einem Wandel beitragen. Bis dahin steht jedoch die Verantwortlichkeit der Menschen im Zentrum. Sie sind gefordert, adäquate Sorgfalt walten zu lassen. Dabei kann gerade das Anliegen der Maschinenethik – die Moralimplementation – zur eigentlichen Sorgfaltspflicht werden. Die Disziplin entfaltet damit Relevanz für das Strafrecht, hängen doch maschinelle Moral, Handlungsträgerschaft und Verantwortung eng zusammen.“ Die letzten vier Beiträge erscheinen in den nächsten Wochen. Alle bisherigen sind über link.springer.com/referencework/10.1007/978-3-658-17484-2 verfügbar.

Abb.: Sollten wir Roboter köpfen?

CHI Workshop on Conversational Agents

„In the last five years, work on software that interacts with people via typed or spoken natural language, called chatbots, intelligent assistants, social bots, virtual companions, non-human players, and so on, increased dramatically. Chatbots burst into prominence in 2016. Then came a wave of research, more development, and some use. The time is right to assess what we have learned from endeavoring to build conversational user interfaces that simulate quasi-human partners engaged in real conversations with real people.“ (Website Conversational Agents) The CHI 2019 workshop „Conversational Agents: Acting on the Wave of Research and Development“ (Glasgow, 5 May) brings together people „who developed or studied various conversational agents, to explore themes that include what works (and hasn’t) in home, education, healthcare, and work settings, what we have learned from this about people and their activities, and social or ethical possibilities for good or risk“ (Website Conversational Agents). Oliver Bendel will present three chatbots developed between 2013 and 2018 in the discipline of machine ethics, GOODBOT, LIEBOT and BESTBOT. More information via convagents.org/.

Fig.: The BESTBOT will be presented

KI & Autonomes Fahren

„Die Digitalisierung hat längst alle Bereiche unseres Lebens durchdrungen und macht auch vor dem menschlichen Gehirn nicht Halt. Die neuen Möglichkeiten bringen Visionen von großen Entwicklungen in Wirtschaft, Forschung und natürlich auch der Hirnforschung mit sich, gleichzeitig gibt es weitreichende Diskussionen, ob alle möglich erscheinenden Entwicklungen ethisch vertretbar sind. Neuronale Netze, künstliche Intelligenz (KI), autonome Systeme – die Digitalisierung ist angewiesen auf neurowissenschaftliche Erkenntnisse. Neurowissenschaftler wiederum versprechen sich neue Wege für Forschung und Behandlung durch die rasanten Fortschritte der Digitalisierung.“ (Website GHS) Gemeinsam mit der Frankfurter Allgemeinen Zeitung veranstaltet die Gemeinnützige Hertie-Stiftung diese Reihe, die laut Eigenaussage in Übersichtsvorträgen, Podiumsdiskussionen und Gesprächen in hochkarätiger Besetzung das „Gehirn der Zukunft“ umkreist. Bei der Veranstaltung „KI & Autonomes Fahren“ am 13. Mai 2019 tragen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) über automatisches und autonomes Fahren vor und diskutieren auf dem Podium miteinander. Weitere Informationen über www.ghst.de/gehirn/erforschen/veranstaltungen/#c11097.

Abb.: Welche ethischen Probleme wirft autonomes Fahren auf?

Pflegerobotik im Parlamentsfernsehen

Das öffentliche Fachgespräch zu Pflegerobotern am 20. Februar 2019 im Deutschen Bundestag zog zahlreiche Besucher an. Auch Politiker von SPD, Bündnis 90/Die Grünen und FDP waren durchgehend anwesend. Robotikerin Dr. Birgit Graf sprach über „Potenziale und Grenzen der Robotik für die Pflege – Stand der Technik und Anwendung, Herausforderungen für Forschung und Entwicklung“, Pflegewissenschaftler Prof. Dr. Manfred Hülsken-Giesler nahm eine „Einordnung und Bewertung aus Sicht der Pflegewissenschaft“ vor. „Ethisch-normative Herausforderungen der Pflegerobotik“ war der Titel des Vortrags von Prof. Dr. Oliver Bendel. Der Informations- und Maschinenethiker stellte Prototypen und Produkte vor und vor diesem Hintergrund verschiedene Überlegungen aus Sicht von Informationsethik und Maschinenethik an. Auch auf den moralisierten Nao von Michael Anderson, Susan L. Anderson und Vincent Berenz ging er ein. Das Programm kann hier nachgelesen, ein Bericht hier abgerufen werden. Das Parlamentsfernsehen strahlte die Aufzeichnung des Fachgesprächs am 22. Februar 2019 von 9.00 bis 11.45 Uhr aus.

Abb.: Kamera läuft