„Das automatisierte Fahren besitzt das Potenzial, den Straßenverkehr erheblich sicherer zu machen. Es wirft allerdings eine Vielzahl von ethischen und juristischen Fragen auf, die einer weiteren erfolgreichen Markteinführung der neuen Systeme im Wege stehen könnten, wenn sie nicht gelöst oder zumindest geklärt werden. Das Spektrum reicht von Fragen der zivil- und strafrechtlichen Verantwortlichkeit über den Datenschutz bis hin zu Grundlagenproblemen, bei denen sich rechtliche und moralische Perspektiven überschneiden. Dazu gehören etwa Leben-gegen-Leben-Entscheidungen, aber auch die Frage, welchen Grad an Risiko eine Gesellschaft im Straßenverkehr zu akzeptieren bereit ist. Außerdem ist zu klären, ob der Staat über die Technologien des automatisierten und vernetzten Fahrens nicht wesentlich stärker in den Straßenverkehr eingreifen sollte, um die Gefahr von Unfällen zu minimieren.“ (Abstract) In seinem Beitrag für das „Handbuch Maschinenethik“ widmet sich Eric Hilgendorf als einer der führenden Experten für Roboterrecht dem automatisierten und autonomen Fahren. Der Informations- und Maschinenethiker Oliver Bendel ist Herausgeber des Buchs, das im Oktober 2019 bei Springer VS erschienen ist.
Raffael Schuppisser, stellvertretender Chefredakteur und Leiter Kultur, Leben & Wissen von az Nordwestschweiz bzw. Schweiz am Wochenende, sprach Ende Oktober 2019 mit Oliver Bendel über Maschinenethik. Das Ergebnis wurde am 3. Dezember 2019 in zahlreichen Schweizer Medien publiziert, darunter Aargauer Zeitung und Basellandschaftliche Zeitung. In der Limmattaler Zeitung wurde die kritische Haltung des Informations- und Maschinenethikers zu autonomen Autos herausgestellt. Oliver Bendel sieht diese vor allem auf der Autobahn, nicht in der Stadt. Er rät dazu, sie nicht über Leben und Tod von Menschen entscheiden zu lassen. Moralisieren kann man sie aber mit Blick auf Tiere. In der Neuen Luzerner Zeitung wurde thematisiert, dass Oliver Bendel gegenwärtige moralische Maschinen als kleine Fundamentalisten ansieht – weil sie sich sklavisch an Regeln halten. Dies ist keinesfalls zu ihrem Nachteil und auch nicht zum Nachteil der Umwelt, in der sie sich bewegen – was man bei menschlichen Fundamentalisten nicht gerade behaupten kann. In Watson wird auf die Rolle der Maschinenethik bei Sexrobotern hingewiesen. Die Disziplin kann dabei mithelfen, diese im Sinne der Benutzer zu gestalten. Vorschläge dazu hat Oliver Bendel wiederholt gemacht, etwa 2016 auf der Konferenz „Love and Sex with Robots“ am Goldsmiths in London. Der Artikel in Watson kann über www.watson.ch/!197665855? abgerufen werden.
Abb.: Moralische Maschinen können kleine Fundamentalisten sein
„‚Smarte‘ Technologien halten Einzug in unseren Alltag, mit allen Chancen, Risiken und Nebenwirkungen. Häufig sind wir uns gar nicht mehr bewusst, wo im Hintergrund bereits entsprechende Systeme agieren oder welche Effekte das zum Beispiel auf die Stabilität des Stromnetzes hat. Einem besonderen Bereich der smarten Unterstützung widmete sich das 23. Kolloquium der Daimler und Benz Stiftung am 22. Mai 2019 in Berlin: ‚Roboter in der Pflege – Wer hilft uns, wenn wir hilflos sind?'“ (Newsletter Spektrum, 25. November 2019) Eine Auswahl dieser Beiträge sowie zu Smart Living findet man in dem neuen Spektrum Kompakt. Dieses ist seit dem 25. November 2019 online erhältlich. Die Beiträge stammen von Prof. Dr. Oliver Bendel, dem wissenschaftlichen Leiter des 23. Berliner Kolloquiums, Prof. Dr. Susan L. Anderson, einer der bekanntesten Maschinenethikerinnen, und den Pflegeexperten Dr. Karsten Schwarz und Prof. Dr. Patrick Jahn. Das Heft kann drei Monate lang kostenlos über www.spektrum.de/pdf/spektrum-kompakt-smart-living/1675504 heruntergeladen werden. Ohne zeitliche Beschränkung steht „Weder Heilsbringer noch Vorboten des Weltuntergangs“ von Oliver Bendel hier kostenlos zur Verfügung.
„Die Digitalisierung bedeutet für die verschiedensten Branchen Veränderungen. So auch für die Porno- und Sexindustrie. Wir haben uns gefragt, was das für die Menschen bedeutet, die in diesem Bereich arbeiten, und wie sie mit diesen Entwicklungen umgehen. Darum haben wir mit Aviva Rocks gesprochen, Pornodarstellerin und Cam-Girl, die uns über ihre Erfahrungen berichtete. Gleichzeitig verändert sich mit der Branche auch der Konsum. Oliver Bendel ist Wirtschaftsinformatiker und Technikphilosoph und erzählt, warum es wichtig ist, auch einer virtuellen Fantasie Grenzen zu setzen.“ (Tsüri.ch, 19. November 2019) Mit diesen Worten wird ein Video eingeleitet, das bei Tsüri.ch erschienen ist, dem audiovisuellen Zürcher Magazin, und bei Kapaw, einem Genfer Start-up. Adelina Gashi und Anna Kreidler trafen Oliver Bendel im Impact Hub Zürich – Colab. Im obersten Stock machten sie es sich mit Kamera und Mikrofon gemütlich und sprachen über Liebespuppen, Sexroboter und VR-Pornos. Hier geht es direkt zum Beitrag auf Tsüri.ch.
„Mit dem zunehmenden Einsatz von autonomen Maschinen stellen sich vermehrt Fragen nach der Verantwortung für Schäden, die durch derartige Geräte verursacht wurden. Im Recht hat die Haftung für maschinell verursachte Schäden eine lange Tradition. Man unterscheidet dabei Zivil- und Strafrecht. Während es im Zivilrecht vor allem um den ökonomischen Ausgleich entstandener Schäden geht, legt das Strafrecht fest, unter welchen Voraussetzungen der Schädiger bestraft werden kann. Das deutsche Recht stellt sowohl im Zivil- als auch im Strafrecht ein reichhaltiges und ausdifferenziertes Instrumentarium bereit, um in jedem Einzelfall angemessen reagieren zu können.“ (Abstract) In seinem Beitrag für das „Handbuch Maschinenethik“ mit dem Titel „Zivil- und strafrechtliche Haftung für von Maschinen verursachte Schäden“ geht Eric Hilgendorf der Frage nach, wie sich die Haftung bei Aktionen von Robotern und künstlicher Intelligenz gestaltet. Als einer der führenden Experten für Roboterrecht kann er darauf ebenso kenntnisreiche wie überzeugende Antworten geben. Der Informations- und Maschinenethiker Oliver Bendel ist Herausgeber des Buchs, das im Oktober 2019 bei Springer VS erschienen ist.
Nach drei Jahren ist ein ambitioniertes Projekt an sein vorläufiges Ende gekommen: Das „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel) ist Mitte Oktober 2019 bei Springer erschienen. Es versammelt Beiträge der führenden Expertinnen und Experten in den Bereichen Maschinenethik, Roboterethik, Technikethik, Technikphilosophie sowie Roboterrecht. Im Moment kann es hier heruntergeladen werden: link.springer.com/book/10.1007/978-3-658-17483-5 … Es ist ein umfangreiches, ein vorzeigenswertes, ein einzigartiges Buch geworden. In gewisser Weise bildet es ein Gegenstück zur amerikanischen Forschung, die die Disziplin dominiert: Die meisten Autorinnen und Autoren stammen aus Europa und Asien. Der Herausgeber, der sich seit 20 Jahren mit Informations-, Roboter- und Maschinenethik beschäftigt und seit acht Jahren intensiv zur Maschinenethik forscht, ist voller Hoffnung, dass das Buch seinen Platz in der Standardliteratur zur Maschinenethik finden wird, wie „Moral Machines“ (2009) von Wendell Wallach und Colin Allen und „Machine Ethics“ (2011) von Michael und Susan Leigh Anderson, und wie „Programming Machine Ethics“ (2016) von Luís Moniz Pereira (mit Ari Saptawijaya) und „Grundfragen der Maschinenethik“ (2018) von Catrin Misselhorn – die beiden haben wesentlich zum „Handbuch Maschinenethik“ beigetragen. In den nächsten Tagen wird das Buch mit seinen 23 Kapiteln und 469 Seiten zum Verkauf über die Springer-Website bereitgestellt und auch als Printversion angeboten.
Abb.: Autonomes Fahren ist eines der Themen im Handbuch
Kevin Liggieri und Oliver Müller sind die Herausgeber von „Mensch-Maschine-Interaktion“, einem „Handbuch zu Geschichte – Kultur – Ethik“, wie der Untertitel verrät. Aus der Verlagsinfo: „Das Handbuch bietet einen Überblick über die technischen, historischen, sozialen, medialen, kulturwissenschaftlichen und technikphilosophischen Dimensionen verschiedener Typen von Mensch-Maschine-Interaktion sowie über deren ethische Implikationen. Dabei werden zum einen wissenshistorische Analysen der Diskurse in Philosophie, Literatur und Technik sowie ihrer medialen, apparativen und literalen Praktiken von ca. 1870 bis in die Gegenwart verfolgt (Historischer Teil). Zum anderen wird das komplexe Verhältnis von Menschen und Maschinen anhand von zentralen Begriffs- und Problemfeldern dargestellt und kritisch befragt (Systematischer Teil).“ Der Beitrag von Oliver Bendel trägt den Titel „Die Maschinenethik als neues interdisziplinäres Forschungsfeld“. Das Buch ist bei Metzler erschienen und kann über www.springer.com/de/book/9783476026804 bestellt werden.
Abb.: Auch der Terminator ist eine Inspiration für die Maschinenethik
„Techniktrends, die echte Probleme lösen“ – so der Titel eines Artikels in der Zeitschrift Chip 10/2019. Im Teaser heißt es: „Dieser Herbst bringt bahnbrechende Innovationen, deren Nutzen sich erst in den kommenden Jahren erweisen wird, aber auch Weiterentwicklungen, die bestehende Hürden beseitigen“. Erwähnt wird u.a. der Home Care Robot von Medisana, zudem LADYBIRD, der tierfreundliche Saugroboter, der 2013 von Oliver Bendel zum ersten Mal erwähnt, 2014 von ihm in einer Designstudie und 2017 an der Hochschule für Wirtschaft FHNW prototypisch umgesetzt wurde. Wenn der Roboter marienkäferähnliche Strukturen erkannte, stellte er seine Arbeit ein und informierte den Benutzer. Ein Nachfolgeprojekt läuft derzeit an der Hochschule für Wirtschaft FHNW unter der Leitung von Oliver Bendel. HAPPY HEDGEHOG, der Prototyp eines tierfreundlichen Mähroboters, soll Igel erkennen und verschonen. Gegenwärtig werden viele Tiere von solchen Geräten getötet, oft in der Nacht. Die Projekte sind innerhalb der Maschinenethik verortet und haben Bezüge zur Tier-Maschine-Interaktion.
Abb.: Auch fühlbare Icons sind ein Thema in der Zeitschrift
Das Colloquium Fundamentale ist eine beliebte Vortragsreihe am renommierten KIT. Den Schlusspunkt im Sommersemester 2019 setzte Prof. Dr. Oliver Bendel aus Zürich mit seinen „Überlegungen zu künstlicher Intelligenz und maschineller Moral“. Die Videoaufzeichnung ist seit 6. September 2019 verfügbar. Der Informations- und Maschinenethiker stellte zunächst die Frage, ob Ethik eine Wissenschaft ist, und gab die Antwort: Sie ist es, wenn sie wissenschaftliche Methoden benutzt. Wenn sie wiederum eine Wissenschaft sei, sei ihre Aufgabe nicht, das Gute in die Welt zu bringen, sondern das Gute und Böse zu untersuchen. Ihre Aufgabe sei die jeder Wissenschaft, nämlich Erkenntnisgewinn und -vermittlung. Danach präsentierte Oliver Bendel mehrere Serviceroboter, Chatbots und Sprachassistenten und diskutierte sie aus den Perspektiven von Informations- und Maschinenethik. Immer wieder ging er auf eigene Projekte an seiner Hochschule ein. Dort entsteht bis Ende des Jahres das siebte Artefakt der Maschinenethik, die siebte moralische Maschine, um diesen Terminus technicus zu benutzen. Er schloss an seine Gedanken vom Anfang des Vortrags an: Die Maschinenethik dürfe nicht nur moralische, sondern auch unmoralische Maschinen hervorbringen, um diese zu erforschen. Manche von ihnen sollte man aber besser im Labor lassen. Am Ende erörterte er die Möglichkeit einer Supermoral (Supermorality), die die Moral der Menschen hinter sich lässt, wie die Superintelligenz (Superintelligence) unsere Intelligenz. Er anerkannte die Vorteile, die eine solche mit sich brächte, auch angesichts des Leids, das wir weltweit verursacht haben, strich aber vor allem mögliche Nachteile heraus.
Oliver Bendel spricht am 13. Oktober 2019 beim 21. Turmdersinne-Symposium über „Das Verschmelzen von maschineller und menschlicher Moral“. Die Maschinenethik bringt moralische Maschinen hervor. Man gibt ihnen moralische Regeln vor, an die sie sich halten, oder lässt sie solche entwickeln und abändern. Was passiert, wenn der Mensch seine Verantwortung abgibt und wenn die maschinelle Moral von der menschlichen abweicht, etwa indem sie mehr Moralität aufweist oder sich zur Supermoral entwickelt (die die Schwester der Superintelligenz wäre)? Hier sind auch Informations- und Roboterethik gefragt. Das Konzept des Cyborgs ist bekannt: Ein Organismus wird mit einer technischen Struktur erweitert. Aber was ist, wenn wir mit einer moralischen Maschine verschmelzen? Verbessert sich unsere Moral oder verlieren wir diese in gewisser Hinsicht? Ein zukünftiges Konzept könnte der umgekehrte Cyborg sein: Eine technische Struktur wird mit einem Organismus oder einem Organ – etwa einem menschlichen Gehirn – angereichert. Dies könnte ein Weg sein, den Tod zu besiegen. Aber wie entfaltet sich in diesem Konstrukt die Moral? Entsteht ein moralisch neuartiger Mensch oder eine neuartige moralische Maschine? Maschinen-, Informations- und Roboterethik sind gefordert.
Abb.: Superintelligenz und Supermoral als Supergirls
CONVERSATIONS 201 is a full-day workshop on chatbot research. It will take place on November 19, 2019 at the University of Amsterdam. From the description: „Chatbots are conversational agents which allow the user access to information and services though natural language dialogue, through text or voice. … Research is crucial in helping realize the potential of chatbots as a means of help and support, information and entertainment, social interaction and relationships. The CONVERSATIONS workshop contributes to this endeavour by providing a cross-disciplinary arena for knowledge exchange by researchers with an interest in chatbots.“ The topics of interest that may be explored in the papers and at the workshop include humanlike chatbots, networks of users and chatbots, trustworthy chatbot design and privacy and ethical issues in chatbot design and implementation. The submission deadline for CONVERSATIONS 2019 was extended to September 10. More information via conversations2019.wordpress.com/.
Robophilosophy or robot philosophy is a field of philosophy that deals with robots (hardware and software robots) as well as with enhancement options such as artificial intelligence. It is not only about the practice and history of development, but also the history of ideas, starting with the works of Homer and Ovid up to science fiction books and movies. Disciplines such as epistemology, ontology, aesthetics and ethics, including information and machine ethics, are involved. The new platform robophilosophy.com was founded in July 2019 by Oliver Bendel. He invited several authors to write with him about robophilosophy, robot law, information ethics, machine ethics, robotics and artificial intelligence. All of them have a relevant background. Oliver Bendel studied philosophy as well as information science and made his doctoral thesis about anthropomorphic software agents. He has been researching in the fields of information ethics and machine ethics for years.
Parallel to his work in machine ethics, Oliver Bendel is trying to establish animal-machine interaction (AMI) as a discipline. He was very impressed by Clara Mancini’s paper „Animal-Computer Interaction (ACI): A Manifesto“ on animal-computer interaction. In his AMI research, he mainly investigates robots, gadgets, and devices and their behavior towards animals. There are not only moral questions, but also questions concerning the design of outer appearance and the ability to speak. The general background for his considerations is that more and more machines and animals meet in closed, half-open and open worlds. He believes that semi-autonomous and autonomous systems should have rules so that they treat animals well. They should not disturb, frighten, injure or kill them. Examples are toy robots, domestic robots, service robots in shopping malls and agricultural robots. Jackie Snow, who writes for New York Times, National Geographic, and Wall Street Journal, has talked to several experts about the topic. In an article for Fast Company, she quotes the ethicists Oliver Bendel and Peter Singer. Clara Mancini is also expressing her point of view. The article with the title „AI’s next ethical challenge: how to treat animals“ can be downloaded here.
The article „Hologram Girl“ by Oliver Bendel deals first of all with the current and future technical possibilities of projecting three-dimensional human shapes into space or into vessels. Then examples for holograms from literature and film are mentioned, from the fictionality of past and present. Furthermore, the reality of the present and the future of holograms is included, i.e. what technicians and scientists all over the world are trying to achieve, in eager efforts to close the enormous gap between the imagined and the actual. A very specific aspect is of interest here, namely the idea that holograms serve us as objects of desire, that they step alongside love dolls and sex robots and support us in some way. Different aspects of fictional and real holograms are analyzed, namely pictoriality, corporeality, motion, size, beauty and speech capacity. There are indications that three-dimensional human shapes could be considered as partners, albeit in a very specific sense. The genuine advantages and disadvantages need to be investigated further, and a theory of holograms in love could be developed. The article is part of the book „AI Love You“ by Yuefang Zhou and Martin H. Fischer and was published on 18 July 2019. Further information can be found via link.springer.com/book/10.1007/978-3-030-19734-6.
Die Künstliche Intelligenz hat zunächst die menschliche oder tierische Intelligenz als Referenz und versucht, sie in bestimmten Aspekten abzubilden. Sie kann zudem anstreben, von der menschlichen oder tierischen Intelligenz abzuweichen, etwa indem sie mit ihren Systemen die Probleme anders löst. Die Maschinenethik widmet sich der maschinellen Moral, bringt sie hervor und untersucht sie. Ob man die Begriffe und Methoden der Maschinenethik mag oder nicht – man muss anerkennen, dass neuartige autonome Maschinen entstehen, die in einem gewissen Sinne vollständiger als frühere erscheinen. Es verwundert fast, dass sich die künstliche Moral nicht viel früher zur künstlichen Intelligenz gesellt hat. Nun scheinen vor allem Maschinen, die menschliche Intelligenz und menschliche Moral für überschaubare Anwendungsbereiche simulieren, eine gute Idee zu sein. Aber was ist, wenn eine Superintelligenz mit einer Supermoral eine neue Art bildet, die der unseren überlegen ist? Das ist natürlich Science-Fiction. Aber auch etwas, das manche Wissenschaftler erreichen wollen. Prof. Dr. Oliver Bendel aus Zürich stellt in seinem Vortrag am 18. Juli 2019 ab 18:30 Uhr am KIT gegenwärtige Entwicklungen und künftige Möglichkeiten vor und nimmt eine kritische Einordnung vor. Er schließt damit das Colloquium Fundamentale des Sommersemesters ab. Weitere Informationen über www.zak.kit.edu/colloquium_fundamentale.
„Chancen und Risiken: KI & Autonomes Fahren“ – so der Titel eines Beitrags im Spektrum der Wissenschaft. In einem fast zwanzigminütigen Video wird der Vortrag von Oliver Bendel gezeigt, den er bei der Veranstaltung „KI & Autonomes Fahren“ am 13. Mai 2019 im Max-Planck-Institut für intelligente Systeme gehalten hat. Die Reihe „Gehirn der Zukunft“, die den Rahmen bildete, wird von der Gemeinnützigen Hertie-Stiftung getragen. Zunächst sprachen Dr. Emanuela Bernsmann von der Gemeinnützigen Hertie-Stiftung und Dr. Katherine J. Kuchenbecker vom Max-Planck-Institut für intelligente Systeme ein Grußwort. Dann trugen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) vor. Oliver Bendel stellte in seinem Vortrag zehn Thesen auf und führte passende Beispiele an. Sein Fazit lautete: „Die Informationsethik kann Chancen und Risiken des automatisierten und autonomen Fahrens herausarbeiten, und sie kann Konflikte erkennen und angehen, etwa indem sie einen Diskurs zwischen Interessengruppen begleitet. Mit Hilfe der Maschinenethik wäre es möglich, automatisierte und autonome Autos in moralische Maschinen zu verwandeln. Diese könnten bei Tieren qualifizieren und quantifizieren, was sie bei Menschen nicht tun sollten.“
