Selbstständig fahrende Autos (Roboterautos) und Fahrerassistenzsysteme (FAS) können dabei helfen, Verletzungen zu vermeiden und Leben zu retten. Wenn sie sich in moralisch relevanten Kontexten entscheiden müssen, können sie als moralische Maschinen angesehen und in der Maschinenethik untersucht und entworfen werden. Einfache moralische Maschinen sind ohne weiteres möglich und durchaus sinnvoll. Sie unterscheiden zwischen unterschiedlichen moralischen Objekten wie Menschen und Tieren und bewahren sie vor Unfällen. Oliver Bendel hat in verschiedenen Artikeln die technischen und philosophischen Möglichkeiten aufgezeigt, etwa in „Advanced Driver Assistance Systems and Animals“ (Künstliche Intelligenz, 2014), „Wirtschaftliche und technische Implikationen der Maschinenethik“ (Die Betriebswirtschaft, 2014), „Für wen bremst das Roboterauto?“ (Computerworld.ch, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2014), „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Considerations about the Relationship between Animal and Machine Ethics“ (AI & Society, 2013) und „Ich bremse auch für Tiere“ (inside-it.ch, 2013). Aktuell arbeitet er an Designstudien zu Roboterautos wie ROBOCAR und zu mit Automaten ausgestatteten Fahrzeugen. Er schlägt vor, dass sie auf dem Standstreifen der Autobahnen fahren und untereinander sowie mit Autos mit FAS auf der normalen Straße vernetzt sind.
„Das Zähmen der Maschinen“ ist der Titel eines Artikels von Danja Nüesch für SRF, Schweizer Radio und Fernsehen. Behandelt werden die Themen der Maschinenethik, auf der Grundlage eines Interviews mit Oliver Bendel. Der Professor für Wirtschaftsinformatik und Informationsethik an der Hochschule für Wirtschaft FHNW treibt auch Maschinenethik. Er spricht sich für einfache moralische Maschinen aus. Seine Paradebeispiele sind der GOODBOT, ein verbesserter Chatbot, und Ladybird, ein tierfreundlicher Saugroboter. Auch tierfreundliche Windkraftanlagen und waffenfeindliche 3D-Drucker werden angeführt. Von komplexen moralischen Maschinen rät Oliver Bendel eher ab. Die militärische Drohne sollte ebenso wie das selbstständig fahrende Auto bestimmte Entscheidungen den Menschen überlassen. Diese müssen also, als Soldaten, Insassen etc., intervenieren können. Nichts spricht dagegen, dass sich Roboterautos oder Fahrerassistenzsysteme in klar abgrenzbaren Situationen mit nur wenigen Optionen moralisch verhalten. Zum Beispiel kann – wie der Experte verschiedenenorts argumentiert – automatisch für ein Tier gebremst werden, wenn kein Hintermann zu sehen ist. Der Beitrag kann über www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen aufgerufen werden.
Am 27. Oktober 2014 ist ein neues Diskussionspapier des Gottlieb Duttweiler Institute (GDI) herausgekommen. Entwickelt werden „Szenarien zur digitalen Vernetzung“, bezogen auf das Jahr 2030 (Website www.gdi.ch). „Die Vernetzung hat unser Leben verändert. Doch das ist erst der Anfang. Die Digitalisierung erfasst bald die ganze Wirtschaft und Gesellschaft. Menschen und Maschinen verschmelzen zur Digisphäre.“ (ebd.). Karin Frick und Bettina Höchli beantworten laut Website Fragen wie „Wie schützen wir uns vor Cyberwar und -crime“, „Wie stellen wir schnelle und flächendeckende Netze sicher?“, „Wie gewährleisten wir Privatsphäre und Datenschutz?“ und „Wie weit sollen Maschinen für uns entscheiden?“. Auf Seite 18 der Studie heißt es: „Die Felder werden von selbststeuernden Maschinen bewirtschaftet, die Ernte von Robotern verarbeitet. Am Ende dieser Entwicklung steht die vollautomatisierte Lebensmittelproduktion.“ Die Autorinnen gehen nicht auf Maschinenethik bzw. Roboterethik oder auf Informationsethik ein. Sie sprechen aber zahlreiche Themen dieser Disziplinen an. Das Diskussionspapier steht seit 31. Oktober 2014 in einer aktualisierten und ergänzten Version zur Verfügung. Gegen die Abgabe persönlicher Daten kann es kostenlos heruntergeladen werden.
Am 9. Oktober 2014 ist der Artikel „Advanced Driver Assistance Systems and Animals“ von Oliver Bendel in der Zeitschrift Künstliche Intelligenz erschienen. Im Abstract heißt es: „Advanced driver assistance systems are widely used. Some support and inform the driver. Others relieve him or her of certain tasks – and transform the human-guided system into a semi-autonomous one. For some years also fully autonomous systems have been on the roads, so-called self-driving cars, as prototypes of companies and within research projects. From the perspective of ethics – both of the special fields of ethics like animal ethics, information ethics and technology ethics and of machine ethics which can be understood as a counterpart to human ethics – advanced driver assistance systems raise various questions. The aim of this paper is to derive suggestions from animal ethics and other disciplines for the improvement and development of the systems. The basis are literature analysis and own classifications and considerations. The result is that there are many possibilities to expand existing systems and to develop new functions in the context with the aim to reduce the number of animal victims.“ Der Artikel kann über http://www.springer.de bezogen werden.
Im September 2014 erscheint das Buch „Machine Medical Ethics“, herausgegeben von Simon Peter van Rysewyk und Matthijs Pontier. Es ist einem Teilgebiet der Maschinenethik und der Medizinethik gewidmet. In der Ankündigung von Springer heißt es: „The essays in this book, written by researchers from both humanities and science, describe various theoretical and experimental approaches to adding medical ethics to a machine, what design features are necessary in order to achieve this, philosophical and practical questions concerning justice, rights, decision-making and responsibility in medical contexts, and accurately modeling essential physician-machine-patient relationships.“ Es werden Fragen dieser Art aufgeworfen: „What theory or theories should constrain medical machine conduct? What design features are required? Should machines share responsibility with humans for the ethical consequences of medical actions? How ought clinical relationships involving machines to be modeled? Is a capacity for empathy and emotion detection necessary?“ Oliver Bendel geht auf „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ ein. Weitere Essays von KI-Experten, Robotikern, Informatikern und Philosophen sind „Do Machines Have Prima Facie Duties?“, „Moral Ecology Approaches to Machine Ethics“ und „Ethics of Robotic Assisted Dying“. Der Herausgeberband kann bei Springer bestellt werden.
Cyber-physische Systeme sind Systeme, bei denen informations- und softwaretechnische mit mechanischen bzw. elektronischen Komponenten verbunden sind, wobei Datentransfer und -austausch sowie Kontrolle bzw. Steuerung über eine Infrastruktur wie das Internet in Echtzeit erfolgen. Wesentliche Bestandteile sind mobile und bewegliche Einrichtungen, Geräte und Maschinen (darunter auch Roboter), eingebettete Systeme und vernetzte Gegenstände (Internet der Dinge). In der Industrie 4.0 haben cyber-physische Systeme eine zentrale Funktion. Der Beitrag von Oliver Bendel zum Thema ist am 2. September 2014 im Wirtschaftslexikon von Gabler erschienen. Er gibt eine allgemeine Übersicht, geht auf Anwendungsbereiche ein und betrachtet den Gegenstand schließlich, im Rahmen von Kritik und Ausblick, aus dem Blickwinkel der Ethik: „Die Informationsethik untersucht das mögliche Versagen der cyber-physischen Systeme, etwa ihre feindliche Übernahme und ihren selbstverschuldeten Ausfall, in moralischer Beziehung, die Maschinenethik versucht die Entscheidungen der (teil-)autonomen Systeme in moralischer Hinsicht zu verbessern.“
Die Soziale Robotik beschäftigt sich mit (teil-)autonomen Maschinen, die in Befolgung sozialer Regeln mit Menschen interagieren und kommunizieren und zuweilen humanoid bzw. anthropomorph realisiert und mobil sind. Manche Experten lassen in diesem Zusammenhang nur physisch vorhandene Roboter gelten, andere auch virtuell umgesetzte, sogenannte Bots. Soziale Roboter täuschen oft Gefühle vor, und man spricht auch von „emotionaler und sozialer Robotik“. Wenn die Maschinen zu moralisch adäquaten Entscheidungen fähig sein sollen, ist die Maschinenethik gefragt. Der Beitrag von Oliver Bendel zum Thema ist am 2. September 2014 im Wirtschaftslexikon von Gabler erschienen.
Das nächste FAZ-Forum trägt den Titel „Cyber Resilience – Warum Cyber Security nicht mehr ausreicht“. Die Beschreibung hebt an mit folgenden Worten: „Durch die global vernetzten Informationsstrukturen unserer Wirtschaft und Gesellschaft entsteht ein extrem komplexes Geflecht, welches fortwährende Absicherung gegen interne und externe Bedrohungen erfordert. Die Gewährleistung von Cyber-Sicherheit wird zu einer zentralen Herausforderung für Staat, Wirtschaft und Gesellschaft auf nationaler und insbesondere auf globaler Ebene. Einzelne Cyber-Security-Maßnahmen werden in Zukunft nicht mehr ausreichen, diesen Schutz zu gewährleisten. Vielmehr ist der Aufbau einer Cyber Resilience – eines widerstandsfähigen Gesamtsystems, welches Störungen und Angriffe unbeschadet absorbieren kann – unabdingbar.“ (Website) Referenten sind u.a. Peter Andres (Leiter Konzernsicherheit, Deutsche Lufthansa AG), Norbert Riedel (Botschafter, Sonderbeauftragter für Cyber-Außenpolitik, Auswärtiges Amt), Christoph Unger (Präsident, Bundesamt für Bevölkerungsschutz und Katastrophenhilfe) und Oliver Bendel (Professor, Hochschule für Wirtschaft FHNW). Angefragt ist Peter Altmaier (MdB, Chef des Bundeskanzleramts und Bundesminister für besondere Aufgaben). Im Vortrag von Oliver Bendel geht es u.a. um Informationsethik und Maschinenethik. Letztere kann seiner Meinung nach dazu beitragen, die Maschinen sicherer und besser zu machen.
Das selbstständig fahrende Auto findet seinen Weg. Es hupt und weicht aus. Es verhandelt mit anderen Fahrzeugen, es schickt Nachrichten an die Werkstatt und den Hersteller. Wann es wirklich kommt, für die Massen, steht in den Sternen. Auf jeden Fall gibt es manch eine wolkige Aussage dazu. Der Artikel „Cloud am Steuer“, der vor einiger Zeit in der GDI Impuls erschienen ist, kann nun kostenlos heruntergeladen werden. Ein Dank geht an das Gottlieb Duttweiler Institute – und den Autor Christian Rauch. Wenn Roboter über die Straßen steuern, so fragt er, „welche ethischen und rechtlichen Konsequenzen hat das“? Beantwortet wird das – sehr konkret und unwolkig – u.a. von Patrick Lin, Roboter- und Maschinenethiker an der California Polytechnic State University, und Oliver Bendel, Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker an der Hochschule für Wirtschaft FHNW.
Abb.: New Autonomous Car (aus „Towards Machine Ethics“ von Oliver Bendel)
Zur ersten europäischen Tagung zur Technologiefolgenabschätzung sind im Juli 2014 die Proceedings erschienen. Sie können über die PACITA-Website kostenlos als PDF heruntergeladen werden und haben ca. 440 Seiten. Die von der EU getragene Konferenz fand im März 2013 in Prag statt. Im Buch ist, was ethische Fragen angeht, insbesondere „Part V – Facing New and Emerging Technologies“ relevant. Von Marie-des-Neiges Ruffo stammt der Beitrag „Why Autonomous Unmanned Aerial Vehicles Will Lose the War“, von Oliver Bendel „Towards Machine Ethics“ (Kapitel „Emerging Technologies and Ethics“). Im Kapitel „Privacy Aspects“ finden sich u.a. die Beiträge „Locating, Tracking and Tracing“ von Lorenz M. Hilty et al. und „Privacy Aspects of Social Networks – An Overview“ von Stefan Strauß und Michael Nentwich. Der Band kann auch in gedruckter Form erworben werden. Weitere Informationen über die PACITA-Website.
Human Enhancement, die Erweiterung und Verbesserung des Menschen mit Hilfe biologischer und technischer Mittel, kann aus der Perspektive der Medizin, der Künstlichen Intelligenz, der Robotik und der Informatik betrieben bzw. thematisiert werden. Verschiedene Bereichsethiken können nach Chancen und Risiken in moralischer Hinsicht fragen. Die Informationsethik ist gefordert, wenn die Entwicklung von der Informatik ausgeht. Mit ihr kann man Fragen des Datenschutzes, der informationellen und persönlichen Autonomie und der Kontrolle des Menschen mithilfe von Hacking und Manipulation beantworten. Auch die Maschinenethik ist in verschiedener Weise von Relevanz. Der Beitrag von Oliver Bendel zum Thema ist im Juli 2013 im Wirtschaftslexikon von Gabler erschienen. Er gibt eine allgemeine Übersicht, geht auf Verfahren und Methoden ein und nimmt am Ende, im Rahmen von Kritik und Ausblick, den Blickwinkel der Ethik ein: „Damit Menschen- und Tierwürde nicht verletzt und Manipulation und Instrumentalisierung von Körper bzw. Geist nicht zur unhinterfragten Norm werden, bedarf es moralischer und ethischer Diskussionen (auch aus der Wirtschaftsethik heraus) ebenso wie rechtlicher Anpassungen.“
RoboRoach ist der erste kommerziell produzierte und vertriebene „animal cyborg“. Es handelt sich um eine Kakerlake, auf die Computertechnologien aufgepropft werden. Mit deren Hilfe kann man den Cyborg fernsteuern und manipulieren. Auf http://www.robotspodcast.com ist am 17. Mai 2014 ein Podcast zum Thema erschienen. Im Teaser heißt es: „In this episode, Ron Vanderkley speaks with Bill Reith, an engineer at Backyard Brains. The company develops RoboRoach … Using their kit, you can briefly control the left/right movement of a cockroach from a smart phone using microstimulation of the antenna nerves. … Aware of the ethical questions their work raises, the company has put out a set of Ethical Statements. To explore the ethics further, AJung Moon speaks with Prof. Oliver Bendel, at the School of Business in Basel.“ Der Podcast kann über http://www.robotspodcast.com/podcast/2014/05/robotsroboroach/ aufgerufen werden.
In der Ausgabe 5/2014 der UnternehmerZeitung ist ein Interview zu informationsethik.info erschienen. Die Plattform wird vom Institut für Wirtschaftsinformatik der Hochschule für Wirtschaft FHNW betrieben und von der Ernst Göhner Stiftung unterstützt. Im Teasertext heißt es: „Eine neue Plattform der Hochschule für Wirtschaft FHNW widmet sich Informationsethik und Medienkompetenz. Initiator Oliver Bendel stellt sie vor.“ Das Interview führte die Historikerin Nathalie Baumann. Auf eine ihrer Fragen lautet die Antwort: „Moral auf Knopfdruck gibt es nicht, auch nicht bei informationsethik.info. Aber besser informierte und ‚ausgerüstete‘ Konsumenten und Unternehmer können und müssen stärker in die Pflicht genommen und zur Verantwortung gezogen werden.“ Neben Informationsethik und Medienkompetenz ist die Maschinenethik ein Thema. Das zeigt auch der „Begriff des Monats“, der „Android“. Der Zweiseiter kann hier kostenlos heruntergeladen werden.
In der Zeitschrift für Verkehrssicherheit (2/2014) ist der Artikel „Fahrerassistenzsysteme aus ethischer Sicht“ von Oliver Bendel erschienen. Es werden (so der Abstract) immer mehr Assistenzsysteme in Autos verbaut. „Manche unterstützen und informieren den Fahrer. Andere nehmen ihm bestimmte Aufgaben ab – und machen aus dem von Menschen gesteuerten System ein teilautonomes. Längst sind auch vollautonome Systeme auf den Straßen unterwegs, sogenannte selbstständig fahrende Autos, als Prototypen der Unternehmen und innerhalb von Forschungsprojekten. Aus der Sicht der Ethik – der Bereichsethiken ebenso wie der Maschinenethik – stellen sich zu Fahrerassistenzsystemen verschiedene Fragen.“ (Abstract) Ziel des Beitrags sei, daraus erste Vorschläge zur Verbesserung und Weiterentwicklung der Systeme abzuleiten. Weitere Informationen über http://www.zvs-online.de.
Der Artikel „Das Tier als Objekt der Moral der Maschine“ von Oliver Bendel ist am 2. Januar 2014 in Telepolis erschienen. Die Beziehung zwischen Tier und Maschine – so heißt es im Teaser – kann in verschiedenen Bereichsethiken untersucht werden, etwa in Tier-, Technik- und Informationsethik. Die Maschinenethik – hier verstanden als Pendant zur Menschenethik – sei eine junge Disziplin und konzentriere sich bisher auf das Verhältnis zwischen Maschine und Mensch. Angesichts der Tatsache, dass die Zahl der (teil-)autonomen Systeme immer mehr zunimmt und von ihren selbstständig getroffenen Entscheidungen immer mehr Tiere betroffen sind, ist nach Oliver Bendel eine Beschäftigung mit den entstehenden Chancen und Risiken und eine Zusammenarbeit zwischen Tier- und Maschinenethik unumgänglich. Der Artikel kann direkt über http://www.heise.de/tp/artikel/40/40684/ aufgerufen werden.
In seinem Artikel „Der Lügenbot und andere Münchhausen-Maschinen“ geht Oliver Bendel der Frage nach, ob Chatbots, Roboter und andere Maschinen lügen können. Dabei betont er die Sprachlichkeit des Lügens. Wer etwas sagen kann, so der Autor, der kann auch die Unwahrheit sagen. Den meisten Maschinen unterstellen wir, dass sie die Wahrheit sagen. Wir vertrauen den Aussagen einer Anna von Ikea, einer Siri von Apple und von Wolfram Alpha. Aber alle drei könnten ganz anders, wenn sie – oder ihre Entwickler – wollten. Man könnte Lügenmaschinen bauen, die mit falschen Versprechungen locken, das Blaue vom Himmel erzählen – und uns letztlich irritiert und verunsichert zurücklassen. Das müssen auch Unternehmen berücksichtigen, und sie müssen etwas dafür tun, damit unser Vertrauen in die Maschinen gerechtfertigt ist. Der Artikel ist am 11. September 2013 auf der Plattform CyberPress erschienen und direkt über www.mittelstandswiki.de/wissen/Gastbeitrag:Maschinenethik aufrufbar.
