„Serviceroboter sind in etlichen Ausführungen erhältlich. Haushalts- und Gartenroboter erobern die Wohnviertel, Pflege- und Therapieroboter die Krankenhäuser und Altenheime. Sie unterstützen und sie überwachen uns. Und sie ersetzen uns allmählich.“ Mit diesen Worten beginnnt der Artikel „Die Roboter sind unter uns“ von Oliver Bendel in der Netzwoche vom 3. Dezember 2014. In der letzten Ausgabe des Jahres dreht es sich um die Trends des Jahres 2015. Als Wirtschaftsinformatiker und Ethiker sieht Oliver Bendel durchaus positive Aspekte von Jaco, Qrio und Pepper – und natürlich von LADYBIRD, einem Saugroboter, der keine Krabbeltiere tötet. Als Informationsethiker weist er aber eben auch darauf hin, dass die „künstlichen Kreaturen“ uns überwachen: „Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern.“ Entsprechend ist die Informationsethik zur Reflexion der Probleme gefragt. Und die Maschinenethik, um die Serviceroboter in moralische Maschinen zu verwandeln. Der Artikel kann hier kostenlos bezogen werden.
In Austin (Texas, USA) finden vom 25. bis 26. Januar 2015 die „Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence (AAAI-15)“ statt. Auf der Website werden zum „W01 – AI and Ethics“ mediale Aussagen wie „Artificial Intelligence Is Changing the World, and Humankind Must Adapt“ und „Physicist Louis Del Monte believes that by 2045 machines will threaten human survival“ zitiert. Vor diesem Hintergrund heißt es: „The goal of this workshop is to provide a forum to discuss the ethical questions implicit in such headlines, which go to the centre of the quest to build AI systems with potentially super-human intelligence.“ Es werden sowohl informations- und technikethische als auch maschinenethische Bereiche behandelt, z.B. „AI as a threat to or saviour for humanity“, „Safeguards necessary within AI research“, „Autonomous agents in the military“, „Autonomous agents in commerce and other domains“ und „Mechanisms to ensure moral behaviours in AI systems“. Weitere Informationen sind über www.aaai.org/Workshops/ws15workshops.php erhältlich.
Selbstständig fahrende Autos (Roboterautos) und Fahrerassistenzsysteme (FAS) können dabei helfen, Verletzungen zu vermeiden und Leben zu retten. Wenn sie sich in moralisch relevanten Kontexten entscheiden müssen, können sie als moralische Maschinen angesehen und in der Maschinenethik untersucht und entworfen werden. Einfache moralische Maschinen sind ohne weiteres möglich und durchaus sinnvoll. Sie unterscheiden zwischen unterschiedlichen moralischen Objekten wie Menschen und Tieren und bewahren sie vor Unfällen. Oliver Bendel hat in verschiedenen Artikeln die technischen und philosophischen Möglichkeiten aufgezeigt, etwa in „Advanced Driver Assistance Systems and Animals“ (Künstliche Intelligenz, 2014), „Wirtschaftliche und technische Implikationen der Maschinenethik“ (Die Betriebswirtschaft, 2014), „Für wen bremst das Roboterauto?“ (Computerworld.ch, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2014), „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Considerations about the Relationship between Animal and Machine Ethics“ (AI & Society, 2013) und „Ich bremse auch für Tiere“ (inside-it.ch, 2013). Aktuell arbeitet er an Designstudien zu Roboterautos wie ROBOCAR und zu mit Automaten ausgestatteten Fahrzeugen. Er schlägt vor, dass sie auf dem Standstreifen der Autobahnen fahren und untereinander sowie mit Autos mit FAS auf der normalen Straße vernetzt sind.
„Das Zähmen der Maschinen“ ist der Titel eines Artikels von Danja Nüesch für SRF, Schweizer Radio und Fernsehen. Behandelt werden die Themen der Maschinenethik, auf der Grundlage eines Interviews mit Oliver Bendel. Der Professor für Wirtschaftsinformatik und Informationsethik an der Hochschule für Wirtschaft FHNW treibt auch Maschinenethik. Er spricht sich für einfache moralische Maschinen aus. Seine Paradebeispiele sind der GOODBOT, ein verbesserter Chatbot, und Ladybird, ein tierfreundlicher Saugroboter. Auch tierfreundliche Windkraftanlagen und waffenfeindliche 3D-Drucker werden angeführt. Von komplexen moralischen Maschinen rät Oliver Bendel eher ab. Die militärische Drohne sollte ebenso wie das selbstständig fahrende Auto bestimmte Entscheidungen den Menschen überlassen. Diese müssen also, als Soldaten, Insassen etc., intervenieren können. Nichts spricht dagegen, dass sich Roboterautos oder Fahrerassistenzsysteme in klar abgrenzbaren Situationen mit nur wenigen Optionen moralisch verhalten. Zum Beispiel kann – wie der Experte verschiedenenorts argumentiert – automatisch für ein Tier gebremst werden, wenn kein Hintermann zu sehen ist. Der Beitrag kann über www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen aufgerufen werden.
Philae hat ein Selfie gemacht und an die Erde geschickt. Genau genommen ein Bild von seinem Bein. Im Hintergrund ist Komet Tschuri zu sehen. Von Weltraumrobotern kennt man die Selbstbildnisse seit den 70er-Jahren. Man ist in der Ferne unterwegs, man ist allein, um nicht zu sagen einsam, und was liegt näher, als ein Foto von sich selbst zu knipsen und es an die daheimgebliebenen Kohlenstoffeinheiten zu schicken. Begriffe wie „space robot selfies“ und „rover selfies“ verdeutlichen das Spektrum der „space selfies“. Auch der eine oder andere selbstreferenzielle Schnappschuss eines Erdroboters ist im Web zu finden und der eine oder andere autobiografisch anmutende Film. Aus Sicht der Robotik stellt sich die Frage, ob die Selfies zur Weiterentwicklung und zum Selbstlernen beitragen könnten. In welcher Hinsicht ist die egozentrische Perspektive interessant? Kann der Robot zu neuem Wissen über die ihn unmittelbar umgebende Umwelt kommen? Kann er seine Mimik und Gestik interpretieren und sein Verhalten reflektieren? Kann er nach und nach ein Selbstbewusstsein erlangen oder sich zumindest selbst im Spiegel erkennen? Artikel zu diesem Thema hat Oliver Bendel geschrieben. Sie sind über robohub.org/robot-selfies-and-the-road-to-self-recognition/ und ictk.ch/content/wenn-roboter-selfies-schiessen zu finden.
Im Jahre 2013 gab das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO eine groß angelegte Studie zum Thema Industrie 4.0 heraus. Dies stellt Nathalie Baumann in ihrem Beitrag vom 11. November 2014 für die traditionsreiche Schweizer Zeitschrift ICTkommunikation fest. Im Oktober dieses Jahres sei das Schweizer Beratungsunternehmen Deloitte mit einer kleineren Studie zum Werkplatz 4.0 gefolgt. Auf YouTube „finden sich unzählige Videos, und bereits werden erste Seminare angeboten, um Führungskräfte auf die neuen Herausforderungen vorzubereiten“ (Website ICTkommunikation). „Doch was bedeutet der Begriff überhaupt und welche Implikationen hat er für Wirtschaft und Gesellschaft? Wir haben dazu ein Interview mit dem Philosophen und Wirtschaftsinformatiker Oliver Bendel geführt.“ (Website ICTkommunikation) Auch Maschinenethik und soziale Robotik werden darin erwähnt. Der Beitrag mit dem Titel „Einige wenige Menschen werden die Dinge und Vorgänge kontrollieren“ kann kostenlos über ictk.ch/inhalt/einige-wenige-menschen-werden-die-dinge-und-vorg%C3%A4nge-kontrollieren gelesen werden.
Am 27. Oktober 2014 ist ein neues Diskussionspapier des Gottlieb Duttweiler Institute (GDI) herausgekommen. Entwickelt werden „Szenarien zur digitalen Vernetzung“, bezogen auf das Jahr 2030 (Website www.gdi.ch). „Die Vernetzung hat unser Leben verändert. Doch das ist erst der Anfang. Die Digitalisierung erfasst bald die ganze Wirtschaft und Gesellschaft. Menschen und Maschinen verschmelzen zur Digisphäre.“ (ebd.). Karin Frick und Bettina Höchli beantworten laut Website Fragen wie „Wie schützen wir uns vor Cyberwar und -crime“, „Wie stellen wir schnelle und flächendeckende Netze sicher?“, „Wie gewährleisten wir Privatsphäre und Datenschutz?“ und „Wie weit sollen Maschinen für uns entscheiden?“. Auf Seite 18 der Studie heißt es: „Die Felder werden von selbststeuernden Maschinen bewirtschaftet, die Ernte von Robotern verarbeitet. Am Ende dieser Entwicklung steht die vollautomatisierte Lebensmittelproduktion.“ Die Autorinnen gehen nicht auf Maschinenethik bzw. Roboterethik oder auf Informationsethik ein. Sie sprechen aber zahlreiche Themen dieser Disziplinen an. Das Diskussionspapier steht seit 31. Oktober 2014 in einer aktualisierten und ergänzten Version zur Verfügung. Gegen die Abgabe persönlicher Daten kann es kostenlos heruntergeladen werden.
Als Follow-up zu der Tagung „Mensch-Roboter-Interaktionen aus interkultureller Perspektive: Japan und Deutschland im Vergleich“ führt das Japanisch-Deutsche Zentrum Berlin am 4. Dezember 2014 ein Symposium zum Thema „Roboethik: Technikfolgenabschätzung und verantwortungsbewusste Innovation in Japan und Deutschland“ durch. Laut Veranstalter werden Experten aus Wissenschaft und Wirtschaft, darunter Hersteller von Servicerobotern, darüber diskutieren, wie „ethische Fragen, Fragen der Lebensqualität, Risikoabschätzung und Nutzerinteressen frühzeitig in die Entwicklung von Robotertechnologie integriert werden können, so dass ein nachhaltiger Dialog zwischen allen Beteiligten entsteht“ (Information per E-Mail). „Mit der Konferenz soll auf diese Weise auch eine Plattform für den interdisziplinären, interkulturellen Austausch über die Frage, wie wir künftig leben wollen, geboten werden und welche Handlungs- und Gestaltungsmacht dem/der Einzelnen hierbei zukommt.“ (ebd.) Weitere Einzelheiten sind dem Programmentwurf http://www.jdzb.de/fileadmin/Redaktion/PDF/veranstaltungen/tagungen-in-d/P1597-Programm.pdf zu entnehmen. Konferenzsprachen sind Deutsch und Japanisch, wobei simultan gedolmetscht wird.
Mit der Reihe „Mensch und Maschine – Maschinenmensch“, die am 23. Oktober 2014 in Basel startet, wollen die Veranstalter (Flying Science in Zusammenarbeit mit dem Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW) zeigen, „wie interdisziplinär, spannend und aktuell die vermeintlich rein technischen Themen der angewandten Informatik sind“ (Website Flying Science). „Verschiedene Fachleute gehen der Frage nach, wie sich die Gesellschaft neuen Technologien anpasst und umgekehrt. Die Reihe ist auch eine Networking-Plattform für alle, die sich für Inputs an der Schnittstelle zwischen Technik und Kultur interessieren und sich austauschen möchten.“ (Website Flying Science) Lehrreich wird sicherlich der Vortrag von Dr. Andreas Cremonini (Universität Basel). Er spricht am 6. November 2014 über „Echte Menschen“. In den Wochen darauf treten Prof. Dr. Hania Siebenpfeiffer (Ernst-Moritz-Arndt-Universität Greifswald) und Dr. Dennis Plachta (Albert-Ludwigs-Universität Freiburg) vor das Publikum. Den Auftakt macht Prof. Dr. Rolf Dornberger, Hochschule für Wirtschaft FHNW. Er referiert als Wirtschaftsinformatiker über „Maschinen im Alltag“. Weitere Informationen über www.flyingscience.ch.
Das Theater Tuchlaube Aarau „setzt sich aus Anlass seines dreifachen Jubiläums in der Spielzeit 2014/2015 mit dem Thema Zukunft auseinander“ (Leiter Peter-Jakob Kelting im Editorial des Programms). „Herausgekommen ist ein faszinierendes Kaleidoskop an Analysen, Entwürfen und Prognosen.“ (ebd.) Der Datenschützer Hanspeter Thür macht sich mit seinem Beitrag „Auch du bist verdächtig!“ für das Grundrecht auf Privatsphäre stark. Der Schriftsteller Charles Lewinsky skizziert in „Liebe Donjeta, ein Brief“ die (Schreckens-)Vision einer Schweiz ohne Ausländer. Und der Theaterleiter interviewt in „Moralische Maschinen“ den Philosophen und Wirtschaftsinformatiker Oliver Bendel zur Maschinenethik, zur sozialen Robotik und zur Zukunft der Arbeit. Das Programm, das im Oktober 2014 als Beilage der Aargauer Zeitung erschienen ist, kann über www.fhnw.ch kostenlos heruntergeladen werden.
Am 9. Oktober 2014 ist der Artikel „Advanced Driver Assistance Systems and Animals“ von Oliver Bendel in der Zeitschrift Künstliche Intelligenz erschienen. Im Abstract heißt es: „Advanced driver assistance systems are widely used. Some support and inform the driver. Others relieve him or her of certain tasks – and transform the human-guided system into a semi-autonomous one. For some years also fully autonomous systems have been on the roads, so-called self-driving cars, as prototypes of companies and within research projects. From the perspective of ethics – both of the special fields of ethics like animal ethics, information ethics and technology ethics and of machine ethics which can be understood as a counterpart to human ethics – advanced driver assistance systems raise various questions. The aim of this paper is to derive suggestions from animal ethics and other disciplines for the improvement and development of the systems. The basis are literature analysis and own classifications and considerations. The result is that there are many possibilities to expand existing systems and to develop new functions in the context with the aim to reduce the number of animal victims.“ Der Artikel kann über http://www.springer.de bezogen werden.
Im September 2014 erscheint das Buch „Machine Medical Ethics“, herausgegeben von Simon Peter van Rysewyk und Matthijs Pontier. Es ist einem Teilgebiet der Maschinenethik und der Medizinethik gewidmet. In der Ankündigung von Springer heißt es: „The essays in this book, written by researchers from both humanities and science, describe various theoretical and experimental approaches to adding medical ethics to a machine, what design features are necessary in order to achieve this, philosophical and practical questions concerning justice, rights, decision-making and responsibility in medical contexts, and accurately modeling essential physician-machine-patient relationships.“ Es werden Fragen dieser Art aufgeworfen: „What theory or theories should constrain medical machine conduct? What design features are required? Should machines share responsibility with humans for the ethical consequences of medical actions? How ought clinical relationships involving machines to be modeled? Is a capacity for empathy and emotion detection necessary?“ Oliver Bendel geht auf „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ ein. Weitere Essays von KI-Experten, Robotikern, Informatikern und Philosophen sind „Do Machines Have Prima Facie Duties?“, „Moral Ecology Approaches to Machine Ethics“ und „Ethics of Robotic Assisted Dying“. Der Herausgeberband kann bei Springer bestellt werden.
Cyber-physische Systeme sind Systeme, bei denen informations- und softwaretechnische mit mechanischen bzw. elektronischen Komponenten verbunden sind, wobei Datentransfer und -austausch sowie Kontrolle bzw. Steuerung über eine Infrastruktur wie das Internet in Echtzeit erfolgen. Wesentliche Bestandteile sind mobile und bewegliche Einrichtungen, Geräte und Maschinen (darunter auch Roboter), eingebettete Systeme und vernetzte Gegenstände (Internet der Dinge). In der Industrie 4.0 haben cyber-physische Systeme eine zentrale Funktion. Der Beitrag von Oliver Bendel zum Thema ist am 2. September 2014 im Wirtschaftslexikon von Gabler erschienen. Er gibt eine allgemeine Übersicht, geht auf Anwendungsbereiche ein und betrachtet den Gegenstand schließlich, im Rahmen von Kritik und Ausblick, aus dem Blickwinkel der Ethik: „Die Informationsethik untersucht das mögliche Versagen der cyber-physischen Systeme, etwa ihre feindliche Übernahme und ihren selbstverschuldeten Ausfall, in moralischer Beziehung, die Maschinenethik versucht die Entscheidungen der (teil-)autonomen Systeme in moralischer Hinsicht zu verbessern.“
Die Soziale Robotik beschäftigt sich mit (teil-)autonomen Maschinen, die in Befolgung sozialer Regeln mit Menschen interagieren und kommunizieren und zuweilen humanoid bzw. anthropomorph realisiert und mobil sind. Manche Experten lassen in diesem Zusammenhang nur physisch vorhandene Roboter gelten, andere auch virtuell umgesetzte, sogenannte Bots. Soziale Roboter täuschen oft Gefühle vor, und man spricht auch von „emotionaler und sozialer Robotik“. Wenn die Maschinen zu moralisch adäquaten Entscheidungen fähig sein sollen, ist die Maschinenethik gefragt. Der Beitrag von Oliver Bendel zum Thema ist am 2. September 2014 im Wirtschaftslexikon von Gabler erschienen.
Das nächste FAZ-Forum trägt den Titel „Cyber Resilience – Warum Cyber Security nicht mehr ausreicht“. Die Beschreibung hebt an mit folgenden Worten: „Durch die global vernetzten Informationsstrukturen unserer Wirtschaft und Gesellschaft entsteht ein extrem komplexes Geflecht, welches fortwährende Absicherung gegen interne und externe Bedrohungen erfordert. Die Gewährleistung von Cyber-Sicherheit wird zu einer zentralen Herausforderung für Staat, Wirtschaft und Gesellschaft auf nationaler und insbesondere auf globaler Ebene. Einzelne Cyber-Security-Maßnahmen werden in Zukunft nicht mehr ausreichen, diesen Schutz zu gewährleisten. Vielmehr ist der Aufbau einer Cyber Resilience – eines widerstandsfähigen Gesamtsystems, welches Störungen und Angriffe unbeschadet absorbieren kann – unabdingbar.“ (Website) Referenten sind u.a. Peter Andres (Leiter Konzernsicherheit, Deutsche Lufthansa AG), Norbert Riedel (Botschafter, Sonderbeauftragter für Cyber-Außenpolitik, Auswärtiges Amt), Christoph Unger (Präsident, Bundesamt für Bevölkerungsschutz und Katastrophenhilfe) und Oliver Bendel (Professor, Hochschule für Wirtschaft FHNW). Angefragt ist Peter Altmaier (MdB, Chef des Bundeskanzleramts und Bundesminister für besondere Aufgaben). Im Vortrag von Oliver Bendel geht es u.a. um Informationsethik und Maschinenethik. Letztere kann seiner Meinung nach dazu beitragen, die Maschinen sicherer und besser zu machen.
Das selbstständig fahrende Auto findet seinen Weg. Es hupt und weicht aus. Es verhandelt mit anderen Fahrzeugen, es schickt Nachrichten an die Werkstatt und den Hersteller. Wann es wirklich kommt, für die Massen, steht in den Sternen. Auf jeden Fall gibt es manch eine wolkige Aussage dazu. Der Artikel „Cloud am Steuer“, der vor einiger Zeit in der GDI Impuls erschienen ist, kann nun kostenlos heruntergeladen werden. Ein Dank geht an das Gottlieb Duttweiler Institute – und den Autor Christian Rauch. Wenn Roboter über die Straßen steuern, so fragt er, „welche ethischen und rechtlichen Konsequenzen hat das“? Beantwortet wird das – sehr konkret und unwolkig – u.a. von Patrick Lin, Roboter- und Maschinenethiker an der California Polytechnic State University, und Oliver Bendel, Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker an der Hochschule für Wirtschaft FHNW.
Abb.: New Autonomous Car (aus „Towards Machine Ethics“ von Oliver Bendel)
