„Alle forschen an Robotern und keiner bedenkt, was wir damit anrichten.“ (Website DRadio Wissen, 11. Dezember 2015) Dieser Meinung sei, so der Sender, eine Gruppe von Wissenschaftlern. „Deshalb haben sie die Foundation of Responsible Robotics gegründet, also die Stiftung für verantwortungsvolle Robotik. Bei der Gründungsfeier in London warnte der emeritierte Professor und Mitgründer Noel Sharkey, die britische Regierung stecke zwar viel Geld in die Forschung – aber die Auswirkungen auf die Gesellschaft würden überhaupt nicht bedacht. Und auch ethische Fragen spielten kaum eine Rolle.“ (Website DRadio Wissen, 11. Dezember 2015) Allerdings fragen Informationsethik, Technikethik und Roboterethik sowie Wirtschaftsethik – in vielen Ländern umtriebige Disziplinen – sehr wohl nach ethischen Implikationen des Einsatzes von Robotern, und die Maschinenethik konzipiert sogar moralische Maschinen. Folgende Beispiele führt Noel Sharkey an: „Durch die Automatisierung in der Industrie könnten massenhaft Menschen arbeitslos werden. Auch Menschenrechte würden verletzt, etwa wenn Roboter bei der Betreuung von Senioren mit Kameras filmen. Polizeidrohnen seien in mehreren Ländern mit Waffen ausgerüstet. Selbstfahrende Autos könnten Bomben transportieren und so Selbstmordattentäter ersetzen.“ Das ist freilich nicht das Hauptproblem bei Roboterautos; das Hauptproblem ist, dass diese selbst Menschen töten. „Die Stiftung will erreichen, dass die Forschung solche Gefahren stärker mitdenkt.“ (Website DRadio Wissen, 11. Dezember 2015) Dies ist auf jeden Fall ein ehrenwertes Ziel.
Robots between the Devil and the Deep Blue Sea
„Robots between the Devil and the Deep Blue Sea“ lautet der Titel des Beitrags, der am 1. Dezember 2015 in der brasilianischen Zeitschrift Liinc em Revista erschienen ist. Oliver Bendel stellt klassische Dilemmata vor und überträgt sie ins Informationszeitalter. Insbesondere interessiert der Einsatz von Chatbots, Robotern, Drohnen und selbstständig fahrenden Autos, der immer wieder problembehaftet ist. Bei den Lösungsansätzen wird u.a. die Perspektive der Maschinenethik eingenommen. Es stellt sich heraus, dass klassische Dilemmata für die Herausforderungen der Gegenwart nützlich sind und dabei helfen, die Entscheidungsmöglichkeiten teilautonomer und autonomer Systeme zu diskutieren sowie Robotik, Künstliche Intelligenz und Informatik in dieser Frage zu sensibilisieren und ihre Ergebnisse und Erzeugnisse zu optimieren. Skizziert werden das „Roboterauto-Problem“, die „Parkbucht des Karneades“, „Buridans Robot“ und das „Lügenbot-Problem“. Der Beitrag kann über die Website der Zeitschrift kostenlos heruntergeladen werden.
Abb.: Roboter können in Dilemmata geraten
Sexroboter im Wirtschaftslexikon
Vor kurzem haben Ethiker zum Boykott von Sexrobotern aufgerufen. Dabei haben sie angenommen, dass diese Frauen und Kinder diskriminieren und die Entwicklung der Sexualität beeinträchtigen können. Anhaltspunkte dafür gibt es allerdings nicht, und überhaupt scheinen die Probleme in diesem Bereich marginal zu sein. Ein neuer Beitrag im Wirtschaftslexikon von Gabler von Oliver Bendel behandelt die Spielzeuge der etwas anderen Art in nüchterner Form und geht dem Phänomen des Robotersex auf den Grund. Er hebt an mit den Worten: „Sexroboter sind Roboter, mit denen Menschen bestimmte Formen von Sex haben können. In der Regel sind Hardwareroboter gemeint, physisch vorhandene Maschinen. Bei einem weiten Begriff können auch Softwareroboter hinzugezählt werden. Es gibt eine Palette von Produkten für den Hausgebrauch. Manche von ihnen werden für den Gesundheitsbereich in Betracht gezogen.“ Am Ende werden Fragen aus Maschinenethik sowie Technik- und Informationsethik heraus gestellt. Sicherlich könnte man auch die Medizinethik mit einbeziehen. Der Beitrag ist am 16. November 2015 erschienen und kann über wirtschaftslexikon.gabler.de aufgerufen werden.
Abb.: Bei Sexrobotern ist die Gestaltung entscheidend
Rolf Pfeifer und Ethik
In einem Artikel im Tages-Anzeiger von Lucie Machac (11. Oktober 2015) werden auch Maschinenethik und Roboterethik gestreift. Grundlage ist ein Interview mit Rolf Pfeifer. Als Erbauer definiere er für den Roboter auch ein Wertesystem. „Er meint damit nicht ethisch-moralische Werte.“ Maschinenethik treibt er demnach nicht – wie ist es mit der Roboterethik, genauer gesagt mit dem Bereich, der nach Rechten von Maschinen fragt? Würde Pfeifer, wenn individuelle Fähigkeiten erworben wurden, den Stecker ziehen? „Zum jetzigen Zeitpunkt habe ich überhaupt keine Skrupel.“ Mit dieser Haltung ist der Robotiker nicht allein – die meisten Experten sehen keinerlei Anlass, Roboter jetzt oder in naher Zukunft wie Tiere oder Menschen zu behandeln. Dennoch wagt er einen Blick in die weitere Zukunft: „Aber stellen Sie sich vor, wenn uns Roboter einmal anflehen können, den Stecker bittebitte nicht zu ziehen … Und vielleicht weinen sie dabei sogar. Was würden Sie dann tun?“ Die meisten Experten würden antworten: Erst recht den Stecker ziehen.
Abb.: Wer zieht den Stecker, wer das Kabel?
Selfie von Curiosity
Curiosity hat wieder einmal ein Selfie geschossen. Spiegel Online meldet: „Wie von einem ausgestreckten Arm aus fotografiert, machte der Forschungsroboter ein Selbstporträt, das ihn aus einem ungewöhnlichen Blickwinkel zeigt.“ (SPON, 22. August 2015) Man könne der Maschine erstmals unter den Bauch schauen. „Das Bild ist so detailliert, dass sogar ein kleiner Stein erkennbar ist, der sich in einem der mittleren Räder verfangen hat.“ (SPON, 22. August 2015) Oliver Bendel hat schon mehrfach über Roboselfies (auch Robot Selfies genannt) geschrieben. Weltraumroboter sind in der Ferne unterwegs, sie sind allein, um nicht zu sagen einsam, und was liegt näher, als ein Foto von sich selbst zu knipsen und es an die daheimgebliebenen Kohlenstoffeinheiten zu schicken. Der eigentliche Zweck ist natürlich, den Ingenieuren zu zeigen, ob die Instrumente und Apparate in Ordnung sind, ob die Haut eine Beschädigung oder eine Veränderung aufweist. Oder ob ein Fremdkörper die Funktionen beeinträchtigt. Bei Curiosity, dem Mars-Rover, kann man wohl aufatmen: Ein kleiner Stein ist auch in jenen Gefilden nur ein kleiner Stein. Der letzte Artikel von Oliver Bendel zu Roboselfies ist am 1. Februar 2015 in Telepolis erschienen und kann über www.heise.de/tp/artikel/43/43793/1.html aufgerufen werden. Davor wurde „Robot selfies, and the road to self-recognition“ (Robohub, 9. Juni 2014) publiziert (über robohub.org/robot-selfies-and-the-road-to-self-recognition/).
Industrie 4.0 und Ethik
Der Artikel „Die Industrie 4.0 aus ethischer Sicht“ ist am 23. Juli 2015 in der Zeitschrift HMD – Praxis der Wirtschaftsinformatik erschienen, als „Online-First“-Artikel auf SpringerLink. Die deutsche Zusammenfassung: „Der vorliegende Beitrag arbeitet die wesentlichen Merkmale der Industrie 4.0 heraus und setzt sie ins Verhältnis zur Ethik. Es interessieren vor allem Bereichsethiken wie Informations-, Technik- und Wirtschaftsethik. Am Rande wird auf die Maschinenethik eingegangen, im Zusammenhang mit der sozialen Robotik. Es zeigt sich, dass die Industrie 4.0 neben ihren Chancen, die u. a. ökonomische und technische Aspekte betreffen, auch Risiken beinhaltet, denen rechtzeitig in Wort und Tat begegnet werden muss.“ Das englische Abstract: „This article highlights the essential features of the industry 4.0 and puts them in relation to ethics. Of special interest are the fields of applied ethics such as information, technology and business ethics. Machine ethics is mentioned in passing in connection with social robotics. It is evident that the industry 4.0 in addition to opportunities, affecting among other things economic and technical aspects, includes also risks which must be addressed in word and deed in a timely manner.“ Weitere Informationen über link.springer.com/article/10.1365/s40702-015-0163-z.
maschinenethik.net wird zwei
maschinenethik.net feiert. Über 100 Beiträge im Blog, ein Literaturverzeichnis zur Maschinenethik und DAS KLEINE LEXIKON DER MASCHINENETHIK (ein Extrakt aus dem KLEINEN LEXIKON DER INFORMATIONSETHIK) mit ca. 80 Begriffen – das ist die Bilanz nach zwei Jahren. In der Rubrik „Studien“ findet man Design- und Funktionsstudien im Kontext von Maschinenethik und sozialer Robotik. Betrieben werden Website und Blog seit Mai 2013 von Oliver Bendel. Es handelt sich um ein privates Projekt. Es gibt keine Werbung, wenn man von dem Verweis auf den Roman „Künstliche Kreaturen“ absieht. In der Rubrik „Unterstützung“ heißt es: „Sie können maschinenethik.net unterstützen, indem Sie News – etwa zu Projekten, Studien und Tagungen – an uns weiterleiten, uns Bildmaterial schicken oder Forschungs- und Entwicklungskooperationen mit uns eingehen. Nutzen Sie die E-Mail-Adresse, die im Impressum angegeben ist!“ maschinenethik.net ist übrigens auch über roboterethik.net erreichbar. Die beiden Begriffe werden im erwähnten Lexikon erklärt und abgegrenzt. Man darf gespannt sein, wo maschinenethik.net im Jahre 2016 steht.
Abb.: Stellt sich die Anlage ab, wenn sich ein Schwarm nähert?
Auto, Motor, Spaß
Lustiges und Ernstes war beim Auto-Motor-Sport-Kongress 2015 in Stuttgart zu vernehmen. Winfried Hermann, seines Zeichens Verkehrsminister in Baden-Württemberg, sorgte sich um sein bestes Stück: „Autonomes Fahren ist die Entmannung des deutschen Autofahrers“, sagte der grüne Politiker laut der Süddeutschen Zeitung vom 11. April 2015. Rafael Capurro, Informationsethiker, begab sich auf das Gebiet der Maschinenethik und ging auf die Moral des Autos ein, oder genauer auf die des Menschen, die auf sein bestes Stück übertragen wird. Er bemerkte laut auto-motor-sport.de, man könne die Philosophie „Ich bremse auch für Tiere“ in solch ein System einbetten. Wer sich für Fahrerassistenzsysteme und Roboterautos nicht nur mit Blick auf Menschen interessiert, sei u.a. auf die Artikel „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2013) und „Considerations about the Relationship between Animal and Machine Ethics“ (AI & SOCIETY) von Oliver Bendel verwiesen. Und natürlich auf seinen Beitrag „Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen“ von 2013, erschienen in der Schweizer Zeitschrift inside-it.ch.
Abb.: Friede und Liebe den Tieren
Drohnen, Roboter, Avatare
Die Ideen- und Entwicklungsgeschichte ist reich an künstlichen Kreaturen. In Mythos und Fiktion sind Talos und Pandora zu verorten, die Geschöpfe des Gottes der Schmiede, als Hephaistos bekannt, die Automatenmenschen des Daidalos, die Skulptur des Pygmalion, berühmt geworden als Galatea, die eiserne Jungfrau des Nabis; die Puppe Olimpia aus Hoffmanns Erzählung „Der Sandmann“, der Homunculus aus Goethes „Faust“, Handygirl aus der gleichnamigen Handyromanserie von Oliver Bendel; die künstliche Maria aus „Metropolis“, die Replikanten aus „Blade Runner“. Die Realität war zunächst verbunden mit der Illusion. Von ca. 1500 bis 1850 wurden tier- und menschenähnliche Automaten erdacht bzw. vorgeführt. Dann, nach weiteren 150 Jahren, plötzlich die Realität ohne doppelten Boden: Es werden Roboter erschaffen, die den Menschen nicht nur zum Verwechseln ähnlich sehen, sondern auch selbstständig Entscheidungen mit sozialen und moralischen Implikationen treffen. Sie werden von sozialer Robotik und Maschinenethik gezähmt, dressiert und zivilisiert. Oliver Bendel macht am 21. April 2015 am Deutschen Seminar der Universität Zürich deutlich, dass manche Chatbots, Serviceroboter und Fotodrohnen die falsche Entscheidung treffen werden. Oder eine Entscheidung, die interessengeleitet ist. Roboterautos, die Kinder schonen und Rentner umfahren, werden seiner Ansicht nach für Diskussionen sorgen. Der Vortrag findet von 10.15 bis 12.00 Uhr im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid statt (Schönberggasse 9, 8001 Zürich, Raum SOD-1-101) und trägt den Titel „Drohnen, Roboter, Avatare. Künstliche Wesen zwischen Ethik und Ästhetik“.
Abb.: Mädchen beim Lesen
Medical and Care Robots
„There is a fundamental transformation in the field of health care: operation robots, therapy robots, care robots and sex robots, which can be characterized as medical and care robots (MCR), become more and more indispensable.“ Mit diesen Worten hebt ein Beitrag zu Operations-, Pflege-, Therapie- und Sexrobotern an, der am 5. März 2015 auf der Plattform der Giordano-Bruno-Stiftung Schweiz veröffentlicht wurde. Weiter heißt es: „This contribution is committed to the findings of machine ethics and raises some thoughts for the development and design of moral MCR, with a focus on actions and appearance, as well as on the (natural) language skills. Using the literature and own research and considerations, appropriate meta-rules are being established, and central problem areas are identified without making concrete technical and design specifications. The problem descriptions allow robotics experts, computer scientists and designers to take into account social and moral aspects and to improve the MCR from an ethical perspective.“ Der Artikel von Oliver Bendel mit dem Titel „Reflections on the Development and the Design of Medical and Care Robots“ kann über gbs-schweiz.org abgerufen werden.
Abb.: Nur ein Spielzeug, aber auch nett
Überlegungen zur Tier-Maschine-Interaktion
Die Etablierung einer Disziplin der Tier-Maschine-Interaktion schlägt Oliver Bendel in einem Artikel vor, der am 14. Februar 2015 auf der Plattform der Giordano-Bruno-Stiftung Schweiz veröffentlicht wurde. Die deutsche Zusammenfassung lautet: „Der vorliegende Beitrag schlägt, ausgehend vom Begriff der sozialen Interaktion, die Etablierung einer Disziplin der Tier-Maschine-Interaktion vor. Er klärt grundlegende Begriffe, nennt Beispiele für Interaktion und Kommunikation zwischen Tier und Maschine, beleuchtet generelle Aspekte der Tier-Maschine-Interaktion und verknüpft diese mit der jungen Disziplin der Maschinenethik.“ Die englische Summary: „This contribution proposes, based on the concept of social interaction, the establishment of a discipline called animal-machine interaction. It clarifies basic terms, names examples for interaction and communication between animal and machine, throws light on general aspects of animal-machine interaction and links them with the young discipline of machine ethics.“ Der Artikel mit dem Titel „Überlegungen zur Disziplin der Tier-Maschine-Interaktion“ kann über gbs-schweiz.org abgerufen werden.
Abb.: Die mechanische Ente
Japan fördert Robotik
Japan ist berühmt für seine spektakulären Roboter, insbesondere die humanoiden und animaloiden Varianten. Anscheinend will man nun den Schwerpunkt auf alltagstaugliche Maschinen legen. Anfang 2015 wurde ein Fünf-Jahres-Plan verabschiedet, wie heise.de meldet. „Ziel ist es, den Markt für Industrieroboter bis 2020 auf 1,2 Billionen Yen (9 Milliarden Euro) zu verdoppeln.“ (Website heise.de) Roboter sollen laut der Plattform speziell in den Bereichen gefördert werden, die in Folge der Überalterung der japanischen Gesellschaft mit einem Arbeitskräftemangel zu kämpfen haben. So entstehen in der Zukunft neuartige Operations-, Pflege- und Therapieroboter sowie Maschinen, die Straßen und Brücken inspizieren und instandsetzen. Auch die Landwirtschaft ist im Fokus des Programms. Obst ernten, Unkraut beseitigen, Tiere vor dem Mähdrescher bewahren – es gibt viel zu tun. Wenn die Roboter derart in Gesellschaft und Wirtschaft vordringen, braucht es die soziale Robotik ebenso wie die Maschinenethik. In diesen Disziplinen hat Japan noch einigen Aufholbedarf, und man darf gespannt sein, wie sich die Wissenschaftler diesen Herausforderungen stellen. Weitere Informationen über www.heise.de/newsticker/meldung/Japan-gibt-Startschuss-zur-Roboter-Revolution-2527406.html.
Abb.: Der Anime Boy erinnert an einen humanoiden Roboter
Autos und Cyborgs
„Im Auto sind jetzt schon alle Cyborgs“ – dies ist der Titel einer Tagung, die am 12. März 2015 im Pro Iure Auditorium der Juristischen Fakultät der Universität Basel stattfindet. Es geht – so verrät der Untertitel – um Perspektiven der Mensch-Roboter-Kombination in Fahrzeugen. Im Informationsblatt heißt es: „Der Workshop analysiert die Schnittstelle von Mensch und Technik am Beispiel autonomer Fahrzeuge unter verschiedenen Gesichtspunkten: Das erste Panel analysiert Haftungskonzepte für den Einsatz von Robotern – ausgehend von der Prämisse, dass der Rechtssicherheit eine Schlüsselrolle für die gesellschaftliche Nutzung von Innovationen zukommt. Gegenstand des zweiten Panels ist die Wechselwirkung zwischen Technik und Rechtsentwicklung sowie Umwälzungen in der Versicherung.“ Das dritte Panel beleuchte sowohl grundsätzliche als auch disziplinübergreifende Aspekte der Automatisierung im Straßenverkehr. Die Tagung ist kostenlos. Um Anmeldung bis zum 4. März 2015 wird gebeten, per E-Mail über LstZech-ius(at)unibas.ch.
„Gute“ Roboter
„Serviceroboter sind in etlichen Ausführungen erhältlich. Haushalts- und Gartenroboter erobern die Wohnviertel, Pflege- und Therapieroboter die Krankenhäuser und Altenheime. Sie unterstützen und sie überwachen uns. Und sie ersetzen uns allmählich.“ Mit diesen Worten beginnnt der Artikel „Die Roboter sind unter uns“ von Oliver Bendel in der Netzwoche vom 3. Dezember 2014. In der letzten Ausgabe des Jahres dreht es sich um die Trends des Jahres 2015. Als Wirtschaftsinformatiker und Ethiker sieht Oliver Bendel durchaus positive Aspekte von Jaco, Qrio und Pepper – und natürlich von LADYBIRD, einem Saugroboter, der keine Krabbeltiere tötet. Als Informationsethiker weist er aber eben auch darauf hin, dass die „künstlichen Kreaturen“ uns überwachen: „Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern.“ Entsprechend ist die Informationsethik zur Reflexion der Probleme gefragt. Und die Maschinenethik, um die Serviceroboter in moralische Maschinen zu verwandeln. Der Artikel kann hier kostenlos bezogen werden.
Abb.: LADYBIRD wird immer bekannter
GDI-Diskussionspapier
Am 27. Oktober 2014 ist ein neues Diskussionspapier des Gottlieb Duttweiler Institute (GDI) herausgekommen. Entwickelt werden „Szenarien zur digitalen Vernetzung“, bezogen auf das Jahr 2030 (Website www.gdi.ch). „Die Vernetzung hat unser Leben verändert. Doch das ist erst der Anfang. Die Digitalisierung erfasst bald die ganze Wirtschaft und Gesellschaft. Menschen und Maschinen verschmelzen zur Digisphäre.“ (ebd.). Karin Frick und Bettina Höchli beantworten laut Website Fragen wie „Wie schützen wir uns vor Cyberwar und -crime“, „Wie stellen wir schnelle und flächendeckende Netze sicher?“, „Wie gewährleisten wir Privatsphäre und Datenschutz?“ und „Wie weit sollen Maschinen für uns entscheiden?“. Auf Seite 18 der Studie heißt es: „Die Felder werden von selbststeuernden Maschinen bewirtschaftet, die Ernte von Robotern verarbeitet. Am Ende dieser Entwicklung steht die vollautomatisierte Lebensmittelproduktion.“ Die Autorinnen gehen nicht auf Maschinenethik bzw. Roboterethik oder auf Informationsethik ein. Sie sprechen aber zahlreiche Themen dieser Disziplinen an. Das Diskussionspapier steht seit 31. Oktober 2014 in einer aktualisierten und ergänzten Version zur Verfügung. Gegen die Abgabe persönlicher Daten kann es kostenlos heruntergeladen werden.
Die Zukunft der Arbeit
Das Theater Tuchlaube Aarau „setzt sich aus Anlass seines dreifachen Jubiläums in der Spielzeit 2014/2015 mit dem Thema Zukunft auseinander“ (Leiter Peter-Jakob Kelting im Editorial des Programms). „Herausgekommen ist ein faszinierendes Kaleidoskop an Analysen, Entwürfen und Prognosen.“ (ebd.) Der Datenschützer Hanspeter Thür macht sich mit seinem Beitrag „Auch du bist verdächtig!“ für das Grundrecht auf Privatsphäre stark. Der Schriftsteller Charles Lewinsky skizziert in „Liebe Donjeta, ein Brief“ die (Schreckens-)Vision einer Schweiz ohne Ausländer. Und der Theaterleiter interviewt in „Moralische Maschinen“ den Philosophen und Wirtschaftsinformatiker Oliver Bendel zur Maschinenethik, zur sozialen Robotik und zur Zukunft der Arbeit. Das Programm, das im Oktober 2014 als Beilage der Aargauer Zeitung erschienen ist, kann über www.fhnw.ch kostenlos heruntergeladen werden.
Abb.: Neue Formen der Mensch-Maschine-Interaktion