„Eine Auseinandersetzung mit der Digitalisierung berührt zentrale ethische Fragestellungen. Hierunter fallen Themen wie Identität, Sinnfindung, Persönlichkeitsentfaltung und Selbstverwirklichung ebenso wie Fragen nach informationeller Selbstbestimmung, Handlungs-, Informations- und Meinungsfreiheit, Gerechtigkeit, Solidarität, Humanität, Verantwortung, Frieden und Sicherheit. Aspekte der Technikethik und des Umweltschutzes, die Folgen der Globalisierung, Digitalisierung und Vernetzung sowie die Diskussion verschiedener Gesellschaftsmodelle stehen ebenfalls zur Diskussion.“ (Website E & U) Dies schreibt die Zeitschrift Ethik & Unterricht zu ihrer neuen Ausgabe (Nr. 2/2021) mit einem Schwerpunkt zur Digitalisierung. Die Hauptbeiträge zu Robotik und Maschinenethik stammen von Oliver Bendel (Professor für Wirtschaftsinformatik sowie Informations- und Maschinenethik an der Fachhochschule Nordwestschweiz; „Serviceroboter aus ethischer Sicht: Herausforderungen und Grenzen ihres Einsatzes“) und Catrin Misselhorn (Professorin für Philosophie an der Georg-August-Universität Göttingen; „Künstliche Intelligenz und Ethik: Leitlinien für moralische Maschinen“). Die Ausgabe ist über www.friedrich-verlag.de/shop/digitalisierung-541086 erhältlich.
Betrügende, täuschende und lügende Hardware- und Softwareroboter sind ein Stück weit erforscht. Die wenigen Prototypen wurden in der Disziplin der Maschinenethik gebaut, etwa von Ron Arkin (Georgia Tech) und Oliver Bendel (Hochschule für Wirtschaft FHNW). Sie diskutierten 2016 zusammen in Krakau über „deceptive machines“ … Beratungs- und Verkaufsroboter – meist soziale Roboter – werden sich immer mehr verbreiten. Verkäufer und Berater sind selten Betrüger – aber sie manipulieren häufig die Kunden, damit diese ein Produkt kaufen. Die Frage ist nun, ob der Roboter dies auch tun soll. Dazu entsteht derzeit eine Masterarbeit unter der Betreuung von Oliver Bendel. Seit dem 9. Februar 2021 wird eine Onlinebefragung zum Thema durchgeführt. Die Studentin Liliana Margarida Dos Santos Alves schreibt auf ihrer Website: „Das Hauptziel meiner Masterthesis und Umfrage ist es, herauszufinden, ob es ethisch und moralisch vertretbar ist, humanoide Beratungs- und Verkaufsroboter im Einzelhandel einzusetzen, die Kunden derart manipulieren können, dass sie deren Kaufentscheidungen beeinflussen, um gezielt davon zu profitieren (z. B. Verkauf von Produkten, die der Kunde gar nicht braucht).“ Man kann an der Befragung bis ca. Ende April 2021 über www.survio.com/survey/d/V7Y/manipulativeroboter teilnehmen.
Die Verschmutzung der Gewässer durch Plastik ist ein Thema, das seit ein paar Jahren ständig in den Medien zu finden ist. Bereits 2015 wurde an der Hochschule für Technik FHNW und der Hochschule für Wirtschaft FHNW untersucht, ob ein Roboterfisch – in der Art des CLEANINGFISH (2014) von Oliver Bendel – eine Lösung sein könnte. 2018 wurde von dem Informations- und Maschinenethiker eine weitere Arbeit vergeben, mit dem Auftrag, mehrere bestehende oder geplante Projekte zu untersuchen, die sich der Meeresverschmutzung annehmen. Als Grundlage der Abschlussarbeit im Studiengang EUT von Rolf Stucki diente „eine Literaturrecherche zum aktuellen Stand der Plastikproblematik weltweit und deren Auswirkungen, aber auch zu den Eigenschaften und Vorzügen von Kunststoffen“ (Management Summary). „Zusätzlich wurden Interviews mit Vertreterinnen und Vertretern der Projekte geführt. Um die internen Unternehmensfaktoren (Stärken, Schwächen) und externen Umweltfaktoren (Chancen, Risiken) zu beurteilen, wurden anhand der Antworten und der Recherche SWOT-Analysen erstellt.“ (Management Summary) Die Resultate zeigen laut Stucki, dass die meisten Projekte finanziell abhängig sind von Sponsoren und Geldgebern. Zwei von ihnen seien außerdem in der Konzeptphase; sie sollten mittelfristig die technische und finanzielle Machbarkeit nachweisen. Mit Blick auf das soziale Engagement lasse sich sagen, dass alle sechs Projekte sehr aktiv sind. Ein Plakat zeigt einen Vergleich (die Fotos wurden für die Publikation in diesem Blog verfremdet). Als Roboter sticht WasteShark aus den Ansätzen heraus. Er ist sozusagen der CLEANINGFISH, der Realität geworden ist.
„Roboter, Empathie und Emotionen“ – dieses Forschungsprojekt hatte die Einrichtung für Technologiefolgenabschätzung der Schweiz, die TA-SWISS, vor einiger Zeit ausgeschrieben. Den Zuschlag hat ein Konsortium von FHNW, ZHAW und Universität St. Gallen erhalten. Der Antragsteller, Prof. Dr. Hartmut Schulze von der Hochschule für Angewandte Psychologie FHNW, deckt die Psychologie ab. Der Co-Antragsteller, Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, nimmt die Perspektive von Informations-, Roboter- und Maschinenethik ein, die Co-Antragstellerin, Prof. Dr. Maria Schubert von der ZHAW, die der Pflegewissenschaft. Die TA-SWISS stellte auf ihrer Website fest: „Welchen Einfluss haben Roboter … auf unsere Gesellschaft und auf die Personen, die mit ihnen interagieren? Sind Roboter vielleicht eher Spitzel als Vertraute? … Was erwarten wir von diesen Maschinen beziehungsweise was dürfen wir effektiv von ihnen erwarten? Zahlreiche soziologische, psychologische, wirtschaftliche, philosophische und rechtliche Fragen im Zusammenhang mit dem gegenwärtigen und künftigen Einsatz und Potenzial der Roboter sind noch offen.“ (Website TA-SWISS) Das Kick-off-Meeting mit einer Begleitgruppe fand am 26. Juni 2019 in Bern statt.
Das Wissenschaftsjahr 2019 widmet sich der Künstlichen Intelligenz. In diesem Kontext führte Vision Kino ein Interview mit dem Informations- und Maschinenethiker Oliver Bendel. Zuerst wurde er danach gefragt, welche Themen im Zusammenspiel von Künstlicher Intelligenz und Ethik er aktuell für besonders wichtig hält. Er antwortete: „In der Informationsethik ist das Thema Überwachung im Augenblick sehr zentral, hier insbesondere Gesichts- und Emotionserkennung. Sehr problematisch wird es, wenn das mit der so genannten Physiognomik kombiniert wird, einer Pseudowissenschaft. Beispielsweise will man aus Gesichtsmerkmalen und -ausdrücken kriminelle Absichten ableiten.“ Später ging es dann um Fragen der Verantwortung. Nach Oliver Bendel kann ein Computer oder Roboter keine Verantwortung tragen, höchstens in einem sehr rudimentären Sinne, indem er eine Aufgabe übernimmt. Es ergibt nach ihm auch keinen Sinn, ihn in moralischer Hinsicht zur Verantwortung zu ziehen. Das Interview kann hier nachgelesen werden.
Im Februar 2019 ist „Roboter in der Gesellschaft: Technische Möglichkeiten und menschliche Verantwortung“ bei Springer erschienen, herausgegeben von Christiane Woopen und Marc Jannes. Die Beiträge stammen von Alin Albu-Schäffer („Von drehmomentgeregelten Roboterarmen zum intrinsisch nachgiebigen humanoiden Roboter“), Jochen J. Steil („Roboterlernen ohne Grenzen? Lernende Roboter und ethische Fragen“), Oliver Bendel („Die programmierte Moral“), Catrin Misselhorn („Moralische Maschinen in der Pflege? Grundlagen und eine Roadmap für ein moralisch lernfähiges Altenpflegesystem“), Hartmut Hirsch-Kreinsen („Autonome Systeme in der industriellen Arbeitswelt“) und Johannes Weyer („Autonome Technik außer Kontrolle? Möglichkeiten und Grenzen der Steuerung komplexer Systeme in der Echtzeitgesellschaft“). Norbert Lammert schreibt zu „Roboterethik. Zur Rolle der Politik“. Das Buch geht zurück auf die Tagung „Roboterethik – Sie sind stark, klug, selbstständig. Und was wird aus uns?“, veranstaltet von ceres und Daimler und Benz Stiftung am 24. November 2015 in Berlin. Weitere Informationen über www.springer.com/gp/book/9783662577646#.
Am 10. September 2018 wurde die Sendung „Pflege – Was kann sie leisten, was muss sich ändern?“ in Bayern 2 ausgestrahlt. Zu Wort kommt Oliver Bendel, Informations- und Maschinenethiker aus Zürich. Er beschäftigt sich seit mehreren Jahren mit Robotern in der Pflege. Er ist nicht der Meinung, dass diese den Pflegenotstand beheben können. Dafür braucht es andere Maßnahmen. Sie können aber die Pflegekraft unterstützen. Oliver Bendel hält es für wichtig, diese Perspektive einzunehmen und nicht ausschließlich auf den Patienten zu schauen. Natürlich ist dieser ebenso wichtig, und er ist sozusagen der Ausgangspunkt aller einschlägigen Strukturen und Prozesse. Für ihn bedeuten Pflegeroboter sowohl Vor- als auch Nachteile. Einerseits stärken sie seine persönliche Autonomie, machen ihn unabhängiger und beweglicher. Andererseits schwächen sie seine informationelle Autonomie. Manche der Roboter, die sich in Pflegeheimen und Krankenhäusern finden, verfügen über Kameras und Mikrofone und damit zusammenhängend über Gesichts- und Stimmerkennung. Das ist ebenso nützlich wie gefährlich. Der Podcast kann hier angehört werden (Link nicht mehr gültig).
Die Bedienung, der Kellner, der Ober, die Serviertochter, sie alle haben einen harten Job und verdienen wenig Geld. In Zukunft haben sie vielleicht gar keinen Job mehr. Serviceroboter wie Küchenroboter und Roboterküchen sind bereits Realität, Bedienungsroboter auf dem Vormarsch. Florian Rötzer von Telepolis schreibt am 7. August 2018: „Bedienungen in Restaurants verdienen nicht viel. Gleichwohl werden sie womöglich eine der Berufsgruppen sein, die am schnellsten von Roboter verdrängt werden. Und das nicht nur in den reichen Ländern. In China hat Alibaba bereits Restaurants in Hema-Supermärkten unter dem Namen Robot.He eröffnet, in denen Roboter das Essen zum Tisch oder in die Nähe des Tisches bringen. Und der Rivale JD.com will ganz schnell, bis 2020, 1000 vollautomatische Restaurants in China eröffnen.“ (Telepolis, 7. August 2018) Für Wirtschafts-, Informations- und Maschinenethik ergeben sich interessante Fragestellungen in Bezug auf den Einsatz, die Gestaltung und die Stimme. Ob der moralische Bedienungsroboter dem Gast das Kalbsschnitzel verweigern und Kartoffelpüree mit Erbsen empfehlen soll, ist noch zu diskutieren.
Roboter lieben Arbeit. Zumindest sind sie dafür gemacht. Sie unterstützen und ersetzen uns in der Arbeitswelt. In der Industrie, in Produktion und Logistik, sind neue Typen anzutreffen. Co-Robots nehmen uns anstrengende, gefährliche und langweilige Tätigkeiten ab. Sie kommen uns dabei sehr nahe, ganz anders als die alten Industrieroboter, die in den Käfigen sitzen. Serviceroboter verbreiten sich in allen möglichen Bereichen. Als Sicherheitsroboter, verbunden mit Systemen der Künstlichen Intelligenz (KI), überwachen sie das Betriebsgelände oder das Einkaufszentrum und melden Verdächtiges an eine Zentrale, als Pflege- und Therapieroboter kümmern sie sich zusammen mit Fachpersonal um Kranke und Alte. In all diesen Fällen sind noch Arbeitskräfte vorhanden. Aber das kann sich in Zukunft ändern. Die Liebe der Roboter zur Arbeit ist so groß, dass sie sie für sich haben wollen. Es stellen sich Fragen aus der Sicht der Ethik, mit Blick auf persönliche und informationelle Autonomie sowie auf Arbeitslosigkeit, und aus Politik und Gesellschaft erschallen Rufe nach einer Robotersteuer und nach einem bedingungslosen Grundeinkommen. Prof. Dr. Oliver Bendel stellt in seiner Keynote „Das automatische Verschwinden der menschlichen Arbeit“ im Stadthaus Ulm am 25. Oktober 2018 die Veränderungen in der Arbeitswelt durch Roboter und KI-Systeme vor und diskutiert sie aus unterschiedlichen Perspektiven. Weitere Informationen über www.vdi-ulm.de/schwerpunkte/forum-technik-und-gesellschaft/.
Abb.: Roboter sind Werkzeuge und benutzen Werkzeuge
Können Roboter bald selbstständig Gefühle wie Hass oder Liebe entwickeln? Dies hat der WDR im April 2018 den Informations- und Maschinenethiker Oliver Bendel gefragt. Der Kontext war die Angst, die wir vor Maschinen haben oder haben können. Er antwortete: „Maschinen werden solche Gefühle meines Erachtens nicht entwickeln können, da diese biologisch-chemische und genetisch-hormonelle Grundlagen brauchen. Die Vorstellung, dass sie solche Gefühle haben, kann natürlich Angst machen. Und emotionale Roboter wie Pepper zeigen Gefühle – aber haben eben keine. Eine wichtige Frage ist, ob sie überhaupt Gefühle zeigen sollen. Und ob sie uns weismachen sollen, dass sie Menschen oder ähnlich wie Menschen sind.“ Uns ist in Europa die Angst vor künstlichen Kreaturen gleichsam eingepflanzt. Diese dachten wir uns bereits vor tausenden Jahren aus. Bei Homer und Ovid finden sich Schreckensgestalten wie Talos und Pandora, wobei die künstliche Frau in der Literatur einige Wandlungen erlebt hat. Später ging es ähnlich weiter, mit der Eisernen Jungfrau, dem Golem, Frankensteins Monster. Auch Ausnahmen gibt es, bereits in der Antike, wie Galatea, von Pygmalion erschaffen und von Aphrodite zum Leben erweckt. Das Interview kann über www1.wdr.de/wissen/technik/roboter-maschinenethik-interview-100.html nachgelesen werden.
Dieser Frage geht Oliver Bendel in der Zeitschrift Edison nach, in der Ausgabe 2/2018, erschienen am 13. April 2018. Die zuständige Disziplin ist die Roboterethik. Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Auf der Website heißt es zu dem Handelsblatt-Spross: „Edison ist das neue Magazin für alle, die sich für Elektromobilität, vernetztes Leben und nachhaltige Energiegewinnung interessieren. Für alle, die in einer Zeit der Umbrüche und des rasanten technischen Fortschritts Orientierung suchen. Für alle, die Haltung zeigen möchten. Kurz: Es ist das neue Magazin für die Generation E.“ Es kann über edison-magazin.handelsblatt.com/epaper/13.04.2018 bestellt werden.
Die Redaktion „Jäger und Sammler“ von funk traf sich Ende 2017 in Berlin mit Oliver Bendel. In seinem Hotelzimmer sprach man über Sexroboter und Robotersex. Auch Kathleen Richardson wurde interviewt, per Videokonferenz. Der Filmbeitrag wurde am 3. Januar 2018 veröffentlicht. Während der Informations- und Maschinenethiker, der in Zürich lebt, eine neutrale Position einnimmt und Chancen und Risiken herausarbeitet, hat sich die Anthropologin von der Universität Leicester dem Kampf gegen Sexroboter verschrieben. Der Sender stellt sich wie folgt vor: „Hey, wir sind funk … und sowas wie die kleine Schwester von ARD und ZDF. Uns gibt es aber nur im Internet, nicht im Fernsehen. Wir veröffentlichen auf über 60 verschiedenen Kanälen unterhaltende, informierende, kritische und hoffentlich fesselnde Videos. funk-Kanäle findet man auf Plattformen wie YouTube, Facebook, Instagram und Snapchat. Aber wir haben auch ein Zuhause: Hier bei funk.net gibt es alle funk-Videos auf einen Schlag und eine Auswahl internationaler Serien.“ (Website funk) Der Beitrag „Sexroboter: Love Story der Zukunft?“ ist u.a. über https://www.youtube.com/watch?v=GvOu9QFnl_A aufrufbar.
„Serviceroboter sind für Dienstleistungen und Hilfestellungen aller Art zuständig, sie bringen und holen Gegenstände, überwachen die Umgebung ihrer Besitzer oder das Befinden von Patienten und halten ihr Umfeld im gewünschten Zustand. Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern. Sie wissen, was ihr Eigentümer oder Gegenüber tut und sagt oder was die Passanten in der Umgebung umtreibt und melden es womöglich an ihre Betreiber oder an Geräte und Computer aller Art. So wie Industrieroboter immer mehr ihre geschützten Bereiche verlassen, so wie sie immer mobiler und universeller geraten, und so wie sie immer mehr an den Menschen heranrücken, so werden Serviceroboter immer eigenständiger und ‚unternehmungslustiger‘.“ So beginnt ein neuer Beitrag von Oliver Bendel im Wirtschaftslexikon von Springer Gabler, erschienen am 31. August 2017. Im Folgenden werden die Serviceroboter klassifiziert und Ziele, Zwecke und Merkmale skizziert. Am Ende nimmt der Autor die Perspektive der Ethik ein. Der Beitrag kann über wirtschaftslexikon.gabler.de/Definition/serviceroboter.html abgerufen werden.
Omer Kabir von der israelischen Tageszeitung Calcalist hat im Februar 2017 ein Interview mit Oliver Bendel geführt, das am 16. August 2017 erschienen ist. Es geht um Künstliche Intelligenz, Robotik und Maschinenethik. Zu einer Frage führte Oliver Bendel aus: „I would like to distinguish between simple and complex moral machines. While simple moral machines are useful and valuable in many contexts, e.g., in order to protect animals in the household, in the parkway or in the wilderness, complex moral machines can be dangerous, on the battle field as well as in road traffic. I am against autonomous weapons and autonomous cars which decide between life and death of human beings. I prefer simple machines which follow simple rules in our absence, simple machines that are our representatives, not least in a moral sense.“ Auf eine andere gab er die Antwort: „Industrial and service robots as well as agents and chatbots will support and replace us, doing some things better than their human competitors. They may be more precise, faster and cheaper. The machines can used for automatic operation round the clock. We may experience initial discomfort and pressure. After some discussions and perhaps revolutions, we could head for adequate economic, political and legal conditions. Perhaps there will be an unconditional basic income for all citizens, and I must admit that I sympathise with this idea. Other experts also propose a machinery tax or a quota of robots, but I am rather sceptical about such restrictions. I like the discussions about them more than themselves.“ Der Artikel mit dem Titel „Affäre mit einem Roboter“ kann hier als PDF heruntergeladen oder über www.calcalist.co.il/internet/articles/0,7340,L-3719292,00.html aufgerufen werden.
Abb.: Affäre mit einem Roboter (Foto: Calcalist/Kai R. Joachim)
Die Juli-Ausgabe der Zeitschrift National Geographic bringt den ersten Teil einer dreiteiligen Serie zur Künstlichen Intelligenz. Auf 14 Seiten widmet man sich der Arbeit von Oliver Bendel. Der Informations- und Maschinenethiker lebt und arbeitet in der Schweiz. Er stand dem Chefredakteur Florian Gless und der Redakteurin Ines Bellinger Rede und Antwort. Zudem gibt es eine Graphic Novel zu aktuellen Entwicklungen und den entsprechenden Überlegungen von Oliver Bendel. Ein Glossar zur KI rundet den Beitrag ab. Die Fotos stammen von Elias Hassos, der u.a. Hans Magnus Enzensberger und Martin Walser porträtiert hat. „Wir können in der Hängematte liegen“ – so lautet die Überschrift des Beitrags. Oliver Bendel ist der Meinung, dass uns Roboter unterstützen und entlasten können. Dass Menschen die besten Jahre des Lebens und die besten Stunden des Tages einem Unternehmen schenken, das ihnen womöglich nicht einmal sympathisch ist, hält er für eine Ideologie, die man hinterfragen kann. Vielleicht reichen vier Stunden am Tag für den Lebensunterhalt, wenn ein Grundeinkommen dazukommt. Denn die Gewinne werden weiter erzielt, mit Hilfe von Robotik und Künstlicher Intelligenz auch ohne die Arbeiter und Angestellten. Sie müssen nur gerecht verteilt werden. Weitere Informationen über www.nationalgeographic.de.
Dass Roboter auch Gedichte vortragen können, zeigt ein Projekt von Oliver Bendel, das im November 2016 gestartet ist. Benutzt wurde für den zweiten Versuch am 3. März 2017 erneut die Text-to-speech-Engine von IBM Watson. Diese kann man im Prinzip für Vorlesesysteme, für Chatbots oder für Serviceroboter verwenden. Oliver Bendel passte das eigens für das Projekt verfasste „robot haiku“ mit Hilfe von Voice Transformation SSML an. Es wurden Pausen am Anfang eingebaut, damit der Titel und die Metainformationen (Autor, System, Stimme, Datum) nicht zu schnell nacheinander erklingen, zudem Pausen zwischen den Zeilen. Der Befehl <voice-transformation type=“Custom“ glottal_tension=“-80%“> bewirkt einen weichen Vortrag des Kurzgedichts. Dieses kann hier im Format .ogg heruntergeladen und beispielsweise im VLC Media Player angehört werden (Link nicht mehr gültig). Auch auf dem Handy kann man es speichern – insofern ist das Projekt eine Weiterführung der Handyhaikus, die es seit 2010 gibt.
Abb.: Auch die goldenen Jungfrauen von Hephaistos kommen vor
