Schlagworte: Roboterethik

Der falsche Zwilling

„Die Mängelmaschine“ ist der Titel eines Beitrags auf Ö1, ausgestrahlt am 14. Mai 2018. Zu Wort kommen Hiroshi Ishiguro, Mark Coeckelbergh, Janina Loh und Oliver Bendel. Der japanische Robotiker hat einen Doppelgänger geschaffen: „Der Roboter Geminoid sieht genauso aus wie sein Schöpfer – und vertritt ihn bisweilen sogar bei Vorlesungen. Für Ishiguro ist sein künstlicher Klon eine Person, eine nicht ganz perfekte und liebenswerte Kopie seiner selbst. Aber die Frage ist für ihn nicht besonders wichtig.“ (Website Ö1) Denn, so wird Ishiguro zitiert: „Warum müssen wir zwischen Menschen und Maschinen unterscheiden? Der Mensch ist ein Tier, das sich der Technologie bedient. Ohne Maschinen wären wir bloß Affen – und unfähig in dieser Welt zu überleben.“ (Website Ö1) Es gibt viele Gründe, zwischen Menschen und Maschinen zu unterscheiden. Einer davon: Während wir empfinden und leiden und glücklich sind, tun die Maschinen dies nicht. Und das ist eine gewaltige Differenz mit gewaltigen Implikationen: Wir müssen Menschen und Maschinen völlig unterschiedlich behandeln. Man kann von einem Mangel sprechen, den auch der Zwilling von Ishiguro aufweist: „Forscher/innen aus dem Westen … halten Geminoid für nicht mehr als eine aufwändig gestaltete Puppe.“ (Website Ö1)

Abb.: Der falsche Zwilling

Moralmenü für Sprachassistenten

Im Kontext des LADYBIRD-Projekts (2014/2017) wurde ein Menü vorgeschlagen, mit welchem der Benutzer die Moral des Staubsaugerroboters einstellen kann. Dieser verschont, wie der Name andeutet, Marienkäfer. Auch Spinnen sollte er am Leben lassen. Wer aber zum Beispiel partout bestimmte Insekten einsaugen lassen will, könnte dies über ein Menü festlegen. Wichtig ist, dass LADYBIRD insgesamt tierfreundlich bleibt und sich nicht ins Gegenteil verkehrt (und Marienkäfer sind auf jeden Fall tabu). Über das Menü wird eine Stellvertretermoral entwickelt. Der Staubsaugerroboter macht das, was der Besitzer auch machen würde. Andere Maschinen wie Sprachassistenten bzw. virtuelle Assistenten haben in der Regel keine grundsätzliche moralische Ausrichtung, eignen sich aber ebenso für den Einsatz eines Moralmenüs. Google Assistant soll in Zukunft mit Hilfe der Audiofunktion alle möglichen Reservierungen vornehmen (das Projekt wird Duplex genannt). Damit automatisiert er Vorgänge, die privaten und sozialen Charakter haben. Viele Benutzer werden es schätzen, wenn der Telefonassistent die eigenen Wertvorstellungen vertritt, da er ja in ihrem Namen bzw. Auftrag spricht. Die Designstudie MOME stellt ein Moralmenü beispielhaft für virtuelle Assistenten dieser Art vor. Die erste Option lautet: „Ich sage, dass ich eine Maschine bin.“ Eine solche Funktion war schon beim GOODBOT von 2013, einem moralisch adäquat agierenden und reagierenden Chatbot, umgesetzt.

Abb.: Moralmenü für virtuelle Assistenten

Bücher zu Informations- und Maschinenethik

In der neuen iX (5/2018) werden zwei Bücher zur Ethik empfohlen, „300 Keywords Informationsethik: Grundwissen aus Computer-, Netz- und Neue-Medien-Ethik sowie Maschinenethik“ von Oliver Bendel, einem „Vordenker der Roboterethik“, wie es im Text heißt, und „3TH1CS“, herausgegeben von Philipp Otto und Eike Gräf. Zum erstgenannten resümiert Ariane Rüdiger, es beschreibe „kurz und leicht verständlich, manchmal auch amüsant, alphabetisch geordnet und oft garniert mit praktischen, greifbaren Beispielen, was bestimmte informationsethische Begriffe in der Fachdiskussion genau bedeuten“. „Das reicht von Roboterethik bis zur informationellen Notwehr und von virtueller Realität bis zu Social-Media-Richtlinien. Bendel macht nicht den Fehler, seine Auffassungen zu bestimmten ethischen Fragen als allgemeinverbindlich zu erklären, sondern erwähnt stets auch abweichende Meinungen, was das broschierte Buch zu einer guten Grundlage für Diskussionen macht. Dazu trägt auch der übersichtliche Umfang bei.“ (iX, 5/2018) „3TH1CS“ enthält u.a. Beiträge von Luciano Floridi („Die Mangroven-Gesellschaft“), Oliver Bendel („Sexroboter und Robotersex aus Sicht der Ethik“) und Susan L. und Michael Anderson („Ethische Roboter für die Altenpflege“). Laut Rüdiger „eine interessante, vielseitige und teilweise durchaus unterhaltsame Lektüre“ (iX, 5/2018).

Haben Roboter Gefühle?

Können Roboter bald selbstständig Gefühle wie Hass oder Liebe entwickeln? Dies hat der WDR im April 2018 den Informations- und Maschinenethiker Oliver Bendel gefragt. Der Kontext war die Angst, die wir vor Maschinen haben oder haben können. Er antwortete: Maschinen werden solche Gefühle meines Erachtens nicht entwickeln können, da diese biologisch-chemische und genetisch-hormonelle Grundlagen brauchen. Die Vorstellung, dass sie solche Gefühle haben, kann natürlich Angst machen. Und emotionale Roboter wie Pepper zeigen Gefühle – aber haben eben keine. Eine wichtige Frage ist, ob sie überhaupt Gefühle zeigen sollen. Und ob sie uns weismachen sollen, dass sie Menschen oder ähnlich wie Menschen sind.“ Uns ist in Europa die Angst vor künstlichen Kreaturen gleichsam eingepflanzt. Diese dachten wir uns bereits vor tausenden Jahren aus. Bei Homer und Ovid finden sich Schreckensgestalten wie Talos und Pandora, wobei die künstliche Frau in der Literatur einige Wandlungen erlebt hat. Später ging es ähnlich weiter, mit der Eisernen Jungfrau, dem Golem, Frankensteins Monster. Auch Ausnahmen gibt es, bereits in der Antike, wie Galatea, von Pygmalion erschaffen und von Aphrodite zum Leben erweckt. Das Interview kann über www1.wdr.de/wissen/technik/roboter-maschinenethik-interview-100.html nachgelesen werden.

Abb.: Haben Roboter Gefühle?

Sollen Roboter haften?

Haben Roboter Rechte bzw. soll man sie mit Rechten ausstatten? Die eine Frage ist ethisch, die andere rechtlich deutbar. Oliver Bendel hält als Ethiker nichts von Rechten für Roboter. Dies können weder empfinden noch leiden, sie haben kein Bewusstsein, sie sind keine echten Personen, aber auch keine echten Lebewesen. Im Zivilrecht kann man, so seine Meinung, ohne weiteres eine elektronische Person konstruieren, die man verklagen kann und die dann haften muss (etwa über ein Budget, das sie hat, oder einen Fonds, mit dem sie verbunden ist). Einerseits ist das die Lösung für das Problem, dass sich in vielen Fällen kaum mehr eindeutig verantwortliche natürliche oder juristische Personen ausmachen lassen. Andererseits eben nicht, denn woher sollte das Geld kommen – wenn nicht von natürlichen und juristischen Personen, die mit dem Roboter in irgendeiner Verbindung stehen? Und bei selbstlernenden Systemen wie Tay wird es vollends kompliziert, wobei dieser Fall ins Strafrechtliche hineinreicht. Eine Gruppe von KI-Forschern, Philosophen, Theologen und Rechtswissenschaftlern hat sich in einem offenen Brief gegen die Schaffung des Status einer elektronischen Person gewandt, wie eine Arbeitsgruppe des Europäischen Parlaments sie dieses Jahr vorgeschlagen hat. Der Artikel „Streit um Rechte von Robotern“ stellt die unterschiedlichen Positionen dar. Er ist am 21. April 2018 in der Aargauer Zeitung erschienen und kann über www.aargauerzeitung.ch/leben/forschung-technik/streit-um-rechte-von-robotern-wer-haftet-wenn-etwas-schief-geht-132457958 aufgerufen werden.

Abb.: Wie gestaltet man eine elektronische Person?

Haben Roboter Rechte?

Dieser Frage geht Oliver Bendel in der Zeitschrift Edison nach, in der Ausgabe 2/2018, erschienen am 13. April 2018. Die zuständige Disziplin ist die Roboterethik. Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Auf der Website heißt es zu dem Handelsblatt-Spross: „Edison ist das neue Magazin für alle, die sich für Elektromobilität, vernetztes Leben und nachhaltige Energiegewinnung interessieren. Für alle, die in einer Zeit der Umbrüche und des rasanten technischen Fortschritts Orientierung suchen. Für alle, die Haltung zeigen möchten. Kurz: Es ist das neue Magazin für die Generation E.“ Es kann über edison-magazin.handelsblatt.com/epaper/13.04.2018 bestellt werden.

Abb.: Auch Teddybären haben keine Rechte

Videos zur KI-Session

Am Rande der Handelsblatt-Jahrestagung „Strategisches IT-Management“ (15. bis 17. Januar 2018 in München) wurden Interviews mit den Vortragenden geführt und aufgezeichnet. Am zweiten Tag hatte zuerst Prof. Dr.-Ing. habil. Alois C. Knoll (Lehrstuhlinhaber für Echtzeitsysteme und Robotik, Technische Universität München) zum Human-Brain-Projekt der EU referiert, danach Dr. Martin Hofmann, Group CIO, Volkswagen AG über „Augmented Intelligence: AI in enterprise context“. Prof. Dr. oec. HSG Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik, Hochschule für Wirtschaft FHNW) war auf „Die Ethik als Partnerin von Robotik und KI“ eingegangen. Im Video erläutert er, was Maschinenethik ist. Auf dem Panel hatten er, Prof. Dr.-Ing. habil. Alois C. Knoll, Prof. Dr. Dr. Eric Hilgendorf (Leiter der Forschungsstelle RobotRecht, Julius-Maximilians-Universität Würzburg) und Dr. Ole Wintermann (Senior-Projektleiter, Co-Founder, Blogger, Bertelsmann Stiftung) zum Thema „Sind intelligente Maschinen und Roboter die besseren Menschen?“ diskutiert. Auch dazu steht ein Video zur Verfügung. Alle Videos finden sich über http://veranstaltungen.handelsblatt.com/it-jahrestagung/videos-2018/.

Hologram Girl

Der Kurzfilm „Ignarus“ wird gegenwärtig an der Hochschule der Medien produziert (Director: Lutz Marquardt, Producer: Cornelius Herzog, VFX Producer: Nico Hoerz, DOP: Tatjana Huck). Die Protagonisten sind John und Cara. In der Beschreibung des Projekts heißt es zu John, er sei Wissenschaftler und arbeite für eine staatliche Forschungseinrichtung, die die Möglichkeiten zur Bevölkerung fremder Planeten untersuche. „John ist für die Durchführung einiger Experimente zur Feststellung der dortigen Lebensfähigkeit auf einen erdähnlichen Planeten geschickt worden, auf dem er nun zusammen mit der künstlichen Intelligenz Cara in einem abgeschotteten Forschungsbunker festsitzt.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Obwohl Cara nur ein Hologramm und ein Programm sei, verfüge sie über äußerst menschliche Züge und Charaktereigenschaften. Sie weiß „mit John umzugehen und ihn in einer cleveren Weise zu beeinflussen und zu lenken, wie es die Mission – und am Ende auch Cara – von ihm verlangt“. „Mit diesem Verhalten schafft es Cara, sich John durch subtile Anstöße zum Werkzeug zu machen. Ihre Ziele und Absichten scheinen jedoch stets verborgen und so wirkt sie zum Teil unvorhersehbar und fast schon tückisch. Ihre Art lässt dadurch oft zweifeln, ob sie so programmiert wurde oder sich bereits eigene Eigenschaften angeeignet hat und eine unerwartete Art der Entwicklung durchläuft.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Der Film wird von maschinenethik.net unterstützt und feiert am 5. Juli 2018 bei der MediaNight seine Weltpremiere.


Abb.: Wie Cara aussieht, ist noch unbekannt

Minds Mastering Machines

Die Minds Mastering Machines ist die Konferenz für Machine Learning und Künstliche Intelligenz. Sie findet in Köln vom 24. bis 26. April 2018 statt. Die Keynote am 25. April hält der Informations- und Maschinenethiker Oliver Bendel aus Zürich zum Thema „Das Moralisieren von Maschinen“. Zur Konferenz steht auf der Website: „Die Einsatzgebiete für Machine-Learning-Ansätze, die den Kern der KI ausmachen, sind vielfältig: Sie reichen von intelligenten Helfern und Bots, die online bei allerlei Aufgaben assistieren, über autonome Fahrzeugen bis hin zur Steuerung komplexer Verkehrsströme. Weitere Beispiele sind Wohnungen, die Heizungen regulieren lernen oder bei auffälligem Verhalten hilfsbedürftiger Bewohner Hilfe herbeirufen, und smarte Fabriken mit Maschinen, die sich selbst optimieren und mögliche Störungen bereits im Vorfeld ankündigen.“ (Website M3) Die Konferenz hat „es sich zum Ziel gesetzt, ihre Besucher beim Schritt von den Visionen der Science-Fiction-Autoren in die technische Realität zu unterstützen“ (Website M3).

Abb.: Von Science-Fiction und Fantasy zur technischen Realität

Alexa lacht

Im Salzburger Nachtstudio auf Ö1 wird am 16. Mai 2018 die Sendung „Alexa lacht“ mit dem Untertitel „Maschinen und andere Gespenster der künstlichen Intelligenz“ ausgestrahlt. Aus der Beschreibung: „Die Differenz zwischen Mensch und Maschine ist längst kleiner geworden in unserem smarten Alltag. Maschinen, die immer selbständiger handeln und entscheiden, ziehen als Saug- und Mähroboter, als Pflege-, Spiel-, Service- oder Sexroboter, als Überwachungs- und Kampfroboter in die menschliche Lebenswelt ein. Das erfordert Regeln im Umgang zwischen Mensch und Maschine sowie eine ethische Reflexion der Programmierung. Der Maschinenethiker Oliver Bendel, die Philosophin Janina Loh und die Informatikerin Joanna Bryson reflektieren diese Problematik in ihrer Forschungsarbeit. Was ist menschliche Projektion im Umgang mit Technologien, und wie ‚verhält‘ sich die Maschine dazu? Der Spuk von Sprachassistentin Alexa, die zuweilen gestört lacht, lässt sich beheben, aber Alexa wertet längst menschliche Gewohnheiten aus und steuert uns.“ (Website Ö1) Weitere Informationen über oe1.orf.at/programm/20180516/513712.

Abb.: Alexa lacht