Angsa Robotics hat einen Prototyp entwickelt, der zur Reinigung von Rasenflächen dient. Auf der Website heißt es: „Durch die Nutzung von GPS Tracking und Computer Vision erkennt der Roboter seinen definierten Bereich. Zusätzlich kommen diverse Sensoren zum Einsatz, durch die Kollisionen frühzeitig vermieden werden. Anhand dieser Daten wird die Ermittlung des effizientesten Weges und souveränes Ausweichen vor Hindernissen ermöglicht.“ (Website Angsa Robotics) Und weiter: „Das von Angsa entwickelte künstliche neuronale Netz, welches im Roboter verbaut ist, ermöglicht die zuverlässige Erkennung von kleinen und teilweise verdeckten Objekten. Trainiert wird das neuronale Netz mithilfe eines eigenenDatensatzes von realen Müll-Bildern. Dadurch ist es dem Roboter möglich, Müllobjekte von anderen Objekten wie Blättern, Schmutz oder Insekten zu unterscheiden. Die gezielte Entfernung garantiert, [dass] keine Schäden an Oberflächen oder Insekten entstehen.“ (Website Angsa Robotics) Damit tritt der Roboter in die Fußstapfen von LADYBIRD. Dieser wurde 2014 im Kontext der Maschinenethik konzipiert und 2017 als Prototyp implementiert. Sobald der Saugroboter vor sich einen Marienkäfer erkennt, unterbricht er, so die Idee, seine Arbeit und informiert den Benutzer. Das Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“ wurde bei den AAAI Spring Symposia 2017 von Prof. Dr. Oliver Bendel an der Stanford University präsentiert. Es ist auch als PDF erhältlich. In deutscher Sprache wird das Projekt im „Handbuch Maschinenethik“ beschrieben. Ein Nachfolgeprojekt ist HAPPY HEDGEHOG, ein igelfreundlicher Mähroboter, als Prototyp 2019 entstanden. Er wird im März 2021 bei den AAAI Spring Symposia vorgestellt.
Seit 2012 wurden von Oliver Bendel 13 Artefakte der Maschinenethik erfunden. Neun von ihnen wurden dann tatsächlich umgesetzt, darunter LADYBIRD, der tierfreundliche Saugroboter, und LIEBOT, der Chatbot, der systematisch lügen kann. Beide haben es zu einer gewissen Bekanntheit gebracht. Ethik muss nicht unbedingt das Gute hervorbringen, ist der Informations- und Maschinenethiker überzeugt. Sie sollte das Gute und das Böse erforschen und wie jede Wissenschaft dem Erkenntnisgewinn dienen. Entsprechend baut er sowohl moralische als auch unmoralische Maschinen. Die unmoralischen behält er aber in seinem Lab. 2020 wird, wenn das Projekt angenommen wird, der HUGGIE das Licht der Welt erblicken. Die Projektidee ist, einen sozialen Roboter zu schaffen, der unmittelbar zu einem guten Leben und zum wirtschaftlichen Erfolg beiträgt, indem er Menschen bzw. Kunden berührt und umarmt. HUGGIE soll sich an manchen Stellen erwärmen, und es sollen die Materialien, mit denen er bezogen ist, gewechselt werden können. Eine Forschungsfrage wird sein: Welche Möglichkeiten stehen neben Wärme und Weichheit zur Verfügung? Sind optische Reize (auch auf Displays), Vibrationen, Geräusche, Stimmen etc. für eine gelungene Umarmung wichtig? Alle moralischen und unmoralischen Maschinen, die zwischen 2012 und 2020 entstanden sind, sind in einer neuen Illustration zusammengestellt, die hier zum ersten Mal gezeigt wird.
„Techniktrends, die echte Probleme lösen“ – so der Titel eines Artikels in der Zeitschrift Chip 10/2019. Im Teaser heißt es: „Dieser Herbst bringt bahnbrechende Innovationen, deren Nutzen sich erst in den kommenden Jahren erweisen wird, aber auch Weiterentwicklungen, die bestehende Hürden beseitigen“. Erwähnt wird u.a. der Home Care Robot von Medisana, zudem LADYBIRD, der tierfreundliche Saugroboter, der 2013 von Oliver Bendel zum ersten Mal erwähnt, 2014 von ihm in einer Designstudie und 2017 an der Hochschule für Wirtschaft FHNW prototypisch umgesetzt wurde. Wenn der Roboter marienkäferähnliche Strukturen erkannte, stellte er seine Arbeit ein und informierte den Benutzer. Ein Nachfolgeprojekt läuft derzeit an der Hochschule für Wirtschaft FHNW unter der Leitung von Oliver Bendel. HAPPY HEDGEHOG, der Prototyp eines tierfreundlichen Mähroboters, soll Igel erkennen und verschonen. Gegenwärtig werden viele Tiere von solchen Geräten getötet, oft in der Nacht. Die Projekte sind innerhalb der Maschinenethik verortet und haben Bezüge zur Tier-Maschine-Interaktion.
Abb.: Auch fühlbare Icons sind ein Thema in der Zeitschrift
„Bei einer ersten Begegnung vor fünf Jahren wirkte Oliver Bendel ziemlich abgefahren. Damals skizzierte er eine Zukunft, in der Technologien auf der Kontaktlinse oder unter der Haut stecken und Kriminelle eben jemandem eine Hand abhacken, um sich mit dem implantierten Chip Zugang zu einem Gebäude zu verschaffen. Er erzählte von einer Welt voller virtuellen Assistenten und Roboter, von seinem Staubsauger mit Moral, den er bauen wollte. Es klang nach Science-Fiction.“ (NZZ, 14. Juni 2019) Im Frühjahr 2019 hat Melanie Keim den Informations- und Maschinenethiker nochmals getroffen, im Lichthof der Universität Zürich. Sie findet ihn immer noch abgefahren. Aber sie hält in ihrem Artikel „Er lehrt Roboter Moral“ für die NZZ fest, dass seine Themen – zu denen er seit zwanzig Jahren forscht – im Mainstream angekommen sind. Inzwischen wurde LADYBIRD, der tierfreundliche Saugroboter, als Prototyp gebaut, und der LIEBOT, der systematisch lügen konnte, ist Geschichte. Dieser erklärte im Sommer 2016, dass Donald Trump der Präsident der USA sei. Warum er dies tat, wird in mehreren Papers und auf mehreren Slides erklärt, die u.a. hier und über www.oliverbendel.net heruntergeladen werden können. Nur soviel sei verraten: Es wird sozusagen Pingpong mit Yahoo gespielt. Der Artikel vom 22. Juni 2019 steht als PDF zur Verfügung. Zusätzlich gibt es eine Onlineversion.
More and more autonomous and semi-autonomous machines such as intelligent software agents, specific robots, specific drones and self-driving cars make decisions that have moral implications. Machine ethics as a discipline examines the possibilities and limits of moral and immoral machines. It does not only reflect ideas but develops artifacts like simulations and prototypes. In his talk at the University of Potsdam on 23 June 2019 („Fundamentals and Artifacts of Machine Ethics“), Prof. Dr. Oliver Bendel outlined the fundamentals of machine ethics and present selected artifacts of moral and immoral machines, Furthermore, he discussed a project which will be completed by the end of 2019. The GOODBOT (2013) is a chatbot that responds morally adequate to problems of the users. The LIEBOT (2016) can lie systematically, using seven different strategies. LADYBIRD (2017) is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. The BESTBOT (2018) is a chatbot that recognizes certain problems and conditions of the users with the help of text analysis and facial recognition and reacts morally to them. 2019 is the year of the E-MOMA. The machine should be able to improve its morality on its own.
Die Maschinenethik bringt moralische und unmoralische Maschinen hervor. Die maschinelle Moral ist in der Regel festgelegt; es sind bestimmte Aktionen möglich, andere nicht. Ein alternativer Ansatz ist das Moralmenü. Über dieses überträgt der Besitzer oder Benutzer seine eigene Moral auf die Maschine. Diese agiert und reagiert so, wie er dies auch tun würde. Die Vorteile und Nachteile werden in dem Beitrag „Das Moralmenü: Moralische Maschinen mit einer Stellvertretermoral“ von Oliver Bendel diskutiert, veröffentlicht am 27. Januar 2019 in Telepolis. Telepolis, gegründet 1996, widmet sich seit Jahren immer wieder Roboterethik und Maschinenethik. Bei Heise Medien ist 2016 auch „Die Moral in der Maschine: Beiträge zu Roboter- und Maschinenethik“ von Oliver Bendel erschienen. Der Beitrag kann über www.heise.de/tp/features/Das-Moralmenue-4285297.html abgerufen werden.
Abb.: Soll der Saugroboter mit den Katzen spielen?
„With a few decades, autonomous and semi-autonomous machines will be found throughout Earth’s environments, from homes and gardens to parks and farms and so-called working landscapes – everywhere, really, that humans are found, and perhaps even places we’re not. And while much attention is given to how those machines will interact with people, far less is paid to their impacts on animals.“ (Anthropocene, October 10, 2018) „Machines can disturb, frighten, injure, and kill animals,“ says Oliver Bendel, an information systems professor at the University of Applied Sciences and Arts Northwestern Switzerland, according to the magazine. „Animal-friendly machines are needed.“ (Anthropocene, October 10, 2018) In the article „Will smart machines be kind to animals?“ the magazine Anthropocene deals with animal-friendly machines and introduces the work of the scientist. It is based on his paper „Towards animal-friendly machines“ (Paladyn) and an interview conducted by journalist Brandon Keim with Oliver Bendel. More via www.anthropocenemagazine.org/2018/10/animal-friendly-ai/.
Im „Handbuch Maschinenethik“ ist Ende Juli 2018 der Beitrag „Das LADYBIRD-Projekt“ von Oliver Bendel erschienen. Die Zusammenfassung: „Im LADYBIRD-Projekt ging es um einen Saugroboter, der aus moralischen Gründen bestimmte Insekten verschonen soll, die sich auf dem Boden befinden. Er sollte das jeweilige Tier mit Hilfe von Sensoren und von Analysesoftware erfassen und, bestimmten Regeln folgend, für eine Weile seine Arbeit einstellen. Das Praxisprojekt wurde 2017 an der Hochschule des Verfassers (und unter seiner Leitung) durchgeführt. Verwendet wurden Vorarbeiten, die ab 2014 entstanden, etwa eine Designstudie und ein annotierter Entscheidungsbaum. Drei Studierende der Wirtschaftsinformatik entwickelten den Roboter mittels vorgefertigter Module. Sie passten den Entscheidungsbaum an und implementierten die Regeln in Java. Das Ergebnis war ein kleiner, mobiler Roboter, der Marienkäfer bzw. ähnliche Objekte erkennen konnte und bei ihrer Anwesenheit seine Arbeit unterbrach. Der vorliegende Beitrag stellt sowohl die Vorarbeiten als auch die Durchführung des Projekts dar und diskutiert die Ergebnisse.“ Die Beiträge des von Oliver Bendel herausgegebenen Springer-Handbuchs erscheinen laufend und werden über link.springer.com/referencework/10.1007/978-3-658-17484-2 aufgeführt.
LADYBIRD, der tierfreundliche Staubsaugerroboter, wurde 2014 erdacht und 2017 an der Stanford University (AAAI Spring Symposia) vorgestellt und dann an der School of Business FHNW als Prototyp umgesetzt. Im Kontext des Projekts wurde ein Menü vorgeschlagen, mit welchem der Benutzer die Moral des Staubsaugerroboters einstellen kann. Dieser verschont, wie der Name andeutet, Marienkäfer. Auch Spinnen sollte er am Leben lassen. Wer aber zum Beispiel partout bestimmte Insekten einsaugen lassen will, könnte dies über ein Menü festlegen. Wichtig ist, dass LADYBIRD insgesamt tierfreundlich bleibt. Über das Menü wird, so war die Idee, eine Stellvertretermoral im Detail entwickelt. Der Staubsaugerroboter als Stellvertretermaschine macht das, was der Besitzer auch machen würde. 2018 kam das Moralmenü (MOME) für LADYBIRD als Designstudie auf die Welt. Dieses kann man mit weiteren Ansätzen und Technologien koppeln. So könnte der Benutzer erfahren, wie andere entschieden haben, und wie die persönliche Moral, die er auf die Maschine übertragen hat, eingeschätzt wird. Auch könnte er gewarnt und aufgeklärt werden, wenn er nicht nur Ungeziefer, sondern auch Spinnen einsaugen lassen will.
Im Kontext des LADYBIRD-Projekts (2014/2017) wurde ein Menü vorgeschlagen, mit welchem der Benutzer die Moral des Staubsaugerroboters einstellen kann. Dieser verschont, wie der Name andeutet, Marienkäfer. Auch Spinnen sollte er am Leben lassen. Wer aber zum Beispiel partout bestimmte Insekten einsaugen lassen will, könnte dies über ein Menü festlegen. Wichtig ist, dass LADYBIRD insgesamt tierfreundlich bleibt und sich nicht ins Gegenteil verkehrt (und Marienkäfer sind auf jeden Fall tabu). Über das Menü wird eine Stellvertretermoral entwickelt. Der Staubsaugerroboter macht das, was der Besitzer auch machen würde. Andere Maschinen wie Sprachassistenten bzw. virtuelle Assistenten haben in der Regel keine grundsätzliche moralische Ausrichtung, eignen sich aber ebenso für den Einsatz eines Moralmenüs. Google Assistant soll in Zukunft mit Hilfe der Audiofunktion alle möglichen Reservierungen vornehmen (das Projekt wird Duplex genannt). Damit automatisiert er Vorgänge, die privaten und sozialen Charakter haben. Viele Benutzer werden es schätzen, wenn der Telefonassistent die eigenen Wertvorstellungen vertritt, da er ja in ihrem Namen bzw. Auftrag spricht. Die Designstudie MOME stellt ein Moralmenü beispielhaft für virtuelle Assistenten dieser Art vor. Die erste Option lautet: „Ich sage, dass ich eine Maschine bin.“ Eine solche Funktion war schon beim GOODBOT von 2013, einem moralisch adäquat agierenden und reagierenden Chatbot, umgesetzt.
„We love AI“ nennt sich ein neues Angebot der Deutschen Telekom im World Wide Web, das sich ganz der Künstlichen Intelligenz widmet. Jan Hofmann begrüßt die Besucher: „Wir sind überzeugt, dass künstliche Intelligenz nicht nur den Kundenservice verändern wird, sondern unsere gesamte Industrie – jede Industrie, unsere Gesellschaft und unser tägliches Leben.“ (Website We love AI) Eines der ersten Interviews wurde mit dem Informations- und Maschinenethiker Oliver Bendel geführt. Er untersucht die Möglichkeit maschineller Moral und baut einfache moralische Maschinen als Artefakte, die er dann wiederum untersucht. Zu seinem neuesten Projekt innerhalb der Maschinenethik, das einen tierfreundlichen Saugroboter namens LADYBIRD zum Ziel hat, sagt er: „Mir geht es um das Prinzip. Mir geht es darum, zu zeigen, dass solche tierfreundlichen Maschinen möglich sind. Dass man zum Beispiel Entscheidungsbäume benutzen kann, um solche Maschinen zu bauen. In diese Entscheidungsbäume kann man moralische Begründungen einbeziehen. Das mit Ladybird ist ein sehr anschauliches Beispiel. Wir bauen eine Maschine, die bestimmte Farbsensoren hat, die über Muster- und Bilderkennung verfügt und tatsächlich den Marienkäfer erkennt und verschont. Ich will das Prinzip verdeutlichen: Es ist möglich, eine Maschine zu bauen, die bestimmten ethischen Modellen und moralischen Regeln folgt.“ Das ganze Interview kann über www.we-love.ai/de/blog/post/Interview-OliverBendel.html aufgerufen werden.
Den Session Chair für die Talk Session 5 („Miscellaneous“) beim AAAI Spring Symposium „AI for Social Good“ hatte Amulya Yadav inne. Er ging auf die Methoden und Strategien im Bereich „AI for Social Good“ ein, erwähnte den Belmont-Report und wertete ihn für den gegebenen Kontext aus. „Optimal Thresholds for Intrusion Detection Systems“ wurde von Yevgeniy Vorobeychik vorgetragen (Paper zusammen mit Aron Laszka, Waseem Abbas u.a.). Die Methoden wurden auf „Water Distribution Networks“ angewandt. Das Referat von Evan Patterson trug den Titel „Machine representation of Data Analyses“ (Paper mit Ioana Baldini, Aleksandra Mojsilovic und Kush Varshney). Er ging aus von einer Case Study namens „Accelerated Cure Project“ und fragte nach neuen Arten von „data science platforms“. Oliver Bendel ging in „Towards Kant Machines“ (Paper zusammen mit Kevin Schwegler und Bradley Richards) auf das abgeschlossene LÜGENBOT-Projekt ein. Der LIEBOT ist in der Lage, systematisch zu lügen. Die Ergebnisse können dazu verwendet werden, solche natürlichsprachlichen Systeme zu entwickeln, die niemals oder selten lügen. Danach präsentierte er sein Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“. LADYBIRD erkennt Marienkäfer und stellt, wenn ihm diese zu nahe kommen, seine Arbeit ein. Der Prototyp wird zurzeit an der Hochschule für Wirtschaft FHNW entwickelt. Erisa Karafili offerierte eine „Argumentation-based Security for Social Good“ (Co-Autoren sind Antonis C. Kakas, Nikolaos I. Spanoudakis und Emil C. Lupu), Mahendra Prasad reiste „Back to the Future“, mit „A Framework for Modelling Altruistic Intelligence Explosions“ im Gepäck. Um 17.30 Uhr – nach einer angeregten Plenumsdiskussion – war das Symposium vorbei. Für den Abend und den Morgen des darauffolgenden Tages waren weitere allgemeine Veranstaltungen innerhalb der AAAI 2017 Spring Symposia geplant.
An der Hochschule für Wirtschaft FHNW startet im März 2017 das LADYBIRD-Projekt. Die Idee des tierfreundlichen Staubsaugerroboters kommt seit 2013 in verschiedenen Publikationen von Oliver Bendel vor. In der Online-Zeitschrift inside-it.ch heißt es, Serviceroboter wie Haushalts- und Gartenroboter „sind in zahlreichen Ausführungen erhältlich und erleben einen wahren Boom“. Und weiter: „Ein gewöhnlicher Saugroboter verschlingt das, was vor ihm und unter ihm ist. Dazu gehören nicht nur Staubflocken und Kekskrümel, sondern auch Spinnen und Käfer. Nach der Meinung vieler Menschen sollte man Tiere nicht einfach verletzen oder beseitigen. Man kann den Roboter mit Bilderkennung und Bewegungssensoren ausstatten und ihm beibringen, Lebewesen vor dem Tod zu bewahren.“ Im letzten Jahr erstellte Oliver Bendel einen annotierten Entscheidungsbaum für die einfache moralische Maschine. Zudem wurden in einem Paper, das Ende März im Rahmen der AAAI-Konferenz an der Stanford University präsentiert wird („LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“), technische Details behandelt. In dem Praxisprojekt arbeiten zwei Studenten und eine Studentin über mehrere Monate. Auftraggeber ist Oliver Bendel, Betreuer Bradley Richards. Wie in anderen Projekten innerhalb der Maschinenethik an der Hochschule geht es darum, dass am Ende ein Prototyp mit den wichtigsten Komponenten und Funktionen vorliegt.
Abb.: Bekannt ist LADYBIRD bereits – nun wird er gebaut
Ein vierteiliges Interview mit dem Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel ist am 31. Mai 2016 in Telepolis erschienen. Es geht um autonome Autos, um neuartige Chatbots wie den GOODBOT und um tierfreundliche Saugroboter wie LADYBIRD. Es geht um die Forschung in der Schweiz und in den USA und das Zusammenleben mit den Maschinen. Zum Verkehr der Zukunft sagt Bendel: „Was also tun? Ich rate hartnäckig dazu, bestimmte Maschinen in offenen Welten nicht auf uns loszulassen. Es sind vermutlich tragfähige Kompromisse möglich. Man kann autonome Autos in den Städten verbieten und zwischen den Städten fahren lassen, auf bestimmten Spuren, wobei der Spurwechsel meist gut beherrscht wird, zu bestimmten Uhrzeiten, mit bestimmten Geschwindigkeiten. Eventuell auch im Entenmarsch, ein Auto fährt voran, die anderen bilden eine Kette wie die Küken hinter der Mutter. Projekte dieser Art hat es gegeben. Bei einer solchen Entflechtung des Verkehrs sind diejenigen beruhigt, die dem autonomen Auto misstrauen, und es werden kaum Unfälle mit konventionellen Fahrzeugen auftreten.“ (Telepolis, 31. Mai 2016) Der Beitrag mit dem Titel „Über die Moral der Maschinen und eine programmierte Ethik“ kann über www.heise.de/tp/artikel/48/48387/1.html abgerufen werden.
Abb.: Über den Entenmarsch staunt auch die Quietscheente
Beim Swiss ICT Symposium vom 10. bis 11. November 2015 gab es ein breites Spektrum von Vorträgen und Themen. Prof. Dr. Manfred Spitzer (Hirnforscher und Psychiater) und Sascha Lobo (SPON-Kolumnist) unterhielten als Keynoter das Publikum mit gewagten Thesen und anschaulichen Beispielen. Im gut besuchten Track „Internet der Dinge“ referierte Moritz Köhler (Director of Software Engineering, Sensirion AG). „IoT-Geräte und Mobiltelefone verschmelzen zusehends und ermöglichen völlig neue Anwendungen und Geschäftsmodelle.“ (www.swissict.ch) Was wird möglich, so fragte er sich, wenn Telefone immer mehr Kenntnis von ihrer Umwelt haben? Und lieferte „eine Einführung in die Sensorik in Mobiltelefonen und deren Bedeutung“. Smartphones, die Atem-, Stadt- und Raumluft analysieren können, lassen Behörden, Unternehmen und Privatleute aufhorchen. Auch Roboter mit Nasen werden für Staunen sorgen und nicht zuletzt bei der Tier-Maschine-Interaktion von Bedeutung sein. „Moralische Maschinen“ lautete der Titel des Vortrags von Prof. Dr. Oliver Bendel (Professor für Wirtschaftsinformatik und Ethik, Hochschule für Wirtschaft FHNW): „Autos bremsen rechtzeitig vor Menschen ab. Serviceroboter bringen Medikamente und sind nett zu uns. Manche Dinge, Roboter und (teil-)autonome Maschinen werden aber falsche oder interessengeleitete Entscheidungen treffen. Einfache moralische Maschinen könnten eine Lösung sein.“ (www.swissict.ch) Vielleicht entdeckt auch die Maschinenethik die Olfaktorik und lässt Roboter die Gerüche von Menschen analysieren und automatisch die dazu passenden Düfte ausströmen. Die Maschine wird insofern gut, als wir sie gut riechen können. Die Vortragsfolien stehen über www.swissict.ch zur Verfügung.
Die Vortragsreihe im Studium generale der Hochschule Konstanz im Sommersemester 2015 trägt den Titel „Abenteuer – in der Welt und im Kopf: Über Wagnisse in Philosophie, Wissenschaft, Kunst, Literatur, Politik, Wirtschaft und Technik“. Montags von 19.30 bis 21.00 Uhr präsentieren Wissenschaftler aus dem deutschsprachigen Raum ihre Ergebnisse und Ideen. Den Anfang macht am 23. März 2015 Prof. Dr. Ernst Peter Fischer von der Universität Heidelberg mit „Mutproben der Menschheit: Das Abenteuer Wissenschaft wird besichtigt“. Seit Jahrzehnten forscht und publiziert er zu naturwissenschaftlichen Themen. In der Woche darauf folgt Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW (Basel, Olten, Brugg-Windisch) mit seinem Vortrag über „Moralische Maschinen: Erkenntnisse der Maschinen- und Roboterethik“. Er geht u.a. auf tierfreundliche Saugroboter und menschenfreundliche Chatbots ein. Weitere Höhepunkte dürften „Liebesabenteuer: Giacomo Casanova in seinen Memoiren“ von Prof. Dr. Richard Utz (Hochschule Mannheim) und „Was hat Hegel mit Karl May zu tun? Die Abenteuer des Geistes im bürgerlichen Zeitalter“ von Prof. Dr. Gert Ueding (Universität Tübingen) sein. Weitere Informationen über www.htwg-konstanz.de/Studium-generale.2855.0.html; zudem gibt es ein Plakat.
