Kategorie: Roboterethik

Über Fat Man und Wonder Woman

Was haben Wonder Woman und ein Lügendetektor gemeinsam? Warum schämen wir uns für andere Menschen? Kann die Sonne erlöschen? Wer war Mata Hari? Die Fragen bei „Beat the Prof“ auf ZEIT ONLINE sind immer anregend, die Antworten oft verblüffend. Im Mai 2017 wurde ein neues Quiz freigeschaltet, und zwar zu Künstlicher Intelligenz, Robotik und Maschinenethik. Die Fragen und Antworten erarbeitete der Informations- und Maschinenethiker Oliver Bendel, der in Zürich lebt und in Basel, Olten und Windisch an der Hochschule für Wirtschaft FHNW arbeitet. Enthalten ist u.a. eine Frage zum Fetter-Mann-Problem. Der bedauernswerte Unbeteiligte werde von einer Brücke auf ein Gleis gestoßen. Aber warum? Antwort 1: „Er wird getötet, damit andere auf dem Gleis überleben.“ Antwort 2: „Er wird heruntergeschubst, damit die Brücke nicht einstürzt.“ Antwort 3: „Er wird getötet, damit das Fetter-Mann-Problem entsteht.“ Das Quiz kann über www.zeit.de/campus/2017-05/beat-the-prof-ethik-kuenstliche-intelligenz aufgerufen werden. Aber Achtung: Die Zeit läuft davon!

Abb.: Fat Man vor der Entscheidung

Recht und Ethik in Basel

Im Sommercasino Basel trafen beim Festival science+fiction vom 5. bis 7. Mai 2017 nationale und internationale Künstler und Wissenschaftler auf ein interessiertes Publikum. Am 6. Mai ging es um Roboterrecht und Maschinenethik. Beim Panel „Maschinen und das Gesetz“ wurde gefragt, welche Bedingungen erfüllt sein müssen, damit eine Maschine zum rechtlichen Subjekt wird, ob es in naher Zukunft eines Maschinenrechts bedarf, oder ob sich Maschinen in unsere Rechtsprechung einfügen müssen, und welche Folgen sich ergeben, wenn in einer Mensch-Maschinen-Interaktion etwas schief geht (z.B. wenn eine Hightech-Prothese ihren Träger oder Personen aus der Umgebung verletzt). Es moderierte Christoph Keller von SRF 2 Kultur, es diskutierten Wolfram Burgard (Professor für Autonomous Intelligent Systems, Universität Freiburg), Nadine Zurkinden (Postdoc für Strafrecht, Universität Basel) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik, Hochschule für Wirtschaft FHNW). Am Abend sprach Gabriele Röger (Informatikerin, Universität Basel) über „Die Auswirkungen von KI auf den Arbeitsmarkt“, und Oliver Bendel stellte seinen LÜGENBOT vor, ein Beispiel für eine Münchhausen-Maschine; am Tag zuvor hatte die TagesWoche über das Projekt berichtet. Weitere Informationen über scienceandfiction.ch.

Das Gute und das Böse

Matthias Oppliger von der TagesWoche besuchte Oliver Bendel am 4. Mai 2017 auf dem Campus Brugg-Windisch und befragte ihn zu seinem Lügenbot und zu anderen Themen: „Sie sind Maschinenethiker und beschäftigen sich mit den moralischen Aspekten von Technologie. Warum bauen Sie eine unmoralische Maschine, die Lügen erzählt?“ Oliver Bendel antwortete: “Als Ethiker interessiere ich mich für das Gute und das Böse, als Maschinenethiker für moralische und unmoralische Maschinen. Ich will keine bösen Maschinen in die Welt entlassen, aber ich will sie erschaffen und erforschen. Wenn wir wissen, wie ein Lügenbot funktioniert, können wir eine solche Maschine auch entlarven und Strategien entwickeln, um gegen sie vorzugehen.“ Der Moralphilosoph untersucht, so hat es Oliver Bendel immer wieder dargestellt, das Gute und das Böse, in deskriptiver oder normativer Weise. Er nimmt das Moralische also zur Kenntnis, beschreibt es und ordnet es ein. Und er entwirft einen Rahmen, etwa deontologischer oder teleologischer Art, und vergleicht den einen mit dem anderen, womit er in der Metaethik angelangt ist. Das Moralisieren überlässt er dem Moraltheologen, der anders als er weder voraussetzungslos noch ergebnisoffen ist. Das ganze Interview ist am 5. Mai 2017 erschienen und kann über www.tageswoche.ch nachgelesen werden.

Abb.: Eine böse Fee

Wer hat Angst vor Robocobs?

Sicherheits- und Überwachungsroboter verbreiten sich auf den Firmengeländen und in den Shopping Malls, als rollende und fliegende Maschinen. Sie sollen für die Sicherheit der Unternehmen und Kunden sorgen. Dabei entsteht allerdings auch Unsicherheit. Man kann mit ihnen zusammenstoßen, sie können einen überwachen und aushorchen. Technology Review war im Gespräch mit Oliver Bendel von der Hochschule für Wirtschaft FHNW. Es ging unter anderem um den K5 im Silicon Valley, den der Informations- und Maschinenethiker im vergangenen Jahr vor Ort inspiziert hat. Der Roboter von Knightscope ist im Shopping Center in Stanford im Einsatz. Er streift die ganze Zeit durch die Gegend und meldet Auffälliges und Verdächtiges an eine Zentrale. Diese bewertet die Situation und ergreift gegebenenfalls Maßnahmen. Der kegelförmige Mitarbeiter ist über 100 Kilo schwer und 1,20 Meter hoch. Der Artikel „Wer hat Angst vor Robocobs“ mit Aussagen von Oliver Bendel ist in der Ausgabe 5/2017 auf den Seiten 32 bis 34 erschienen.

Abb.: Eine Sicherheits- und Überwachungszentrale

Die perfekte Maschine

Julie Rambal interviewte Oliver Bendel für Le Temps. Das Thema waren Sexroboter und Robotersex. Sie fragte danach, ob es möglich ist, weiterhin einen unperfekten Menschen zu lieben, wenn wir uns eine perfekte Maschine leisten können. Wäre diese nicht eine starke Konkurrenz? Die Anwort lautete: „At the moment, we do not have the perfect machine. On the one hand, there are many love dolls which look good but which have limited capacities. On the other hand, we have some sex robots which look strange but which have extended options. A perfect sex machine could be possible in 20, 30 years. It would have perfect skin, perfect flesh, perfect language capabilities. It would read every wish from our eyes. If this would happen, the machine would be a tough competition, that’s true. But I can imagine that there will be a new trend in the future: real sex with real men and women.“ Eine andere Frage war, ob Sexroboter das Verlangen verändern könnten. Die Antwort: „Of course, new types of desire could arise. Love dolls and sex robots could be a chance to identify the hidden individual needs and wishes of oneself and one’s partner. We have a long history of ideas regarding artificial women and men: think of the Golden Virgins or Golden Maids, of Pandora and Galatea, think of Talos, the guardian of Crete Island, or of the Golem. Perhaps also Pinocchio is a sex fantasy? Now serious again: Perhaps our real desire is not focussed on only one person, not only on a real human. I don’t think that sex robots themselves imply a liberation – but maybe the thinking about them.“ Der Artikel vom 25. März 2017 mit Aussagen von Oliver Bendel kann hier heruntergeladen werden.

Abb.: Ist das die perfekte Maschine?

Der Kampf der Maschinen

Die ZEIT führte mit dem Maschinenethiker Oliver Bendel ein Interview, das am 11. bzw. 12. April 2017 veröffentlicht wurde. Eine Frage lautete: „Kann man in Bezug auf bestimmte Programme oder Roboter überhaupt von Moral oder Unmoral sprechen? Können Maschinen gut oder böse sein?“ Die Antwort: „Da sind wir mittendrin in der Maschinenethik. Wir kennen seit 2500 Jahren die Ethik als eine Disziplin, die sich ausschließlich auf Menschen richtete. Jetzt haben wir es mit neuen Subjekten der Moral zu tun, eben Maschinen. Natürlich sind sie nicht gut oder böse, weil sie keinen eigenen Willen, kein Bewusstsein haben. Aber sie treffen, teilautonom oder autonom, bestimmte moralisch relevante Entscheidungen.“ Eine ähnliche Diskussion begann mit der Disziplin der Künstlichen Intelligenz. Viele Experten verwenden den Begriff der KI metaphorisch oder intentional. So kann man es auch bei der maschinellen Moral machen. Die letzte Frage lautete: „Werden intelligente Roboter irgendwann einmal die Menschheit bedrohen?“ Oliver Bendel antwortete dem Journalisten: „Dass sich Roboter zusammenrotten, um uns Menschen zu eliminieren, halte ich für surreal. Dass Maschinen zu Rassisten werden können, ist schon Realität.“ Das Interview kann über www.zeit.de/2017/16/kuenstliche-intelligenz-moral-maschinenethik-interview nachgelesen werden.

Abb.: Der Kampf der Maschinen

Die Artenvielfalt der Automaten

„Android oder Maschine?“ Das fragt die neue Ausgabe der Zeitschrift designreport (Erscheinungsdatum 13. April 2017). In der Ankündigung wird deutlich, worum es geht: „Kaum ein Technologiebereich entwickelt sich derzeit so dynamisch wie die Robotik. Unterstützt von den Fortschritten der Künstlichen Intelligenz steigern sich die Autonomie und damit auch die Anwendungsszenarien automatischer Systeme. Längst geht es nicht mehr nur um Industrieroboter, sondern um persönliche Alltagsassistenten, um Roboter für Medizin, Logistik, Sicherheit oder Mobilität. Die Artenvielfalt der Automaten wächst dynamisch – und damit eine ganz neue Aufgabe für das Design. Dabei geht es nicht nur um die Frage, ob und wie humanoid die neuen Roboter sein dürfen. Es geht vielmehr um die Gestaltung eines neuen technologischen Abschnittes und um die Art, wie wir künftig leben sowie arbeiten wollen. Das Design hat wesentlichen Einflussauf die Nutzungsszenarien, aber auch auf die Akzeptanz der Maschinen.“ (Website designreport) Die Redakteure stellen die neuesten Entwicklungen vor und berichten über einen Besuch der Ausstellung „Hello Robot“ in Weil am Rhein. Enthalten sind auch Interviews, mit einem KUKA-Entwickler zu Industrierobotern und mit Oliver Bendel (Hochschule für Wirtschaft FHNW) zur Maschinenethik. Weitere Informationen über  www.designreport.de.

Abb.: Die Artenvielfalt der Zahnräder

Technical Reports von „AI for Social Good“

Die Technical Reports des Symposiums „AI for Social Good“ sind erschienen. Dieses fand innerhalb der AAAI Spring Symposia (27. bis 29. März 2017) an der Stanford University statt. Organisiert wurde es von Amulya Yadav (University of Southern California, CA, USA) und Fei Fang (Harvard University). Die veröffentlichten Papers zeigen das enorme Spektrum der Veranstaltung auf. Oliver Bendel ist mit „LADYBIRD: The Animal-Friendly Robot Vacuum Cleaner“ sowie „Towards Kant Machines“ (zusammen mit Kevin Schwegler und Bradley Richards) vertreten, Malay Bhattacharyya mit „In Search of Health Doubles“, Sujoy Chatterjee (mit Anirban Mukhopadhyay und Malay Bhattacharyya) mit „Smart City Planning with Constrained Crowd Judgment Analysis“, Arnaud Delaunay (zusammen mit Jean Guérin) mit „Wandering Detection Within an Embedded System for Alzheimer Suffering Patients“ und Virginia Dignum (zusammen mit Frank Dignum) mit „Societal Challenges Need Social Agents“. Virginia Dignum konnte während des Symposiums die frohe Botschaft überbringen, dass die andere große Wissenschaftsvereinigung auf technischem Gebiet, das Institute of Electrical and Electronics Engineers (IEEE), sich in seinen Leitlinien „Ethically Aligned Design“ zu Robotik und KI zukünftig nicht nur den Menschen, sondern auch den Tieren widmen wird. Dies hatte Oliver Bendel in einer Stellungnahme gegenüber den Verantwortlichen vorgeschlagen. Die Technical Reports des Symposiums sind über www.aaai.org/Library/Symposia/Spring/ss17-01.php verfügbar.

Der vegetarische Roboter

Der gleiche Roboter, der von der Schweizerischen Post und von Hermes mit Blick auf Pakete getestet wurde, soll nun auch Pizza ausliefern. Dies meldeten mehrere Medien. So schrieb Golem am 30. März 2017: „Der sechsrädrige Roboter soll die Pizza und andere Speisen im Umkreis von zwei Kilometern um eine Filiale ausliefern. Zu Beginn will Domino’s etwa ein halbes Dutzend Roboter einsetzen und die Zahl später aufstocken. Sobald die Behörden die nötigen Genehmigungen erteilt haben, können die Roboter rollen. Das soll in den kommenden zwei Monaten der Fall sein.“ (Golem, 30. März 2017) Auch dieser Roboter, so niedlich er aussieht und so hübsch man ihn aufklappen kann, wird eine Stolperfalle sein. Die Gehsteige gehören den Fußgängern, die Straßen den Fahrradfahrern und Autofahrern. Für mobile Roboter im öffentlichen Raum bräuchte es neue Konzepte. Ohne diese erhöhen sie einfach die Komplexität in den Städten – die ersten Pizzas sollen in Hamburg umherrollen – und schaffen unnötig Risiken für die Verkehrsteilnehmer. Bei Pizzas gelten zudem andere Anforderungen als bei Paketen. Sie müssen warm bleiben, was bedeutet, dass die Roboter nicht zu langsam fahren dürfen oder dass sie die Speisen warmhalten müssen, was womöglich neue Risiken schafft. Wenn alle Probleme gelöst sind, könnte man aus der Maschinenethik heraus Lieferroboter entwickeln, die aus moralischen Gründen nur vegetarische Pizzas aufnehmen. Einen Versuch wäre es wert.

Abb.: Der vegetarische Roboter mag vegetarische Pizza

AI for Social Good VII

Den Session Chair für die Talk Session 5 („Miscellaneous“) beim AAAI Spring Symposium „AI for Social Good“ hatte Amulya Yadav inne. Er ging auf die Methoden und Strategien im Bereich „AI for Social Good“ ein, erwähnte den Belmont-Report und wertete ihn für den gegebenen Kontext aus. „Optimal Thresholds for Intrusion Detection Systems“ wurde von Yevgeniy Vorobeychik vorgetragen (Paper zusammen mit Aron Laszka, Waseem Abbas u.a.). Die Methoden wurden auf „Water Distribution Networks“ angewandt. Das Referat von Evan Patterson trug den Titel „Machine representation of Data Analyses“ (Paper mit Ioana Baldini, Aleksandra Mojsilovic und Kush Varshney). Er ging aus von einer Case Study namens „Accelerated Cure Project“ und fragte nach neuen Arten von „data science platforms“. Oliver Bendel ging in „Towards Kant Machines“ (Paper zusammen mit Kevin Schwegler und Bradley Richards) auf das abgeschlossene LÜGENBOT-Projekt ein. Der LIEBOT ist in der Lage, systematisch zu lügen. Die Ergebnisse können dazu verwendet werden, solche natürlichsprachlichen Systeme zu entwickeln, die niemals oder selten lügen. Danach präsentierte er sein Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“. LADYBIRD erkennt Marienkäfer und stellt, wenn ihm diese zu nahe kommen, seine Arbeit ein. Der Prototyp wird zurzeit an der Hochschule für Wirtschaft FHNW entwickelt. Erisa Karafili offerierte eine „Argumentation-based Security for Social Good“ (Co-Autoren sind Antonis C. Kakas, Nikolaos I. Spanoudakis und Emil C. Lupu), Mahendra Prasad reiste „Back to the Future“, mit „A Framework for Modelling Altruistic Intelligence Explosions“ im Gepäck. Um 17.30 Uhr – nach einer angeregten Plenumsdiskussion – war das Symposium vorbei. Für den Abend und den Morgen des darauffolgenden Tages waren weitere allgemeine Veranstaltungen innerhalb der AAAI 2017 Spring Symposia geplant.