Schlagwörter: Roboterethik

Die perfekte Maschine

Julie Rambal interviewte Oliver Bendel für Le Temps. Das Thema waren Sexroboter und Robotersex. Sie fragte danach, ob es möglich ist, weiterhin einen unperfekten Menschen zu lieben, wenn wir uns eine perfekte Maschine leisten können. Wäre diese nicht eine starke Konkurrenz? Die Anwort lautete: „At the moment, we do not have the perfect machine. On the one hand, there are many love dolls which look good but which have limited capacities. On the other hand, we have some sex robots which look strange but which have extended options. A perfect sex machine could be possible in 20, 30 years. It would have perfect skin, perfect flesh, perfect language capabilities. It would read every wish from our eyes. If this would happen, the machine would be a tough competition, that’s true. But I can imagine that there will be a new trend in the future: real sex with real men and women.“ Eine andere Frage war, ob Sexroboter das Verlangen verändern könnten. Die Antwort: „Of course, new types of desire could arise. Love dolls and sex robots could be a chance to identify the hidden individual needs and wishes of oneself and one’s partner. We have a long history of ideas regarding artificial women and men: think of the Golden Virgins or Golden Maids, of Pandora and Galatea, think of Talos, the guardian of Crete Island, or of the Golem. Perhaps also Pinocchio is a sex fantasy? Now serious again: Perhaps our real desire is not focussed on only one person, not only on a real human. I don’t think that sex robots themselves imply a liberation – but maybe the thinking about them.“ Der Artikel vom 25. März 2017 mit Aussagen von Oliver Bendel kann hier heruntergeladen werden.

Abb.: Ist das die perfekte Maschine?

Technical Reports von „AI for Social Good“

Die Technical Reports des Symposiums „AI for Social Good“ sind erschienen. Dieses fand innerhalb der AAAI Spring Symposia (27. bis 29. März 2017) an der Stanford University statt. Organisiert wurde es von Amulya Yadav (University of Southern California, CA, USA) und Fei Fang (Harvard University). Die veröffentlichten Papers zeigen das enorme Spektrum der Veranstaltung auf. Oliver Bendel ist mit „LADYBIRD: The Animal-Friendly Robot Vacuum Cleaner“ sowie „Towards Kant Machines“ (zusammen mit Kevin Schwegler und Bradley Richards) vertreten, Malay Bhattacharyya mit „In Search of Health Doubles“, Sujoy Chatterjee (mit Anirban Mukhopadhyay und Malay Bhattacharyya) mit „Smart City Planning with Constrained Crowd Judgment Analysis“, Arnaud Delaunay (zusammen mit Jean Guérin) mit „Wandering Detection Within an Embedded System for Alzheimer Suffering Patients“ und Virginia Dignum (zusammen mit Frank Dignum) mit „Societal Challenges Need Social Agents“. Virginia Dignum konnte während des Symposiums die frohe Botschaft überbringen, dass die andere große Wissenschaftsvereinigung auf technischem Gebiet, das Institute of Electrical and Electronics Engineers (IEEE), sich in seinen Leitlinien „Ethically Aligned Design“ zu Robotik und KI zukünftig nicht nur den Menschen, sondern auch den Tieren widmen wird. Dies hatte Oliver Bendel in einer Stellungnahme gegenüber den Verantwortlichen vorgeschlagen. Die Technical Reports des Symposiums sind über www.aaai.org/Library/Symposia/Spring/ss17-01.php verfügbar.

AI for Social Good VII

Den Session Chair für die Talk Session 5 („Miscellaneous“) beim AAAI Spring Symposium „AI for Social Good“ hatte Amulya Yadav inne. Er ging auf die Methoden und Strategien im Bereich „AI for Social Good“ ein, erwähnte den Belmont-Report und wertete ihn für den gegebenen Kontext aus. „Optimal Thresholds for Intrusion Detection Systems“ wurde von Yevgeniy Vorobeychik vorgetragen (Paper zusammen mit Aron Laszka, Waseem Abbas u.a.). Die Methoden wurden auf „Water Distribution Networks“ angewandt. Das Referat von Evan Patterson trug den Titel „Machine representation of Data Analyses“ (Paper mit Ioana Baldini, Aleksandra Mojsilovic und Kush Varshney). Er ging aus von einer Case Study namens „Accelerated Cure Project“ und fragte nach neuen Arten von „data science platforms“. Oliver Bendel ging in „Towards Kant Machines“ (Paper zusammen mit Kevin Schwegler und Bradley Richards) auf das abgeschlossene LÜGENBOT-Projekt ein. Der LIEBOT ist in der Lage, systematisch zu lügen. Die Ergebnisse können dazu verwendet werden, solche natürlichsprachlichen Systeme zu entwickeln, die niemals oder selten lügen. Danach präsentierte er sein Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“. LADYBIRD erkennt Marienkäfer und stellt, wenn ihm diese zu nahe kommen, seine Arbeit ein. Der Prototyp wird zurzeit an der Hochschule für Wirtschaft FHNW entwickelt. Erisa Karafili offerierte eine „Argumentation-based Security for Social Good“ (Co-Autoren sind Antonis C. Kakas, Nikolaos I. Spanoudakis und Emil C. Lupu), Mahendra Prasad reiste „Back to the Future“, mit „A Framework for Modelling Altruistic Intelligence Explosions“ im Gepäck. Um 17.30 Uhr – nach einer angeregten Plenumsdiskussion – war das Symposium vorbei. Für den Abend und den Morgen des darauffolgenden Tages waren weitere allgemeine Veranstaltungen innerhalb der AAAI 2017 Spring Symposia geplant.

Olli in Zug

Bereits 2016 sorgte Olli für Schlagzeilen. Local Motors und IBM hatten ein autonomes Shuttle präsentiert, das an das autonome Shuttle der PostAuto AG erinnert, das in Sitten im Wallis verkehrt. Anders als dieses kann Olli aber nicht nur denken, sondern auch sprechen, beides auf hohem Niveau und mit Hilfe von IBM Watson. Nun verkehren zwei Ollis, wohl ohne Stimme, für die Schweizerische Bundesbahnen (SBB) in Zug. „In einer ersten Projektphase fahren die beiden Shuttles mit definierten Zwischenhalten, sie werden in den Fahrplan eingebunden. Danach sollen die Kunden innerhalb eines begrenzten Gebiets – quasi auf Abruf – beliebig ein- und aussteigen können. Diese zweite Phase soll im Jahr 2018 starten.“ (Tages-Anzeiger, 7. März 2017) Das Halten an Haltestellen beherrschen die Shuttles von PostAuto schon seit längerer Zeit. Wie diese ist Olli mit Kameras und Lidar ausgestattet, verfügt aber zusätzlich über Radar. Man darf gespannt sein, wie er in der Stadt zurechtkommt. Im Mischbetrieb mit Fußgängern, Fahrradfahrern und normalen Autos muss man bestimmte Tricks anwenden wie die radikale Geschwindigkeitsreduktion und das Nutzen von Spezialspuren. Schwierig bleibt das Abbiegen, das Links- noch mehr als das Rechtsabbiegen. Zu Unfällen muss es in solchen Konstellationen fast zwangsläufig kommen. Ein Interview mit dem Projektleiter ist über die Website des Unternehmen zu finden.

Abb.: Für Olli ist das Abbiegen eine Herausforderung

Autonome Autos in Recht und Moral

Der Artikel „Autonome Autos in Recht und Moral“ im VDI-Jubiläumsheft „Technik in Bayern“ beginnt mit folgenden Worten: „Das autonome Fahren beschwingt und beflügelt die einen, als würde man damit den Boden verlassen können, und empört die anderen. Es entstehen Eutopien und Dystopien. Es werden Behauptungen aufgestellt, die entweder eine gewisse Plausibilität haben oder von der Realität weit entfernt sind.“ Oliver Bendel nimmt Stellung zu Behauptungen aus Wirtschaft und Politik, etwa dazu, dass man mit hoch- und vollautomatisiertem Fahren und autonomen Autos die Zahl der Verkehrsopfer verringern kann. Nach seiner Meinung trifft dies für Autobahnen durchaus zu; in Städten könnte sie sich aber auch erhöhen. Zum einen gibt es dort zahllose bewegte und unbewegte Objekte, die das Auto erkennen und beurteilen muss. Beim Priorisieren hat es Mühe, anders als erwachsene Menschen. Zum anderen ist Fahren in Städten immer auch Kommunizieren. Ein Blickkontakt, eine Handbewegung, und schon ist den Verkehrsteilnehmern klar, was die anderen wollen. Das Auto tut sich diesbezüglich schwer, und bisher hat es kaum Möglichkeiten, mit den Fußgängern und Fahrradfahrern zu kommunizieren. Natürlich gibt es Tricks, um auch den automatisierten Verkehr in der Stadt sicherer zu gestalten. Man reduziert die Geschwindigkeit stark, man schafft separate Spuren. Man baut die Stadt um, so wie man sie schon einmal umgebaut hat. Die Frage ist nur, ob man das will. Der Beitrag ist Anfang 2017 erschienen und kann mit freundlicher Genehmigung des Verlags hier heruntergeladen werden.

Abb.: Dieses Auto hat das Recht auf seiner Seite

IBM Watson trägt ein Haiku vor

Dass Roboter auch Gedichte vortragen können, zeigt ein Projekt von Oliver Bendel, das im November 2016 gestartet ist. Benutzt wurde für den zweiten Versuch am 3. März 2017 erneut die Text-to-speech-Engine von IBM Watson. Diese kann man im Prinzip für Vorlesesysteme, für Chatbots oder für Serviceroboter verwenden. Oliver Bendel passte das eigens für das Projekt verfasste „robot haiku“ mit Hilfe von Voice Transformation SSML an. Es wurden Pausen am Anfang eingebaut, damit der Titel und die Metainformationen (Autor, System, Stimme, Datum) nicht zu schnell nacheinander erklingen, zudem Pausen zwischen den Zeilen. Der Befehl <voice-transformation type=“Custom“ glottal_tension=“-80%“> bewirkt einen weichen Vortrag des Kurzgedichts. Dieses kann hier im Format .ogg heruntergeladen und beispielsweise im VLC Media Player angehört werden. Auch auf dem Handy kann man es speichern – insofern ist das Projekt eine Weiterführung der Handyhaikus, die es seit 2010 gibt. Informationen hierzu über handyroman.net oder direkt über handyroman.net/handyhaiku/einstieg.html.

Abb.: Auch die goldenen Jungfrauen von Hephaistos kommen vor

Welche Gesetze brauchen Roboter?

Am 23. Februar 2017 fragte sich Zündfunk (Bayern 2): „Welche Gesetze brauchen Roboter?“ Der Anlass war, dass im Europäischen Parlament die Regulierung von Künstlicher Intelligenz und Robotik gefordert wurde. Gregor Schmalzried hatte bereits am Morgen den Informations- und Maschinenethiker Oliver Bendel von der Hochschule für Wirtschaft FHNW zum Thema befragt, der das Dokument im Detail kannte, weil er es im vergangenen Jahr für einen Abgeordneten in Brüssel kommentiert hatte. Auch der Informatiker Matthias Althoff von der Technischen Universität München kam zu Wort. Der Beitrag stieg ein mit dem Vorschlag von Bill Gates, eine Robotersteuer einzuführen (wozu Oliver Bendel wiederholt seine Meinung geäußert hatte, auch im Deutschen Bundestag), und es wurde aus dem genannten Bericht zitiert. Matthias Althoff nahm Stellung zur elektronischen Person, die er im Moment für Science-Fiction hält, Oliver Bendel zu den Robotergesetzen von Asimov, darauf hinweisend, dass diese für die Fiktionalität, nicht die Realität entwickelt wurden. Die Sendung kann über www.br.de/radio/bayern2 nachgehört werden.

Abb.: Welche Gesetze brauchen Roboter?

Eine Steuer für Roboter in der Arbeitswelt

Das „Echo der Zeit“ auf SRF4 bzw. SRF1 brachte am 8. Februar 2017 ein Gespräch mit dem Informations- und Maschinenethiker Oliver Bendel. Der Teaser auf der Website führt unter dem Titel „Eine Steuer für Roboter in der Arbeitswelt“ wie folgt ein: „Die Wirtschaft wird immer stärker automatisiert, gewisse Arbeitsplätze werden überflüssig. Gewinner sind die Hersteller von Robotern, zum Beispiel ABB. Laut einer Studie wird bald die Hälfte aller Jobs in den USA durch Roboter ersetzt. Wie können Staaten auf diese Entwicklung reagieren? Eine Idee ist, die Maschinen [zu] besteuern, die die Menschen ersetzen.“ (Website SRF, 8. Februar 2017) Ein Ansatz ist, von der Arbeit des Roboters auszugehen. Es kann ein Stundenlohn angenommen werden, etwa die 4,50 US-Dollar, die Fondsmanager der Credit Suisse ausgerechnet haben für einen durchschnittlichen Industrieroboter. Darauf wird dann eine Art Einkommensteuer erhoben. Mit Blick auf die Robotersteuer stellen sich zahlreiche Fragen: Welche Systeme sind betroffen, nur Hardwareroboter oder auch Softwareroboter? Nur Industrieroboter oder auch Serviceroboter? Um welche Arbeit geht es konkret, um welche Tätigkeiten, um welche Einsatzbereiche? Das Gespräch mit Oliver Bendel führte Isabelle Jacobi. Es kann über www.srf.ch/play/radio/echo-der-zeit aufgerufen werden.Abb.: Wie hoch ist die Robotersteuer?

Der Wandel der Städte durch autonome Autos

Die Daimler und Benz Stiftung fördert das neue Projekt „AVENUE21 – Autonomer Verkehr: Entwicklungen des urbanen Europa“. Aus der Pressemitteilung: „Ein interdisziplinäres Wissenschaftlerteam geht der Frage nach, wie sich europäische Städte durch das autonome Fahren entwickeln werden – und welchen Einfluss umgekehrt Stadtstrukturen auf die Entwicklung des autonomen Verkehrs nehmen.“ (Pressemitteilung DBS, 31. Januar 2017) „Das autonome Fahren“, so die These von Mathias Mitteregger von der Fakultät für Architektur und Raumplanung der TU Wien, „wird die Morphologie der Städte, die Art der Stadtgesellschaften und die urbane Governance entscheidend verändern“ (Pressemitteilung DBS, 31. Januar 2017). Dieser These stimmt Oliver Bendel, der im September 2017 den Ladenburger Diskurs zu Pflegerobotern durchführt, der ebenfalls von der gemeinnützigen Stiftung finanziert wird, grundsätzlich zu. Allerdings fordert er, dass PKW in den Städten nicht autonom fahren dürfen. Es gibt dort zu viele bewegte und unbewegte Gegenstände, die zu berücksichtigen sind, zudem Signale, Reflexe und Schatten. Und natürlich ungeschützte Menschen und Tiere. Zudem ist Fahren in der Stadt ständige Kommunikation. Menschen können sich mit einem Blick in die Augen und einem Wink verständigen – Maschinen und Menschen nicht. Natürlich kann man die Städte, wie es schon einmal geschehen ist, für das Auto umbauen. Nach der Meinung von Oliver Bendel sollte man aber das Gegenteil tun: Man sollte sie Fußgängern und Fahrradfahrern zurückgeben. So oder so ist Forschung in diesem Bereich dringend notwendig.

Abb.: Wohin gehört das autonome Auto?

Kill Switches for Robots

EU rules for the fields of robotics and artificial intelligence, to settle issues such as compliance with ethical standards and liability for accidents involving self-driving cars, should be put forward by the EU Commission, urged the Legal Affairs Committee on January 12, 2017. The media has reported on this in television, radio and newspapers. According to the Parliament’s website, rapporteur Mady Delvaux said: „A growing number of areas of our daily lives are increasingly affected by robotics. In order to address this reality and to ensure that robots are and will remain in the service of humans, we urgently need to create a robust European legal framework.“ (Website European Parliament) The members of the European Parliament push „the Commission to consider creating a European agency for robotics and artificial intelligence to supply public authorities with technical, ethical and regulatory expertise“ (Website European Parliament). „They also propose a voluntary ethical conduct code to regulate who would be accountable for the social, environmental and human health impacts of robotics and ensure that they operate in accordance with legal, safety and ethical standards.“ (Website European Parliament) To be more concrete, roboticists could include „kill“ switches so that robots can be turned off in emergencies. This poses questions about, for example, which robots should be enhanced, and which persons should be able to „kill“ them. More information via www.europarl.europa.eu/news/en/news-room/20170110IPR57613/robots-legal-affairs-committee-calls-for-eu-wide-rules.

Fig.: A robot reads the ethical conduct code