Kategorie: Maschinenethik

Ausgewählte Artefakte der Maschinenethik

Zu den Partnerinnen der Maschinenethik zählen Robotik und KI, zudem die Informatik im weiteren Sinne. Zur Wirtschaftsinformatik, zwischen Informatik und Betriebswirtschaftslehre angesiedelt, sieht Prof. Dr. Oliver Bendel ebenfalls Bezüge: Maschinenethik bringt wie sie Artefakte (auch für wirtschaftliche Zusammenhänge) hervor und verwendet wie sie Modellierungen. In seiner bisherigen Arbeit an der Hochschule für Wirtschaft FHNW hat er sich auf einfache moralische Maschinen konzentriert. Diese folgen einigen einfachen Regeln, sind in überschaubaren Situationen tätig und lernen allenfalls insofern hinzu, als sie den Benutzer besser einschätzen können. Ihre Moral verändern sie nicht. In seinem Artikel „Ausgewählte Artefakte der Maschinenethik“, erschienen am 16. Januar 2017 in ICTkommunikation, stellt Oliver Bendel die bisherigen Ergebnisse kurz vor. Abschließend skizziert er ein geplantes Projekt. Der Artikel ist über ictk.ch abrufbar.

Abb.: Auch das ist ein Artefakt

Eine gesellschaftliche und politische Revolution

WIR KAUFLEUTE ist das Magazin des Kaufmännischen Verbandes Zürich. In der Ausgabe von Januar und Februar 2018 geht es um Künstliche Intelligenz und Robotik. In der Inhaltsübersicht findet sich ein Hinweis auf ein Interview mit dem Wirtschaftsinformatiker, Maschinenethiker und Informationsethiker Oliver Bendel: „Wenn Roboter und KI-Systeme uns Arbeit abnehmen, genügen für uns womöglich künftig vier, fünf Stunden Arbeitszeit am Tag. Vielleicht muss auf die digitale Revolution, die im Kern eine wirtschaftliche ist, eine gesellschaftliche und politische folgen, sagt der Philosoph und Wirtschaftsinformatiker OLIVER BENDEL.“ (WIR KAUFLEUTE, 1/2 2018) Das Interview selbst ist auf den Seiten 4 und 5 abgedruckt, unter dem Titel „Künstliche Intelligenz wird uns nicht auslöschen“. Zu Wort kommt zudem Roland Siegwart vom Institut für Robotik und Intelligente Systeme der ETH Zürich. Das gesamte Heft kann über www.kfmv-zuerich.ch/data/docs/de_CH-1996/31072/WK-MAGAZIN-01-02-2018.pdf heruntergeladen werden.

Abb.: Am Flughafen Zürich

Green Salon around Robotics and AI

Oliver Bendel was invited by the Green European Foundation to the second edition of the Green Salon around robotics and artificial intelligence in Vienna on the 12th of February 2018. „The Green Salon is an invitation-only event for the Green family and independent experts and thinkers from across Europe, to discuss important topics that will shape the future of the European Union. While research and industry in Europe and beyond have achieved immense progress in recent years, the public and political debate on the moral and legal implications of the use and further development of these new technologies is still in its infancy. A challenging situation, which needs to alarm as well as motivate Greens to meaningfully shape the debate on how we can make sure emerging technologies serve humans appropriately, while remaining under their full control. In particular, the impact of automation on job markets, and of new technologies in general on the very nature and future of work, are at the core of the discussion. Beyond simple adaptation discourses of mainstream media and other political families, the Green Salon aims at taking the debate further for the Greens and their partners.“ (Invitation Letter of the Green European Foundation) The Green European Foundation is a European-level political foundation funded by the European Parliament.

Fig.: To Vienna!

Program of ISAIM Conference

A special session „Formalising Robot Ethics“ takes place within the ISAIM conference in Fort Lauderdale (3 to 5 January 2018). The program is now available and can be viewed on http://isaim2018.cs.virginia.edu/program.html. „Practical Challenges in Explicit Ethical Machine Reasoning“ is a talk by Louise Dennis and Michael Fischer, „Contextual Deontic Cognitive Event Calculi for Ethically Correct Robots“ a contribution of Selmer Bringsjord, Naveen Sundar G., Bertram Malle and Matthias Scheutz. Oliver Bendel will present „Selected Prototypes of Moral Machines“. A few words from the summary: „The GOODBOT is a chatbot that responds morally adequate to problems of the users. It’s based on the Verbot engine. The LIEBOT can lie systematically, using seven different strategies. It was written in Java, whereby AIML was used. LADYBIRD is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. In this case, an annotated decision tree was translated into Java. The BESTBOT should be even better than the GOODBOT.“

Maschinenethik im MittelPunkt

Oliver Bendel war im Gespräch mit Ute Klein vom MittelPunkt, dem Kundenmagazin der BayernLB. Sie war im Herbst aus München in die Schweiz gereist. Am 7. Dezember 2017 ist das Interview erschienen. Unter anderem wollte sie wissen, was Maschinenethik ist und worauf diese sich richtet. Er erklärte: „Die klassische Ethik richtet sich auf den Menschen als Subjekt der Moral. Was kann er, was soll er, was darf er?“ Mit „den Maschinen, die wir gerade erfinden, entstehen neue Subjekte der Moral“. „Ich verwende den Begriff der maschinellen Moral gerne ähnlich wie den der maschinellen oder künstlichen Intelligenz. Es sind demnach neue, merkwürdige und fremdartige Subjekte, über die wir intensiv diskutieren müssen.“ (MittelPunkt, 7. Dezember 2017) Ein Fotograf aus Zürich, Dominic Büttner, machte am Standort Brugg-Windisch noch ein mehrstündiges Shooting. Das Interview kann hier heruntergeladen werden. Zusätzlich steht über www.bayernlb.de eine Online-Version zur Verfügung.

Abb.: Maschinenethik ist auch in Bayern ein Thema

The BESTBOT at Stanford University

Machine ethics researches the morality of semiautonomous and autonomous machines. The School of Business at the University of Applied Sciences and Arts Northwestern Switzerland FHNW realized a project for implementation of a prototype called GOODBOT, a novelty chatbot and a simple moral machine. One of its meta rules was it should not lie unless not lying would hurt the user. It was a stand-alone solution, not linked with other systems and not internet- or web-based. In the LIEBOT project, the mentioned meta rule was reversed. This web-based chatbot, implemented in 2016, could lie systematically. It was an example of a simple immoral machine. A follow-up project in 2018 is going to develop the BESTBOT, considering the restrictions of the GOODBOT and the opportunities of the LIEBOT. The aim is to develop a machine that can detect problems of users of all kinds and can react in an adequate way. It should have textual, auditory and visual capabilities. The paper “From GOODBOT to BESTBOT” describes the preconditions and findings of the GOODBOT project and the results of the LIEBOT project and outlines the subsequent BESTBOT project. A reflection from the perspective of information ethics is included. Oliver Bendel will present his paper in March 2018 at Stanford University (“AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents”, AAAI 2018 Spring Symposium Series).

Fig.: What will the BESTBOT look like?

Pflegeroboter aus ethischer Sicht

Die 9. Landesenquete am 28. November 2017 in Kärnten widmet sich dem Thema „Menschen mit Behinderung und Robotics 4.0: Chancen & Risiken“. Prof. Dr. Robert Riener von der ETH Zürich spricht über „Robotik für Therapie und Assistenz – Möglichkeiten und Chancen“, Univ.-Doz. DI Dr. Michael Hofbaur von der Joanneum Research Forschungsgesellschaft über „Sichere Roboter – Herausforderungen im Kontext mit Menschen mit Behinderung“. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW geht auf „Assistenzsysteme und Pflegeroboter aus ethischer Sicht“ ein. Robert Riener hatte 2016 in Zürich den Cybathlon ausgerichtet, dessen Bilder um die ganze Welt gingen, Oliver Bendel als Ethiker den Wettkampf vor der Kamera kommentiert. Auf der Website der Stadt Villach heißt es: „Im Verlauf unserer Tagung wollen wir gemeinsam in die Zukunft blicken und uns mit der Frage beschäftigen, wie Roboter das Leben von Menschen mit Behinderung verändern können. Bringen diese modernen Technologien nur Vorteile oder gibt es auch ethische Aspekte zu berücksichtigen?“ Wichtig ist die Bemerkung, dass auch aus ethischer Perspektive Vorteile ausgemacht werden können – diese wird Oliver Bendel in seinem Vortrag ebenso wie die Nachteile darstellen.

Formalising Robot Ethics

Prof. Dr. Oliver Bendel was invited to give a lecture at the ISAIM special session „Formalising Robot Ethics“. „The International Symposium on Artificial Intelligence and Mathematics is a biennial meeting that fosters interactions between mathematics, theoretical computer science, and artificial intelligence.“ (Website ISAIM) Oliver Bendel will present selected prototypes of moral and immoral machines and will discuss a project planned for 2018. The GOODBOT is a chatbot that responds morally adequate to problems of the users. It’s based on the Verbot engine. The LIEBOT can lie systematically, using seven different strategies. It was written in Java, whereby AIML was used. LADYBIRD is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. In this case, an annotated decision tree was translated into Java. The BESTBOT should be even better than the GOODBOT. Technically everything is still open. The ISAIM conference will take place from 3 to 5 January 2018 in Fort Lauderdale, Florida. Further information is available at isaim2018.cs.virginia.edu/.

Fig.: What should she be able to do?

Berliner Konferenz zum automatisierten Fahren

ver.di (Fachbereich Verkehr) lädt ein zur „ÖPNV Betriebs- und Personalrätekonferenz“ vom 23. – 24. November 2017 in Berlin. Am ersten Tag referieren u.a. Dr. Norbert Huchler, ISF München („ÖPNV 4.0: Auswirkungen auf Arbeitsbedingungen und Beispiele aus der Praxis“), Stefan Roebrocks, Betriebsratsvorsitzender ASEAG Aachen („Praxisbeispiel automatisierter Busverkehr“) und Prof. Dr. Oliver Bendel, Hochschule für Wirtschaft FHNW („Sollten autonome Fahrzeuge moralische Maschinen sein? Wer entscheidet in der Zukunft?“). „Im Fachbereich Verkehr arbeiten die Spezialistinnen und Spezialisten des Transportsektors. Sie kümmern sich um alle anstehenden Fragen. Egal, ob es um die Interessen der Beschäftigten des öffentlichen Straßenpersonenverkehrs, der Binnenschifffahrt, der Seeschifffahrt, bei Taxiunternehmen, in privaten Busbetrieben, bei Eisenbahnunternehmen (außer DB AG), der Flughafen- und Verkehrsfluggesellschaften sowie der See- und Binnenhäfen geht.“ (Website ver.di) Weitere Informationen über https://verkehr.verdi.de/.

Abb.: In Berlin unterwegs

Gegen das Moralisieren

Über moralische und unmoralische Maschinen diskutierte Christoph Kucklick, Chefredakteur von GEO, mit Oliver Bendel, Maschinenethiker und Informationsethiker am 14. November 2017 im KörberForum in Hamburg. „Selbstfahrende Autos, Pflegeroboter, smarte Helfer: In unserem Alltag treffen wir auf immer klügere Maschinen. Über ein Bewusstsein oder eigenen Willen verfügen sie zwar nicht, dennoch nehmen sie uns immer mehr Entscheidungen ab. Das wirft auch moralische Fragen auf. Soll das Auto in einem Unfall eher die Insassen schonen oder die Fußgänger am Straßenrand? Darf ein Roboter lebenserhaltende Maschinen abschalten, wenn der Patient das wünscht?“ So die Ankündigung der Körber-Stiftung auf www.koerber-stiftung.de. Der Saal war voll besetzt, das Gespräch intensiv. Es dauerte zwei Stunden, und danach war Raum für zahlreiche Fragen aus dem Publikum. Oliver Bendel stellte klar, dass er als Ethiker kein Interesse am Moralisieren hat (nur am „Moralisieren“ von Maschinen), sondern an dem, was das Gute und das Böse ausmacht. Er entwickelt im Labor sowohl moralische als auch unmoralische Maschinen, sozusagen Artefakte der Maschinenethik, die er dann erforscht.