The book chapter „The BESTBOT Project“ by Oliver Bendel, David Studer and Bradley Richards was published on 31 December 2019. It is part of the 2nd edition of the „Handbuch Maschinenethik“, edited by Oliver Bendel. From the abstract: „The young discipline of machine ethics both studies and creates moral (or immoral) machines. The BESTBOT is a chatbot that recognizes problems and conditions of the user with the help of text analysis and facial recognition and reacts morally to them. It can be seen as a moral machine with some immoral implications. The BESTBOT has two direct predecessor projects, the GOODBOT and the LIEBOT. Both had room for improvement and advancement; thus, the BESTBOT project used their findings as a basis for its development and realization. Text analysis and facial recognition in combination with emotion recognition have proven to be powerful tools for problem identification and are part of the new prototype. The BESTBOT enriches machine ethics as a discipline and can solve problems in practice. At the same time, with new solutions of this kind come new problems, especially with regard to privacy and informational autonomy, which information ethics must deal with.“ (Abstract) The BESTBOT is an immoral machine in a moral one – or a moral machine in an immoral one, depending on the perspective. The book chapter can be downloaded from link.springer.com/referenceworkentry/10.1007/978-3-658-17484-2_32-1.
Die Euroforum-Konferenz „Automatisation & Data Analytics: Praktische Nutzung von KI in Versicherungen“ findet am 12. und 13. März 2020 in München statt. „Robotics und KI gesteuerte Prozessautomatisierung bieten der Assekuranz sowohl im Antrags- als auch Schadenmanagement die Chance zur Erhöhung von Qualität, Effizienz und Kundenzufriedenheit. Am ersten Konferenztag stellen Experten der Versicherer Allianz, VKB, Cosmos, Gothaer und das Start-up Joonko erfolgreiche Automatisierungsprojekte vor, berichten über ihre Umsetzungserfahrungen und geben Tipps und Tricks.“ (Website Konferenz) „Zukünftig wird ein Versicherer, der es schafft, eine gute Datenaufbereitung, -Qualität und -Sicherheit herzustellen, entscheidende Wettbewerbsvorteile haben. Doch bisher hängen die Daten der Versicherer unstrukturiert in Silos fest und können nicht für KI-Systeme genutzt werden. Am zweiten Konferenztag zeigen Experten von Google, Allianz, Markel, Coya und getsafe auf, wie Versicherer ihre Datensilos aufbrechen und aktivieren können.“ (Website Konferenz) Auch Wissenschaftlerinnen und Wissenschaftler geben Input. Dr. Andrea Cornelius spricht über die „Einführung von KI-Projekten“, Prof. Dr. Oliver Bendel über „KI und Big Data in der Versicherung aus ethischer Sicht“. Der Flyer kann hier heruntergeladen werden.
Die Automatisierung schreitet weltweit voran. Neuartige Industrie- und Serviceroboter sowie mächtige KI-Systeme verbreiten sich. Einige Arbeiter und Angestellte werden aus dem System herausfallen. Wie sichern wir ihre Zukunft? Der Beitrag von Oliver Bendel mit dem Titel „Willkommen auf der Erde!“ baut auf seinem Vortrag „Are Robot Tax, Basic Income or Basic Property Solutions to the Social Problems of Automation“ auf und wurde in der UnternehmerZeitung 9/2019 veröffentlicht. Er erörtert den Vorschlag des bedingungslosen Grundeigentums, u.a. mit den Begriffen der Gerechtigkeit und Ungerechtigkeit. Bereits gut bekannt ist die Idee des bedingungslosen Grundeinkommens. Die Schweiz hat darüber abgestimmt, und nicht wenige waren dafür. Aber letztlich hat es nicht gereicht. Der Ansatz des bedingungslosen Grundeigentums, sozusagen eines alternativen BGE, ist radikaler. Der Roboterphilosoph beendet seinen Artikel, der hier heruntergeladen werden kann, mit den folgenden Worten: „Die Welt ist aufgeteilt unter den Reichen und Mächtigen. Es besteht die Gefahr, dass Automatisierung und Autonomisierung die Ungleichheit und die Ungerechtigkeit verstärken. Und genau dagegen erhebt sich Widerspruch von gesellschaftlicher und von wissenschaftlicher Seite. Sicherlich ist das BGE eine Sozialutopie. Aber eine solche kann zur richtigen Zeit durchaus etwas in der Realität bewirken.“
Oliver Bendel spricht am 13. Oktober 2019 beim 21. Turmdersinne-Symposium über „Das Verschmelzen von maschineller und menschlicher Moral“. Die Maschinenethik bringt moralische Maschinen hervor. Man gibt ihnen moralische Regeln vor, an die sie sich halten, oder lässt sie solche entwickeln und abändern. Was passiert, wenn der Mensch seine Verantwortung abgibt und wenn die maschinelle Moral von der menschlichen abweicht, etwa indem sie mehr Moralität aufweist oder sich zur Supermoral entwickelt (die die Schwester der Superintelligenz wäre)? Hier sind auch Informations- und Roboterethik gefragt. Das Konzept des Cyborgs ist bekannt: Ein Organismus wird mit einer technischen Struktur erweitert. Aber was ist, wenn wir mit einer moralischen Maschine verschmelzen? Verbessert sich unsere Moral oder verlieren wir diese in gewisser Hinsicht? Ein zukünftiges Konzept könnte der umgekehrte Cyborg sein: Eine technische Struktur wird mit einem Organismus oder einem Organ – etwa einem menschlichen Gehirn – angereichert. Dies könnte ein Weg sein, den Tod zu besiegen. Aber wie entfaltet sich in diesem Konstrukt die Moral? Entsteht ein moralisch neuartiger Mensch oder eine neuartige moralische Maschine? Maschinen-, Informations- und Roboterethik sind gefordert.
Abb.: Superintelligenz und Supermoral als Supergirls
„Liebespuppen (engl. ‚love dolls‘) unterscheiden sich von klassischen Gummipuppen durch ihre lebensechte Gestaltung. Sie haben Kopf und Körper, die täuschend echt anzusehen sind. Sie haben künstliche Haut, unter der sich Gel befindet, sodass sich ihre Gliedmaßen echt anfühlen. An ausgewählten Stellen erwärmen sie sich oder sondern sie Flüssigkeit ab. Metallskelette erlauben unterschiedliche Positionen. Man kann Liebespuppen kaufen, um sie zuhause zu benutzen, man kann sie mieten, stunden- oder tageweise, oder in speziellen oder normalen Etablissements antreffen. Die meisten von ihnen sind Mädchen und Frauen nachempfunden, nur wenige dem männlichen Geschlecht.“ So beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon, verfasst von Oliver Bendel. Interessanterweise werden Fantasy- und Comicfiguren von manchen Männern gezielt gesucht bzw. bevorzugt. „Wie weit die Abweichung vom Menschen gehen darf, ist weitgehend unerforscht. Ist jemand bereit, sich sexuell mit Daisy Duck oder Minnie Mouse einzulassen? Es könnte sein, dass für die Mehrheit hier eine Grenze überschritten wäre, zumal es sich für Erwachsene vielfach um Figuren aus der Kindheit handelt.“ Der Beitrag ist am 7. August 2019 erschienen und kann über wirtschaftslexikon.gabler.de/definition/liebespuppen-121148 heruntergeladen werden.
Parallel to his work in machine ethics, Oliver Bendel is trying to establish animal-machine interaction (AMI) as a discipline. He was very impressed by Clara Mancini’s paper „Animal-Computer Interaction (ACI): A Manifesto“ on animal-computer interaction. In his AMI research, he mainly investigates robots, gadgets, and devices and their behavior towards animals. There are not only moral questions, but also questions concerning the design of outer appearance and the ability to speak. The general background for his considerations is that more and more machines and animals meet in closed, half-open and open worlds. He believes that semi-autonomous and autonomous systems should have rules so that they treat animals well. They should not disturb, frighten, injure or kill them. Examples are toy robots, domestic robots, service robots in shopping malls and agricultural robots. Jackie Snow, who writes for New York Times, National Geographic, and Wall Street Journal, has talked to several experts about the topic. In an article for Fast Company, she quotes the ethicists Oliver Bendel and Peter Singer. Clara Mancini is also expressing her point of view. The article with the title „AI’s next ethical challenge: how to treat animals“ can be downloaded here.
Die Künstliche Intelligenz hat zunächst die menschliche oder tierische Intelligenz als Referenz und versucht, sie in bestimmten Aspekten abzubilden. Sie kann zudem anstreben, von der menschlichen oder tierischen Intelligenz abzuweichen, etwa indem sie mit ihren Systemen die Probleme anders löst. Die Maschinenethik widmet sich der maschinellen Moral, bringt sie hervor und untersucht sie. Ob man die Begriffe und Methoden der Maschinenethik mag oder nicht – man muss anerkennen, dass neuartige autonome Maschinen entstehen, die in einem gewissen Sinne vollständiger als frühere erscheinen. Es verwundert fast, dass sich die künstliche Moral nicht viel früher zur künstlichen Intelligenz gesellt hat. Nun scheinen vor allem Maschinen, die menschliche Intelligenz und menschliche Moral für überschaubare Anwendungsbereiche simulieren, eine gute Idee zu sein. Aber was ist, wenn eine Superintelligenz mit einer Supermoral eine neue Art bildet, die der unseren überlegen ist? Das ist natürlich Science-Fiction. Aber auch etwas, das manche Wissenschaftler erreichen wollen. Prof. Dr. Oliver Bendel aus Zürich stellt in seinem Vortrag am 18. Juli 2019 ab 18:30 Uhr am KIT gegenwärtige Entwicklungen und künftige Möglichkeiten vor und nimmt eine kritische Einordnung vor. Er schließt damit das Colloquium Fundamentale des Sommersemesters ab. Weitere Informationen über www.zak.kit.edu/colloquium_fundamentale.
The papers of the CHI 2019 workshop „Conversational Agents: Acting on the Wave of Research and Development“ (Glasgow, 5 May 2019) are now listed on convagents.org. The extended abstract by Oliver Bendel (School of Business FHNW) entitled „Chatbots as Moral and Immoral Machines“ can be downloaded here. The workshop brought together experts from all over the world who are working on the basics of chatbots and voicebots and are implementing them in different ways. Companies such as Microsoft, Mozilla and Salesforce were also present. Approximately 40 extended abstracts were submitted. On 6 May, a bagpipe player opened the four-day conference following the 35 workshops. Dr. Aleks Krotoski, Pillowfort Productions, gave the first keynote. One of the paper sessions in the morning was dedicated to the topic „Values and Design“. All in all, both classical specific fields of applied ethics and the young discipline of machine ethics were represented at the conference. More information via chi2019.acm.org.
„The ‚Next Frontiers‘ conference will bring scientists and science fiction authors into contact. Different sciences getting into interdisciplinary conversations plus authors of fiction offering new, even revolutionary perspectives will open up the territory for new visions of the future. The conference aims at surmounting old, dysfunctional patterns of thinking. Central to this is the reality transforming potential of literature, film and other arts, and the huge contribution of fictional world building to real scientific and technological breakthroughs.“ This is the introductory text for a conference to be held in Stuttgart from 27 to 29 June 2019. The opening lecture will be given by the information and machine ethicist Prof. Dr. Oliver Bendel. He is going to talk about approaches and artifacts of machine ethics. The writer Andreas Brandhorst will then give an introduction to artificial intelligence. On the panel they both will discuss with the journalist Constantin Schnell. Further information via www.next-frontiers.de/en/.
Between June 2019 and January 2020, the sixth artifact of machine ethics will be created at the FHNW School of Business. Prof. Dr. Oliver Bendel is the initiator, the client and – together with a colleague – the supervisor of the project. Animal-machine interaction is about the design, evaluation and implementation of (usually more sophisticated or complex) machines and computer systems with which animals interact and communicate and which interact and communicate with animals. Machine ethics has so far mainly referred to humans, but can also be useful for animals. It attempts to conceive moral machines and to implement them with the help of further disciplines such as computer science and AI or robotics. The aim of the project is the detailed description and prototypical implementation of an animal-friendly service robot, more precisely a mowing robot called HAPPY HEDGEHOG (HHH). With the help of sensors and moral rules, the robot should be able to recognize hedgehogs (especially young animals) and initiate appropriate measures (interruption of work, expulsion of the hedgehog, information of the owner). The project has similarities with another project carried out earlier, namely LADYBIRD. This time, however, more emphasis will be placed on existing equipment, platforms and software. The first artifact at the university was the GOODBOT – in 2013.
The 23rd Berlin Colloquium of the Daimler and Benz Foundation took place on May 22, 2019. It was dedicated to care robots, not only from the familiar positions, but also from new perspectives. The scientific director, Prof. Dr. Oliver Bendel, invited two of the world’s best-known machine ethicists, Prof. Dr. Michael Anderson and Prof. Dr. Susan L. Anderson. Together with Vincent Berenz, they had programmed a Nao robot with a series of values that determine its behavior and simultaneously help a person in a simulated elderly care facility. A contribution to this appeared some time ago in the Proceedings of the IEEE. For the first time, they presented the results of this project to a European audience, and their one-hour presentation, followed by a twenty-minute discussion, can be considered a great moment in machine ethics. Other internationally renowned scientists, such as the Japan expert Florian Coulmas, also took part. He dealt with artefacts from Japan and relativized the frequently heard assertion that the Japanese considered all things to be inspired. Several media reported on the Berlin Colloquium, for example Neues Deutschland.
Using an interdisciplinary approach, the book „AI love you“ explores the emerging topics and rapid technological developments of robotics and artificial intelligence through the lens of the evolving role of sex robots, and how they should best be designed to serve human needs. „An international panel of authors provides the most up-to-date, evidence-based empirical research on the potential sexual applications of artificial intelligence. Early chapters discuss the objections to sexual activity with robots while also providing a counterargument to each objection. Subsequent chapters present the implications of robot sex as well as the security and data privacy issues associated with sexual interactions with artificial intelligence.“ (Information by Springer) Topics featured in this book include: the Sexual Interaction Illusion Model, the personal companion system, Harmony, designed by Realbotix, an exposition of the challenges of personal data control and protection when dealing with artificial intelligence, and the current and future technological possibilities of projecting three-dimensional holograms. Oliver Bendel is the author of the contribution to the latter topic, entitled „Hologram Girl“. The book is edited by Yuefang Zhou and Martin H. Fischer and will be published in summer 2019. More information via www.springer.com/gp/book/9783030197339.
Von „Big Data“ über die „Künstliche Intelligenz“ bis hin zur „Sozialen Robotik“: Im Kontext der Digitalisierung gibt es unzählige Fachtermini. Das neue Nachschlagewerk „350 Keywords Digitalisierung“ von Prof. Dr. Oliver Bendel ist für alle geeignet, die einen schnellen Einstieg in das Gebiet der Digitalisierung suchen und sich für Fragen der Ethik interessieren. In 350 übersichtlichen Beiträgen werden die Grundlagen und Entwicklungen leicht verständlich erläutert. Der Begriff der Digitalisierung hat mehrere Bedeutungen. Er kann die digitale Umwandlung und Darstellung bzw. Durchführung von Information und Kommunikation oder die digitale Modifikation von Instrumenten, Geräten und Fahrzeugen ebenso ansprechen wie die digitale Revolution, die auch als dritte Revolution bekannt ist. Auch mit der vierten Revolution ist der Begriff eng verbunden. Das Buch ist Ende April 2019 im Verlag Springer Gabler erschienen und kostet als E-Book ca. 15, in gedruckter Form ca. 20 Euro. Viele Hochschulmitglieder können es über SpringerLink kostenlos herunterladen. Es hat 286 Seiten. Weitere Informationen über www.springer.com/gp/book/9783658258221.
Abb.: Auch dieser Begriff ist enthalten (innerhalb von „Nerd“)
Dr. Mathilde Noual (Freie Universität Berlin) and Prof. Dr. Oliver Bendel (School of Business FHNW) are organizing a workshop on the social implications of artificial intelligence (AI) and robotics. They are looking for constructive proposals of technological and conceptual utopias, of counter-cultures and counter-systems offering strategies for preserving privacy, individuality, and freedom in a technological world, for going beyond the AI’s present limitations and frustrations, and for emphasising the beauty of the world and of humans’ way of accessing it (with high degree of nuance, contextuality, subjectivity, adaptability and acutality). The tracks are: The territory today: core limitations and prospects of AI; technologies and approaches against surveillance technologies (examples: the virtual burka; the hacked social credit system); technologies and approaches for an intact environment (examples: AI and robots for clean waters and seas; animals with weapons for self-defence); technologies and approaches for a new policy (examples: AI as a president); technologies and approaches for shared knowledge and education (example: open research solutions). The workshop will take place on the 29th and 30th of June 2019 in Berlin, at the Weizenbaum Institute. The CfP is addressed exclusively to the invited persons.
Am 8. April 2019 startet an der Hochschule für Wirtschaft FHNW das E-MOMA-Projekt. „E“ steht für „Enhancing“, „MOMA“ für „Moral Machine“. Wenig verfolgt wird in der Maschinenethik bisher der Ansatz, dass die Maschine selbst die Moral weiterentwickelt, etwa indem sie die Regeln adaptiert oder priorisiert, mit Hilfe von Machine Learning, speziell auch Deep Learning. Michael Anderson, Susan Leigh Anderson und Vincent Berenz haben einen NAO-Roboter mit Methoden des Machine Learning moralisch erweitert. Ein Beitrag dazu erschien kürzlich in den Proceedings of the IEEE. Im E-MOMA-Projekt soll eine eigene Implementierung entstehen, die diese Ansätze fortführt. Dabei können z.B. neuronale Netzwerke verwendet werden. Es bietet sich die Implementierung eines Chatbots an, aber auch die Modifizierung von Hardwarerobotern ist möglich. Letztlich geht es darum, eine moralische Maschine in die Welt zu bringen, die ihre Moral anpasst und weiterentwickelt, je nach Situation bzw. je nach eingegebenen Daten. Es ist das fünfte Artefakt der Maschinenethik, das nach Ideen, Skizzen und Vorgaben von Prof. Dr. Oliver Bendel entsteht. Das erste war der GOODBOT von 2013.
„In the last five years, work on software that interacts with people via typed or spoken natural language, called chatbots, intelligent assistants, social bots, virtual companions, non-human players, and so on, increased dramatically. Chatbots burst into prominence in 2016. Then came a wave of research, more development, and some use. The time is right to assess what we have learned from endeavoring to build conversational user interfaces that simulate quasi-human partners engaged in real conversations with real people.“ (Website Conversational Agents) The CHI 2019 workshop „Conversational Agents: Acting on the Wave of Research and Development“ (Glasgow, 5 May) brings together people „who developed or studied various conversational agents, to explore themes that include what works (and hasn’t) in home, education, healthcare, and work settings, what we have learned from this about people and their activities, and social or ethical possibilities for good or risk“ (Website Conversational Agents). Oliver Bendel will present three chatbots developed between 2013 and 2018 in the discipline of machine ethics, GOODBOT, LIEBOT and BESTBOT. More information via convagents.org (Link nicht mehr gültig).
