The AAAI 2022 Spring Symposium „How Fair is Fair? Achieving Wellbeing AI“ was held March 21-23, 2022 at Stanford University. In the Best Presentation Awards, Oliver Bendel and Liliana Alves took 3rd place („Should Social Robots in Retail Manipulate“), and Martin Spathelf and Oliver Bendel took 2nd place („The SPACE THEA Project“). In 1st place was Hiroaki Hamada („AI agents for facilitating social interactions and wellbeing“). Oliver Bendel had won first place at the AAAI 2019 Spring Symposium „Interpretable AI for Well-Being: Understanding Cognitive Bias and Social Embeddedness“ with his paper „Are Robot Tax, Basic Income or Basic Property Solutions to the Social Problems of Automation?“, along with two other researchers and their teams. Both symposia – from 2019 and from 2022 – were hosted by Takashi Kido and Keiki Takadama from Japan. They are among the pioneers in the field of Responsible AI.
Fig.: Place 2 and 3 for Oliver Bendel and his teams
„Obszöne Übergriffe auf sogenannte Chatbots befeuern die Diskussion darüber, welche Regeln und Grenzen für die Nutzung gelten sollen. In der Netzkultur blickt Emily Thomey auf die Debatte über künstliche Intelligenz und unseren Umgang mit ihr.“ (Website WDR 5 Scala) Mit diesen Worten wird in eine Sendung bei WDR 5 Scala (Netzkultur) am 18. März 2022 eingeführt. Zu Wort kommt Oliver Bendel, der sich in seiner Forschung seit der Jahrtausendwende mit Conversational Agents und seit vielen Jahren auch mit Beziehungen zu Artefakten – vor allem zu Robotern – beschäftigt. Er sieht Unterschiede zwischen Phantasie, Fiktionalität, Virtualität und Realität. In der Virtualität – in Spielewelten und in Unterhaltungen mit Chatbots und Sprachassistenten – müssen nach seiner Meinung auch grenzwertige Rollenspiele erlaubt sein. Problematisch wird es, wenn der Benutzer die Akte und Sprechakte in die Realität bringt und sich z.B. vor Freunden damit brüstet, eine digitale Frau erniedrigt zu haben. Auch die Einübung von Praktiken an Liebespuppen und Sexrobotern kann seiner Ansicht nach problematisch sein. Die Sendung mit dem Titel „Ethikdebatte im Umgang mit Chatbots“ kann über www1.wdr.de abgerufen werden.
Das aktuelle Magazin des Zürcher Tierschutzes bringt ein zweiseitiges Interview mit Prof. Dr. oec. HSG Oliver Bendel zu seiner Forschung über tierfreundliche Maschinen. Geführt hat es Dr. sc. ETH Bea Roth. Der Informations- und Maschinenethiker beobachtet seit Jahren, dass sich teilautonome und autonome Maschinen immer mehr verbreiten, bei den Folgen aber vor allem an den Menschen gedacht wird. Robotik und Künstliche Intelligenz sind geradezu stolz darauf, auf unsere Bedürfnisse zu fokussieren, und vergessen dabei oft die von Tieren. Dabei könnte man z.B. Haushaltsroboter auf eine einfache Weise tierfreundlich gestalten. Oliver Bendel hat mit seinen jeweiligen Teams in diesem Bereich Prototypen wie LADYBIRD und HAPPY HEDGEHOG entwickelt. Zudem hat er ein System für die Gesichtserkennung bei Bären in den Alpen konzipieren lassen. Seine Vision ist, dass in riesigen Naturparks die Wildtiere in Ruhe gelassen und allenfalls von Robotern beobachtet und zur Not versorgt werden. Das ZT-Magazin steht auch online zur Verfügung.
Abb.: Auch Elefanten können von Maschinen profitieren
On 25 February 2022, the article „Passive, Active, and Proactive Systems and Machines for the Protection and Preservation of Animals and Animal Species“ by Oliver Bendel was published in Frontiers in Animal Science. From the abstract: „Digitalization and automation are expanding into many areas, resulting in more widespread use of partially and fully autonomous machines and robots. At the same time, environmental and other crises and disasters are on the rise, the world population is growing, and animals are losing their habitat. Increasingly, machines and robots such as agricultural vehicles, autonomous cars, robotic lawnmowers, or social robots are encountering animals of all kinds. In the process, the latter are injured or killed. Some machines can be designed so that this does not happen. Relevant disciplines and research areas briefly introduced here are machine ethics, social robotics, animal-machine interaction, and animal-computer interaction. In addition, animal welfare is important. Passive and active machines—as they are called in this review—are already appearing and help to observe and protect animals. Proactive machines may play a role in the future. They could use the possibilities of full automation and autonomy to save animals from suffering in agriculture or in the wild. During crises and disasters and in extensive nature reserves, they could observe, care for, and protect animals. The review provides initial considerations on active, passive, and proactive machines and how they can be used in an animal preservation context while bearing in mind recent technical and global developments.“ The article is part of the research topic „Animal-Computer Interaction and Beyond: The Benefits of Animal-Centered Research and Design“ and can be accessed at www.frontiersin.org/articles/10.3389/fanim.2022.834634/full.
Fig.: Machines and robots can support and save animals
On February 18, 2022, the Dagstuhl Report „Conversational Agent as Trustworthy Autonomous System (Trust-CA)“ was published. Editors are Effie Lai-Chong Law, Asbjørn Følstad, Jonathan Grudin, and Björn Schuller. From the abstract: „This report documents the program and the outcomes of Dagstuhl Seminar 21381 ‚Conversational Agent as Trustworthy Autonomous System (Trust-CA)‘. First, we present the abstracts of the talks delivered by the Seminar’s attendees. Then we report on the origin and process of our six breakout (working) groups. For each group, we describe its contributors, goals and key questions, key insights, and future research. The themes of the groups were derived from a pre-Seminar survey, which also led to a list of suggested readings for the topic of trust in conversational agents. The list is included in this report for references.“ (Abstract Dagstuhl Report) The seminar, attended by scientists and experts from around the world, was held at Schloss Dagstuhl from September 19-24, 2022. The report can be downloaded via drops.dagstuhl.de/opus/volltexte/2022/15770/.
Zahlreiche führende Experten und hochtalentierte Nachwuchswissenschaftler haben am Buch „Soziale Roboter“ mitgewirkt. Von Tanja Kubes stammt die Abhandlung „Soziale Roboter im sexuellen Bereich: Forschungsstand, neomaterialistische Perspektiven und queeres Potenzial“. Aus dem Abstract: „Der Beitrag diskutiert den Einsatz von sozialen Robotern im sexuellen Bereich. Er zeichnet die aktuelle Debatte um Sexroboter nach und lotet das durch neue Formen der Mensch-Maschine-Interaktion eröffnete Potenzial einer posthumanistischen Sozialität aus. Dabei wird zunächst definiert, was überhaupt unter einem Sexroboter zu verstehen ist und welche Design- und Konfigurationsoptionen aktuell angeboten werden. Im nächsten Schritt wird der Forschungsstand zum Thema knapp skizziert. Schließlich wird aus genderqueerer und feministischer STS-Perspektive diskutiert, inwiefern Sexroboter uns nicht nur in die Lage versetzen, neue, nie dagewesene Arten von Sexualität und sexueller Befriedigung zu erreichen, sondern auch die Möglichkeit bergen, das anthropozentrische Denken der Moderne zu überwinden.“ Das von Oliver Bendel herausgegebene Werk ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Am Buch „Soziale Roboter“ (Hrsg. Oliver Bendel) haben zahlreiche führende Experten und hochbegabte Nachwuchswissenschaftler mitgewirkt. Von Katharina Weitz stammt die Abhandlung „Vertrauen und Vertrauenswürdigkeit bei sozialen Robotern: Stärkung von Mensch-Roboter-Vertrauensbeziehungen mithilfe Erklärbarer Künstlicher Intelligenz“. Aus dem Abstract: „Dieses Kapitel befasst sich mit der Vertrauensbeziehung zwischen Menschen und sozialen Robotern, stellt doch Vertrauen einen wichtigen Bestandteil für die Akzeptanz sozialer Roboter dar. Ausgehend von den Merkmalen sozialer Interaktionen zwischen Mensch und Roboter wird ein Überblick über verschiedene Definitionen von Vertrauen in diesem Kontext gegeben. Zudem werden theoretische Vertrauensmodelle und praktische Möglichkeiten der Erfassung von Vertrauen skizziert sowie der Vertrauensverlust als Folge von Roboterfehlern betrachtet. Es wird beleuchtet, wie Erklärbare Künstliche Intelligenz helfen kann, eine transparente Interaktion zwischen Roboter und Mensch zu ermöglichen und dadurch das Vertrauen in soziale Roboter (wieder-)herzustellen. Insbesondere wird auf die Gestaltungsmöglichkeiten und Herausforderungen beim Einsatz von Erklärungen im Bereich der Robotik eingegangen.“ Ausführungen zur Wirkung, die Erklärungen von Robotern auf die mentalen Modelle von Nutzern und Nutzerinnen haben, bilden den Abschluss des Kapitels. Das Werk ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Abb.: Stärkung von Mensch-Roboter-Vertrauensbeziehungen
Gesichtserkennung ist eine problematische Technologie, vor allem wenn sie für die Überwachung von Menschen eingesetzt wird. Sie hat allerdings auch Potenzial, etwa mit Blick auf die Erkennung von (Individuen von) Tieren. Prof. Dr. Oliver Bendel hatte 2021 an der Hochschule für Wirtschaft FHNW das Thema „ANIFACE: Animal Face Recognition“ ausgeschrieben und die Wahl gelassen, ob es um Wölfe oder Bären gehen sollte. Ali Yürekkirmaz nahm den Auftrag an und konzipierte in seiner Abschlussarbeit ein System, mit dem man in den Alpen – ohne elektronische Halsbänder oder implantierte Microchips – einzelne Bären identifizieren und entsprechende Maßnahmen einleiten könnte. Es stehen, so die Idee, in bestimmten Gebieten entsprechende Kamera- und Kommunikationssysteme bereit. Wenn ein Bär identifiziert ist, wird eruiert, ob er als harmlos oder gefährlich gilt. Dann werden die zuständigen Stellen oder direkt die Betroffenen informiert. Spaziergänger können vor den Aufnahmen gewarnt werden – es ist aber auch technisch möglich, ihre Privatsphäre zu schützen. In einem Expertengespräch mit einem Vertreter von KORA konnten wichtige Erkenntnisse zur Wildtierbeobachtung und speziell zur Beobachtung von Bären gewonnen werden, und eine Umfrage hat die Haltung von Teilen der Bevölkerung in Erfahrung gebracht. Aufbauend auf der Arbeit von Ali Yürekkirmaz, die im Januar 2022 abgegeben wurde, könnte ein Algorithmus für Bären entwickelt und ein ANIFACE-System in den Alpen implementiert und evaluiert werden.
Ein österreichisches Produktions- und Fernsehteam hat Ende 2021 und Anfang 2022 für ORF 2 einen Film über Roboter und insbesondere soziale Roboter gedreht. Die Sendung mit dem Namen „Der neue Gott“ wird im Januar oder Februar 2022 ausgestrahlt. Ein Teil der Dreharbeiten fand am 8. November 2021 an der Hochschule für Wirtschaft FHNW in Olten statt. Der Informations- und Maschinenethiker Prof. Dr. Oliver Bendel und seine ehemalige Masterstudentin Liliana Margarida Dos Santos Alves standen Rede und Antwort zur Sozialen Robotik, zur Roboterethik und zur Maschinenethik. Sie demonstrierten Roboter und Artefakte wie Cozmo, Hugvie, QTrobot, Pepper und NAO. Ebenfalls gefilmt wurden Studentinnen und Studenten des Wahlmoduls „Soziale Roboter“. Oliver Bendel glaubt weder an alte noch an neue Götter. Für ihn sind soziale Roboter in technischer und gestalterischer Hinsicht reizvoll. Es gilt, sie zu entwickeln, einzusetzen und zu testen. Manche von ihnen wird man brauchen, andere nicht. Der Trailer kann über vimeo.com/665951498 aufgerufen werden.
Zahlreiche führende Experten und hochbegabte Nachwuchswissenschaftler haben am Buch „Soziale Roboter“ mitgewirkt. Von Kerstin Fischer stammt die Abhandlung „Geräusche, Stimmen und natürliche Sprache: Kommunikation mit sozialen Robotern“. Aus dem Abstract: „Dieser Beitrag gibt einen Überblick über Forschungsarbeiten zu unwillkürlichen Geräuschen von sozialen Robotern, zu nichtsprachlichen, aber kommunikativen Äußerungen, Roboterstimmen, Sprechstilen und schließlich zur natürlichsprachlichen Interaktion mit sozialen Robotern. Während die durch Motoren, Servos und andere technische Elemente verursachten Geräusche meist nicht als eher störend eingeschätzt werden, werden andere Geräusche von Robotern als kommunikativ angesehen und grundsätzlich auf der Basis von Prinzipien, die die menschliche Interaktion bestimmen, interpretiert. Dies betrifft auch den natürlichsprachlichen Dialog mit Robotern, abhängig davon, ob sich die Nutzer überhaupt auf die soziale Interaktion mit Robotern einlassen.“ Das von Oliver Bendel herausgegebene Werk ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Abb.: Geräusche und Töne sind wichtig in der Kommunikation
Insgesamt 30 Beiträge enthält der von Oliver Bendel herausgegebene Springer-Band „Soziale Roboter“, wenn man das Vorwort mitzählt. Von Felix Lindner stammt die Abhandlung „Soziale Robotik und KI: Wie sich Roboter autonom nach Werten und Normen verhalten können“. Aus dem Abstract: „Während im öffentlichen Diskurs Künstliche Intelligenz und Robotik häufig ganz selbstverständlich zusammengedacht werden, haben sich historisch zwei separate Disziplinen entwickelt: die Künstliche Intelligenz beschäftigt sich mit der Formalisierung und Algorithmisierung von Schlussfolgern und Problemlösen, und die Robotik befasst sich mit der maschinellen Wahrnehmung der Umwelt sowie der autonomen Ausführung von Handlungen. In diesem Kapitel wird die Soziale Robotik als ein Bindeglied zwischen den beiden Disziplinen aufgefasst. Soziale Roboter sind Roboter, die sich nach den Werten und Normen des sozialen Miteinanders richten. Damit dies möglich wird, müssen Verfahren aus der Robotik um eine soziale Dimension erweitert werden. Eine Möglichkeit besteht darin, Techniken aus der Künstlichen Intelligenz zu verwenden, um soziale Werte und Normen explizit zu modellieren. Der Beitrag thematisiert das sogenannte Value-Alignment-Problem in der Künstlichen Intelligenz im Allgemeinen und demonstriert anhand von sozialer Roboter-Navigation im Speziellen, wie Techniken aus der Künstlichen Intelligenz für die Soziale Robotik genutzt werden können, damit Roboter ihre Handlungen nach menschlichen Werten und Normen ausrichten.“ Das Buch ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Abb.: Verhält sich dieser Roboter nach Werten und Normen?
The paper „The SPACE THEA Project“ by Martin Spathelf and Oliver Bendel was accepted at the AAAI 2022 Spring Symposia (Stanford University). The two authors will present it at the end of March 2022 at the symposium „How Fair is Fair? Achieving Wellbeing AI“. From the abstract: „In some situations, no professional human contact can be available. Accordingly, one remains alone with one’s problems and fears. A manned Mars flight is certainly such a situation. A voice assistant that shows empathy and assists the astronauts could be a solution. In the SPACE THEA project, a prototype with such capabilities was developed using Google Assistant and Dialogflow Essentials. The voice assistant has a personality based on characteristics such as functional intelligence, sincerity, creativity, and emotional intelligence. It proves itself in seven different scenarios designed to represent the daily lives of astronauts, addressing operational crises and human problems. The paper describes the seven scenarios in detail, and lists technical and conceptual foundations of the voice assistant. Finally, the most important results are stated and the chapters are summarized.“ More information about the AAAI 2022 Spring Symposia is available here.
Seit 2012 wurden von Prof. Dr. Oliver Bendel 20 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik skizziert. Elf Artefakte wurden umgesetzt, darunter LADYBIRD, der tierfreundliche Saugroboter, HAPPY HEDGEHOG, der tierfreundliche Rasenmähroboter, GOODBOT und BESTBOT mit ihrer Fähigkeit, Probleme des Benutzers zu erkennen und adäquat darauf zu reagieren, und LIEBOT, der Chatbot, der systematisch lügen kann. Einige von ihnen haben es zu einer gewissen Bekanntheit gebracht und wurden auf internationalen Konferenzen und in internationalen Medien vorgestellt. Ethik muss nicht unbedingt das Gute hervorbringen, ist der Informations- und Maschinenethiker überzeugt. Sie sollte das Gute und das Böse erforschen und wie jede Wissenschaft dem Erkenntnisgewinn dienen. Entsprechend baut er sowohl moralische als auch unmoralische Maschinen. Die unmoralischen behält er aber in seinem Lab. Das zwölfte Artefakt – ein Prototyp aus dem Bereich der „simple, soft social robots“ – wird noch nicht im laufenden Projekt des Jahres 2021, aber vermutlich in einem darauffolgenden Projekt im Jahre 2022 umgesetzt. Mit den 20 Konzepten und Artefakten ist die Hochschule weltweit eine der aktivsten in der Maschinenethik.
Die Zeitschrift für Berufs- und Wirtschaftspädagogik widmet sich im Sommer 2021 dem Thema „Künstliche Intelligenz in der beruflichen Bildung: Zukunft der Arbeit und Bildung mit intelligenten Maschinen?!“. Herausgegeben wird das Sonderheft von Prof. Dr. Sabine Seufert und ihren Kollegen. In der Verlagsinformation heißt es: „Die Autorinnen und Autoren reflektieren kritisch die Auswirkungen der KI auf die berufliche Bildung. In einem ersten Teil untersuchen sie die Implikationen von KI auf gewerblich-technische Berufe, Industrieberufe, IT-Berufe und Pflegeberufe. In einem zweiten Teil widmen sie sich Forschungsrichtungen zur KI in der Berufsbildung – von der Individualisierung durch Hybrid Intelligence über Learning Analytics, Augmented Reality und Virtual Reality bis zur beruflichen Rehabilitation und Lernortkooperation.“ (Information Franz Steiner Verlag) Der Beitrag von Prof. Dr. Oliver Bendel trägt den Titel „Strukturelle und organisationale Rahmenbedingungen für den Einsatz von Pflegerobotern“. Das Heft kann über elibrary.steiner-verlag.de/book/99.105010/9783515130752 bestellt werden. Eine Leseprobe ist hier erhältlich.
Abb.: Auch Virtual Reality spielt im Heft eine Rolle
On July 22, 2021, Prof. Dr. Oliver Bendel, as client, submitted a project to the School of Business FHNW, entitled „CARE-MOMO: A Morality Module for a Care Robot“. There are more and more robots being used in nursing and care. Most of them are prototypes, some – like Lio and P-Care from F&P Robotics – are products that are manufactured in small series. Machine ethics researches and creates moral machines. These are often guided by certain values or meta-rules, they follow predetermined rules, or they learn from situations and adapt their behavior. Michael Anderson and Susan L. Anderson presented their value-driven eldercare robot at the 2019 Berlin Colloquium by invitation of Oliver Bendel. He and his teams have created 16 concepts and implementations of moral machines and social robots over the past decade. He has been researching systems and robots in the healthcare sector for just as long. The CARE-MOMO is a morality module for a robot in the manner of Lio. The idea is that the robot acquires clearly delimited moral abilities in addition to its usual abilities. The focus is to have it perform an act or speech act with high reliability based on a moral assumption or reasoning, with a clearly identifiable benefit to the caregiver or the care recipient. The result is a morality module that can in principle be used by a robot like Lio. In August 2021, it will be decided whether the project can be implemented in this form.
Face recognition for humans is very controversial, especially when it comes to surveillance or physiognomy. However, there are also other possible applications, for example in relation to animals. At the moment, individuals are mainly tracked with the help of chips and transmitters. However, these are disturbing for some of the animals. Further, the question is whether one should interfere with living beings in this way. In addition, animals are constantly being born that escape monitoring. The project „ANIFACE: Animal Face Recognition“ will develop a concept of a facial recognition system that can identify individuals of bears and wolves. These are advancing more and more in Switzerland and need to be monitored to protect them and affected people (and their agriculture). Facial recognition can be used to identify the individual animals and also to track them if there are enough stations, which of course must be connected with each other. An interesting sidebar would be emotion recognition for animals. The system (which could include camera installations and robots) could find out how bears and wolves are feeling and then trigger certain actions. The project was applied for in July 2021 by Prof. Dr. Oliver Bendel, who has already designed and implemented several animal-friendly machines with his teams. In August, it will be decided whether he can start the work.
