Bei den AAAI 2025 Spring Symposia werden drei Bachelorstudenten der neuen Hochschule für Informatik FHNW einen Vortrag halten. Sahan Hatemo, Christof Weickhardt und Luca Gisler sind am 1. April 2025 vor Ort in San Francisco und stellen beim Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“ das Paper „Revisiting the Trolley Problem for AI: Stereotypes and Biases in Large Language Models and their Impact on Ethical Decision-Making“ vor. Prof. Dr. Oliver Bendel, der Viertautor, hat ihnen Feedback zum Paper gegeben und das Projekt im Paper in der Maschinenethik verortet. Von Zürich aus trägt am selben Tag die Masterstudentin Myriam Rellstab vor. Das Paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ hat sie zusammen mit Oliver Bendel verfasst. Für ihn ist der Chatbot eine Umsetzung von Methoden der Maschinenethik im Bereich der Large Language Models (LLMs). Er spricht von Moral Prompt Engineering und meint damit die Verbindung von Prompt Engineering und gegebenenfalls Retrieval-Augmented Generation (RAG). Das vorläufige Programm des Symposiums ist hier verfügbar.
Abb.: Dieser Avatar von Miss Tammy wurde verworfen (Bild: Ideogram)
Am 22. März 2025 erschien im österreichischen Standard der Artikel „Meine Freundin, der Roboter“. Joseph Pallinger vom österreichischen Standard hatte dafür Prof. Dr. Oliver Bendel interviewt, der an der Hochschule für Wirtschaft FHNW lehrt und forscht und assoziierter Forscher der Potsdam Embodied Cognition Group (PECoG) an der Universität Potsdam ist. Es ging um Liebespuppen und Sexroboter sowie um Androiden wie Aria von Realbotix, die die Fähigkeiten von Harmony und Co. haben, aber auch ihre Arme bewegen können. Gedacht sind sie für alle möglichen Einsatzbereiche, etwa für das Hotel oder die Bibliothek. Sie können auch, wie ein Ansprechpartner der Firma gegenüber Oliver Bendel bestätigte, ihr Gegenüber umarmen. Zudem wurde Jessica M. Szczuka von der Universität Duisburg-Essen zum Thema befragt. Oliver Bendel steht Liebespuppen und Sexrobotern neutral gegenüber. Er hält sie weder für die Rettung der Menschheit wie David Levy noch für deren Untergang wie Kathleen Richardson. Der Artikel war bereits am 14. März auf der Website erschienen. Nun kann er mit der gedruckten Ausgabe erworben werden.
„Inclusive Robotics (dt. ‚inklusive Robotik‘) entwirft, gestaltet, steuert, produziert und betreibt robotische Lösungen für Behinderte und Beeinträchtigte. Diese sollen in vollem Umfang am gesellschaftlichen Leben teilhaben und sich in Bildung, Kultur und Sport betätigen können. Helfen kann dabei sowohl eine Ersetzung oder Ergänzung eines Körperteils als auch ein Roboter, der einen begleitet (Assistenzroboter oder Companion Robot) bzw. den man bei sich oder an sich trägt (Wearable Robot). Zunehmend relevant werden robotische Vierbeiner sowie robotische Zweibeiner im Sinne von Allzweckrobotern. Diese werden in der Zukunft als universelle Roboter echte Generalisten sein. Es geht insgesamt um physische, aber auch um psychische Aspekte. Inclusive Robotics hat enge Beziehungen zu Inclusive AI.“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 18. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt wird das eine oder andere Beispiel aufgeführt, im dritten die Perspektive der Ethik eingenommen. Der Beitrag ist über wirtschaftslexikon.gabler.de/definition/inclusive-robotics-172663 abrufbar.
Abb.: Inclusive Robotics hilft behinderten Menschen
„Humanoide Roboter sind Roboter mit menschenähnlichem Aussehen. Das Spektrum reicht dabei von einer abstrakten Gestalt mit menschlichen Merkmalen über ein cartoonhaftes menschenähnliches Äußeres bis hin zu realistischem oder hyperrealistischem Design nach unserem Vorbild. Bei hoher Ähnlichkeit spricht man von (Vorläufern von) Androiden. Neben humanoiden Robotern gibt es z.B. animaloide, also Roboter mit tierähnlichem Aussehen. Natürlichsprachliche Fähigkeiten machen einen Roboter noch nicht zu einem humanoiden – so kann es abstrakte oder animaloide Modelle mit menschlicher Stimme geben. Humanoide Roboter sind oft Zweibeiner, zuweilen auch Roboterköpfe oder -büsten.“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 18. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt werden Beispiele aufgeführt, im dritten universelle Roboter näher beschrieben. Im vierten erklärt der Autor, was das Uncanny Valley in diesem Zusammenhang ist. Im fünften wird auf Anwendungen für humanoide Roboter eingegangen. Kritik und Ausblick schließen den Beitrag ab, der über wirtschaftslexikon.gabler.de/definition/humanoide-roboter-172731 aufgerufen werden kann.
Mercedes-Benz bringt laut Medienmitteilung vom 18. März 2025 mit Apollo „einen der fortschrittlichsten kommerziellen humanoiden Roboter der Welt“ nach Berlin-Marienfelde, das sich 2022 mit dem Mercedes-Benz Digital Factory Campus (MBDFC) als globales Kompetenzzentrum für die Digitalisierung der Produktion etablierte. Der Hersteller Apptronik sitzt in Austrin und wurde 2016 aus dem Human Centered Robotics Lab der University of Texas heraus gegründet. Apollo ist laut Website „the first commercial humanoid robot that was designed for friendly interaction, mass manufacturability, high payloads and safety“ (Website Apptronik). Er ist ca. 172 cm groß und wiegt ca. 72 kg. Anders als vergleichbare robotische Zweibeiner hat er kein Display im Gesichtsbereich, sondern lediglich zwei Augen. Der Kopf wirkt eher wie der von sozialen Robotern wie ARI oder P-Care. Apollo ist ein modulares System und kann stationär oder mobil betrieben werden. Mercedes-Benz schreibt in der Medienmitteilung zum Vorgehen: „Die Apollo-Roboter haben in einer Produktionsumgebung Daten gesammelt, um für spezifische Anwendungsfälle … zu trainieren.“ Mitarbeiter von Mercedes-Benz „mit Praxiserfahrung in der Produktion haben ihr Wissen mithilfe von Teleoperations-Prozessen und Augmented Reality auf Apollo übertragen“. „Nun vollzieht Mercedes-Benz im MBDFC in Berlin den nächsten entscheidenden Entwicklungsschritt: Die Apollo-Roboter lernen hier, autonom zu agieren – ein technologischer Meilenstein auf dem Weg zu einem flexiblen, intelligenten Assistenzsystem für die Produktion.“ (Medienmitteilung Mercedes-Benz)
„Robot Enhancement ist die Erweiterung und damit einhergehende Veränderung oder Verbesserung des Roboters durch den Benutzer bzw. eine Firma, etwa in funktionaler, ästhetischer, ethischer oder ökonomischer Hinsicht. Das Wort wurde in Anlehnung an ‚Human Enhancement‘ und ‚Animal Enhancement‘ gebildet, und man kann damit sowohl das Arbeitsgebiet als auch den Gegenstand bezeichnen. Eine Form des Robot Enhancement ist das Social Robot Enhancement, bei dem ein sozialer Roboter erweitert bzw. verändert und verbessert wird. Der Hersteller bietet vor dem Finishing unterschiedliche Optionen an, eine Tuningfirma nach der Produktion diverse Add-ons. Auch der Benutzer selbst kann in verschiedener Weise aktiv werden, etwa indem er das Gegenüber markiert und es dadurch personalisiert.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel, der vor vier Jahren, am 20. Februar 2021, im Gabler Wirtschaftslexikon erschienen ist. Inzwischen gibt es zahlreiche Beispiele für Robot Enhancement, auch und gerade im relativ neuen Bereich der Wearables Social Robots (der tragbaren sozialen Roboter). Für diesen stehen oft Kleidungsstücke und Kostüme zur Verfügung, und manche von ihnen kann man mit ChatGPT verbinden.
Abb.: Die Erweiterungen von tragbaren sozialen Robotern
„Wearable Robots sind Roboter oder robotische Komponenten, die man bei sich, auf sich oder in sich trägt. Sie können am Kopf, am Körper oder an der Kleidung befestigt bzw. mit Körperteilen und Organen dauerhaft verbunden werden. Manche sind aus harten, starren Materialien gefertigt, wie Hightechprothesen, Exoskelette und kleine soziale Roboter (Wearable Social Robots). Andere sind aus weichen, flexiblen Materialien, wie Exosuits und Exogloves (Soft Wearable Robots).“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 5. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt wird näher auf Wearable Social Robots eingegangen: „Kleine soziale Roboter werden an einer Halskette oder in der Brusttasche getragen – oder an Metallplättchen unter dem Stoff, an denen sie mit Hilfe von Magneten haften. Man kann mit ihnen sprechen oder sich über sie an das Gegenüber wenden und die Umgebung fotografieren, analysieren und evaluieren.“ Im dritten Abschnitt wird die Perspektive der Ethik eingenommen. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/wearable-robots-172088 aufgerufen werden.
Since November 12, 2023, a custom GPT called Social Robotics Girl has been available that provides information about social robotics. It was created by Prof. Dr. Oliver Bendel and is based on a collection of his articles on this topic. It can therefore give his definition of social robots and make classifications based on his five-dimension model. Since February 16, 2025, Social Robotics Girl is also a contact person when it comes to the International Conference on Social Robotics 2025 (ICSR 2025) in Naples. She knows the deadlines for submissions, the chairs and committees, and the venues. And above all, she can advise you on the topics of the conference, which this time revolve around “Emotivation”. Of course, she also knows a good recipe for Pizza Napoletana. Social Robotics Girl can be accessed via chatgpt.com/g/g-TbhZSZaer-social-robotics-girl.
Fig.: Social Robotics Girl for ICSR 2025 (Image: Ideogram)
The paper “Revisiting the Trolley Problem for AI: Biases and Stereotypes in Large Language Models and their Impact on Ethical Decision-Making“ by Sahan Hatemo, Christof Weickhardt, Luca Gisler (FHNW School of Computer Science), and Oliver Bendel (FHNW School of Business) was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. A year ago, Sahan Hatemo had already dedicated himself to the topic of „ETHICAL DECISION MAKING OF AI: An Investigation Using a Stereotyped Persona Approach in the Trolley Problem“ in a so-called mini-challenge in the Data Science degree program. His supervisor, Oliver Bendel, had told the other scientists about the idea at the AAAI 2025 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ at Stanford University. This led to a lively discussion. The student recruited two colleagues, Christof Weickhardt and Luca Gisler, and worked on the topic in a much more complex form in a so-called Challenge X. This time, three different open-source language models were applied to the trolley problem. In each case, personalities were created with nationality, gender, and age. In addition, the data was compared with that of the MIT Moral Machine project. Sahan Hatemo, Christof Weickhardt, and Luca Gisler will present their results at the end of March or beginning of April 2025 in San Francisco, the venue of this year’s event.
Fig.: Variants of the trolley problem (Image: Jonas Kubilius)
The paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ by Myriam Rellstab and Oliver Bendel from the FHNW School of Business was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. It describes the development of a chatbot that can be available to pupils and de-escalate their conflicts or promote constructive dialogues among them. Prompt engineering – called moral prompt engineering in the project – and retrieval-augmented generation (RAG) were used. The centerpiece is a collection of netiquettes. On the one hand, these control the behavior of the chatbot – on the other hand, they allow it to evaluate the behavior of the students and make suggestions to them. Miss Tammy was compared with a non-adapted standard model (GPT-4o) and performed better than it in tests with 14- to 16-year-old pupils. The project applied the discipline of machine ethics, in which Oliver Bendel has been researching for many years, to large language models, using the netiquettes as a simple and practical approach. The eight AAAI Spring Symposia will not be held at Stanford University this time, but at the San Francisco Airport Marriott Waterfront, Burlingame, from March 31 to April 2, 2025. It is a conference rich in tradition, where innovative and experimental approaches are particularly in demand.
Abb.: Dieser Avatar wurde wieder verworfen (Bild: Ideogram)
The paper „Robots at arm’s length: Unveiling the dynamics of interpersonal distance preferences in human-robot interactions“ by Katharina Kühne, Laura M. Zimmer, Melina Jeglinski-Mende, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer was published in February 2025 in the proceedings volume „Social Robots with AI: Prospects, Risks, and Responsible Methods“ … From the abstract: „In social interactions, interpersonal distance is a vital factor influencing relationships, providing protection, and regulating arousal. Despite the intuitive nature of adopting specific distances, little is known about comfortable interpersonal distances with social robots. In our online study with 66 participants using a Go/No-Go task, we investigated perceptions of individuals standing face-to-face with a robot at different distances. In line with the negativity bias hypothesis, participants exhibited a preference for greater distances, as reflected in longer reaction times. Furthermore, the human-likeness of the robots moderated the link between distance and arousal. Finally, the most human-like robot was less liked and evoked higher arousal. These findings have implications for designing social robots and optimizing interactions, particularly in educational or medical contexts.“ The proceedings volume comprises the papers presented at Robophilosophy 2024 in Aarhus. Leading philosophers, computer scientists, and roboticists met there in August. Like the ICSR, the conference is one of the world’s leading conferences on social robotics.
Fig.: What is the right distance to a robot? (Bild: DALL-E 3)
The paper „The Universal Robot of the 21st Century“ by Oliver Bendel was published in February 2025 in the proceedings volume „Social Robots with AI: Prospects, Risks, and Responsible Methods“ … From the abstract: „Developments in several areas of computer science, robotics, and social robotics make it seem likely that a universal robot will be available in the foreseeable future. Large language models for communication, perception, and control play a central role in this. This article briefly outlines the developments in the various areas and uses them to create the overall image of the universal robot. It then discusses the associated challenges from an ethical and social science perspective. It can be said that the universal robot will bring with it new possibilities and will perhaps be one of the most powerful human tools in physical space. At the same time, numerous problems are foreseeable, individual, social, and ecological.“ The proceedings volume comprises the papers presented at Robophilosophy 2024 in Aarhus. Leading philosophers, computer scientists and roboticists met there in August. Like the ICSR, the conference is one of the world’s leading conferences on social robotics.
Im privat finanzierten Social Robots Lab von Prof. Dr. Oliver Bendel ist seit Januar 2025 der kleine AIBI zu finden. Er stammt von der chinesischen Firma LivingAI. Weitere Roboter und Figuren im Social Robots Lab sind Cupboo AI Robotic Pet aka Boo Boo, Unitree Go2, Alpha Mini, Cozmo, Vector, Furby, Tamagotchi und Hugvie. HUGGIE wurde Anfang 2025 demontiert und einem Projekt eines Studenten zugeführt, in dem der Roboter mit synthetischer oder natürlicher Stimme lacht. Zu Besuch sind im Lab bzw. im Wahlmodul zu sozialen Robotern ab und zu NAO und Pepper. AIBI verfügt über verschiedene Sensoren, eine Kamera und drei Mikrofone. Er versteht Sprachbefehle. Bei komplexeren Fragen verbindet er sich mit ChatGPT. Das Gesicht besteht aus einem Display, auf dem er animierte Augen und animierte Szenen aller Art darstellen kann. Er steht auf einer Plattform, über die er sich um 360 Grad drehen kann. Zudem kann er den Kopf frei bewegen. Ähnlich wie Cozmo gibt er zahlreiche Töne von sich und versucht auf diese und andere Weise die Aufmerksamkeit des Benutzers zu erregen. Dank seiner Magneten kann er am Kühlschrank und anderen Metallflächen angebracht werden, zudem an einer mitgelieferten Halskette, sodass er sich in ein Wearable verwandelt. Auch mit dem Zubehör verwandelt er sich, etwa in eine Katze. Robot Enhancement wird von der Firma also mitgedacht und -geliefert.
Abb.: AIBI kann als Wearable genutzt werden (Foto: LivingAI)
The ICSR is one of the leading conferences for social robotics worldwide. The 17th edition will take place from 10 to 12 September 2025 in Naples, Italy. The conference website is now online: icsr2025.eu. „The conference theme, ‘Emotivation at the Core: Empowering Social Robots to Inspire and Connect,’ highlights the essential role of ‘Emotivation’ in social robotics. Emotivation captures the synergy between emotion and motivation, where emotions trigger and sustain motivation during interactions. In social robotics, this concept is key to building trust, fostering empathy, and supporting decision-making by enabling robots to respond sensitively to human emotions, inspiring engagement and action.“ (Website ICSR) The most important conferences dates are: Full Paper Submission: March 28th, 2025; Full Paper Notification: May 9th, 2025; Camera-ready: June 30th, 2025; Paper Presentation Days at ICSR’25: September 11th and 12th, 2025. All dates are also listed on the website. Participants will meet for two days at the Parthenope University of Naples and for the third day at the Città della Scienza conference center. All buildings and rooms are also listed on the website. Be part of this excellent conference (Photo: ICSR)!
„Rover (von engl. ‚rover‘: ‚Vagabund‘) sind bemannte oder unbemannte Weltraumfahrzeuge, die auf Trabanten, Planeten und Asteroiden zur Erkundung und Beschaffung von Proben eingesetzt werden respektive eingesetzt werden sollen. Sie gehen, springen oder rollen und haben entsprechend Beine, Räder oder Ketten. Unbemannte Rover können autonom unterwegs sein oder ferngesteuert werden und als Roboter gelten. Für die Erledigung ihrer Aufgaben verfügen die Fahrzeuge über Kameras, Sensoren und Werkzeuge. Die Energieversorgung erfolgt mit Hilfe von Solarzellen oder Radionuklidbatterien. Die bekanntesten Vertreter sind Mondrover (Mondmobile) und Marsrover.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Es werden Beispiele genannt, beginnend mit den 1970er-Jahren, endend mit der Gegenwart. „Die Marsrover bewegen sich seit 2004 (mit dem amerikanischen Opportunity) auf sechs Rädern über die Oberfläche. Jüngste Modelle sind der chinesische Zhurong und der amerikanische Perseverance. Der Roboter MASCOT hüpfte 2018 auf einem Asteroiden herum, wodurch er sich seinem Ziel immer mehr annäherte. Die China Manned Space Agency (CMSA) plant eine Mondmission mit bemannten Rovern, die an die Apollo-Missionen erinnern.“ Kritik und Ausblick runden den Beitrag ab, der am 22. Januar 2025 erschienen ist und über wirtschaftslexikon.gabler.de/definition/rover-171449 aufgerufen werden kann.
Since 2013, Oliver Bendel has developed 22 chatbots and voice assistants together with his students or colleagues. They can be divided into three categories. The first are moral and immoral chatbots (i.e., forms of moral machines) and empathic voice assistants. The second are chatbots (some with voice output) for dead, endangered, or extinct languages and idioms. The third are pedagogical chatbots and chatbots that give recommendations and advice. Some of the projects lasted between four and six months. Most of the GPTs were created in just a few hours. Exceptions are Miss Tammy and Animal Whisperer, which took several months to build with the help of prompt engineering and retrieval-augmented generation (RAG). Articles and book chapters have been published on many of the projects. The names of the developers can be found in these. A few chatbots made it into the media, such as GOODBOT (for which the preparatory work began in 2012), LÜGENBOT aka LIEBOT, and @llegra.
