The paper “Revisiting the Trolley Problem for AI: Biases and Stereotypes in Large Language Models and their Impact on Ethical Decision-Making“ by Sahan Hatemo, Christof Weickhardt, Luca Gisler (FHNW School of Computer Science), and Oliver Bendel (FHNW School of Business) was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. A year ago, Sahan Hatemo had already dedicated himself to the topic of „ETHICAL DECISION MAKING OF AI: An Investigation Using a Stereotyped Persona Approach in the Trolley Problem“ in a so-called mini-challenge in the Data Science degree program. His supervisor, Oliver Bendel, had told the other scientists about the idea at the AAAI 2025 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ at Stanford University. This led to a lively discussion. The student recruited two colleagues, Christof Weickhardt and Luca Gisler, and worked on the topic in a much more complex form in a so-called Challenge X. This time, three different open-source language models were applied to the trolley problem. In each case, personalities were created with nationality, gender, and age. In addition, the data was compared with that of the MIT Moral Machine project. Sahan Hatemo, Christof Weickhardt, and Luca Gisler will present their results at the end of March or beginning of April 2025 in San Francisco, the venue of this year’s event.
Fig.: Variants of the trolley problem (Image: Jonas Kubilius)
The paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ by Myriam Rellstab and Oliver Bendel from the FHNW School of Business was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. It describes the development of a chatbot that can be available to pupils and de-escalate their conflicts or promote constructive dialogues among them. Prompt engineering – called moral prompt engineering in the project – and retrieval-augmented generation (RAG) were used. The centerpiece is a collection of netiquettes. On the one hand, these control the behavior of the chatbot – on the other hand, they allow it to evaluate the behavior of the students and make suggestions to them. Miss Tammy was compared with a non-adapted standard model (GPT-4o) and performed better than it in tests with 14- to 16-year-old pupils. The project applied the discipline of machine ethics, in which Oliver Bendel has been researching for many years, to large language models, using the netiquettes as a simple and practical approach. The eight AAAI Spring Symposia will not be held at Stanford University this time, but at the San Francisco Airport Marriott Waterfront, Burlingame, from March 31 to April 2, 2025. It is a conference rich in tradition, where innovative and experimental approaches are particularly in demand.
Abb.: Dieser Avatar wurde wieder verworfen (Bild: Ideogram)
The paper „Robots at arm’s length: Unveiling the dynamics of interpersonal distance preferences in human-robot interactions“ by Katharina Kühne, Laura M. Zimmer, Melina Jeglinski-Mende, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer was published in February 2025 in the proceedings volume „Social Robots with AI: Prospects, Risks, and Responsible Methods“ … From the abstract: „In social interactions, interpersonal distance is a vital factor influencing relationships, providing protection, and regulating arousal. Despite the intuitive nature of adopting specific distances, little is known about comfortable interpersonal distances with social robots. In our online study with 66 participants using a Go/No-Go task, we investigated perceptions of individuals standing face-to-face with a robot at different distances. In line with the negativity bias hypothesis, participants exhibited a preference for greater distances, as reflected in longer reaction times. Furthermore, the human-likeness of the robots moderated the link between distance and arousal. Finally, the most human-like robot was less liked and evoked higher arousal. These findings have implications for designing social robots and optimizing interactions, particularly in educational or medical contexts.“ The proceedings volume comprises the papers presented at Robophilosophy 2024 in Aarhus. Leading philosophers, computer scientists, and roboticists met there in August. Like the ICSR, the conference is one of the world’s leading conferences on social robotics.
The paper „The Universal Robot of the 21st Century“ by Oliver Bendel was published in February 2025 in the proceedings volume „Social Robots with AI: Prospects, Risks, and Responsible Methods“ … From the abstract: „Developments in several areas of computer science, robotics, and social robotics make it seem likely that a universal robot will be available in the foreseeable future. Large language models for communication, perception, and control play a central role in this. This article briefly outlines the developments in the various areas and uses them to create the overall image of the universal robot. It then discusses the associated challenges from an ethical and social science perspective. It can be said that the universal robot will bring with it new possibilities and will perhaps be one of the most powerful human tools in physical space. At the same time, numerous problems are foreseeable, individual, social, and ecological.“ The proceedings volume comprises the papers presented at Robophilosophy 2024 in Aarhus. Leading philosophers, computer scientists and roboticists met there in August. Like the ICSR, the conference is one of the world’s leading conferences on social robotics.
Im privat finanzierten Social Robots Lab von Prof. Dr. Oliver Bendel ist seit Januar 2025 der kleine AIBI zu finden. Er stammt von der chinesischen Firma LivingAI. Weitere Roboter und Figuren im Social Robots Lab sind Cupboo AI Robotic Pet aka Boo Boo, Unitree Go2, Alpha Mini, Cozmo, Vector, Furby, Tamagotchi und Hugvie. HUGGIE wurde Anfang 2025 demontiert und einem Projekt eines Studenten zugeführt, in dem der Roboter mit synthetischer oder natürlicher Stimme lacht. Zu Besuch sind im Lab bzw. im Wahlmodul zu sozialen Robotern ab und zu NAO und Pepper. AIBI verfügt über verschiedene Sensoren, eine Kamera und drei Mikrofone. Er versteht Sprachbefehle. Bei komplexeren Fragen verbindet er sich mit ChatGPT. Das Gesicht besteht aus einem Display, auf dem er animierte Augen und animierte Szenen aller Art darstellen kann. Er steht auf einer Plattform, über die er sich um 360 Grad drehen kann. Zudem kann er den Kopf frei bewegen. Ähnlich wie Cozmo gibt er zahlreiche Töne von sich und versucht auf diese und andere Weise die Aufmerksamkeit des Benutzers zu erregen. Dank seiner Magneten kann er am Kühlschrank und anderen Metallflächen angebracht werden, zudem an einer mitgelieferten Halskette, sodass er sich in ein Wearable verwandelt. Auch mit dem Zubehör verwandelt er sich, etwa in eine Katze. Robot Enhancement wird von der Firma also mitgedacht und -geliefert.
Abb.: AIBI kann als Wearable genutzt werden (Foto: LivingAI)
The ICSR is one of the leading conferences for social robotics worldwide. The 17th edition will take place from 10 to 12 September 2025 in Naples, Italy. The conference website is now online: icsr2025.eu. „The conference theme, ‘Emotivation at the Core: Empowering Social Robots to Inspire and Connect,’ highlights the essential role of ‘Emotivation’ in social robotics. Emotivation captures the synergy between emotion and motivation, where emotions trigger and sustain motivation during interactions. In social robotics, this concept is key to building trust, fostering empathy, and supporting decision-making by enabling robots to respond sensitively to human emotions, inspiring engagement and action.“ (Website ICSR) The most important conferences dates are: Full Paper Submission: March 28th, 2025; Full Paper Notification: May 9th, 2025; Camera-ready: June 30th, 2025; Paper Presentation Days at ICSR’25: September 11th and 12th, 2025. All dates are also listed on the website. Participants will meet for two days at the Parthenope University of Naples and for the third day at the Città della Scienza conference center. All buildings and rooms are also listed on the website. Be part of this excellent conference (Photo: ICSR)!
„Rover (von engl. ‚rover‘: ‚Vagabund‘) sind bemannte oder unbemannte Weltraumfahrzeuge, die auf Trabanten, Planeten und Asteroiden zur Erkundung und Beschaffung von Proben eingesetzt werden respektive eingesetzt werden sollen. Sie gehen, springen oder rollen und haben entsprechend Beine, Räder oder Ketten. Unbemannte Rover können autonom unterwegs sein oder ferngesteuert werden und als Roboter gelten. Für die Erledigung ihrer Aufgaben verfügen die Fahrzeuge über Kameras, Sensoren und Werkzeuge. Die Energieversorgung erfolgt mit Hilfe von Solarzellen oder Radionuklidbatterien. Die bekanntesten Vertreter sind Mondrover (Mondmobile) und Marsrover.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Es werden Beispiele genannt, beginnend mit den 1970er-Jahren, endend mit der Gegenwart. „Die Marsrover bewegen sich seit 2004 (mit dem amerikanischen Opportunity) auf sechs Rädern über die Oberfläche. Jüngste Modelle sind der chinesische Zhurong und der amerikanische Perseverance. Der Roboter MASCOT hüpfte 2018 auf einem Asteroiden herum, wodurch er sich seinem Ziel immer mehr annäherte. Die China Manned Space Agency (CMSA) plant eine Mondmission mit bemannten Rovern, die an die Apollo-Missionen erinnern.“ Kritik und Ausblick runden den Beitrag ab, der am 22. Januar 2025 erschienen ist und über wirtschaftslexikon.gabler.de/definition/rover-171449 aufgerufen werden kann.
Since 2013, Oliver Bendel has developed 22 chatbots and voice assistants together with his students or colleagues. They can be divided into three categories. The first are moral and immoral chatbots (i.e., forms of moral machines) and empathic voice assistants. The second are chatbots (some with voice output) for dead, endangered, or extinct languages and idioms. The third are pedagogical chatbots and chatbots that give recommendations and advice. Some of the projects lasted between four and six months. Most of the GPTs were created in just a few hours. Exceptions are Miss Tammy and Animal Whisperer, which took several months to build with the help of prompt engineering and retrieval-augmented generation (RAG). Articles and book chapters have been published on many of the projects. The names of the developers can be found in these. A few chatbots made it into the media, such as GOODBOT (for which the preparatory work began in 2012), LÜGENBOT aka LIEBOT, and @llegra.
Since 2012, Oliver Bendel has developed 13 concepts and artifacts in the field of animal-computer interaction (ACI) or animal-machine interaction (AMI) together with his students. They can be divided into three categories. The first are animal- and nature-friendly concepts. The second are animal-friendly machines and systems (i.e., forms of moral machines). The third are animal-inspired machines and systems that replace the animals or bring them closer to you. Articles and book chapters have been published on many of the projects. The names of the developers can be found in these. A few prototypes made it into the media, such as LADYBIRD and HAPPY HEDGEHOG. Oliver Bendel repeatedly refers to Clara Mancini, the pioneer in the field of animal-computer interaction. Recently, ethicists such as Peter Singer have also turned their attention to the topic.
The final presentation of the „kAIxo“ project took place on January 9, 2025. Nicolas Lluis Araya was the project team member. The FHNW School of Business has been developing chatbots for dead, endangered, and extinct languages for several years. A well-known example is @llegra, a chatbot for Vallader. In the spring of 2024, Oliver Bendel tested the reach of GPTs for endangered languages such as Irish (Irish Gaelic), Maori, and Basque. According to ChatGPT, there is a relatively large amount of training material for them. On May 12, 2024 – after Irish Girl and Maori Girl – a first version of Adelina, a chatbot for Basque, was created. It was later improved in a second version. As part of the „kAIxo“ project (the Basque “kaixo” corresponds to the English „hello“), the chatbot kAIxo was built, which speaks Basque. Its purpose is to keep users practicing written or spoken language or to develop the desire to learn the endangered language. The chatbot is based on GPT-4o and Gemini 1.5 Flash, and the user can select his or her preferred large language model (LLM). Retrieval-augmented Generation (RAG) plays a central role. The ChatSubs dataset is used, which contains subtitles of movie dialogs in Basque. Thanks to a text-to-speech engine, the chatbot can also speak. At the final presentation, Nicolas Lluis Araya presented a working prototype that can be accessed via www.kaixo.ch.
Die Aargauer Zeitung schrieb am 19. Dezember 2024: „Er ist der vermutlich innovativste Gefängnisdirektor der Schweiz. Nun feiert Marcel Ruf sein 20-jähriges Jubiläum. Im TalkTäglich erzählt er, was er im Amt alles erlebt …“ (Aargauer Zeitung, 19. Dezember 2024) Weiter heißt es in dem Artikel von Nadja Zeindler über den Direktor der JVA Lenzburg: „Nachdem er sich mit Tiertherapien oder Gefängnistheater bereits ein Image als vielleicht innovativster Gefängnisdirektor der Schweiz aufgebaut hat, wird nun zunehmend auch KI ein Thema: ‚Wir sind mit der FHNW dran, um zu prüfen, was da möglich ist.'“ (Aargauer Zeitung, 19. Dezember 2024) In der Tat stand er – neben zwei seiner Insassen – für das Projekt „Robots in Prison“ von Tamara Siegmann und Oliver Bendel zur Verfügung, wie auch weitere Gefängnisdirektoren, Experten und Betroffene. Ein Resultat war, dass Serviceroboter weniger gewünscht sind, wohl aber soziale Roboter für die Insassen, womit künstliche Intelligenz wieder im Spiel wäre. Das Paper „Social and Collaborative Robots in Prison“ wurde im Oktober bei der ICSR 2024 in Odense (Dänemark) präsentiert. Es erscheint in einem Proceedingsband von Springer Anfang 2025. Nun würden die Studentin und der Professor von der Hochschule FHNW gerne einen Schritt weiter gehen. Dabei könnten soziale Roboter, Chatbots oder Sprachassistenten für die Insassen eine Rolle spielen.
„Robotische Zweibeiner sind Roboter, die sich auf zwei Beinen bewegen. Wenn sie Menschen ähneln, werden sie humanoide Roboter genannt. Sie können ebenso mit Affen, Bären, Vögeln oder Fantasyfiguren in Zusammenhang gebracht werden. Zu unterscheiden sind eher funktionale Modelle, mehrheitlich mit Kopf und voll beweglichen Gliedmaßen, und soziale Roboter, die Karikaturen von Menschen, Affen etc. gleichsehen oder teilweise bzw. gesamthaft naturgetreu nachgebildet sind.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Es werden Beispiele für robotische Zweibeiner genannt, beginnend mit Elektro von 1939, und Formen der Anwendung genannt. Dann werden Vor- und Nachteile diskutiert. Am Ende nimmt der Autor die Perspektive der Ethik ein: „Die Informationsethik fragt nach der Verletzung der informationellen Autonomie durch robotische Zweibeiner, die Roboterethik nach der Verantwortung bei Zusammenstößen. Die Maschinenethik versucht die Robotermenschen zu erziehen, durch das Einprogrammieren moralischer Regeln oder das Finetuning bzw. Prompt Engineering von multimodalen KI-Modellen, die in die Systeme integriert wurden. Die Wirtschaftsethik interessiert sich dafür, ob uns robotische Zweibeiner im Arbeitsleben unterstützen oder verdrängen können und sollen.“ Der ganze Beitrag – erschienen ist er am 14. Dezember 2024 – kann über wirtschaftslexikon.gabler.de/definition/robotische-zweibeiner-171056 aufgerufen werden.
„Robotische Vierbeiner sind Roboter, die sich auf vier Beinen bewegen. Sie ähneln oft Hunden und werden deshalb auch Roboterhunde genannt. Sie können ebenso mit Katzen, Ziegen und anderen tierischen Vierbeinern in Zusammenhang gebracht werden. Zu unterscheiden sind eher funktionale Modelle, mehrheitlich ohne ausgeprägten Kopf und Schwanz, und soziale Roboter, die (Karikaturen von) Hunden oder Katzen gleichsehen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Es werden Beispiele für robotische Vierbeiner genannt, beginnend mit Sparko von 1940, und Formen der Anwendung genannt. Dann werden Vor- und Nachteile diskutiert. Am Ende nimmt der Autor die Perspektive der Ethik ein: „Die Informationsethik fragt nach der Verletzung der informationellen Autonomie durch robotische Vierbeiner, die Roboterethik nach der Verantwortung bei Zusammenstößen. Die Maschinenethik versucht die Roboterhunde und -katzen abzurichten, durch das Einprogrammieren moralischer Regeln oder das Finetuning bzw. Prompt Engineering von multimodalen KI-Modellen, die in die Maschinen integriert wurden.“ Der ganze Beitrag – erschienen ist er am 14. Dezember 2024 – kann über wirtschaftslexikon.gabler.de/definition/robotische-vierbeiner-171015 aufgerufen werden.
Abb.: Aibo von Sony (Bild: Marco Wydmuch, Red Dot, CC-BY-SA-4.0)
Am 17. Dezember 2024 findet von 8 bis 9 Uhr wieder das Geriatrie-Seminar der Barmelweid-Akademie statt. Die Barmelweid ist nach eigenen Angaben die führende Spezial- und Rehabilitationsklinik der Nordwestschweiz. Prof. Dr. Oliver Bendel trägt über „Conversational Agents zur Erkennung von Problemen und zur Unterstützung von Personen“ vor. Dabei geht er sowohl auf Chatbots und Sprachassistenten als auch auf „embodied conversational agents“ wie bestimmte Pflegeroboter mit natürlichsprachlichen Fähigkeiten ein. Das übergeordnete Ziel der Seminarreihe ist laut Website, die neusten Ergebnisse aus Lehre und Forschung in die tägliche klinische Arbeit der Barmelweid einfließen zu lassen. Gleichzeitig wollen die Verantwortlichen die ethischen und managementbezogenen Aspekte nicht außer Acht lassen. Im Fokus stehen 2024 die Digitalisierung im Gesundheitswesen, das Delirium-Management und die geriatrische Onkologie. Weitere Informationen sind über die Website der Klinik erhältlich.
„Weltraumroboter sind stationäre oder mobile Roboter, die in der Raumfahrt und im Weltall eingesetzt werden, etwa auf Raumstationen oder auf Trabanten und Planeten. Sie sind (teil-)autonom oder ferngesteuert und dienen u.a. der Konstruktion, Montage und Reparatur, der Inspektion und Analyse oder dem Transport. Dabei verbinden sie Elemente von Industrie- und Servicerobotern. Ferner forscht man an sozialen Robotern und empathischen Sprachassistenten, die Astronauten bei Flügen begleiten und sie bei Aufenthalten unterstützen und unterhalten sollen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Der Technikphilosoph aus Zürich geht auf die Merkmale von Weltraumrobotern ein und gibt einige Beispiele aus der jüngeren Geschichte. Im letzten Abschnitt wird die Perspektive der Ethik eingenommen. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/weltraumroboter-123655 aufgerufen werden.
„Left to their own devices, an army of AI characters didn’t just survive – they thrived. They developed in-game jobs, shared memes, voted on tax reforms and even spread a religion.“ (MIT Technology Review, 27 November 2024) This was reported by MIT Technology Review in an article on November 27. „The experiment played out on the open-world gaming platform Minecraft, where up to 1000 software agents at a time used large language models (LLMs) to interact with one another. Given just a nudge through text prompting, they developed a remarkable range of personality traits, preferences and specialist roles, with no further inputs from their human creators.“ (MIT Technology Review, 27 November 2024) According to the magazine, the work by AI startup Altera is part of a broader field that seeks to use simulated agents to model how human groups would react to new economic policies or other interventions. The article entitled „These AI Minecraft characters did weirdly human stuff all on their own“ can be accessed here.
