The article „Image Synthesis from an Ethical Perspective“ by Prof. Dr. Oliver Bendel was published as an electronic version in the journal AI & SOCIETY on September 27, 2023. It addresses the ethical implications of image generators, i.e., a specific form of generative AI. It can now also be found in the current print edition from February 2025 (Volume 40, Issue 2). From the abstract: „Generative AI has gained a lot of attention in society, business, and science. This trend has increased since 2018, and the big breakthrough came in 2022. In particular, AI-based text and image generators are now widely used. This raises a variety of ethical issues. The present paper first gives an introduction to generative AI and then to applied ethics in this context. Three specific image generators are presented: DALL-E 2, Stable Diffusion, and Midjourney. The author goes into technical details and basic principles, and compares their similarities and differences. This is followed by an ethical discussion. The paper addresses not only risks, but opportunities for generative AI. A summary with an outlook rounds off the article.“ A lot has happened with image generators since 2023. The new one from OpenAI now also allows photorealistic images, and it has fewer problems with average-looking people – DALL-E 2 and 3 favored beauty over mediocrity and ugliness. The article can be downloaded from link.springer.com/article/10.1007/s00146-023-01780-4.
The Pioneer hat am 5. April 2025 den Podcast „Liebespuppen, Sexroboter und die Zukunft der Intimität“ mit Prof. Dr. Oliver Bendel veröffentlicht. Geboten wird auf der von Gabor Steingart gegründeten Plattform nach eigenen Worten unabhängiger Journalismus „zu Politik, Wirtschaft und Gesellschaft, direkt vom ersten Medienschiff der Welt“ (Website The Pioneer). Ein wesentlicher Bestandteil sind die Podcasts. Der Technikphilosoph aus Zürich war bereits am 13. Dezember 2024 im Gespräch mit Alev Doğan gewesen, der stellvertretenden Chefredakteurin, die den „8. Tag“ verantwortet. Zusammen erkundeten sie die Welt der Liebesroboter und Sexroboter, sprachen über einschlägige Bordelle und Betriebe und über schüchterne junge Männer, die sich Alienfrauen, Mangamädchen und Elfen zuwenden. Letztlich ging es um die Zukunft der Intimität. Der Podcast kann über www.thepioneer.de/originals/der-achte-tag/podcasts/liebespuppen-sexroboter-und-die-zukunft-der-intimitaet aufgerufen werden.
„Unterwasserroboter sind ferngesteuerte, teilautonome oder autonome Roboter, die unter Wasser zu Forschungszwecken und für Such-, Bergungs-, Überwachungs- und Reinigungsarbeiten eingesetzt werden. Sie verfügen wie andere Roboter über Sensoren und Aktoren. Mit Kameras ermöglichen sie die Sicht unter Wasser. Sie erinnern an kleine U-Boote bzw. kleine Fahrzeuge oder orientieren sich als bionische Roboter an der Gestalt von Tieren, etwa Pinguinen, Fischen oder Walen und Quallen. In manche von ihnen ist künstliche Intelligenz (KI) integriert.“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 3. April 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt wird das eine oder andere Beispiel aufgeführt, von POODLE bis Belle, im dritten die Perspektive der Ethik eingenommen: „Sie können in der Zukunft eine wichtige Rolle spielen beim Reinigen von Gewässern, bei dem bislang vor allem passive Systeme verwendet werden, oder beim Erkennen von Anzeichen von Umweltzerstörung. Wichtig ist zum einen, dass sie die Tiere im Wasser nicht stören und nicht verletzen. Hier ist die Tierethik – in der Begründung von Rechten und Abwägung von Interessen – zusammen mit dem Tierschutz gefragt. Wichtig ist zum anderen, die Produktion und den Betrieb möglichst umweltfreundlich und ressourcenschonend zu gestalten, wo wiederum Umweltethik und Umweltschutz sich einbringen können, mit Richtlinien und Vorgaben.“ Der vollständige Beitrag ist über wirtschaftslexikon.gabler.de/definition/unterwasserroboter-172865 abrufbar.
Abb.: Manche Roboter dokumentieren die Unterwasserwelt
The paper „Revisiting the Trolley Problem for AI: Biases and Stereotypes in Large Language Models and their Impact on Ethical Decision-Making“ by Şahan Hatemo, Christof Weickhardt, Luca Gisler, and Oliver Bendel received the Special Paper Award from the reviewers of the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. The three bachelor students from the FHNW School of Computer Science gave their presentation on site in San Francisco as part of the AAAI 2025 Spring Symposia. Prof. Dr. Bendel from the FHNW School of Business had given them feedback on the project and placed it in the context of machine ethics. He has been involved in the well-known and popular conference, which usually takes place at Stanford University, since 2016. This time, he was keeping his fingers crossed from Italy. The proceedings of the AAAI 2025 Spring Symposia will be published in April 2025.
Seit 2012 baut Prof. Dr. Oliver Bendel – teils mit seinen Studenten und Studentinnen, teils im Alleingang – Chatbots und Sprachassistenten. Diese wurden von den Medien besprochen und von der NASA für interessant befunden. Sein theoretisches Rüstzeug und praktisches Anschauungsmaterial hat er aus seiner Promotion zu diesem Thema, die ein Vierteljahrhundert zurückliegt. Seit 2022 liegt der Fokus auf Dialogsystemen für tote und gefährdete Sprachen. Es entstanden @ve, ein Chatbot für Latein (Implementierung durch Karim N’diaye), @llegra, ein Chatbot mit Sprachausgabe für Vallader, ein Idiom des Rätoromanischen (Implementierung durch Dalil Jabou), und kAIxo, ein Chatbot mit Sprachausgabe für Baskisch (Implementierung durch Nicolas Lluis Araya). Zudem experimentiert Oliver Bendel mit Chatbots für ausgestorbene Sprachen wie Ägyptisch und Akkadisch. Die Welt hat am 1. April 2025 einen Artikel zu seiner Arbeit veröffentlicht, mitsamt einem längeren Interview, in dem der Technikphilosoph die Möglichkeiten und Beschränkungen von großen Sprachmodellen in diesem Kontext dargelegt. Cleop@tr@ nutzt die Multimodalität von GPT-4 für ihre Übersetzungen und Deutungen. Der Artikel kann hier aufgerufen werden.
Bei den AAAI 2025 Spring Symposia werden drei Bachelorstudenten der neuen Hochschule für Informatik FHNW einen Vortrag halten. Sahan Hatemo, Christof Weickhardt und Luca Gisler sind am 1. April 2025 vor Ort in San Francisco und stellen beim Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“ das Paper „Revisiting the Trolley Problem for AI: Stereotypes and Biases in Large Language Models and their Impact on Ethical Decision-Making“ vor. Prof. Dr. Oliver Bendel, der Viertautor, hat ihnen Feedback zum Paper gegeben und das Projekt im Paper in der Maschinenethik verortet. Von Zürich aus ist am selben Tag die Masterstudentin Myriam Rellstab zugeschaltet. Das Paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ hat sie zusammen mit Oliver Bendel verfasst. Für ihn ist der Chatbot eine Umsetzung von Methoden der Maschinenethik im Bereich der Large Language Models (LLMs). Er spricht von Moral Prompt Engineering und meint damit die Verbindung von Prompt Engineering und gegebenenfalls Retrieval-Augmented Generation (RAG). Sahan Hatemo wird den Vortrag halten und Myriam Rellstab dann für Fragen zur Verfügung stehen. Das vorläufige Programm des Symposiums ist hier verfügbar.
Abb.: Dieser Avatar von Miss Tammy wurde verworfen (Bild: Ideogram)
Am 22. März 2025 erschien im österreichischen Standard der Artikel „Meine Freundin, der Roboter“. Joseph Pallinger vom österreichischen Standard hatte dafür Prof. Dr. Oliver Bendel interviewt, der an der Hochschule für Wirtschaft FHNW lehrt und forscht und assoziierter Forscher der Potsdam Embodied Cognition Group (PECoG) an der Universität Potsdam ist. Es ging um Liebespuppen und Sexroboter sowie um Androiden wie Aria von Realbotix, die die Fähigkeiten von Harmony und Co. haben, aber auch ihre Arme bewegen können. Gedacht sind sie für alle möglichen Einsatzbereiche, etwa für das Hotel oder die Bibliothek. Sie können auch, wie ein Ansprechpartner der Firma gegenüber Oliver Bendel bestätigte, ihr Gegenüber umarmen. Zudem wurde Jessica M. Szczuka von der Universität Duisburg-Essen zum Thema befragt. Oliver Bendel steht Liebespuppen und Sexrobotern neutral gegenüber. Er hält sie weder für die Rettung der Menschheit wie David Levy noch für deren Untergang wie Kathleen Richardson. Der Artikel war bereits am 14. März auf der Website erschienen. Nun kann er mit der gedruckten Ausgabe erworben werden.
„Inclusive Robotics (dt. ‚inklusive Robotik‘) entwirft, gestaltet, steuert, produziert und betreibt robotische Lösungen für Behinderte und Beeinträchtigte. Diese sollen in vollem Umfang am gesellschaftlichen Leben teilhaben und sich in Bildung, Kultur und Sport betätigen können. Helfen kann dabei sowohl eine Ersetzung oder Ergänzung eines Körperteils als auch ein Roboter, der einen begleitet (Assistenzroboter oder Companion Robot) bzw. den man bei sich oder an sich trägt (Wearable Robot). Zunehmend relevant werden robotische Vierbeiner sowie robotische Zweibeiner im Sinne von Allzweckrobotern. Diese werden in der Zukunft als universelle Roboter echte Generalisten sein. Es geht insgesamt um physische, aber auch um psychische Aspekte. Inclusive Robotics hat enge Beziehungen zu Inclusive AI.“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 18. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt wird das eine oder andere Beispiel aufgeführt, im dritten die Perspektive der Ethik eingenommen. Der Beitrag ist über wirtschaftslexikon.gabler.de/definition/inclusive-robotics-172663 abrufbar.
Abb.: Inclusive Robotics hilft behinderten Menschen
„Humanoide Roboter sind Roboter mit menschenähnlichem Aussehen. Das Spektrum reicht dabei von einer abstrakten Gestalt mit menschlichen Merkmalen über ein cartoonhaftes menschenähnliches Äußeres bis hin zu realistischem oder hyperrealistischem Design nach unserem Vorbild. Bei hoher Ähnlichkeit spricht man von (Vorläufern von) Androiden. Neben humanoiden Robotern gibt es z.B. animaloide, also Roboter mit tierähnlichem Aussehen. Natürlichsprachliche Fähigkeiten machen einen Roboter noch nicht zu einem humanoiden – so kann es abstrakte oder animaloide Modelle mit menschlicher Stimme geben. Humanoide Roboter sind oft Zweibeiner, zuweilen auch Roboterköpfe oder -büsten.“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 18. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt werden Beispiele aufgeführt, im dritten universelle Roboter näher beschrieben. Im vierten erklärt der Autor, was das Uncanny Valley in diesem Zusammenhang ist. Im fünften wird auf Anwendungen für humanoide Roboter eingegangen. Kritik und Ausblick schließen den Beitrag ab, der über wirtschaftslexikon.gabler.de/definition/humanoide-roboter-172731 aufgerufen werden kann.
Mercedes-Benz bringt laut Medienmitteilung vom 18. März 2025 mit Apollo „einen der fortschrittlichsten kommerziellen humanoiden Roboter der Welt“ nach Berlin-Marienfelde, das sich 2022 mit dem Mercedes-Benz Digital Factory Campus (MBDFC) als globales Kompetenzzentrum für die Digitalisierung der Produktion etablierte. Der Hersteller Apptronik sitzt in Austrin und wurde 2016 aus dem Human Centered Robotics Lab der University of Texas heraus gegründet. Apollo ist laut Website „the first commercial humanoid robot that was designed for friendly interaction, mass manufacturability, high payloads and safety“ (Website Apptronik). Er ist ca. 172 cm groß und wiegt ca. 72 kg. Anders als vergleichbare robotische Zweibeiner hat er kein Display im Gesichtsbereich, sondern lediglich zwei Augen. Der Kopf wirkt eher wie der von sozialen Robotern wie ARI oder P-Care. Apollo ist ein modulares System und kann stationär oder mobil betrieben werden. Mercedes-Benz schreibt in der Medienmitteilung zum Vorgehen: „Die Apollo-Roboter haben in einer Produktionsumgebung Daten gesammelt, um für spezifische Anwendungsfälle … zu trainieren.“ Mitarbeiter von Mercedes-Benz „mit Praxiserfahrung in der Produktion haben ihr Wissen mithilfe von Teleoperations-Prozessen und Augmented Reality auf Apollo übertragen“. „Nun vollzieht Mercedes-Benz im MBDFC in Berlin den nächsten entscheidenden Entwicklungsschritt: Die Apollo-Roboter lernen hier, autonom zu agieren – ein technologischer Meilenstein auf dem Weg zu einem flexiblen, intelligenten Assistenzsystem für die Produktion.“ (Medienmitteilung Mercedes-Benz)
„Robot Enhancement ist die Erweiterung und damit einhergehende Veränderung oder Verbesserung des Roboters durch den Benutzer bzw. eine Firma, etwa in funktionaler, ästhetischer, ethischer oder ökonomischer Hinsicht. Das Wort wurde in Anlehnung an ‚Human Enhancement‘ und ‚Animal Enhancement‘ gebildet, und man kann damit sowohl das Arbeitsgebiet als auch den Gegenstand bezeichnen. Eine Form des Robot Enhancement ist das Social Robot Enhancement, bei dem ein sozialer Roboter erweitert bzw. verändert und verbessert wird. Der Hersteller bietet vor dem Finishing unterschiedliche Optionen an, eine Tuningfirma nach der Produktion diverse Add-ons. Auch der Benutzer selbst kann in verschiedener Weise aktiv werden, etwa indem er das Gegenüber markiert und es dadurch personalisiert.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel, der vor vier Jahren, am 20. Februar 2021, im Gabler Wirtschaftslexikon erschienen ist. Inzwischen gibt es zahlreiche Beispiele für Robot Enhancement, auch und gerade im relativ neuen Bereich der Wearables Social Robots (der tragbaren sozialen Roboter). Für diesen stehen oft Kleidungsstücke und Kostüme zur Verfügung, und manche von ihnen kann man mit ChatGPT verbinden.
Abb.: Die Erweiterungen von tragbaren sozialen Robotern
„Wearable Robots sind Roboter oder robotische Komponenten, die man bei sich, auf sich oder in sich trägt. Sie können am Kopf, am Körper oder an der Kleidung befestigt bzw. mit Körperteilen und Organen dauerhaft verbunden werden. Manche sind aus harten, starren Materialien gefertigt, wie Hightechprothesen, Exoskelette und kleine soziale Roboter (Wearable Social Robots). Andere sind aus weichen, flexiblen Materialien, wie Exosuits und Exogloves (Soft Wearable Robots).“ Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel, der am 5. März 2025 im Gabler Wirtschaftslexikon veröffentlicht wurde. Im zweiten Abschnitt wird näher auf Wearable Social Robots eingegangen: „Kleine soziale Roboter werden an einer Halskette oder in der Brusttasche getragen – oder an Metallplättchen unter dem Stoff, an denen sie mit Hilfe von Magneten haften. Man kann mit ihnen sprechen oder sich über sie an das Gegenüber wenden und die Umgebung fotografieren, analysieren und evaluieren.“ Im dritten Abschnitt wird die Perspektive der Ethik eingenommen. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/wearable-robots-172088 aufgerufen werden.
Since November 12, 2023, a custom GPT called Social Robotics Girl has been available that provides information about social robotics. It was created by Prof. Dr. Oliver Bendel and is based on a collection of his articles on this topic. It can therefore give his definition of social robots and make classifications based on his five-dimension model. Since February 16, 2025, Social Robotics Girl is also a contact person when it comes to the International Conference on Social Robotics 2025 (ICSR 2025) in Naples. She knows the deadlines for submissions, the chairs and committees, and the venues. And above all, she can advise you on the topics of the conference, which this time revolve around “Emotivation”. Of course, she also knows a good recipe for Pizza Napoletana. Social Robotics Girl can be accessed via chatgpt.com/g/g-TbhZSZaer-social-robotics-girl.
Fig.: Social Robotics Girl for ICSR 2025 (Image: Ideogram)
The paper “Revisiting the Trolley Problem for AI: Biases and Stereotypes in Large Language Models and their Impact on Ethical Decision-Making“ by Sahan Hatemo, Christof Weickhardt, Luca Gisler (FHNW School of Computer Science), and Oliver Bendel (FHNW School of Business) was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. A year ago, Sahan Hatemo had already dedicated himself to the topic of „ETHICAL DECISION MAKING OF AI: An Investigation Using a Stereotyped Persona Approach in the Trolley Problem“ in a so-called mini-challenge in the Data Science degree program. His supervisor, Oliver Bendel, had told the other scientists about the idea at the AAAI 2025 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ at Stanford University. This led to a lively discussion. The student recruited two colleagues, Christof Weickhardt and Luca Gisler, and worked on the topic in a much more complex form in a so-called Challenge X. This time, three different open-source language models were applied to the trolley problem. In each case, personalities were created with nationality, gender, and age. In addition, the data was compared with that of the MIT Moral Machine project. Sahan Hatemo, Christof Weickhardt, and Luca Gisler will present their results at the end of March or beginning of April 2025 in San Francisco, the venue of this year’s event.
Fig.: Variants of the trolley problem (Image: Jonas Kubilius)
The paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ by Myriam Rellstab and Oliver Bendel from the FHNW School of Business was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. It describes the development of a chatbot that can be available to pupils and de-escalate their conflicts or promote constructive dialogues among them. Prompt engineering – called moral prompt engineering in the project – and retrieval-augmented generation (RAG) were used. The centerpiece is a collection of netiquettes. On the one hand, these control the behavior of the chatbot – on the other hand, they allow it to evaluate the behavior of the students and make suggestions to them. Miss Tammy was compared with a non-adapted standard model (GPT-4o) and performed better than it in tests with 14- to 16-year-old pupils. The project applied the discipline of machine ethics, in which Oliver Bendel has been researching for many years, to large language models, using the netiquettes as a simple and practical approach. The eight AAAI Spring Symposia will not be held at Stanford University this time, but at the San Francisco Airport Marriott Waterfront, Burlingame, from March 31 to April 2, 2025. It is a conference rich in tradition, where innovative and experimental approaches are particularly in demand.
Abb.: Dieser Avatar wurde wieder verworfen (Bild: Ideogram)
The paper „Robots at arm’s length: Unveiling the dynamics of interpersonal distance preferences in human-robot interactions“ by Katharina Kühne, Laura M. Zimmer, Melina Jeglinski-Mende, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer was published in February 2025 in the proceedings volume „Social Robots with AI: Prospects, Risks, and Responsible Methods“ … From the abstract: „In social interactions, interpersonal distance is a vital factor influencing relationships, providing protection, and regulating arousal. Despite the intuitive nature of adopting specific distances, little is known about comfortable interpersonal distances with social robots. In our online study with 66 participants using a Go/No-Go task, we investigated perceptions of individuals standing face-to-face with a robot at different distances. In line with the negativity bias hypothesis, participants exhibited a preference for greater distances, as reflected in longer reaction times. Furthermore, the human-likeness of the robots moderated the link between distance and arousal. Finally, the most human-like robot was less liked and evoked higher arousal. These findings have implications for designing social robots and optimizing interactions, particularly in educational or medical contexts.“ The proceedings volume comprises the papers presented at Robophilosophy 2024 in Aarhus. Leading philosophers, computer scientists, and roboticists met there in August. Like the ICSR, the conference is one of the world’s leading conferences on social robotics.
Fig.: What is the right distance to a robot? (Bild: DALL-E 3)
