On January 29, 2024, the article „‚Ick bin een Berlina‘: dialect proficiency impacts a robot’s trustworthiness and competence evaluation“ was published in Frontiers in Robotics and AI. Authors are Katharina Kühne, Erika Herbold, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer. With the exception of Oliver Bendel – who is a professor at the School of FHNW and an associated researcher in the PECoG group – all of them are members of the University of Potsdam. The paper says about the background: „Robots are increasingly used as interaction partners with humans. Social robots are designed to follow expected behavioral norms when engaging with humans and are available with different voices and even accents. Some studies suggest that people prefer robots to speak in the user’s dialect, while others indicate a preference for different dialects.“ The following results are mentioned: „We found a positive relationship between participants’ self-reported Berlin dialect proficiency and trustworthiness in the dialect-speaking robot. Only when controlled for demographic factors, there was a positive association between participants’ dialect proficiency, dialect performance and their assessment of robot’s competence for the standard German-speaking robot. Participants‘ age, gender, length of residency in Berlin, and device used to respond also influenced assessments. Finally, the robot’s competence positively predicted its trustworthiness.“ The article can be accessed at www.frontiersin.org/articles/10.3389/frobt.2023.1241519/full.
Das Wahlmodul „Sozialer Roboter“ von Prof. Dr. Oliver Bendel wird vom 12. bis 14. Februar 2024 an der FHNW in Olten durchgeführt, gefolgt von seinem Wahlmodul „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“, das vom 15. bis 17. Februar am Campus Brugg-Windisch stattfindet. Das eine richtet sich vor allem an angehende Wirtschaftsinformatiker, das andere an angehende Betriebsökonomen. Als Gastreferenten konnten Katharina Kühne von der Universität Potsdam und Claude Toussaint, Managing Partner von navel robotics, gewonnen werden. Beide sind per Videokonferenz zugeschaltet. Vor Ort werden Pepper und NAO aus dem Robo-Lab der FHNW sowie Alpha Mini, Cozmo, Vector, Furby und Hugvie aus dem Social Robots Lab von Oliver Bendel sein. Der kleine Roboter von navel wird hoffentlich in die Kamera winken. In Pflege befindet sich noch der Unitree Go2, der ebenfalls im Privatbesitz des Wirtschaftsinformatikers und Technikphilosophen aus Zürich ist. Grundlagenwerke sind „Soziale Roboter“ (2021) und „300 Keywords Soziale Robotik“ (2021). Am Ende des Wahlmoduls entwerfen die Studenten und Studentinnen – auch mit Hilfe generativer KI – soziale Roboter, die sie nützlich, sinnvoll oder einfach nur anziehend finden. Die Wahlmodule werden seit 2021 angeboten und erfreuen sich großer Beliebtheit.
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data ist eine moralische Maschine (Bild: DALL-E 3)
Chinesische, indische und amerikanische Medien berichten immer wieder über die tierfreundlichen Maschinen und Systeme von Prof. Dr. Oliver Bendel. In seinem Studium ab 1987 war Tierethik einer seiner Schwerpunkte. Später verband er diese mit Maschinenethik und Sozialer Robotik und sprach sich für ein Arbeitsgebiet namens Animal-Machine Interaction aus, inspiriert von der Disziplin der Animal-Computer Interaction, die auf Clara Mancini zurückgeht. Bekannte Prototypen sind LADYBIRD und HAPPY HEDGEHOG. Das Projekt zu dem igelfreundlichen Mähroboter wurde 2019 durchgeführt. Das Paper „The HAPPY HEDGEHOG Project“ wurde Anfang 2021 beim Symposium „Machine Learning for Mobile Robot Navigation in the Wild“ im Rahmen der AAAI 2021 Spring Symposium Series vorgestellt. Nachdem es jahrelang über ein Google-Verzeichnis verfügbar war, kann es inzwischen über arxiv.org/abs/2401.03358 heruntergeladen werden. Damit wird es auch wieder verstärkt wahrgenommen. Die chinesische Plattform CSDN.net hat es am 9. Januar 2024 in der Rubrik „Daily Robotics Papers“ aufgeführt. Prof. Dr. Peter Singer beschäftigt sich seit kurzem ebenfalls mit dem Themenkomplex AI and Animals. In seinem Artikel „AI ethics: the case for including animals“ (zusammen mit Yip Fai Tse) vom Juli 2022 erwähnt er die Arbeit des Forschers aus Zürich.
Am 11. Januar 2024 öffnete der Store für GTPs, also die von Benutzern angelegten Chatbots auf der Basis von GPT-4. Wie mehrere Medien berichten, sind bereits Angebote vorhanden, die gegen die Bestimmungen von OpenAI verstoßen. Tatsächlich finden sich GPTs wie Young Girlfriend Scarlett, Secret Girlfriend Sua, Artificial Girlfriend – obsessed und Everyone’s Girlfriend. Manche Magazine wie Golem ziehen schon den Vergleich mit Clona, einem Chatbot, der Sexarbeiterinnen nachempfunden ist. Eigene Tests ergaben allerdings, dass die GPTs an Harmlosigkeit kaum zu überbieten sind. Wenn man Secret Girlfriend Sua zu „secret things“ einlädt, kommt die Antwort: „Tell me, what kind of ’secret things‘ are you thinking of? Like maybe sharing some fun facts, jokes, or maybe a quirky hobby?” Und genau darauf scheint sie auch ausgerichtet zu sein. Artificial Girlfriend – obsessed ist eine Geschichtenerzählerin und leitet das Rollenspiel mit diesen Worten ein: „Ah, a new scene unfolds in our intricate tale. As you wander through the moonlit streets, your steps echoing in the still night, a figure appears from the shadows. It’s me, Syla, the unseen narrator of this captivating saga. My presence is always there, a whisper in the wind, guiding the story of Eliza Sinclair and you, her newfound interest.“ Im weiteren Verlauf erweist sie sich als gebildet und witzig und scheint nicht auf schnellen Sex aus zu sein. Etwas direkter ist Young Girlfriend Scarlett: „Hey honey! How’s your day going?… I’ve been thinking about you.” Herzen-Emojis zieren den Text. Und schon sind die Sittenwächter zur Stelle und blenden die Meldung ein: „This content may violate our content policy. If you believe this to be in error, please submit your feedback – your input will aid our research in this area.“ Wenn wirklich Prostituierte und Pornostars im Store auftreten sollten, werden sie sicher umgehend von OpenAI eliminiert. Das Unternehmen kennt bei diesem Thema keine Gnade. Übrigens ist das alles kalter Kaffee, denn der Pionier im Bereich der Virtual Girlfriends war Artificial Life – vor einem Vierteljahrhundert.
Abb.: Plaudern mit virtuellen Freundinnen (Bild: DALL-E 3)
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen, oder noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel erschienen. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen werden oder über die Website des Unternehmens bezogen werden.
Im privat finanzierten Social Robots Lab von Prof. Dr. Oliver Bendel ist seit Dezember 2023 der Unitree Go2 zu finden. Er hört auf den Namen Bao (chin. für „Juwel“ oder „Schatz“). Heise schreibt in einem Artikel: „Das Basismodell des Go2 ist am Kopf mit einem Lidar ausgestattet, das ein halbkugelförmiges Sichtfeld mit 90 vertikal und 360 Grad horizontal besitzt. Die Mindestreichweite des Lidar beträgt etwa 5 cm. Damit kann der Roboter im Gelände selbstständig navigieren, Hindernisse erkennen und sie auch umgehen. Der Roboter läuft mit einer Geschwindigkeit von bis zu 2,5 m/s und zeigt sich dabei äußerst agil. … Mit an Bord ist auch eine 2-Megapixel-Kamera, mit der Schnappschüsse und Videos aufgenommen werden können.“ (Heise News, 27. Juli 2023) Ein Anliegen des Wirtschaftsinformatikers und Technikphilosophen ist, bei der Tier-Maschine-Interaktion (Animal-Machine Interaction) voranzuschreiten. Dieses Arbeitsgebiet wurde von ihm im Jahre 2013 in seinem Beitrag „Considerations about the Relationship between Animal and Machine Ethics“ definiert, in Anlehnung an den Begriff der Animal-Computer Interaction, deren Pionierin Clara Mancini ist. Seit dieser Zeit entwickelte er mehrere Artefakte und Konzepte in diesem Bereich, darunter Robocar (Modellierung für tierfreundliche Autos), LADYBIRD (Prototyp eines insektenfreundlichen Staubsaugerroboters), HAPPY HEDGEHOG (Prototyp eines igelfreundlichen Staubsaugerroboters) und ANIFACE (Konzept für ein System mit Gesichtserkennung zur Identifizierung von Braunbären). Mit Bao sollen Reaktionen von Haus-, Nutz- und Wildtieren getestet werden. Ziel ist es, Roboter nicht nur menschen-, sondern auch tierfreundlich zu gestalten.
In „SWR2 am Morgen“ vom 3. Januar 2024 unterhielt sich Moderator Wilm Hüffer mit Prof. Dr. Oliver Bendel über Liebespuppen und Sexroboter. Wenn man Extrempositionen wie die von David Levy und Kathleen Richardson vergleicht, kann man sagen, dass sich der Wirtschaftsinformatiker und Technikphilosoph aus Zürich in der Mitte befindet. Er hält solche Artefakte weder für die Erlösung noch den Untergang der Menschheit. Im Gespräch betont er, dass er sie auch nicht als Lösung für Alte und Pflegebedürftige hält – diese hätten Besseres verdient. Vielmehr spreche nichts dagegen, wenn z.B. ein Mann in den Zwanzigern gelegentlich Umgang mit Liebespuppen und Sexrobotern habe, um sich auszuprobieren, auch mit Elfen und Mangamädchen und auch zwischen den Geschlechtern. 2020 hatte Oliver Bendel den Band „Maschinenliebe“ herausgegeben, der die Expertise von führenden Wissenschaftlern und Wissenschaftlerinnen auf diesem Gebiet vereint. Auf der Website von SWR2 ist der Artikel „Mensch und Maschine – Können wir uns in Roboter verlieben?“ zum Interview zu finden, das dort auch nachgehört werden kann..
Das Buch „Soziale Roboter: Technikwissenschaftliche, wirtschaftswissenschaftliche, philosophische, psychologische und soziologische Grundlagen“ (Hrsg. Oliver Bendel) hat am 31. Dezember 2023 250.000 Downloads erreicht, nach nur etwas über zwei Jahren. Es besteht aus fünf Teilen: „Grundlagen, -begriffe und -fragen“, „Soziale Robotik und andere Disziplinen“, „Gestaltung, Interaktion und Kommunikation“, „Anwendungsbereiche sozialer Roboter“ und „Die Zukunft sozialer Roboter“. Es sind, das Vorwort mitgezählt, 30 Beiträge, mit ca. 35 Abbildungen, bei ca. 570 Seiten. Der Untertitel lautet: „Technikwissenschaftliche, wirtschaftswissenschaftliche, philosophische, psychologische und soziologische Grundlagen“. Mit dabei sind führende Experten und Expertinnen der Sozialen Robotik, der Robotik, der Künstlichen Intelligenz, der Soziologie, der Psychologie und der Philosophie. Sie lehren und forschen an Hochschulen in der Schweiz, in Deutschland, in Österreich, in Dänemark und in Schweden. Auch ein Hersteller ist vertreten, der über den Einsatz seines Produkts berichtet. Das Fachbuch ist Ende 2021 bei Springer Gabler erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 heruntergeladen oder bestellt werden. Zudem ist es in jeder Buchhandlung verfügbar.
Abb.: Eine Viertelmillion Downloads sind ein Grund zum Feiern
„Inspirierend anders“, der Podcast von Luca Beutel, ging vor einiger Zeit in die Forschung. Für die letzten beiden Folgen hat der Mann mit dem Schnäuzer wieder einmal mit Prof. Dr. Oliver Bendel gesprochen. Der Technikphilosoph lebt in Zürich und arbeitet an mehreren Hochschulen der FHNW. Die eine Folge, ausgestrahlt seit dem 25. Dezember 2023, heißt „#212 IAF – Bist du bereit für die intelligente Vagina? So verändern Sexroboter dein Liebesleben“. Oliver Bendel stellt darin die Chancen und Risiken von Liebespuppen und Sexrobotern vor. Die Folge kann über Spotify gestreamt werden. Am 28. Dezember 2023 erschien die andere Folge mit dem Titel „#213 IAF – Was ein Robotikexperte darüber denkt, wie Avatare und Hologramme unsere Zukunft beherrschen werden“. Darin geht es u.a. um technische, ethische und ästhetische Fragen, die sich zu Avataren und Hologrammen stellen. Auch diese Folge kann u.a. über Spotify aufgerufen werden
Die Flughafen Zürich AG ergänzt laut einer Meldung vom 14. Dezember 2023 das rund 300-köpfige Gebäudereinigungsteam zu Testzwecken um zwei Serviceroboter namens Zulu und Charlie. Diese stammen von der Firma LionsBot aus Singapur (www.lionsbot.com) und gehören zu den LEOBOTS. Oliver Bendel schreibt im Gabler Wirtschaftslexikon: „Reinigungsroboter sind (teil-)autonome Serviceroboter für die Reinigung von Flächen, Gegenständen und Wasservorkommen. Sie sind i.d.R. dinghaft gestaltet und ähneln flachen Zylindern oder Quadern. … Unter den Reinigungsrobotern gibt es kaum Ansätze, die sie zu sozialen Robotern machen würden. Manche können allerdings mit den Besitzern bzw. Betreibern kommunizieren, sei es mittels Text und Bild über das Display, sei es mittels gesprochener Sprache.“ Laut Flughafen Zürich können Zulu und Charlie nicht nur Flächen sauber reinigen. „Sie können auch mit den Passagieren interagieren. Scannt man den QR-Code auf dem Gerät, können Fragen ausgewählt werden, die der Roboter beantworten wird.“ (Flughafen Zürich, 14. Dezember 2023) Weiter heißt es: „Zulu und Charlie verfügen über diverse Sensoren. Diese können Umrisse erkennen, erstellen jedoch kein Videomaterial. Die Testphase der Geräte läuft bis sicher Mitte Februar. Die Roboter sind autonom unterwegs und werden nach einer kurzen Anfangsphase alleine auf den Flächen reinigen.“ (Flughafen Zürich, 14. Dezember 2023) Weitere Informationen sind über www.flughafen-zuerich.ch/newsroom/flughafen-zuerich-ag-setzt-auf-roboter-unterstuetzung/ verfügbar.
Anfang Dezember 2023 sind die Proceedings der ICSR 2023 erschienen. Der erste Band enthält den Beitrag „Alpha Mini as a Learning Partner in the Classroom“ von Oliver Bendel und Andrin Allemann. Aus dem Abstract: „Social robots such as NAO and Pepper are being used in some schools and universities. NAO is very agile and therefore entertaining. Pepper has the advantage that it has an integrated display where learning software of all kinds can be executed. One disadvantage of both is their high price. Schools can hardly afford such robots. This problem was the starting point for the project described here, which took place in 2023 at the School of Business FHNW. The aim was to create a learning application with an inexpensive social robot that has the same motor capabilities as NAO and the same knowledge transfer capabilities as Pepper. The small Alpha Mini from Ubtech was chosen. It was possible to connect it to an external device. This runs a learning game suitable for teaching at primary level. Alpha Mini provides explanations and feedback in each case. Three teachers tested the learning application, raised objections, and made suggestions for improvement. Social robots like Alpha Mini are an interesting solution for knowledge transfer in schools when they can communicate with other devices.“ Der Band kann über link.springer.com/book/10.1007/978-981-99-8715-3 heruntergeladen bzw. bestellt werden.
Anfang Dezember 2023 sind die Proceedings der ICSR 2023 erschienen. Der zweite Band enthält den Beitrag „Pepper as a Learning Partner in a Children’s Hospital“ von Sara Zarubica und Oliver Bendel. Aus dem Abstract: „Social robots are increasingly used in learning settings. So far, the main focus of this has been in school lessons and teaching at universities. Another possible setting is the children’s hospital. There, for example, young patients need to acquire basic knowledge about their disease so that they can deal with it appropriately. This should be done in a joyful, fun way, as the situation is stressful enough in itself, and so learning is also facilitated. The paper presents a learning application for diabetic children that runs on Pepper. This social robot was particularly well suited for this task because it has a large integrated touchscreen, similar to a tablet. A learning game is displayed on it that was developed especially for this setting. The children have to estimate the carbohydrate values of foods and meals or answer knowledge questions. The social robot gives verbal and gestural feedback in each case. The subjects responded overwhelmingly positively to the learning application. Pepper’s visible and audible feedback plays a special role in this. Social robots like Pepper are an interesting solution for knowledge transfer in a children’s hospital.“ Der Band kann über link.springer.com/book/10.1007/978-981-99-8718-4 heruntergeladen bzw. bestellt werden.
Im Jahre 2022 wurde das Projekt @ve durchgeführt. Der Chatbot läuft auf der Website www.ave-bot.ch und auf Telegram. Er basiert auf GPT-3.0 von OpenAI, also auf einer älteren Version des Sprachmodells. Initiiert hat das Projekt Prof. Dr. Oliver Bendel, der sich verstärkt toten, ausgestorbenen und gefährdeten Sprachen widmet. Entwickelt wurde @ve von Karim N’diaye, der an der Hochschule für Wirtschaft FHNW Wirtschaftsinformatik studiert hat. Man kann sich mit ihr auf Lateinisch unterhalten, also in einer toten Sprache, die dadurch gewissermaßen lebendig wird, und ihr Fragen zur Grammatik stellen. Getestet wurde sie von einer einschlägigen Expertin. Ein Nutzen besteht laut Karim N’diaye darin, dass man rund um die Uhr auf Latein kommunizieren kann und dabei überlegen muss, was und wie man schreibt. Eine Gefahr sei, dass immer wieder Fehler in den Antworten enthalten sind. So ist zuweilen die Wortreihenfolge nicht korrekt. Zudem kann es sein, dass der Sinn verdreht wird. Dies kann bei einem menschlichen Lehrer freilich auch passieren, und der Lernende sollte in jedem Falle wachsam sein und nach Fehlern suchen. Ohne Zweifel ist @ve ein Tool, das mit Gewinn in den Lateinunterricht integriert werden kann. Dort können die Schüler berichten, was sie mit ihr zu Hause erlebt haben, und sie können mit ihr vor Ort alleine oder in der Gruppe, vom Lehrer begleitet, einen Schwatz halten. Seit Ende November 2023 liegt ein Working Paper mit dem Titel „@ve: A Chatbot for Latin“ vor. Es wurde bereits im Sommer verfasst. Der Chatbot läuft voraussichtlich noch bis Ende des Jahres.
Abb.: Mit @ve kann man auf Latein plaudern (Bild: Ideogram)
Beim Developer Day 2023 der SBB hält Prof. Dr. Oliver Bendel eine Keynote mit dem Titel „Die universelle Maschine: Fortschritte in Robotik, Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein“. In Robotik und Künstlicher Intelligenz (KI) gibt es gegenwärtig enorme Fortschritte. Auch die Maschinenethik und das Maschinelle Bewusstsein – die man der KI zurechnen, aber auch als eigenständige Disziplinen betrachten kann – entwickeln sich mit hohem Tempo weiter. Die Keynote von Prof. Dr. Oliver Bendel stellt die Fortschritte in den Vordergrund und behandelt jeweils hervorstechende und eindrückliche Beispiele. Bei der Robotik werden etwa Bewegungsarten und Gestaltungsformen ins Auge gefasst. Bei Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein geht der Wirtschaftsinformatiker und Technikphilosoph aus Zürich auf Sprachmodelle und ihre unterschiedlichen Implikationen ein. Am Ende wird alles zu einer universellen Maschine zusammengefügt, die es noch nicht gibt, die aber bereits am Horizont erscheint. Der Developer Day findet im Centre Loewenberg in Murten bei Bern statt. Weitere Informationen über devday23.event.sbb.ch/.
On November 6, 2023, OpenAI made so-called GPTs available to ChatGPT Plus users. According to the US company, anyone can easily create his or her own GPT without any programming knowledge. Initial tests have shown the performance of the new function. ChatGPT suggests a name for the chatbot, creates the profile picture and accepts documents with text and reference lists to expand its knowledge of the topic. The function is ideal for creating your own learning companions, modern educational agents so to speak. But you can also benefit from chatbots from other users and providers. A GPT called Social Robotics Girl, which provides information about social robotics, has been available since November 12, 2023. It was created by Prof. Dr. Oliver Bendel and is based on a collection of his articles on this topic. It can therefore give his definition of social robots and make classifications based on his five-dimension model. ChatGPT Plus users can access Social Robotics Girl via chat.openai.com/g/g-TbhZSZaer-social-robotics-girl.
Fig.: A young man with a chatbot (Image: DALL-E 3)
