Das Projekt „Alpha Mini für die Schule“ – initiiert von Prof. Dr. Oliver Bendel Anfang 2023 und durchgeführt von Andrin Allemann von März bis August 2023 – findet seine Nachahmer. Die Grundidee war gewesen, eine Lernanwendung für Kinder zu schaffen, dabei aber keinen teuren sozialen Roboter wie Pepper zu verwenden, sondern einen günstigen wie Alpha Mini. Dafür wurde das Produkt von Ubtech mit einem MS Surface gekoppelt und eine App entwickelt, die auf dem sozialen Roboter installiert und für die Darstellung auf dem Touchscreen gespiegelt wurde. Gabriele Bohler, Entrepreneurin im Bereich sozialer Roboter (www.smart-companion.ch), nahm im Herbst 2023 Kontakt mit den beiden auf. Bei einem gemeinsamen Videocall war auch das Zürcher Unternehmen raumCode zugegen. Dieses führte im Auftrag von Gabriele Bohler eine Anbindung von Alpha Mini – nun Robin genannt – an seine Robot Management Platform durch. Dabei konnten Ideen und Informationen aus dem Projekt „Alpha Mini für die Schule“ verwendet werden. Im Moment ist die Entrepreneurin dabei, all ihre Applikationen (Kids, Agers, Education, Entertainment), welche bereits auf der Plattform laufen, für Alpha Mini zu übernehmen. Neu steht eine grafische Oberfläche zur Verfügung, welche noch leichter zu bedienen ist. Prof. Dr. Oliver Bendel stellte das Projekt „Alpha Mini für die Schule“ unter dem englischen Titel „Alpha Mini as a Learning Partner in the Classroom“ bei der ICSR 2023 in Qatar vor. Das Paper ist in diesem Proceedingsband von Springer enthalten.
Seit 2012 sind auf Initiative von Oliver Bendel 25 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik entstanden, die eine Idee veranschaulichen oder die Umsetzung verdeutlichen sollen. Darunter sind Conversational Agents wie GOODBOT, LIEBOT, BESTBOT und SPACE THEA, die auf Konferenzen, in Journals und in den Medien vorgestellt wurden, und tierfreundliche Maschinen wie LADYBIRD und HAPPY HEDGEHOG, die in Büchern wie „Die Grundfragen der Maschinenethik“ von Catrin Misselhorn und auf indischen, chinesischen und amerikanischen Plattformen behandelt wurden. Zuletzt wurden zwei Chatbots für eine tote und eine gefährdete Sprache geschaffen, nämlich @ve (für Latein) und @llegra (für Vallader, ein Idiom des Rätoromanischen). Im Jahre 2024 wird das CAIBOT-Projekt fortgesetzt. In diesem soll ein Sprachmodell mit Hilfe von Prompt Engineering oder Finetuning in eine moralische Maschine verwandelt werden, nach dem Vorbild von Claude von Anthropic. Im Projekt „The Animal Whisperer“ soll eine App entwickelt werden, die die Körpersprache ausgewählter Tiere versteht und zusätzlich ihr Umfeld beurteilt, mit dem Ziel, Hinweise zum Umgang mit ihnen zu geben. Im Bereich der Maschinenethik dürften Oliver Bendel und seine wechselnden Teams zu den aktivsten Gruppen weltweit gehören.
Abb.: 25 Artefakte der Maschinenethik und Sozialen Robotik
„AI Encounter“, eine Reihe an der Zürcher Kunsthochschule, bietet laut Website experimentell-spielerische Begegnungen „mit künstlichen Intelligenzen“. Am 22. Februar 2024 war Marcial Koch im hauseigenen Kino im Gespräch mit Prof. Dr. Oliver Bendel. Das Thema waren Allzweckroboter, auch universelle Roboter genannt. Der Technikphilosoph und Wirtschaftsinformatiker aus Zürich spannte einen weiten Bogen von den goldenen Dienerinnen des Hephaistos bis hin zu Unitree H1, Figure 01 und Optimus. In der anschließenden Fragerunde ging er auf die Gestaltung von Robotern ein, auf Möglichkeiten und Grenzen der Maschinenethik – und auf die Herausforderung, wie man die Koexistenz von Robotern und Menschen nicht als Dystopie, sondern als Eutopie denken kann. Beim abschließenden Apero unterhielt man sich über passive und aktive Exoskelette, über Unitree Go2 und Alpha Mini aus dem privaten Social Robots Lab von Oliver Bendel – und über Elektro und Sparko, die 1939 bzw. 1940 auf der Weltausstellung in New York zu sehen gewesen waren.
Abb.: Allzweckroboter verbreiten sich immer mehr (Bild: DALL-E 3)
Im Februar 2024 ist das Buch „Paarbeziehung im 21. Jahrhundert“ bei Kohlhammer erschienen. Herausgeber sind Prof. Dr. Christian Roesler und Prof. Dr. Sonja Bröning. Im Buch enthalten ist der Beitrag „Überlegungen zu Zweier- und Dreierbeziehungen mit Liebespuppen und Sexrobotern“ von Prof. Dr. Oliver Bendel. Er fragt darin, ob Zweier- und Dreierbeziehungen mit Liebespuppen, Sexrobotern und umgekehrten Cyborgs möglich und welcher Art sie gegebenenfalls sind. Um dies zu klären, werden zunächst Merkmale von Zweier- und Dreierbeziehungen erarbeitet sowie die Merkmale und Funktionen der genannten Artefakte sowie ihr Gebrauch erklärt. Anschließend führt der Autor die Charakteristik der Zweierbeziehungen, am Rande auch der Dreierbeziehungen, und die Praxis der Liebespuppen, Sexroboter und umgekehrten Cyborgs zusammen und diskutiert die Ergebnisse. Am Ende widmet er sich in aller Kürze der Realität der Beziehungen. Weitere Informationen über https://www.kohlhammer.de.
Das Wahlmodul „Sozialer Roboter“ von Prof. Dr. Oliver Bendel wird vom 12. bis 14. Februar 2024 an der FHNW in Olten durchgeführt, gefolgt von seinem Wahlmodul „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“, das vom 15. bis 17. Februar am Campus Brugg-Windisch stattfindet. Das eine richtet sich vor allem an angehende Wirtschaftsinformatiker, das andere an angehende Betriebsökonomen. Als Gastreferenten konnten Katharina Kühne von der Universität Potsdam und Claude Toussaint, Managing Partner von navel robotics, gewonnen werden. Beide sind per Videokonferenz zugeschaltet. Vor Ort werden Pepper und NAO aus dem Robo-Lab der FHNW sowie Alpha Mini, Cozmo, Vector, Furby und Hugvie aus dem Social Robots Lab von Oliver Bendel sein. Der kleine Roboter von navel wird hoffentlich in die Kamera winken. In Pflege befindet sich noch der Unitree Go2, der ebenfalls im Privatbesitz des Wirtschaftsinformatikers und Technikphilosophen aus Zürich ist. Grundlagenwerke sind „Soziale Roboter“ (2021) und „300 Keywords Soziale Robotik“ (2021). Am Ende des Wahlmoduls entwerfen die Studenten und Studentinnen – auch mit Hilfe generativer KI – soziale Roboter, die sie nützlich, sinnvoll oder einfach nur anziehend finden. Die Wahlmodule werden seit 2021 angeboten und erfreuen sich großer Beliebtheit.
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data ist eine moralische Maschine (Bild: DALL-E 3)
Chinesische, indische und amerikanische Medien berichten immer wieder über die tierfreundlichen Maschinen und Systeme von Prof. Dr. Oliver Bendel. In seinem Studium ab 1987 war Tierethik einer seiner Schwerpunkte. Später verband er diese mit Maschinenethik und Sozialer Robotik und sprach sich für ein Arbeitsgebiet namens Animal-Machine Interaction aus, inspiriert von der Disziplin der Animal-Computer Interaction, die auf Clara Mancini zurückgeht. Bekannte Prototypen sind LADYBIRD und HAPPY HEDGEHOG. Das Projekt zu dem igelfreundlichen Mähroboter wurde 2019 durchgeführt. Das Paper „The HAPPY HEDGEHOG Project“ wurde Anfang 2021 beim Symposium „Machine Learning for Mobile Robot Navigation in the Wild“ im Rahmen der AAAI 2021 Spring Symposium Series vorgestellt. Nachdem es jahrelang über ein Google-Verzeichnis verfügbar war, kann es inzwischen über arxiv.org/abs/2401.03358 heruntergeladen werden. Damit wird es auch wieder verstärkt wahrgenommen. Die chinesische Plattform CSDN.net hat es am 9. Januar 2024 in der Rubrik „Daily Robotics Papers“ aufgeführt. Prof. Dr. Peter Singer beschäftigt sich seit kurzem ebenfalls mit dem Themenkomplex AI and Animals. In seinem Artikel „AI ethics: the case for including animals“ (zusammen mit Yip Fai Tse) vom Juli 2022 erwähnt er die Arbeit des Forschers aus Zürich.
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen, oder noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel erschienen. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen werden oder über die Website des Unternehmens bezogen werden.
Sebastian Albert ging laut einer Meldung von idw-online beim Bundeswettbewerb Künstliche Intelligenz (BWKI) als Sieger in der Sonderkategorie „Hardware“ hervor. „Angetreten als ‚Igelretter‘, entwickelte der 20-Jährige aus March bei Freiburg einen Algorithmus, der mit Hilfe eines Aufsatzes am Mähroboter Igel erkennt und diesen ausweicht. Er schützt sie so vor dem qualvollen Tod. Ausgezeichnet wurde das Projekt mit einem Geldpreis in Höhe von 750 Euro.“ (iwd-online, 13. November 2023) Damit hat der Nachwuchsforscher ein Projekt wiederholt, das Prof. Dr. Oliver Bendel von August 2019 bis Januar 2020 mit einem Team von drei Studenten und einer Studentin im Kontext der Maschinenethik durchführte. Der Wirtschaftsinformatiker und Technikphilosoph aus Zürich verfasste nach Abschluss zusammen mit Emanuel Graf und Kevin Bollier das Paper „The HAPPY HEDGEHOG Project“ und präsentierte es zusammen mit Emanuel Graf bei den AAAI 2021 Spring Symposia. Der Prototyp eines Mähroboters benutzt eine Wärmebildkamera und Machine Learning. Im ersten Schritt untersucht er seine Umgebung auf warme Objekte in einem bestimmten Temperaturbereich. Wenn er etwas gefunden hat, was zu einem Lebewesen passt, leitet er nähere Untersuchungen ein. Zu diesem Zweck wurde er mit Igelbildern trainiert. Stellt er fest, dass es sich um ein solches Tier handelt, unterbricht er seine Arbeit. HAPPY HEDGEHOG inspiriert seit seiner Erfindung Firmen und Forscher. Mehrere Medien haben seit 2021 über den tierfreundlichen Mähroboter berichtet, etwa der Beobachter und das Magazin der Schweizer Tierschutzes. Die Stuttgarter Zeitung berichtete am 8. November 2023 über den BWKI und erwähnte dabei auch das Original aus der Schweiz.
Die Maschinenethik widmet sich maschineller oder künstlicher Moral bzw. moralischen Maschinen. Üblicherweise werden moralische Regeln in Maschinen gepflanzt, an die sich diese strikt halten. Seit einiger Zeit verwendet man auch Machine Learning, etwa im Kontext der Pflege. Die Maschine lernt aus ihren Erfahrungen bzw. aus den Daten und passt ihr Verhalten an. Unter dem Begriff der Constitutional AI erhält diese Richtung nun Auftrieb. Im Vordergrund stehen Sprachmodelle wie GPT-3 und GPT-4, die mit Leitlinien, Richtlinien und Gesetzen trainiert werden. An der Hochschule für Wirtschaft FHNW beginnt am 19. September 2023 das Projekt „CAIBOT: Der Chatbot, der auf Constitutional AI beruht“. Initiiert hat es Prof. Dr. Oliver Bendel, der seit vielen Jahren im Bereich der Maschinenethik forscht und mit seinen wechselnden Teams zahlreiche Prototypen gebaut hat. Für das Projekt konnte Cédric Wespi gewonnen werden. Er wird im Rahmen seiner Abschlussarbeit Grundlagen zu Constitutional AI erarbeiten und den CAIBOT prototypisch implementieren. Die Ergebnisse werden im Januar 2024 präsentiert.
In late August 2023, AAAI announced the continuation of the AAAI Spring Symposium Series, to be held at Stanford University from 25-27 March 2024. Due to staff shortages, the prestigious conference had to be held at the Hyatt Regency SFO Airport in San Francisco in March 2023 – and will now return to its traditional venue. The call for proposals is available on the AAAI Spring Symposium Series page. Proposals are due by 6 October 2023. They should be submitted to the symposium co-chairs, Christopher Geib (SIFT, USA) and Ron Petrick (Heriot-Watt University, UK), via the online submission page. Over the past ten years, the AAAI Spring Symposia have been relevant not only to classical AI, but also to roboethics and machine ethics. Groundbreaking symposia were, for example, „Ethical and Moral Considerations in Non-Human Agents“ in 2016, „AI for Social Good“ in 2017, or „AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents“ in 2018. More information is available at aaai.org/conference/spring-symposia/sss24/.
Fig.: Hoover Tower on the campus of Stanford University
In der FAZ vom 29. August 2023 ist Melanie Mühl im Gespräch mit Prof. Dr. Oliver Bendel. Auf einer knappen Seite, die im Feuilleton untergebracht ist, geht es um Chatbots, Sprachassistenten und soziale Roboter. Es geht um die Beziehungen mit ihnen, die immer einseitig bleiben, um Täuschung und Betrug, aber auch um die Freude, die man mit Artefakten haben kann. Natürlich dürfen Sprachmodelle wie GPT nicht fehlen, und mit Blick auf Sexroboter stellt Oliver Bendel fest, dass jene zu prüde für Dirty Talk sind. Man muss sie mit speziellem Material trainieren, um sie für dieses Geschäftsfeld zu erschließen. Und genau das machen Unternehmen wie RealDoll bzw. Realbotix seit Jahren. Wer 10.000 Dollar und mehr für Harmony ausgibt, will eben nicht nur Sex mit ihr haben, sondern auch eine (wie auch immer geartete) Beziehung mit ihr führen, und dafür braucht es Sprache. Der Artikel „Für DirtyTalk ist GPT zu prüde“ ist in der Printausgabe erschienen. Zudem steht der Artikel in der Onlineausgabe mit abweichendem Bildmaterial zur Verfügung.
Abb.: So stellt sich Ideogram eine Roboterfrau vor
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
„Am 25. Juli 2023 flog das experimentelle unbemannte Luftfahrzeug XQ-58A Valkyrie der US-Airforce drei Stunden lang über dem Eglin Test and Training Complex in Florida unter der Führung eines Systems der künstlichen Intelligenz.“ (Golem, 12. August 2023) Dies meldete Golem am 12. August 2023. Der Redakteur Andreas Donath führte weiter aus: „Auch wenn der autonome Testflug einen großen Schritt nach vorn bedeutet, gibt es noch einige Herausforderungen, bevor KI-gesteuerte Drohnen im Kampf eingesetzt werden können. Die künstliche Intelligenz muss ein Situationsbewusstsein, ein Urteilsvermögen und Entscheidungsfähigkeiten zeigen, die mit denen menschlicher Piloten vergleichbar oder sogar besser sind.“ (Golem, 12. August 2023) Und betonte: „In dem Maße, wie die Technologie voranschreitet, werden auch die rechtlichen und ethischen Bedenken im Zusammenhang mit autonomen Waffen wahrscheinlich zunehmen.“ (Golem, 12. August 2023) Zu den ethischen Fragen haben in den letzten 15 Jahren Forscher wie Peter Asaro, Ron Arkin, Catrin Misselhorn und Oliver Bendel gearbeitet. Peter Asaro engagierte sich neben seiner wissenschaftlichen Arbeit früh gegen „Killer Robots“. Ron Arkin entwarf unter Finanzierung des Pentagon militärische Prototypen mit einem „künstlichen Gewissen“. Ron Arkin und Oliver Bendel diskutierten auf einem Panel in Krakau zur Frage, ob man betrügerische Maschinen bauen darf. Oliver Bendel schrieb für das Gabler Wirtschaftslexikon die Erklärung zu Kampfrobotern. Catrin Misselhorn veröffentlichte den Beitrag „Autonome Waffensysteme/Kriegsroboter“ im „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel).
Abb.: Eine Vision der Zukunft kriegerischer Auseinandersetzungen
Mit Liebespuppen und Sexrobotern beschäftigt sich Prof. Dr. Oliver Bendel seit 2013, beginnend mit dem Fachartikel „Dr. Robot entdeckt die Moral“, veröffentlicht in IT for Health. 2015 stellte er in seinem Beitrag „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ für das Buch „Machine Medical Ethics“ (Springer) die Lustmaschinen in eine Reihe mit anderen Robotern aus dem Gesundheitsbereich und betrachtete sie aus ethischer Sicht. Es folgten weitere Artikel und Buchbeiträge und 2020 das vielbeachtete Buch „Maschinenliebe“ (Springer Gabler). Zuletzt erschien „Sexroboter als soziale Roboter für unterschiedliche Bedürfnisse und Anliegen“ im Herausgeberband „Faktor Mensch“ (Springer Vieweg). Christoph Holz, ein Podcaster, unterhielt sich mit dem Informations- und Maschinenethiker über verschiedene Themen in den Bereichen Soziale Robotik, Künstliche Intelligenz und Ethik. Die erste Folge „Maschinenliebe aus philosophischer Sicht“ wurde am 19. Juli 2023 veröffentlicht. Sie kann über Spotify abgerufen werden.
Das Schweizer Magazin Bref hat im Juni 2023 ein Interview mit Prof. Dr. Oliver Bendel abgedruckt. Es geht darin u.a. um künstliche Intelligenz, etwa um Sprachmodelle, die ChatGPT und Bildgeneratoren wie DALL-E zugrunde liegen – und eigenen Projekten wie @ve und @llegra. Mit diesen Chatbots sollen tote und gefährdete Sprachen wiederbelebt bzw. gerettet werden. In früheren Projekten pflanzten die Teams um Oliver Bendel den Chatbots im Kontext der Maschinenethik vor allem moralische Regeln ein. Gegen Ende des Interviews heißt es: „Wir sollten immer daran denken: Die KI ist ein Werkzeug. Wir haben es geschaffen und wir haben die Macht, es zu gestalten und zu kontrollieren. Als Maschinenethiker habe ich dafür gesorgt, dass unseren Chatbots moralische Regeln eingepflanzt werden, an die sie sich strikt halten. Sie erkennen Probleme des Benutzers, die wir vorausgesehen haben, verhalten sich ihm gegenüber moralisch adäquat und machen immer wieder deutlich, dass sie nur Maschinen sind. Das alles ist sehr verlässlich.“ Das Interview kann über brefmagazin.ch/artikel/der-digitale-graben-wird-durch-die-ganze-welt-gehen/ aufgerufen werden.
