„Robotische Vierbeiner sind Roboter, die sich auf vier Beinen bewegen. Sie ähneln oft Hunden und werden deshalb auch Roboterhunde genannt. Sie können ebenso mit Katzen, Ziegen und anderen tierischen Vierbeinern in Zusammenhang gebracht werden. Zu unterscheiden sind eher funktionale Modelle, mehrheitlich ohne ausgeprägten Kopf und Schwanz, und soziale Roboter, die (Karikaturen von) Hunden oder Katzen gleichsehen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Es werden Beispiele für robotische Vierbeiner genannt, beginnend mit Sparko von 1940, und Formen der Anwendung genannt. Dann werden Vor- und Nachteile diskutiert. Am Ende nimmt der Autor die Perspektive der Ethik ein: „Die Informationsethik fragt nach der Verletzung der informationellen Autonomie durch robotische Vierbeiner, die Roboterethik nach der Verantwortung bei Zusammenstößen. Die Maschinenethik versucht die Roboterhunde und -katzen abzurichten, durch das Einprogrammieren moralischer Regeln oder das Finetuning bzw. Prompt Engineering von multimodalen KI-Modellen, die in die Maschinen integriert wurden.“ Der ganze Beitrag – erschienen ist er am 14. Dezember 2024 – kann über wirtschaftslexikon.gabler.de/definition/robotische-vierbeiner-171015 aufgerufen werden.
Abb.: Aibo von Sony (Bild: Marco Wydmuch, Red Dot, CC-BY-SA-4.0)
Am Abend des 18. Oktober 2024 waren ZDF-Moderatorin Jasmina Neudecker und Prof. Dr. Oliver Bendel zu Gast im KörberHaus in Hamburg Bergedorf. Eingeladen hatte sie die Körber-Stiftung. Auf der Bühne sprachen sie über Beziehungen zu Chatbots, Sprachassistenten und sozialen Robotern. Oliver Bendel umgibt sich mit sozialen Robotern aller Art und erforscht sie aus technikphilosophischer, ethischer, ästhetischer und ontologischer Perspektive. Er entwickelt zusammen mit seinen Studenten und Studentinnen seit 2012 Chatbots und Sprachassistenten und pflanzt ihnen moralische Regeln ein. Zur Freundschaft hält er all diese Systeme nicht fähig. Dennoch können sie in bestimmten Situationen helfen, etwa wenn man sich einsam fühlt. Auch können sie, wie im Gespräch herausgearbeitet wurde, als Türöffner dienen. Nur müsse man, so Oliver Bendel, dann auch durch diese Tür treten. Und dort warten hoffentlich Menschen, mit denen man eine echte Freundschaft pflegen kann. Den Vortrag verfolgten zahlreiche Gäste vor Ort, zudem viele Benutzer im Livestream. Es gab so viele Fragen, dass überzogen werden musste. Beim gemeinsamen Umtrunk ging der Austausch dann weiter. Das Gespräch kann in der Mediathek der Körber-Stiftung aufgerufen werden.
„In Gaza und in der Ukraine werden ethisch umstrittene ‚High-Tech-Hunde‘ und andere autonome Waffen eingesetzt: Sie töten emotionslos, chirurgisch und ‚kostengünstiger‘. Das ist weder moralisch, noch völkerrechtlich vertretbar.“ (Die Furche, 3. April 2024) Mit diesen Worten beginnt ein Artikel von Adrian Lobe, der am 3. April 2024 in der österreichischen Wochenzeitung Die Furche veröffentlicht wurde. Zu Wort kommt Prof. Dr. Oliver Bendel, der sich wiederholt mit autonomen Waffensystemen beschäftigt hat. Im Jahre 2016 diskutierte er auf einem Panel in Krakau u.a. mit Ronald C. Arkin, der im Auftrag des Pentagon militärische Roboter mit einem künstlichen Gewissen ausgerüstet hat, wobei es bei Prototypen geblieben ist. Beide sind im Bereich der Maschinenethik tätig, haben aber z.T. ganz unterschiedliche Positionen. Oliver Bendel betreibt keine militärische Forschung und lehnt den Einsatz autonomer Kampfroboter ab. Er weist immer wieder darauf hin, dass auch Maschinen, die zu zivilen Zwecken entwickelt wurden, zu militärischen genutzt werden können, so wie es bereits der Fall bei Unitree Go1 und Go2 war – ihn stört daran nicht nur der Waffeneinsatz an sich, sondern auch, dass man die Akzeptanz gegenüber hilfreichen und sinnvollen Servicerobotern gefährdet. Der Artikel kann über www.furche.at abgerufen werden.
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen, oder noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel erschienen. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen werden oder über die Website des Unternehmens bezogen werden.
Beim Developer Day 2023 der SBB hält Prof. Dr. Oliver Bendel eine Keynote mit dem Titel „Die universelle Maschine: Fortschritte in Robotik, Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein“. In Robotik und Künstlicher Intelligenz (KI) gibt es gegenwärtig enorme Fortschritte. Auch die Maschinenethik und das Maschinelle Bewusstsein – die man der KI zurechnen, aber auch als eigenständige Disziplinen betrachten kann – entwickeln sich mit hohem Tempo weiter. Die Keynote von Prof. Dr. Oliver Bendel stellt die Fortschritte in den Vordergrund und behandelt jeweils hervorstechende und eindrückliche Beispiele. Bei der Robotik werden etwa Bewegungsarten und Gestaltungsformen ins Auge gefasst. Bei Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein geht der Wirtschaftsinformatiker und Technikphilosoph aus Zürich auf Sprachmodelle und ihre unterschiedlichen Implikationen ein. Am Ende wird alles zu einer universellen Maschine zusammengefügt, die es noch nicht gibt, die aber bereits am Horizont erscheint. Der Developer Day findet im Centre Loewenberg in Murten bei Bern statt. Weitere Informationen über devday23.event.sbb.ch/.
Luca Beutel, Betreiber des Podcasts „Inspirierend anders“, hat mit Prof. Dr. Oliver Bendel ein Interview zu KI und Robotik geführt. Die Aufnahme fand bereits im Sommer statt, auf Sendung ging man am 16. November 2023. Unter anderem drehte sich das Gespräch um Roboter als Subjekte und Objekte der Moral. Der Technikphilosoph aus Zürich hält nichts davon, Robotern moralische Rechte zuzugestehen. Er knüpft solche an Empfindungs- und Leidensfähigkeit bzw. Bewusstsein. Nach seiner Ansicht verläuft ein tiefer Graben zwischen Lebewesen und Dingen, und es sei gefährlich, diesen einebnen zu wollen. Auch von Pflichten möchte er nicht sprechen, höchstens von Verpflichtungen, die wir Robotern auferlegen, noch besser von Aufgaben, die sie erledigen müssen, unter Beachtung moralischer Regeln. Sogenannte moralische Maschinen sind neue, merkwürdige, unvollständige Subjekte der Moral. Sie haben kein Bewusstsein, keine Intuition, keine Empathie, keinen freien Willen, aber sie können – als autonome Maschinen alleingelassen in geschlossenen, halboffenen oder offenen Welten – verschiedene Optionen erwägen und eine von ihnen auswählen. Dies ist eine funktionale Moral, die allenfalls mit der Moral mit Fundamentalisten zu tun hat – aber im Robozän kann sie eine Bereicherung darstellen, vor allem wenn Maschinen auf Menschen oder Tiere treffen, etwa als soziale Roboter. Der Podcast kann über open.spotify.com/episode/4okY8VaLGMz0IVSLptgfaO?si=lArWhSfsQxyVwoFDiEXNtg aufgerufen werden.
Den „F.A.Z. Podcast für Deutschland“ gibt es an jedem Werktag auf die Ohren. Redakteure und Moderatoren sind Corinna Budras, Livia Gerster, Felix Hoffmann, Kathrin Jakob, Sandra Klüber, Andreas Krobok, Kati Schneider, Simon Strauß und Theresa Weiß. Am 19. September 2023 sprach Simon Strauß mit Prof. Dr. Oliver Bendel über Liebespuppen und Sexroboter. Der Wirtschaftsinformatiker und Technikphilosoph ging dabei auf neuere Entwicklungen ein, nicht nur in technischer, sondern auch in wirtschaftlicher Hinsicht. Denn nach seiner Beobachtung ist der Markt für Liebespuppen und Sexroboter durchaus nicht gesichert. Das BordDoll in Dortmund hat gerade seine Pforten geschlossen, angeblich wegen Personalmangels – denn die Puppenkörper müssen gut gereinigt und sicher verstaut werden. Vielleicht aber auch, weil die Nachfrage nach sechs Jahren gesunken ist. Auf den Seiten des führenden Anbieters für Sexroboter – RealDoll, Realbotix und Abyss Creations sind im Grunde eine Firma – muss man Harmony regelrecht suchen. Realbotix hat gar Denise in den Vordergrund gestellt, eine recht bieder wirkende Roboterfrau, die Besucher eher an der Rezeption eines Hotels als auf der Matratze eines Bordells empfangen soll. Deutlich wurde der Wirtschaftsinformatiker und Technikphilosoph in Bezug auf Kinderpuppen: Diese dürfen seiner Ansicht nach höchstens im Rahmen einer Therapie eingesetzt werden und nicht frei erhältlich und nutzbar sein. Es brauche empirische Forschung in diesem Bereich, die aber kaum stattfinde. Der Podcast „Sex mit Robotern: Wie KI unser Liebesleben revolutioniert“ steht über www.faz.net/podcasts/f-a-z-podcast-fuer-deutschland/sex-mit-robotern-wie-ki-unser-liebesleben-revolutioniert-19185247.html zur Verfügung.
Abb.: Wie KI unser Liebesleben revolutioniert (Bild: Ideogram)
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
„Am 25. Juli 2023 flog das experimentelle unbemannte Luftfahrzeug XQ-58A Valkyrie der US-Airforce drei Stunden lang über dem Eglin Test and Training Complex in Florida unter der Führung eines Systems der künstlichen Intelligenz.“ (Golem, 12. August 2023) Dies meldete Golem am 12. August 2023. Der Redakteur Andreas Donath führte weiter aus: „Auch wenn der autonome Testflug einen großen Schritt nach vorn bedeutet, gibt es noch einige Herausforderungen, bevor KI-gesteuerte Drohnen im Kampf eingesetzt werden können. Die künstliche Intelligenz muss ein Situationsbewusstsein, ein Urteilsvermögen und Entscheidungsfähigkeiten zeigen, die mit denen menschlicher Piloten vergleichbar oder sogar besser sind.“ (Golem, 12. August 2023) Und betonte: „In dem Maße, wie die Technologie voranschreitet, werden auch die rechtlichen und ethischen Bedenken im Zusammenhang mit autonomen Waffen wahrscheinlich zunehmen.“ (Golem, 12. August 2023) Zu den ethischen Fragen haben in den letzten 15 Jahren Forscher wie Peter Asaro, Ron Arkin, Catrin Misselhorn und Oliver Bendel gearbeitet. Peter Asaro engagierte sich neben seiner wissenschaftlichen Arbeit früh gegen „Killer Robots“. Ron Arkin entwarf unter Finanzierung des Pentagon militärische Prototypen mit einem „künstlichen Gewissen“. Ron Arkin und Oliver Bendel diskutierten auf einem Panel in Krakau zur Frage, ob man betrügerische Maschinen bauen darf. Oliver Bendel schrieb für das Gabler Wirtschaftslexikon die Erklärung zu Kampfrobotern. Catrin Misselhorn veröffentlichte den Beitrag „Autonome Waffensysteme/Kriegsroboter“ im „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel).
Abb.: Eine Vision der Zukunft kriegerischer Auseinandersetzungen
Mit Liebespuppen und Sexrobotern beschäftigt sich Prof. Dr. Oliver Bendel seit 2013, beginnend mit dem Fachartikel „Dr. Robot entdeckt die Moral“, veröffentlicht in IT for Health. 2015 stellte er in seinem Beitrag „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ für das Buch „Machine Medical Ethics“ (Springer) die Lustmaschinen in eine Reihe mit anderen Robotern aus dem Gesundheitsbereich und betrachtete sie aus ethischer Sicht. Es folgten weitere Artikel und Buchbeiträge und 2020 das vielbeachtete Buch „Maschinenliebe“ (Springer Gabler). Zuletzt erschien „Sexroboter als soziale Roboter für unterschiedliche Bedürfnisse und Anliegen“ im Herausgeberband „Faktor Mensch“ (Springer Vieweg). Christoph Holz, ein Podcaster, unterhielt sich mit dem Informations- und Maschinenethiker über verschiedene Themen in den Bereichen Soziale Robotik, Künstliche Intelligenz und Ethik. Die erste Folge „Maschinenliebe aus philosophischer Sicht“ wurde am 19. Juli 2023 veröffentlicht. Sie kann über Spotify abgerufen werden.
„In seiner Arbeit beschäftigt er sich mit dem Zusammenleben von sozialen Robotern mit Menschen und mit dem Potenzial von künstlicher Intelligenz. Auf seinem Gebiet ist er eine Autorität.“ (Website SRF) Mit diesen Worten wird vom Schweizer Radio und Fernsehen (SRF) eine Sendung mit Prof. Dr. Oliver Bendel aus Zürich angekündigt. Es geht darin um „Chancen und Grenzen von Pflege- und Sexrobotern“. „Der Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz, Oliver Bendel, erzählt im Gespräch ‚Gast am Mittag‘ um 13 Uhr, warum es Umarmungsroboter braucht, was junge Männer an Sexrobotern, die aussehen wie Feen, anzieht und warum er eine Patientenverfügung zum Einsatz von Therapierobotern erstellt hat. Das Gespräch führt Sandra Schiess.“ (Website SRF) „Gast am Mittag“ mit Prof. Dr. Oliver Bendel läuft am 29. Mai 2023 auf SRF 1. Zusätzlich erscheint an diesem Tag ein Interview mit ihm in schriftlicher Form auf der Website.
Am 26. Mai 2023 ist Heft 4/2023 der Zeitschrift messtec drives Automation erschienen. Darin enthalten ist der Beitrag „Die Mächtigkeit von Sprachmodellen“ von Prof. Dr. Oliver Bendel. Er geht auf Anwendungen ein, die man noch wenig kennt, die aber relevant sein werden für Service- und Industrieroboter und für Brain-Computer-Interfaces. In diesem Bereich hat vor allem das Sprachmodell PaLM-E für Aufmerksamkeit gesorgt. Indem Bilddaten und Daten zu Zuständen und Ereignissen integriert werden, werden Virtualität und Realität miteinander verbunden. Konkret kann der Benutzer mit Hilfe eines Prompts einem Roboter eine Anweisung geben, die dieser dann in seiner Umgebung ausführt, die er vorher beobachtet hat und weiter beobachtet. Aber nicht nur Google und TU Berlin forschen auf diesem Gebiet – in dem Paper „ChatGPT for Robotics“ hat auch Microsoft erste Ergebnisse vorgestellt. Sprachmodelle mit solchen Wahrnehmungs- und Steuerungsmöglichkeiten wären interessant für Lio und Optimus oder für soziale Roboter im Bildungsbereich, die nicht nur kommunizieren, sondern in vielfältiger Weise interagieren. Wichtig ist, dass den Fähigkeiten bei der Wahrnehmung und Steuerung entsprechende Fähigkeiten der Motorik gegenüberstehen. Der Zweiseiter kann über www.wileyindustrynews.com/messtec-drives-automation/messtec-drives-automation-04-23 heruntergeladen werden.
Die Shift, eine Tagung zu Fragen von Informations-, Roboter- und KI-Ethik, fand am 20. April 2023 zum fünften Mal statt. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Das Video dazu ist am 19. Mai 2023 erschienen. Oliver Bendel ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Das Video kann hier aufgerufen werden.
Abb.: So stellt sich DALL-E einen humanoiden weiblichen Roboter vor
„Oliver Bendel antwortet im März auf eine Interviewanfrage aus San Francisco. Der Informationsethiker ist auf dem Weg an ein Symposium, wo er über Umarmungsroboter und Barroboter referieren wird. Vor einigen Jahren hat er an derselben Veranstaltung der renommierten Association for the Advancement of Artificial Intelligence (AAAI) annotierte Entscheidungsbäume für moralische Maschinen vorgestellt. Wenn sich Bendel nicht gerade auf einer seiner vielen wissenschaftlichen Reisen befindet, forscht er in beschaulicher Umgebung: Seit 2009 bekleidet der 55-Jährige eine Professur für Informationsethik, Maschinenethik und Soziale Robotik an der Fachhochschule Nordwestschweiz (FHNW) in Brugg-Windisch.“ (Inside IT, 24. April 2023) Mit diesen Worten beginnt ein Artikel von Thomas Schwandener, der am 24. April 2023 in Inside IT erschienen ist. Weiter heißt es: „In seiner Arbeit geht es um das Zusammenleben von sozialen Robotern und Menschen, um die Potenziale künstlicher Intelligenz, aber auch um ethische Folgefragen. Bendel ist eine Autorität auf seinem Gebiet. Er hat mehrere Standardwerke verfasst, spricht an internationalen Fachtagungen und trat mehrfach vor dem Deutschen Bundestag als Sachverständiger auf.“ (Inside IT, 24. April 2023) Es folgt ein längeres Interview, das am Rande der Shift geführt wurde. Darin weist der Informations- und Maschinenethiker auf die tiefe Kluft zwischen Menschen und Maschinen hin. Der ganze Artikel kann hier aufgerufen werden.
Das New York City Police Department (NYPD) sieht Serviceroboter „für Straßenpatrouillen und Überwachung“ (Golem, 14. April 203) vor. „Neben dem Roboterhund Spot soll künftig zusätzlich ein eigenständiges Modell vom Typ Knightscope K5 eingesetzt werden.“ (Golem, 14. April 203) Dies schreibt Oliver Nickel am 14. April 2023 in Golem unter Berufung auf Aussagen des New Yorker Bürgermeisters Eric Adams bei einer Pressekonferenz. Prof. Dr. Oliver Bendel thematisiert sowohl Spot als auch K5 in seinem Paper „Robots in Policing“, das in den Proceedings „Social Robots in Social Institutions“ der Robophilosophy 2022 erschienen ist. Mit Sicherheits- und Überwachungsrobotern wie dem K5 beschäftigt sich der Technikphilosoph aus Zürich seit Jahren. In dem Artikel „Mehr Unsicherheit mit Sicherheitsrobotern?“, erschienen 2016 in der Zeitschrift SicherheitsForum, nahm er u.a. die ethische Perspektive ein. Bereits ein paar Monate vorher wurde der Beitrag „Blechpolizisten mit Elektroschockern: Beobachtungen zu Überwachungsrobotern“ in Inside IT veröffentlicht. Ohne Zweifel nimmt das Thema in diesen Tagen erheblich an Fahrt auf, wegen der Einsätze in den USA, aber auch der Pläne in Deutschland – das Innovation Lab der Polizei Nordrhein-Westfalen in Duisburg testet derzeit Modelle wie Spot.
The ACI took place from 5 to 8 December 2022 in Newcastle upon Tyne. It is the world’s leading conference on animal-computer interaction. The proceedings were published in the ACM Library on March 30, 2023. They include the paper „A Face Recognition System for Bears: Protection for Animals and Humans in the Alps“ by Oliver Bendel and Ali Yürekkirmaz. From the abstract: „Face recognition, in the sense of identifying people, is controversial from a legal, social, and ethical perspective. In particular, opposition has been expressed to its use in public spaces for mass surveillance purposes. Face recognition in animals, by contrast, seems to be uncontroversial from a social and ethical point of view and could even have potential for animal welfare and protection. This paper explores how face recognition for bears (understood here as brown bears) in the Alps could be implemented within a system that would help animals as well as humans. It sets out the advantages and disadvantages of wildlife cameras, ground robots, and camera drones that would be linked to artificial intelligence. Based on this, the authors make a proposal for deployment. They favour a three-stage plan that first deploys fixed cameras and then incorporates camera drones and ground robots. These are all connected to a control centre that assesses images and developments and intervenes as needed. The paper then discusses social and ethical, technical and scientific, and economic and structural perspectives. In conclusion, it considers what could happen in the future in this context.“ The proceedings can be accessed via dl.acm.org/doi/proceedings/10.1145/3565995.
