The upcoming international Robophilosophy Conference 2024 in Aarhus is set to tackle the socio-cultural and ethical questions arising from the use of generative multimodal AIs in social robotics. The event will bring together global scholars from humanities, social sciences, social robotics, and computer science, aiming to produce actionable insights and responsibly address the socio-cultural transformations brought about by social robotics. It is part of the Robophilosophy Conference Series, known for its large scale events for humanities research in social robotics. RP2024 highlights the urgency of closer collaboration between tech experts and societal experts to establish research-based regulations. The conference will welcome 80-100 talks in plenaries, special workshops, and parallel sessions of reviewed research papers. Virtual attendance is made possible for those unable to attend in person. Interested parties are invited to submit their papers on the conference topics. Key dates to note: Deadline for workshop/panel proposal submissions is January 31, 2024. Deadline for short papers and posters is February 15, 2024. More information at cas.au.dk/en/robophilosophy/conferences/rpc2024.
Fig.: Generative AI will be a topic (Picture: Ideogram)
In der „Hotellerie Gastronomie Zeitung“ ist am 18. Oktober 2023 ein Interview mit Prof. Dr. Oliver Bendel zu Barrobotern erschienen. Er erforscht seit einigen Jahren Serviceroboter aller Art, darunter auch weniger bekannte wie Polizeiroboter und Gastronomieroboter. Im Interview stellt er Daten vor, die er mit seiner ehemaligen Studentin Lea Peier gewonnen hat. Sie hat das wohl erste empirische Forschungsprojekt in diesem Bereich wesentlich geprägt und 2022 in der Schweiz an verschiedenen Standorten wochenlang Barroboter im Einsatz beobachtet und untersucht. Es konnten in dieser Zeit Robobarista von Smyze und Barney Bar von F&P Robotics besucht werden. Zusätzlich wurden Expertengespräche mit den Herstellern und mit Gastronomen geführt. Oliver Bendel hält Barroboter für eine interessante Ergänzung von gastronomischen Betrieben an Bahnhöfen, an Flughäfen und in Shoppings Malls. In klassischen Cafés und Restaurants werden sie sich eher nicht durchsetzen. Sie werden auch – dies wird bereits in der Überschrift ausgesagt – nicht den Fachkräftemangel beheben. Der ganze Artikel kann über den ISSUU-Reader aufgerufen werden. Er steht zudem auf der Website der Zeitung zur Verfügung.
Von Lio erfahren hat Prof. Dr. Oliver Bendel kurz nach der „Geburt“ des Assistenzroboters für die Pflege. Ende 2016 nahm er Kontakt mit Michael Früh auf, dem späteren CEO des Herstellers F&P Robotics, und lud ihn im Auftrag der Daimler und Benz Stiftung zum Ladenburger Diskurs 2017 zu Pflegerobotern ein. Aus diesem ging das Buch „Pflegeroboter“ hervor, das ein Bestseller wurde. Auch Lio ist darin ein Beitrag gewidmet. 2019 war F&P Robotics zu Gast beim Berliner Kolloquium zu Pflegerobotern, das ebenfalls von Oliver Bendel im Auftrag der Stiftung ausgerichtet wurde. Mit Alina Gasser und Joel Siebenmann von F&P Robotics verfasste der Wirtschaftsinformatiker und Technikphilosoph das Paper „Co-Robots as Care Robots“ … Es wurde beim AAAI 2020 Spring Symposium „Applied AI in Healthcare: Safety, Community, and the Environment“ angenommen und dort vorgestellt. 2022 entwickelte Marc Heimann nach den Ideen von Oliver Bendel ein Moralmodul für den Roboter, das von dem Unternehmen wohlwollend aufgenommen wurde. Der Patient kann mit Hilfe eines Moralmenüs seine moralischen und sozialen Vorstellungen in einfacher Weise auf die Maschine übertragen. Am 6. Oktober 2023 erschien im Bref-Magazin eine Reportage mit dem Titel „Roboter für das Volk“ zu Lio, in der auch Oliver Bendel zu Wort kommt. Sie kann hier aufgerufen werden.
Abb.: Roboter können Pflegekräfte unterstützen (Bild: Ideogram)
„Diskrete Fertigung und Prozessautomation – das sind die Fokusthemen der messtec drives Automation. Durch Markt- und Branchenanalysen, Unternehmensporträts sowie Technologie- und Applikationsberichte gibt das Medienkonzept mit seinen Print- und digitalen Formaten neue Impulse!“ (Website Wiley) Mit diesen Worten wirbt das Magazin von Wiley auf seiner Website. In der Ausgabe 8/2023, erschienen am 2. Oktober 2023, ist der dreiseitige Artikel „Der künstliche Barkeeper“ von Prof. Dr. Oliver Bendel und Lea Peier enthalten. Es handelt sich um den Auftakt einer dreiteiligen Serie, die auf das Paper „How Can Bar Robots Enhance the Well-being of Guests?“ zurückgeht und die in den Ausgaben 8/2023, 9/2023 und 1/2024 abgedruckt wird. Im Fokus stehen Barroboter wie Barney Bar und Robobarista, die an der Hochschule für Wirtschaft FHNW erforscht werden. Im ersten Teil werden Industrieroboter, Serviceroboter und soziale Roboter erklärt. Dabei spielt das Modell mit den fünf Dimensionen eine Rolle. Zudem wird auf Roboter in der Gastronomie eingegangen und eine Übersicht über Barroboter gegeben. Zwei Fotos zeigen die genannten Modelle, die aus der Schweiz stammen. Das ganze Heft kann hier heruntergeladen werden.
Abb.: Roboter können Cocktails und Mocktails zubereiten
Andrin Allemann wurde für seine Bachelorarbeit „Alpha Mini für die Schule“ an der Hochschule für Wirtschaft FHNW ausgezeichnet. In dem Dokument, das von Prof. Dr. Regula Altmann-Jöhl (Direktorin) und Prof. Dr. Charlotte Hofstetter (Mitglied der Hochschulleitung) am 28. September 2023 unterschrieben wurde, heißt es: „Wir gratulieren Ihnen zum erfolgreichen Abschluss in Wirtschaftsinformatik (Bachelor of Science FHNW). Es freut uns Ihnen mitzuteilen, dass Sie unter allen Kandidatinnen und Kandidaten Ihres Studienjahrgangs die beste Bachelor-Arbeit erzielt haben.“ Das Projekt, dessen zentraler Bestandteil diese Arbeit war, fand von Februar bis August 2023 statt. Initiator und Betreuer war Prof. Dr. Oliver Bendel. Ziel war es, eine Lernanwendung mit einem kostengünstigen sozialen Roboter zu erstellen, der über die gleichen motorischen Fähigkeiten wie NAO und die gleichen Fähigkeiten zur Wissensvermittlung wie Pepper (der mit einem Display ausgerüstet ist) verfügt. Die Wahl fiel auf den kleinen Alpha Mini von Ubtech. Es war mit einigem technischen Aufwand möglich, ihn mit einem externen Gerät, einem Microsoft Surface, zu koppeln. Auf diesem läuft ein Lernspiel, das für den Unterricht in der Primarschule geeignet ist. In einem Video wird gezeigt, wie ein Mädchen die Lernanwendung ausprobiert und der soziale Roboter Feedback und Erklärungen gibt, in sprachlicher Form und mit Hilfe seiner mimischen und gestischen Fähigkeiten. Andrin Allemann wurde zudem für den besten Gesamtnotendurchschnitt ausgezeichnet.
The Copernicus Science Centre’s exhibition „The Future is Now“ helps to face and understand the challenges of today’s world in all its complexity. „It shows different technological solutions and encourages to look at them in a critical way. It also takes notice of the relationships between our personal values and the values of others.“ (CSC website) The exhibition is divided into three parts. Two of them can already be visited: „Digital Brain?“ and „Mission: Earth“. The last part („Human 2.0“) is scheduled to open on 15 October 2024. Part of the „Digital Brain“ („#Relationships“) is BABYCLON, a robotic baby. A photo can be accessed here. According to the organizers, this will allow visitors to test the uncanny valley effect on themselves. „Are we ready to meet our machine lookalikes? Not really. It turns out that the more indistinguishable from humans a robot is, the weirder feelings it evokes. See for yourself if the ‚uncanny valley‘ effect works on you.“ (CSC website) This is not exactly what the uncanny valley thesis means. It is about very high expectations of very human-like robots, which are then disappointed by, for example, Sophie’s weird smile or BABYCLON’s strange behavior. More information at www.kopernik.org.pl/en/education-and-information-campaigns/exhibition-future-today.
Den „F.A.Z. Podcast für Deutschland“ gibt es an jedem Werktag auf die Ohren. Redakteure und Moderatoren sind Corinna Budras, Livia Gerster, Felix Hoffmann, Kathrin Jakob, Sandra Klüber, Andreas Krobok, Kati Schneider, Simon Strauß und Theresa Weiß. Am 19. September 2023 sprach Simon Strauß mit Prof. Dr. Oliver Bendel über Liebespuppen und Sexroboter. Der Wirtschaftsinformatiker und Technikphilosoph ging dabei auf neuere Entwicklungen ein, nicht nur in technischer, sondern auch in wirtschaftlicher Hinsicht. Denn nach seiner Beobachtung ist der Markt für Liebespuppen und Sexroboter durchaus nicht gesichert. Das BordDoll in Dortmund hat gerade seine Pforten geschlossen, angeblich wegen Personalmangels – denn die Puppenkörper müssen gut gereinigt und sicher verstaut werden. Vielleicht aber auch, weil die Nachfrage nach sechs Jahren gesunken ist. Auf den Seiten des führenden Anbieters für Sexroboter – RealDoll, Realbotix und Abyss Creations sind im Grunde eine Firma – muss man Harmony regelrecht suchen. Realbotix hat gar Denise in den Vordergrund gestellt, eine recht bieder wirkende Roboterfrau, die Besucher eher an der Rezeption eines Hotels als auf der Matratze eines Bordells empfangen soll. Deutlich wurde der Wirtschaftsinformatiker und Technikphilosoph in Bezug auf Kinderpuppen: Diese dürfen seiner Ansicht nach höchstens im Rahmen einer Therapie eingesetzt werden und nicht frei erhältlich und nutzbar sein. Es brauche empirische Forschung in diesem Bereich, die aber kaum stattfinde. Der Podcast „Sex mit Robotern: Wie KI unser Liebesleben revolutioniert“ steht über www.faz.net/podcasts/f-a-z-podcast-fuer-deutschland/sex-mit-robotern-wie-ki-unser-liebesleben-revolutioniert-19185247.html zur Verfügung.
Abb.: Wie KI unser Liebesleben revolutioniert (Bild: Ideogram)
The online event „Artificial Intelligence & Animals“ took take place on 16 September 2023. Speakers were Prof. Dr. Oliver Bendel (FHNW University of Applied Sciences and Arts Northwestern Switzerland), Yip Fai Tse (University Center for Human Values, Center for Information Technology Policy, Princeton University), and Sam Tucker (CEO VegCatalyst, AI-Powered Marketing, Melbourne). Panelists were Ian McDougall (Executive Vice President and General Counsel, LexisNexis London), Jamie McLaughlin (Animal Law Commission Vice President, UIA), and Joan Schaffner (Associate Professor of Law, George Washington University). Oliver Bendel „has been thinking on animal ethics since the 1980s and on information and machine ethics since the 1990s“. „Since 2012, he has been systematically researching machine ethics, combining it with animal ethics and animal welfare. With his changing teams, he develops animal-friendly robots and AI systems.“ (Website Eventbrite) Yip Fai Tse co-wrote the article „AI ethics: the case for including animals“ with Peter Singer. Sam Tucker is an animal rights activist.
Das neue Philosophie Magazin (Oktober/November 2023) wartet mit dem Dossier „Macht künstliche Intelligenz uns freier?“ auf. Dominik Erhard schreibt über „das neue Feuer“. Künstliche Intelligenz rufe oft zwei grundsätzlich unterschiedliche Reaktionen hervor. Die Schriftstellerin Meghan O’Gieblyn wird im Artikel von Stefania Gherca mit dem Satz „KI ist unser kollektives Unbewusstes“ zitiert. Künstliche Intelligenz boome in Industrie und Forschung, bestimme immer mehr unseren Alltag und stelle unser menschliches Selbstverständnis als Krone der Schöpfung infrage. Antonia Siebeck hat für „Küss mich, KI!“ den Technikphilosophen Oliver Bendel befragt. Im Teaser heißt es: „Der Fortschritt der Technik lässt unsere Beziehungen nicht unberührt: Sexroboter offerieren neue Formen der Befriedigung …“ (Philosophie Magazin, Oktober/November 2023). Der Germanist und Philosoph Richard David Precht fragt mit Blick auf KI: „Das Ende der Mühsal?“ Im Teaser heißt es: „Künstliche Intelligenz steigert alte Ängste: Uns geht die Arbeit aus! Die Maschinen werden uns beherrschen! Dabei liegt in der technischen Entwicklung eine Chance, die schon Karl Marx formulierte. Um sie zu nutzen, müssten wir die Gesellschaft neu denken.“ (Philosophie Magazin, Oktober/November 2023) Frederike Kaltheuner und Friedrich Weißbach beschäftigen sich in „Intelligent töten?“ mit KI in der militärischen Praxis. Weitere Informationen über www.philomag.de.
Die Maschinenethik widmet sich maschineller oder künstlicher Moral bzw. moralischen Maschinen. Üblicherweise werden moralische Regeln in Maschinen gepflanzt, an die sich diese strikt halten. Seit einiger Zeit verwendet man auch Machine Learning, etwa im Kontext der Pflege. Die Maschine lernt aus ihren Erfahrungen bzw. aus den Daten und passt ihr Verhalten an. Unter dem Begriff der Constitutional AI erhält diese Richtung nun Auftrieb. Im Vordergrund stehen Sprachmodelle wie GPT-3 und GPT-4, die mit Leitlinien, Richtlinien und Gesetzen trainiert werden. An der Hochschule für Wirtschaft FHNW beginnt am 19. September 2023 das Projekt „CAIBOT: Der Chatbot, der auf Constitutional AI beruht“. Initiiert hat es Prof. Dr. Oliver Bendel, der seit vielen Jahren im Bereich der Maschinenethik forscht und mit seinen wechselnden Teams zahlreiche Prototypen gebaut hat. Für das Projekt konnte Cédric Wespi gewonnen werden. Er wird im Rahmen seiner Abschlussarbeit Grundlagen zu Constitutional AI erarbeiten und den CAIBOT prototypisch implementieren. Die Ergebnisse werden im Januar 2024 präsentiert.
Am 31. August 2023 fand im „Careum Auditorium“ in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprachen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung waren United Robotics Group (URG), Arabesque, Achermann und HPE Aruba Networks. Die Vorträge wurden von zwei Avataren angekündigt. Ein Pepper-Roboter von Arabesque assistierte auf der Bühne und begann mit dem einen oder anderen Referenten ein Gespräch. So fragte er Oliver Bendel, ob er Gefühle für ihn habe. Der Informations- und Maschinenethiker betonte, dass Pepper selbst keine Gefühle habe (sondern nur zeige), der Roboter aber natürlich sein Herz höher schlagen lasse. In den Pausen konnten die ca. 100 Besucher mit zwei weiteren Pepper-Modellen von URG, zwei Plato-Modellen von URG und einem Temi von Arabesque interagieren und kommunizieren. Plato wurde zunächst als Alternative zu Transport- und Servierrobotern wie BellaBot lanciert, ist inzwischen aber auch in Pflegeheimen und Krankenhäusern zu finden. Er bringt verlässlich Abfall und Getränke von A nach B. Für heikle Transporte kann man auch geschlossene Systeme wie Relay von Savioke heranziehen. Plato gehört zu den Servicerobotern, die soziale Merkmale und Fähigkeiten erhalten haben – ein Trend, den Oliver Bendel immer wieder beschreibt. Weitere Informationen über inno-care.ch.
In late August 2023, AAAI announced the continuation of the AAAI Spring Symposium Series, to be held at Stanford University from 25-27 March 2024. Due to staff shortages, the prestigious conference had to be held at the Hyatt Regency SFO Airport in San Francisco in March 2023 – and will now return to its traditional venue. The call for proposals is available on the AAAI Spring Symposium Series page. Proposals are due by 6 October 2023. They should be submitted to the symposium co-chairs, Christopher Geib (SIFT, USA) and Ron Petrick (Heriot-Watt University, UK), via the online submission page. Over the past ten years, the AAAI Spring Symposia have been relevant not only to classical AI, but also to roboethics and machine ethics. Groundbreaking symposia were, for example, „Ethical and Moral Considerations in Non-Human Agents“ in 2016, „AI for Social Good“ in 2017, or „AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents“ in 2018. More information is available at aaai.org/conference/spring-symposia/sss24/.
Fig.: Hoover Tower on the campus of Stanford University
In der FAZ vom 29. August 2023 ist Melanie Mühl im Gespräch mit Prof. Dr. Oliver Bendel. Auf einer knappen Seite, die im Feuilleton untergebracht ist, geht es um Chatbots, Sprachassistenten und soziale Roboter. Es geht um die Beziehungen mit ihnen, die immer einseitig bleiben, um Täuschung und Betrug, aber auch um die Freude, die man mit Artefakten haben kann. Natürlich dürfen Sprachmodelle wie GPT nicht fehlen, und mit Blick auf Sexroboter stellt Oliver Bendel fest, dass jene zu prüde für Dirty Talk sind. Man muss sie mit speziellem Material trainieren, um sie für dieses Geschäftsfeld zu erschließen. Und genau das machen Unternehmen wie RealDoll bzw. Realbotix seit Jahren. Wer 10.000 Dollar und mehr für Harmony ausgibt, will eben nicht nur Sex mit ihr haben, sondern auch eine (wie auch immer geartete) Beziehung mit ihr führen, und dafür braucht es Sprache. Der Artikel „Für DirtyTalk ist GPT zu prüde“ ist in der Printausgabe erschienen. Zudem steht der Artikel in der Onlineausgabe mit abweichendem Bildmaterial zur Verfügung.
Abb.: So stellt sich Ideogram eine Roboterfrau vor
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
„Am 25. Juli 2023 flog das experimentelle unbemannte Luftfahrzeug XQ-58A Valkyrie der US-Airforce drei Stunden lang über dem Eglin Test and Training Complex in Florida unter der Führung eines Systems der künstlichen Intelligenz.“ (Golem, 12. August 2023) Dies meldete Golem am 12. August 2023. Der Redakteur Andreas Donath führte weiter aus: „Auch wenn der autonome Testflug einen großen Schritt nach vorn bedeutet, gibt es noch einige Herausforderungen, bevor KI-gesteuerte Drohnen im Kampf eingesetzt werden können. Die künstliche Intelligenz muss ein Situationsbewusstsein, ein Urteilsvermögen und Entscheidungsfähigkeiten zeigen, die mit denen menschlicher Piloten vergleichbar oder sogar besser sind.“ (Golem, 12. August 2023) Und betonte: „In dem Maße, wie die Technologie voranschreitet, werden auch die rechtlichen und ethischen Bedenken im Zusammenhang mit autonomen Waffen wahrscheinlich zunehmen.“ (Golem, 12. August 2023) Zu den ethischen Fragen haben in den letzten 15 Jahren Forscher wie Peter Asaro, Ron Arkin, Catrin Misselhorn und Oliver Bendel gearbeitet. Peter Asaro engagierte sich neben seiner wissenschaftlichen Arbeit früh gegen „Killer Robots“. Ron Arkin entwarf unter Finanzierung des Pentagon militärische Prototypen mit einem „künstlichen Gewissen“. Ron Arkin und Oliver Bendel diskutierten auf einem Panel in Krakau zur Frage, ob man betrügerische Maschinen bauen darf. Oliver Bendel schrieb für das Gabler Wirtschaftslexikon die Erklärung zu Kampfrobotern. Catrin Misselhorn veröffentlichte den Beitrag „Autonome Waffensysteme/Kriegsroboter“ im „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel).
Abb.: Eine Vision der Zukunft kriegerischer Auseinandersetzungen
Am 31. August 2023 findet in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprechen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung sind United Robotics Group, Arabesque, Achermann und HPE Aruba Networks. Prof. Dr. Oliver Bendel geht in seiner 20-minütigen Eröffnungsrede auf Pflegeroboter aus Sicht von Informations- und Maschinenethik ein. Es werden die Ziele, Aufgaben und Merkmale von Pflegerobotern geklärt und Beispiele vorgestellt. Auf dieser Grundlage werden Überlegungen aus der Perspektive der Ethik angestellt. Am Ende soll deutlich werden, welche Robotertypen und Prototypen bzw. Produkte es gibt, welche Zwecke sie erfüllen, welche Funktionen sie übernehmen und welche Implikationen und Konsequenzen dies für den Einzelnen und die Gesellschaft hat. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Die Anmeldung erfolgt über inno-care.ch.
