WIR KAUFLEUTE ist das Magazin des Kaufmännischen Verbandes Zürich. In der Ausgabe von Januar und Februar 2018 geht es um Künstliche Intelligenz und Robotik. In der Inhaltsübersicht findet sich ein Hinweis auf ein Interview mit dem Wirtschaftsinformatiker, Maschinenethiker und Informationsethiker Oliver Bendel: „Wenn Roboter und KI-Systeme uns Arbeit abnehmen, genügen für uns womöglich künftig vier, fünf Stunden Arbeitszeit am Tag. Vielleicht muss auf die digitale Revolution, die im Kern eine wirtschaftliche ist, eine gesellschaftliche und politische folgen, sagt der Philosoph und Wirtschaftsinformatiker OLIVER BENDEL.“ (WIR KAUFLEUTE, 1/2 2018) Das Interview selbst ist auf den Seiten 4 und 5 abgedruckt, unter dem Titel „Künstliche Intelligenz wird uns nicht auslöschen“. Zu Wort kommt zudem Roland Siegwart vom Institut für Robotik und Intelligente Systeme der ETH Zürich. Das gesamte Heft kann hier heruntergeladen werden.
Die Redaktion „Jäger und Sammler“ von funk traf sich Ende 2017 in Berlin mit Oliver Bendel. In seinem Hotelzimmer sprach man über Sexroboter und Robotersex. Auch Kathleen Richardson wurde interviewt, per Videokonferenz. Der Filmbeitrag wurde am 3. Januar 2018 veröffentlicht. Während der Informations- und Maschinenethiker, der in Zürich lebt, eine neutrale Position einnimmt und Chancen und Risiken herausarbeitet, hat sich die Anthropologin von der Universität Leicester dem Kampf gegen Sexroboter verschrieben. Der Sender stellt sich wie folgt vor: „Hey, wir sind funk … und sowas wie die kleine Schwester von ARD und ZDF. Uns gibt es aber nur im Internet, nicht im Fernsehen. Wir veröffentlichen auf über 60 verschiedenen Kanälen unterhaltende, informierende, kritische und hoffentlich fesselnde Videos. funk-Kanäle findet man auf Plattformen wie YouTube, Facebook, Instagram und Snapchat. Aber wir haben auch ein Zuhause: Hier bei funk.net gibt es alle funk-Videos auf einen Schlag und eine Auswahl internationaler Serien.“ (Website funk) Der Beitrag „Sexroboter: Love Story der Zukunft?“ ist u.a. über https://www.youtube.com/watch?v=GvOu9QFnl_A aufrufbar.
Die 2. VDI-Konferenz „Humanoide Roboter“ am 5. und 6. Dezember 2017 beschäftigte sich wieder – wie die 1. VDI-Konferenz mit diesem Titel – mit „dem Menschen nachempfundenen Robotern“ (Website VDI). Am 6. Dezember 2017 sprach Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW) über „SSML für humanoide Serviceroboter“. Es ging darum, wie man künstliche Stimmen so manipuliert, dass sie z.B. zu Informations- und Navigationsrobotern passen. Am Rande stellte er auch Fragen aus der Ethik heraus, etwa mit Blick auf die Stimmen von Pflegerobotern. Der Postprint kann hier heruntergeladen werden. Es folgte Dr.-Ing. Hendrik Wöhrle vom DFKI mit einem Vortrag über „Eingebettete Biosignalverarbeitung und integrierte Regelung eines Ganzkörper-Exoskelettes für die Neuro-Rehabilitation“. Der Moderator, Prof. Dr. Frank Kirchner vom DFKI, ging zusammen mit dem jungen Wissenschaftler auf Fragen aus dem Publikum ein. Prof. Dr. Elisabeth André (Universität Augsburg) referierte dann zur „Personalisierung der Mensch-Roboter-Interaktion durch sozialsensitives Lernen“. Die Teilnehmerinnen und Teilnehmer der Konferenz hatten sich an beiden Tagen interessiert an ethischen Fragestellungen gezeigt. Dem soll bei der nächsten Durchführung verstärkt Rechnung getragen werden.
Die 9. Landesenquete am 28. November 2017 in Kärnten widmet sich dem Thema „Menschen mit Behinderung und Robotics 4.0: Chancen & Risiken“. Prof. Dr. Robert Riener von der ETH Zürich spricht über „Robotik für Therapie und Assistenz – Möglichkeiten und Chancen“, Univ.-Doz. DI Dr. Michael Hofbaur von der Joanneum Research Forschungsgesellschaft über „Sichere Roboter – Herausforderungen im Kontext mit Menschen mit Behinderung“. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW geht auf „Assistenzsysteme und Pflegeroboter aus ethischer Sicht“ ein. Robert Riener hatte 2016 in Zürich den Cybathlon ausgerichtet, dessen Bilder um die ganze Welt gingen, Oliver Bendel als Ethiker den Wettkampf vor der Kamera kommentiert. Auf der Website der Stadt Villach heißt es: „Im Verlauf unserer Tagung wollen wir gemeinsam in die Zukunft blicken und uns mit der Frage beschäftigen, wie Roboter das Leben von Menschen mit Behinderung verändern können. Bringen diese modernen Technologien nur Vorteile oder gibt es auch ethische Aspekte zu berücksichtigen?“ Wichtig ist die Bemerkung, dass auch aus ethischer Perspektive Vorteile ausgemacht werden können – diese wird Oliver Bendel in seinem Vortrag ebenso wie die Nachteile darstellen.
„Die Informationsethik ist seit Jahrzehnten auf der ganzen Welt präsent und doch eine kleine Disziplin geblieben. Vor einiger Zeit ist eine neue Disziplin entstanden, die Maschinenethik. In ihr werden Systeme sowohl diskutiert als auch implementiert. Sie stößt auf reges Interesse in Wirtschaft und Gesellschaft.“ So beginnt der Artikel „Die Maschine in der Moral“ von Oliver Bendel, der im Oktober im Cyber Security Report 2017 erschienen ist. Informationsethik wird wie folgt erläutert: „Sie hat die Moral derjenigen zum Gegenstand, die Informations- und Kommunikationstechnologien (IKT) und neue Medien anbieten und nutzen.“ Zur Maschinenethik schreibt Oliver Bendel: „Der Begriff der maschinellen Moral wird meist ähnlich verwendet wie der Begriff der künstlichen Intelligenz; während jene eben der Gegenstand der Maschinenethik ist, ist diese der Gegenstand der Künstlichen Intelligenz (KI) als Disziplin.“ Sodann wird das automatisierte Fahren aus der Perspektive von Informations- und Maschinenethik betrachtet. Zur Informationsethik heißt es am Ende: „Schlussendlich kann sie deutlich machen, dass die Maschinenethik nicht grenzenlos tätig sein sollte. Zuviel maschinelle Moral kann schaden. Zuviel künstliche Intelligenz übrigens auch.“ Der Beitrag kann hier heruntergeladen werden. Weitere Informationen über www.mittler-report-shop.de.
Operations- und Therapieroboter sind weit verbreitet. Pflegeroboter werden auf der ganzen Welt in Forschungseinrichtungen, Krankenhäusern und Pflegeheimen erprobt. Vor einem regulären Einsatz sind diverse ethische Fragen aufzuwerfen und zu beantworten. Genau dies macht ein neuer Beitrag von Oliver Bendel, der Mitte September in der Zeitschrift IT for Health erschienen ist. Das Resümee lautet: „Der Einsatz von Pflegerobotern bietet aus ethischer (sowie aus ökonomischer und medizinischer) Perspektive sowohl Chancen als auch Risiken. Assistierende Technologien beweisen bereits ihre Alltagstauglichkeit. Robear und Co., die Hand an Patienten anlegen, benötigen bis zu einer hohen technischen Reife noch ein paar Jahre. Genügend Zeit, so scheint es, um sich über das Grundsätzliche klar zu werden. Letztlich sollte, wo immer möglich, der Wille des oder der Pflegebedürftigen geachtet werden, ob er in einer Verfügung oder während der Behandlung zum Ausdruck kommt.“ Der Artikel mit dem Titel „Soll uns Robear pflegen?“ kann hier aufgerufen werden.
Der Ladenburger Diskurs des Jahres 2017 findet am 12. und 13. September statt. Mehr als 15 renommierte Wissenschaftlerinnen und Wissenschaftler treffen in der Villa der gemeinnützigen Daimler und Benz Stiftung in Ladenburg zusammen, tragen vor und diskutieren zu Pflegerobotern und Assistenzsystemen in der Pflege. Vor Ort ist auch ein humanoider Roboter, dessen Funktionen vorgestellt und untersucht werden. Die Stiftung engagiert sich immer wieder in Bezug auf Robotik und Künstliche Intelligenz (KI) und mit Blick auf moralische und soziale Themen, wie 2015 mit einer Tagung zur Roboterethik. Der Workshop ermöglicht technische, wirtschaftliche, medizinische und ethische Reflexionen über Pflegeroboter. Die Teilnehmerinnen und Teilnehmer sollen im Rahmen der Ladenburger Diskurse kontrovers und konstruktiv diskutieren und zu neuen Erkenntnissen gelangen. Die wissenschaftliche Leitung obliegt Prof. Dr. Oliver Bendel. Er lud im Namen der Stiftung Robotiker, Informatiker, Mediziner und Moralphilosophen aus Deutschland, Österreich, der Schweiz und UK ein. Die Ergebnisse des Workshops werden in einem Herausgeberband zusammengefasst, der 2018 bei Springer veröffentlicht wird.
Abb.: Der Mensch ist und bleibt wichtig in der Pflege
„Serviceroboter sind für Dienstleistungen und Hilfestellungen aller Art zuständig, sie bringen und holen Gegenstände, überwachen die Umgebung ihrer Besitzer oder das Befinden von Patienten und halten ihr Umfeld im gewünschten Zustand. Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern. Sie wissen, was ihr Eigentümer oder Gegenüber tut und sagt oder was die Passanten in der Umgebung umtreibt und melden es womöglich an ihre Betreiber oder an Geräte und Computer aller Art. So wie Industrieroboter immer mehr ihre geschützten Bereiche verlassen, so wie sie immer mobiler und universeller geraten, und so wie sie immer mehr an den Menschen heranrücken, so werden Serviceroboter immer eigenständiger und ‚unternehmungslustiger‘.“ So beginnt ein neuer Beitrag von Oliver Bendel im Wirtschaftslexikon von Springer Gabler, erschienen am 31. August 2017. Im Folgenden werden die Serviceroboter klassifiziert und Ziele, Zwecke und Merkmale skizziert. Am Ende nimmt der Autor die Perspektive der Ethik ein. Der Beitrag kann über wirtschaftslexikon.gabler.de/Definition/serviceroboter.html abgerufen werden.
Omer Kabir von der israelischen Tageszeitung Calcalist hat im Februar 2017 ein Interview mit Oliver Bendel geführt, das am 16. August 2017 erschienen ist. Es geht um Künstliche Intelligenz, Robotik und Maschinenethik. Zu einer Frage führte Oliver Bendel aus: „I would like to distinguish between simple and complex moral machines. While simple moral machines are useful and valuable in many contexts, e.g., in order to protect animals in the household, in the parkway or in the wilderness, complex moral machines can be dangerous, on the battle field as well as in road traffic. I am against autonomous weapons and autonomous cars which decide between life and death of human beings. I prefer simple machines which follow simple rules in our absence, simple machines that are our representatives, not least in a moral sense.“ Auf eine andere gab er die Antwort: „Industrial and service robots as well as agents and chatbots will support and replace us, doing some things better than their human competitors. They may be more precise, faster and cheaper. The machines can used for automatic operation round the clock. We may experience initial discomfort and pressure. After some discussions and perhaps revolutions, we could head for adequate economic, political and legal conditions. Perhaps there will be an unconditional basic income for all citizens, and I must admit that I sympathise with this idea. Other experts also propose a machinery tax or a quota of robots, but I am rather sceptical about such restrictions. I like the discussions about them more than themselves.“ Der Artikel mit dem Titel „Affäre mit einem Roboter“ kann hier als PDF heruntergeladen oder über www.calcalist.co.il/internet/articles/0,7340,L-3719292,00.html aufgerufen werden.
Abb.: Affäre mit einem Roboter (Foto: Calcalist/Kai R. Joachim)
Bei interaktivem Digital Signage stellen sich Plakate, Schilder, Tafeln, Terminals und Säulen in Läden oder an Straßen und auf Plätzen auf ihren digitalen Bildschirmen automatisch auf Anwesende ein und interagieren und kommunizieren mit diesen in visueller oder auditiver Weise. Es wird also nicht einfach etwas dargestellt, sondern das, was dargestellt wird, hängt vom Betrachter oder vom Umfeld ab. Der hauptsächliche Zweck ist neben der Informierung (auch im Sinne von Beratung) die Werbung, die hauptsächliche Umsetzungsart die interaktive Werbefläche. Der Beitrag „Neue Spione in den Straßen, auf den Plätzen und in den Läden: Interaktive Werbeflächen aus ethischer Sicht“ von Oliver Bendel, erschienen bei Telepolis am 15. August 2017, untersucht das Phänomen digitaler Werbeflächen aus ethischer Sicht. Erstens wird der Begriff des Digital Signage erklärt, unter den der Begriff der interaktiven Werbeflächen subsumiert wird. Typisch für diese sind – abgesehen von den digitalen Bildschirmen – Kameras, Mikrofone, Lautsprecher, Muster-, Bild- und Gesichtserkennung. Zweitens werden Überlegungen aus Sicht von Informations-, Technik- und Wirtschaftsethik und darüber hinaus, etwa im Sinne des Verbraucherschutzes, angestellt. Auch die Maschinenethik wird berücksichtigt. Der Beitrag kann über www.heise.de/tp/features/Neue-Spione-in-den-Strassen-auf-den-Plaetzen-und-in-den-Laeden-3797118.html abgerufen werden.
Vier Glossen von Oliver Bendel aus der zfo (2013 bis 2015) können nun, nach der freundlichen Genehmigung des Verlags Schäffer-Poeschel, von dieser Website heruntergeladen werden: „Sinnhafte Entcomputerisierung“ – „Druck dir die Welt, wie sie dir gefällt!“ – „Neun Thesen zur Ethik“ – „In einem gesunden Körper …“ … Zur Zeitschrift gibt die Website folgende Auskunft: „Organisations- und Führungsfragen begegnen uns im beruflichen Alltag überall und in den unterschiedlichsten Facetten und Ausprägungen. Als führende deutschsprachige Zeitschrift auf ihrem Gebiet bietet die zfo – Zeitschrift Führung + Organisation zu diesen Themenbereichen fundierte und aktuelle Fachinformationen sowie professionelle Lösungsansätze renommierter Autoren aus Wissenschaft und Praxis. Die zfo ist offizielles Organ der Gesellschaft für Organisation e.V. (gfo), der Schweizerischen Gesellschaft für Organisation und Management (SGO) sowie der Österreichischen Vereinigung für Organisation und Management (ÖVO).“ (Website zfo) Weitere Informationen über www.zfo.de.
In der Edition HMD von Springer ist am 26. Juli 2017 das Buch „Industrie 4.0: Herausforderungen, Konzepte und Praxisbeispiele“ erschienen. Herausgeber ist Prof. Dr. Stefan Reinheimer, zu den Autoren gehören Prof. Dr. Oliver Bendel, Prof. Dr. Elgar Fleisch, Prof. Dr. Felix Wortmann und Prof. Dr. Stefan Strohmeier. Aus dem Klappentext: „Das Fachbuch greift das Konzept Industrie 4.0 – Ausdruck der vierten industriellen Revolution – mit seinen Chancen und Risiken für produzierende Unternehmen auf. Das Herausgeberwerk bringt das Thema durch anschauliche Beispiele aus der Praxis näher und zeigt die Visionen auf, mit denen sich nicht nur die akademische Welt bereits auseinandersetzt. Die Autoren der Beiträge thematisieren einerseits Kernthemen der Digitalisierung und beleuchten andererseits nicht zu vernachlässigende Begleiterscheinungen: In der Fabrik von morgen wachsen reale und virtuelle Welt zusammen. Schlagworte wie Internet der Dinge und Cyber-Physische Systeme (CPS) wurden bereits geprägt, um diese Verschmelzung anzudeuten. Industrie 4.0 verspricht neue Optionen für die Flexibilisierung und weitergehende Automatisierung der Fertigung. Sie schafft die Grundlage für neue Geschäftsmodelle, erfordert aber auch ein Umdenken in der Interaktion zwischen Mensch und Maschine.“ (Information Springer) Auch Informationsethik und Maschinenethik sind ein Thema. Weitere Informationen über www.springer.com/de/book/9783658181642#aboutBook.
Abb.: Kollege Roboter erscheint pünktlich bei der Arbeit
Die Bundeszentrale für politische Bildung hat auf ihrem Portal „Die Netzdebatte“ zwei neue Beiträge veröffentlicht. Es handelt sich um keine Pole, sondern um Varianten. Prof. Dr. Jürgen Schmidhuber sieht eher Vorteile in der Robotersteuer, die er sich unter gewissen Umständen und in einer bestimmten Ausgestaltung vorstellen kann. Prof. Dr. Oliver Bendel ist dafür, die Robotersteuer zu diskutieren, sieht aber insgesamt eher Nachteile, und benennt Herausforderungen, denen sich eine Umsetzung im Moment stellen müsste. Vor allem sei unklar, was genau man besteuern soll. Besonders deutlich zeige sich dies bei Kooperations- und Kollaborationsrobotern, die eng mit Menschen zusammenarbeiten. Wann fängt die Arbeit des Menschen und der Maschine an, wann hört sie auf? Auch muss man klären, ob man nur Hardwareroboter oder auch Softwareroboter besteuern soll. Wie verhält es sich mit einer Armee von Social Bots? Mit Crawlern von Suchmaschinen? Die Beiträge können über www.bpb.de/dialog/netzdebatte/248706/meinung-auch-roboter-sollten-steuern-zahlen und www.bpb.de/dialog/netzdebatte/245350/meinung-roboter-haben-keine-verantwortung aufgerufen werden.
Abb.: Der fiktive Lohn eines Roboters ist schwer zu bestimmen
Petra Grimm und Tobias Keber von der Hochschule der Medien haben internationale Experten zu einem Experten-Round-Table zum Thema „Privacy by Design im automatisierten Autofahren“ an die Hochschule der Medien in Stuttgart eingeladen. Nach Angaben von Susanne Kuhnert entstand die Idee zu dem interdisziplinären Austausch zum Themenbereich „Datenschutz und Datensicherheit im automatisierten und autonomen Autofahren“ im Rahmen der Mitarbeit im vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Projekt KoFFI. „KoFFI“ stehe, so das Einladungsschreiben, „für eine kooperative Fahrer-Fahrzeug-Interaktion und erforscht und erarbeitet ein multimodales Interaktionstool, welches im automatisierten Fahrzeug der Zukunft zum Einsatz kommen soll“. Weitere Informationen dazu über www.digitale-ethik.de/forschung/forschungsprojekte/koffi/. Am 27. Juli 2017 diskutierten Expertinnen und Experten wie Rafael Capurro und Oliver Bendel zum Thema. Im Anschluss entstanden Videos mit zentralen Statements, produziert von Studierenden der Hochschule. Diese werden in einigen Tagen online gestellt.
Die IEEE Global Initiative hat im Juli 2017 weitere Ergebnisse und Dokumente vorgelegt. So hat man nun Zugang zum Feedback, das Experten wie Amitai Etzioni, Yanqing Hong und Oliver Bendel zu „Ethically Aligned Design, Version 1“ gegeben haben. Es heißt dazu auf der Website: „The feedback in this document was submitted as part of an open Request for Information (RFI) process regarding the document created by The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems (‚The IEEE Global Initiative‘) titled, ‚Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems‘. As stated in the submission guidelines for our RFI process, all contributions have been posted exactly as they were received. The only modification to submissions was to standardize the font and spacing in the following document for ease of readability. Committees working to update Version 2 of Ethically Aligned Design are currently in the process of reviewing all feedback received to help inform their updated section drafts.“ (Website IEEE) Weitere Informationen über standards.ieee.org/develop/indconn/ec/autonomous_systems.html.
Abb.: Wie unterstützen und beschränken wir die Entwicklungen?
Am 4. Juli 2017 ist im Wirtschaftslexikon von Springer Gabler ein neuer Beitrag von Oliver Bendel erschienen. Es geht um Kooperations- und Kollaborationsroboter, also um moderne Industrieroboter, die mit uns Schritt für Schritt an einem gemeinsamen Ziel (Kooperationsroboter) bzw. Hand in Hand an einer gemeinsamen Aufgabe arbeiten, wobei wiederum ein bestimmtes Ziel gegeben ist (Kollaborationsroboter). „Sie nutzen dabei ihre mechanischen und sensorischen Fähigkeiten und treffen Entscheidungen mit Blick auf Produkte und Prozesse im Unternehmen bzw. in der Einrichtung. Co-Robots, wie sie gelegentlich genannt werden, können in Einzelfällen auch als Serviceroboter auftreten, etwa im medizinischen und pflegerischen Bereich. Die intensive Beschäftigung mit kooperativen und kollaborativen Robotern begann bereits in den 1990er-Jahren. In den 2010er-Jahren begannen sie sich durchzusetzen und in der Produktion zu verbreiten.“ (Gabler Wirtschaftslexikon) Die Roboter kommen uns näher, im Alltag und bei der Arbeit, sie unterstützen und ersetzen uns. In dem Beitrag werden auch ethische Aspekte dieser Entwicklung angesprochen. Er ist über wirtschaftslexikon.gabler.de/Definition/kollaborationsroboter.html aufrufbar.
