Das Bayerische Fernsehen (BR Fernsehen) hat Oliver Bendel im Mai 2016 ins Verkehrszentrum des Deutschen Museums nach München eingeladen und dort ein Gespräch mit ihm geführt. „Mit über 4500 Exponaten zählen die Sammlungen des Landverkehrs zu den größten, wertvollsten und ältesten Sammlungen des Deutschen Museums.“ (Website Verkehrszentrum) Es ging um autonome Autos und den Verkehr der Zukunft. Der Philosoph und Wirtschaftsinformatiker sprach sich dafür aus, die Autobahnen dafür vorzusehen und die Städte weitgehend zu verschonen. Im Museum war ein Prototyp von Daimler ausgestellt, bei dem das autonome Fahren bereits Mitte der 90er-Jahre mit Hilfe von Fernsehkameras realisiert wurde. Im Ankündigungstext wird unter dem Titel „Auch eine Frage der Moral“ der Inhalt des Films skizziert und auf Dilemmata eingegangen: „Es gibt viele offene Fragen: Wie verhält sich ein autonomes Fahrzeug in einer Gefahrensituation? Was macht das Auto, wenn plötzlich ein kleines Mädchen vor ihm auf die Straße läuft? Was, wenn der Fahrer das Kind nur verschonen kann, indem er ausweicht, aber dadurch zum Beispiel einen Senioren gefährdet? Ist ein junges Leben mehr wert als ein älteres?“ (Website BR) Das Gespräch mit Oliver Bendel führte Patrick Lerch, ausgestrahlt wird der Beitrag voraussichtlich – ursprünglich eingeplant für den 1., dann für den 8. Juni 2016 – am 13. Juli 2016. Weitere Informationen über www.br.de.
Nur noch Beifahrer
Gerd Piper geht in seinem Artikel für die Märkische Zeitung vom 4. April 2016 auf die Schuld- und Haftungsfrage bei selbstständig fahrenden Autos ein. Er beginnt mit den Worten: „Den Blinker muss der Fahrer noch selbst setzen. Der Rest läuft von allein. Die Limousine beschleunigt, das Steuer dreht sich langsam wie von Geisterhand und lenkt das Auto selbstgewiss auf die Überholspur der Autobahn, umkurvt den Vordermann und schert wieder auf die rechte Spur ein. Das Auto hält sich an die Geschwindigkeitsbegrenzung und passt auf, dass der Sicherheitsabstand stimmt. Der Fahrer der neuen E-Klasse von Mercedes muss keiner mehr sein. Er wird, wenn er möchte, auf der Autobahn zum Beifahrer vorne links – und muss im besten Fall nur noch aufpassen, dass sein Auto keinen Fehler macht.“ (Märkische Zeitung, 4. April 2016) Zitiert wird Ola Källenius, Vertriebs- und künftig Entwicklungschef von Mercedes, zu technischen Aspekten („Eines Tages werden wir aufwachen und sind bei 100 Prozent.“) – und Oliver Bendel, Wirtschaftsinformatiker und Maschinenethiker an der Hochschule für Wirtschaft FHNW, zu sozialen und moralischen („Ich glaube, dass es hier keinen gesellschaftlichen Konsens geben wird.“). Und selbst wenn es einen Konsens geben wird, davon ist er überzeugt, wird dieser vom Einzelfall in Frage gestellt. Der Beitrag mit dem Titel „Nur noch Beifahrer; Das selbstfahrende Auto naht, es wäre ein Triumph der Technik – aber wer hat Schuld, wenn die Maschine einen Fehler macht?“ hat knapp 1000 Wörter und ist in der Printausgabe erschienen.
Abb.: Es fährt und fährt und fährt
Maschinenethik im SPIEGEL
Der SPIEGEL beleuchtet in seiner Titelstory der Ausgabe 9/2016 das autonome Auto („Steuer frei“). Markus Brauck, Dietmar Hawranek und Thomas Schulz lassen u.a. Daimler-Vorstand Wolfgang Bernhard, Daimler-Chef Dieter Zetsche, Google-Forscher Sebastian Thrun und Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel zu Wort kommen. „Das können wir nicht dem Google überlassen“, wird Bernhard zitiert, und gemeint ist das Geschäft mit dem Roboterauto. Das Magazin wird grundsätzlich: „Technologische Umbrüche, wie sie in der Automobilindustrie jetzt anstehen, haben schon viele Firmen hinweggefegt, die unsterblich schienen. Den Fernsehhersteller Telefunken, den Schreibmaschinenfabrikanten Triumph-Adler, die Fotofirma Kodak.“ (SPIEGEL, 27. Februar 2016) „Wir haben uns aufgemacht“, so Zetsche laut SPIEGEL, „diese Statistik zu schlagen“. „Buchstäblich Hunderte Menschen wollten mir weismachen, dass man kein fahrerloses Auto bauen kann“, sagt Thrun. Der Forscher gilt als Pionier in diesem Bereich. Bendel verbindet Maschinen- und Tierethik. Erwähnt wird seine Konzeption eines tierfreundlichen Saugroboters namens LADYBIRD, aber auch seine Arbeit zu Roboterautos. „Er ist Spezialist für Maschinenethik und setzt sich seit Jahren mit den moralischen Dilemmata auseinander, die das selbstfahrende Auto mit sich bringt. … Für Bendel hängt die Akzeptanz von selbstfahrenden Autos auch davon ab, ob diese ethischen Fragen zur Zufriedenheit der Bürger beantwortet werden. Bendel misstraut den optimistischen Visionen der Industrie. Es sei fatal, Maschinen komplexe moralische Entscheidungen zu überlassen.“ (SPIEGEL, 27. Februar 2016)
Abb.: Das Auto schaut dich an, bevor es dich tötet
Entscheidungen über Leben und Tod
„Wenn der Algorithmus über Leben und Tod entscheidet“ lautet der Titel eines Beitrags von Joachim Laukenmann, erschienen am 7. Februar 2016 in der Sonntagszeitung. Von Carlo Stanga stammt die Illustration zum Roboterauto-Dilemma. Der Beitrag ist ausführlich und fachlich auf hohem Niveau. Eingefangen werden die Stimmen verschiedener Experten. Sepp Huber, Leiter Mediendienst von Swisscom, erklärt, dass autonome Fahrzeuge viele Fragen aufwerfen werden, „die wir als Gesellschaft klären müssen“. „Eine Programmierung des Systems im Sinne einer Entscheidung für einen Menschen und damit gegen einen anderen ist im deutschen Rechtssystem und auch in anderen Ländern rechtlich gar nicht zulässig“, sagt Klaus Schartel, Leiter Legal Mergers und Acquisitions/Kooperationen bei der Daimler AG. Sabine Gless, eine Basler Professorin, die sich mit Roboterrecht beschäftigt, weist auf die Notwendigkeit neuer Haftungskonzepte hin. Prof. Dr. Oliver Bendel, der als Maschinenethiker selbst moralische Maschinen konzipiert, warnt vor einer Einseitigkeit bei Modellen normativer Ethik. Auch rät er davon ab, die Maschinen über Leben und Tod von Menschen entscheiden zu lassen. Seine Forschung konzentriert sich auf Tiere. Die Illustration führt das Dilemma, das bei einem Bremsenversagen entstehen kann, eindrücklich vor Augen. Der Artikel kann hier als PDF heruntergeladen werden. Das Copyright liegt bei der Sonntagszeitung.
Abb.: Das klassische Trolley-Problem kann ins Informationszeitalter übertragen werden
Programm der Tagung „Roboterethik“
Das Programm der Tagung „Roboterethik – Sie sind stark, klug, selbstständig. Und was wird aus uns?“, veranstaltet von der Daimler und Benz Stiftung sowie vom Cologne Center for Ethics, Rights, Economics and Social Sciences of Health (ceres), wurde Mitte Oktober 2015 fertiggestellt. Es steht auch über maschinenethik.net zum Download bereit. Während der eintägigen Veranstaltung in Berlin soll, wie ceres auf seiner Website schreibt, „aus verschiedenen Blickwinkeln beleuchtet werden, wie autonome Systeme unser Leben und unsere Gesellschaft verändern und welche ethischen Spannungsfelder hierdurch in unterschiedlichen Lebensbereichen aufgeworfen werden bzw. zukünftig entstehen können“ (Website ceres). Die Leitung der Tagung, die am 24. November 2015 ab 10 Uhr stattfindet, hat Prof. Dr. Christiane Woopen inne, die Referenten sind Prof. Dr. Alin Albi Schäffer (Deutsches Zentrum für Luft- und Raumfahrt, Direktor des Instituts für Robotik and Mechatronik), Prof. Dr. Oliver Bendel (Fachhochschule Nordwestschweiz, Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik), Prof. Dr. Hartmut Hirsch-Kreinsen (Technische Universität Dortmund, früherer Inhaber des Lehrstuhls für Wirtschafts- und Industriesoziologie), Prof. Dr. Norbert Lammert (Präsident des Deutschen Bundestages), Prof. Dr. Catrin Misselhorn (Universität Stuttgart, Direktorin des Instituts für Philosophie), Prof. Dr. Jochen Steil (Universität Bielefeld, geschäftsführender Direktor des Instituts für Kognition und Robotik) und Prof. Dr. Johannes Weyer (Technische Universität Dortmund, Professor für Techniksoziologie). Die Eröffnungsrede hält Prof. Dr. Eckard Minx, Vorsitzender des Vorstands der Daimler und Benz Stiftung.
Abb.: Eine Skulptur in Berlin
Tagung „Autonomes Fahren“
Die Daimler AG lädt zur Tagung „Autonomes Fahren“. Am 23. September 2015 widmet man sich in Frankfurt am Main sowohl Roboterautos als auch selbstständig fahrenden LKW. In der von Dr. Christine Hohmann-Dennhardt (Vorstand für Integrität und Recht der Daimler AG) unterschriebenen Information heißt es: „Wenn aber Autos in Zukunft autonom über unsere Straßen fahren sollen, dann müssen zuvor auch alle rechtlichen, ethischen und gesellschaftspolitischen Fragen beantwortet sein, die sich rund um die Thematik ergeben.“ Es referieren u.a. Prof. Dr. Sabine Gless von der Universität Basel (Ordinaria für Strafrecht und Strafprozessrecht) und Prof. Dr. Ferdinand Dudenhöffer (Automobilexperte). Vor allem aber ist die Politik präsent. Ein Vertreter der Maschinenethik fehlt; diese Lücke vermag die Fachtagung „Roboterethik – Sie sind stark, klug, selbstständig. Und was wird aus uns?“ zu schließen, die am 24. November in Berlin stattfindet und die von der Daimler und Benz Stiftung und dem Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health (ceres) getragen wird.
Abb.: Wohin steuert Daimler?
Daimler entdeckt die Maschinenethik
Im Jahre 2013 hielt man sich bei Daimler noch sehr bedeckt. Die Abteilung Research & Development, Center Vehicle Concepts and Future Trends, Society and Technology Research Group, informierte auf Anfrage: „Unser Nachtsichtsystem ist ein rein informierendes System. Bremsungen auf vom Nachtsystem detektierte Objekte werden nicht eingeleitet.“ (E-Mail vom 8. August 2013) Man kann mit dem Gesamtsystem in der Dunkelheit sowohl Menschen als auch Tiere identifizieren. Eine automatische Notbremsung liegt nahe. Inzwischen hat der Konzern die Maschinenethik entdeckt. „Recht und Ethik im Fokus bei Daimler“ lautet der Titel eines Artikels, der am 1. April 2015 in der elektroniknet.de erschienen ist. Darin heißt es: „Im Herbst veranstaltet Daimler erstmals eine Fachkonferenz zu ‚Autonomes Fahren, Recht und Ethik‘. Ziel der Konferenz ist es, den Dialog mit Vertretern aus Wirtschaft, Wissenschaft, Politik und NGOs weiterzuführen. Die Keynote wird Prof. Dr. Julian Nida-Rümelin halten, Professor für Philosophie an der LMU München … Er arbeitet unter anderem an Fragen der Roboter- und Maschinenethik.“ Es zeichnet sich ab, dass Daimler eine extreme Position in der Diskussion einnimmt und dem Auto weitgehende Entscheidungsmöglichkeiten einräumt. Die Gesellschaft muss die Diskussion gut informiert und sehr intensiv führen und darf mobilitätsfreundlich und wirtschaftskritisch zugleich sein.
Abb.: Logo von 1902 (Quelle: commons.wikimedia.org)
Die Autos in die Schranken weisen
In seiner wenig bekannten Kurzgeschichte „Sally“ aus dem Jahre 1953 beschreibt der große Science-Fiction-Autor Isaac Asimov in visionärer Weise die Funktionen sowie die Chancen und Risiken selbstständig fahrender Autos. Heute nehmen Fahrerassistenzsysteme dem Lenker immer mehr Aktionen ab und unterstützen ihn in vielfältiger Weise. Das autonome Auto ist schon bald nicht mehr Prototyp, sondern Alltag. Es wird in Situationen geraten, in denen moralische Fähigkeiten von Vorteil sind. Die einen plädieren für komplexe Fähigkeiten, die anderen für einfache. In der Theorie ist alles denkbar. Für die Praxis spricht sich Oliver Bendel in seinem Artikel „Die Maschinenstürmer des Informationszeitalters“ für einfache moralische Maschinen in wenig komplexen Kontexten aus. Für PKW, die beschränkt sind und werden in ihren Möglichkeiten. Es wird nicht nur die Perspektive der Maschinenethik, sondern auch der Informationsethik eingenommen. Der Beitrag ist am 5. März 2015 in der Zeitschrift ICTkommunikation erschienen und kann über ictk.ch/inhalt/die-maschinenst%C3%BCrmer-des-informationszeitalters aufgerufen werden.
Abb.: Entscheidungsbaum für eine Bremsung bei autonomen Autos
Wenn Autos töten
Filmstudenten der Filmakademie in Ludwigsburg haben eine Abschlussarbeit vorgelegt, mit der Daimler „nicht ganz einverstanden“ (Artikel auf Spiegel Online, 23. August 2013) ist. Das Unternehmen sieht sich plötzlich in einer Diskussion innerhalb der Maschinenethik. Bereits ein Artikel in der Süddeutschen vom 3. Juli 2013 hatte Fragen aufgeworfen. Darin hieß es: „So erkennt die neue S-Klasse beispielsweise durch ein Nachtsichtgerät Tiere bei Dunkelheit, kann sie von Fußgängern unterscheiden und leitet für Menschen gegebenenfalls selbständig ein [!] Vollbremsung ein.“ Daimler (Abteilung Research & Development, Center Vehicle Concepts and Future Trends, Society and Technology Research Group) hat im August 2013 dem Betreiber dieses Blogs auf Anfrage mitgeteilt, dass das Nachtsichtsystem ein rein informierendes System sei. Bremsungen „auf detektierte Objekte“ würden nicht eingeleitet. Wenn dies doch der Fall ist, handelt es sich um eine Entscheidung mit moralischen Implikationen. In dem Video der Studenten erkennt der Mercedes, dass ein kleiner Junge eines Tages viel Unheil anrichten wird – und tötet ihn. Das ist natürlich Science-Fiction, aber man wird auf unterhaltsame Weise ins Zentrum der Maschinenethik geführt. Und wird nicht nur mit eindrücklichen Bildern, sondern auch mit dieser prägnanten Aussage konfrontiert: „Erkennt Gefahren, bevor sie entstehen.“ Der Spiegel schreibt: „Zum Schluss bleiben drei Fragen: Wie sähe die Welt wohl aus, wenn Maschinen eine Seele hätten? Wohin könnte es führen, wenn die Technik Entscheidungen über Leben und Tod trifft? Darf ein entschlusskräftiger Sechszylinder sich über Grundlagen menschlichen Zusammenlebens hinwegsetzen, um die Weltgeschichte zu ändern?“ (Spiegel Online, 23. August 2013)