Roboterethik bei M94.5

M94.5 ist ein Radiosender, der von der Media School Bayern betrieben wird. Partner sind max neo, LMU und Süddeutsche Zeitung. „Hashtag“ nennt sich das „Online-Magazin rund ums Netz“. Am 12. September 2021 wurde die Sendung „Roboterethik, Videospielabhängigkeit und unsere Gaming-Sommerhits“ ausgestrahlt. Beteiligt waren Tabea Wolf und Moritz Braun, die Moderation oblag Moritz Braun. Im ersten Teil geht es u.a. um Elon Musks Idee des Optimus, eines humanoiden Roboters, der einst – so das Manager Magazin – gefährliche, sich wiederholende oder langweilige Aufgaben übernehmen könnte. Zu Wort kommt Prof. Dr. Oliver Bendel, der sich als Informations-, Roboter- und Maschinenethiker mit sozialen Robotern und Servicerobotern beschäftigt. Er ist der Meinung, dass Optimus zunächst eben einfach eine Idee ist. Es ist kein Roboter in Sicht, der von der Wohnung im dritten Stock über das Treppenhaus nach unten springt, auf dem Gehweg hunderten Passanten und Hunden (samt Haufen) sowie Skatern und Scootern ausweicht, einen Einkaufswagen mit einer Münze freibekommt, den Supermarkt durch die Schiebe- oder Drehtür betritt und sich an den Regalen so bedient, dass diese danach nicht zerstört sind. Die Sendung kann hier bis zum 19. September nachgehört werden.

Abb.: Roboterethik im Radio

Von Tür zu Tür

Die Süddeutsche Zeitung widmete am 5. Juli 2016 die berühmte Seite Drei fünf Personen, die sich mit dem „Zusammenleben von Mensch und Maschine“ beschäftigen, nämlich Oliver Bendel („Maschinenethiker“), Severin Kacianda („Robotikinformatiker“), Volker Hartmann („Jurist“), Lennart Lutz („Roboterrechtler“) und Eric Hilgendorf („Strafrechtsprofessor“). Mit dem Erstgenannten, seines Zeichens studierter Philosoph, promovierter Wirtschaftsinformatiker und Professor an der Hochschule für Wirtschaft FHNW in der Schweiz, hatte Hannes Vollmuth am 24. April 2016 in Berlin zu einer Taxifahrt abgemacht. Der Unfall des Tesla-Autos in den USA war zu diesem Zeitpunkt noch nicht passiert. Dennoch sprach sich Oliver Bendel dezidiert dafür aus, sowohl automatische als auch autonome Autos zu beschränken. Er sieht sie auf Autobahnen, die wie in Europa in der Regel frei von Fußgängern, Radfahrern und Wendemöglichkeiten sind. In Florida war an einer Kreuzung auf einem Highway ein Sattelschlepper senkrecht zu einem Model S geraten. Der Autopilot mit seinem Auge, der Kamera, hatte die aufragende Fläche des Aufliegers für den Himmel (so die erste Vermutung des Unternehmens) oder ein Straßenschild (so eine zweite Erklärung) gehalten. Der Wissenschaftler und der Journalist fuhren mit dem Taxi von Berlin-Mitte zu einer Autobahn, auf der Roboterautos getestet wurden. Sie unterhielten sich über moralische Maschinen, automatische und autonome Autos – und die Fahrt mit dem Tesla Model S, die Oliver Bendel einige Zeit zuvor absolviert hatte. Er war freihändig über die Autobahn bei Bern geglitten, hatte dem Autopiloten beim Spurhalten und -wechseln vertraut und Spaß dabei. Dennoch hätte er die Kontrolle nicht mehrere Minuten abgegeben. Sein Traum ist es, dass er eines Tages von einem autonomen Auto von Mailand nach Genua befördert wird und entweder aus dem Fenster schauen oder in Ruhe arbeiten kann. Eine Beförderung wie bei einem Zug, aber von Tür zu Tür. Der Artikel ist unter dem Titel „Error“ erschienen.

ErrorAbb.: Auch Maschinen machen Fehler

Eine verhängnisvolle Verwechslung

Am 1. Juli 2016 war Matthias Meili vom Tages-Anzeiger im Gespräch mit dem Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel. Thema war der Unfall des Tesla Model S. Ein Sattelschlepper war über eine Einfahrt auf dem Highway, über die die Richtung gewechselt werden kann, senkrecht zum PKW geraten, der die weiße Fläche für den Himmel bzw. ein Schild gehalten hat und unvermindert weitergefahren ist. „Dieser Unfall hätte von einem menschlichen Fahrer absolut vermieden werden können, sofern es nicht zu schnell gegangen ist, was ich aber nicht beurteilen kann. Grundsätzlich hat der Mensch kein Problem damit, eine sehr helle Fläche vom Himmel zu unterscheiden.“ (Tages-Anzeiger, 1. Juli 2016) Vermutlich hätte der Fahrer den Sattelzug auch frühzeitig gesehen und hätte ausweichen oder herunterbremsen können. Oliver Bendel ist nicht grundsätzlich gegen automatisierte und autonome Autos, ganz im Gegenteil: „Ich habe den Tesla vor einigen Monaten mit Autopilot auf einer Autobahn in der Nähe von Bern gefahren und das sehr genossen. Der Wagen hat erst mal den Verkehr beobachtet und als eine Lücke kam, hat er selbständig die Spur gewechselt. Das macht er sehr weich und sehr flüssig, es war faszinierend.“ (Tages-Anzeiger, 1. Juli 2016) Der Wissenschaftler rät dazu, in den nächsten Jahren weitere Tests und Experimente zu machen und hoch- und vollautomatisierte bzw. autonome Autos vorrangig auf Autobahnen ohne Wendemöglichkeiten fahren zu lassen. Der Artikel vom 1. Juli kann über www.tagesanzeiger.ch/wissen/technik/ein-mensch-haette-diesen-unfall-nicht-gebaut/story/26161200 aufgerufen werden.

Der Tesla-Unfall

Der tödliche Unfall mit einem Tesla Model S vom Mai 2016, der derzeit durch die Medien geht, wurde vom Hersteller am 30. Juni 2016 wie folgt beschrieben: „What we know is that the vehicle was on a divided highway with Autopilot engaged when a tractor trailer drove across the highway perpendicular to the Model S. Neither Autopilot nor the driver noticed the white side of the tractor trailer against a brightly lit sky, so the brake was not applied. The high ride height of the trailer combined with its positioning across the road and the extremely rare circumstances of the impact caused the Model S to pass under the trailer, with the bottom of the trailer impacting the windshield of the Model S.“ (Tesla-Blog, 30. Juni 2016) Demnach kamen zwei Umstände zusammen. Zum einen ist der Sattelzug senkrecht auf den Highway getroffen bzw. hat senkrecht zum Automobil gestanden. Eine ähnliche Situation könnte sich mit LKW und PKW in europäischen Städten ständig ergeben, auf europäischen Autobahnen dagegen kaum. Zum anderen hat sich die Kamera täuschen lassen und, von unten her aufnehmend, die weiße Fläche des Fahrzeugs mit dem hellen Himmel dahinter gleichgesetzt. Dies zeigt einmal mehr, dass Kameras nur bedingt eine geeignete Technik für automatische und autonome Autos sind und in jedem Falle mit verschiedenen anderen Systemen wie Radar und LiDAR kombiniert werden müssen. Kameras kann man leicht täuschen und täuschen sich leicht. Im Tesla Model S ist eine komplexe Sensorik verbaut (Kameras, Radar, Ultraschall). Allerdings besteht offenbar Verbesserungsbedarf, und was das optische System wahrnimmt, muss unbedingt durch ein anderes geeignetes System überprüft werden. Zusätzlich könnten die Hersteller konventioneller PKW und LKW in die Pflicht genommen werden. In Zukunft sind graue, weiße oder blaue Karosserien und Sattelauflieger vielleicht zu vermeiden.

Red_Truck

Abb.: Auch die Fläche dieses LKWs könnte verwechselt werden

Es singen die Maschinen

„Seit es Autos gibt, werden sie besungen.“ Mit diesen Worten beginnt ein Artikel von Oliver Bendel, der am 31. Januar 2016 in der Zeitschrift SenLine erschienen ist. „Mercedes Benz“ von Janis Joplin sei einer breiten Öffentlichkeit bekannt, „Wir fahren Manta, Manta“ von den Ärzten eingeweihten Kreisen. Aus den Werken von Chuck Berry ließe sich, so der Verfasser, ein Soundtrack für die Straße mischen. Die Berliner Band 2raumwohnung habe 2004 das Album „Es wird Morgen“ veröffentlicht, mit dem wenig beachteten Lied „Jemand fährt“. „Das war ein paar Jahre nach dem ersten iPod und ein paar vor dem ersten iPhone. Vom Google-Auto hat noch niemand gesprochen.“ In einer Strophe heißt es: „Alles, was klingt, ist Musik./Es singen die Maschinen/auf der stark befahrenen Autobahn/oder auf geraden Schienen.“ Im Folgenden verflicht Oliver Bendel das visionäre Lied mit einer Geschichte zu einer Testfahrt mit dem Model S von Tesla, das einen Autopiloten besitzt. Der Artikel kann über www.senline.ch/es-singen-die-maschinen-id1171 kostenlos heruntergeladen werden. Für die Zeitschrift, die Prof. Dr. Helmut Bachmaier herausgibt, haben schon Prof. Dr. Ernst Peter Fischer und Prof. em. Dr. Helmut Weidhase geschrieben.