Schlagworte: Ethik

KI, Ethik und Rechtswissenschaft

Ein interner Event bei Audi am 20. September 2017 in Ingolstadt widmet sich dem Zusammenhang von Künstlicher Intelligenz (KI), Ethik und Rechtswissenschaft. Eingeladen sind als Referenten u.a. Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Prof. Dr. Sepp Hochreiter (Johannes Kepler Universität Linz) und Dr. Alexander Mertens (RWTH Aachen). Oliver Bendel erklärt, was Ethik und Moral sind (Ethik als Disziplin, Moral als ihr Gegenstand), was die Maschinenethik ist (eine Disziplin, die nach der Möglichkeit maschineller Moral fragt, so wie die KI als Disziplin nach der Möglichkeit künstlicher Intelligenz) und welchen Artefakten sich die Maschinenethik seit ca. zehn Jahren zuwendet (selbstständig fahrenden Autos, zivilen Drohnen, Pflege- und Therapierobotern, Kampfrobotern, Chatbots, um nur einige Typen zu nennen). Anders als Bereichsethiken wie Informationsethik und Technikethik beschäftigt sich die Maschinenethik nicht nur mit Maschinen, sondern setzt sie auch um, zusammen mit KI und Robotik. Audi wurde 1909 gegründet und gehört zum Volkswagen-Konzern.

Abb.: Ein Modell eines A8

Neue Spione in den Straßen, auf den Plätzen

Bei interaktivem Digital Signage stellen sich Plakate, Schilder, Tafeln, Terminals und Säulen in Läden oder an Straßen und auf Plätzen auf ihren digitalen Bildschirmen automatisch auf Anwesende ein und interagieren und kommunizieren mit diesen in visueller oder auditiver Weise. Es wird also nicht einfach etwas dargestellt, sondern das, was dargestellt wird, hängt vom Betrachter oder vom Umfeld ab. Der hauptsächliche Zweck ist neben der Informierung (auch im Sinne von Beratung) die Werbung, die hauptsächliche Umsetzungsart die interaktive Werbefläche. Der Beitrag „Neue Spione in den Straßen, auf den Plätzen und in den Läden: Interaktive Werbeflächen aus ethischer Sicht“ von Oliver Bendel, erschienen bei Telepolis am 15. August 2017, untersucht das Phänomen digitaler Werbeflächen aus ethischer Sicht. Erstens wird der Begriff des Digital Signage erklärt, unter den der Begriff der interaktiven Werbeflächen subsumiert wird. Typisch für diese sind – abgesehen von den digitalen Bildschirmen – Kameras, Mikrofone, Lautsprecher, Muster-, Bild- und Gesichtserkennung. Zweitens werden Überlegungen aus Sicht von Informations-, Technik- und Wirtschaftsethik und darüber hinaus, etwa im Sinne des Verbraucherschutzes, angestellt. Auch die Maschinenethik wird berücksichtigt. Der Beitrag kann über www.heise.de/tp/features/Neue-Spione-in-den-Strassen-auf-den-Plaetzen-und-in-den-Laeden-3797118.html abgerufen werden.

Abb.: Die Hauptstadt des Digital Signage

In einem gesunden Körper …

Vier Glossen von Oliver Bendel aus der zfo (2013 bis 2015) können nun, nach der freundlichen Genehmigung des Verlags Schäffer-Poeschel, von dieser Website heruntergeladen werden, nämlich „Sinnhafte Entcomputerisierung„, „Druck dir die Welt, wie sie dir gefällt!„, „Neun Thesen zur Ethik“ und „In einem gesunden Körper …„. Zur Zeitschrift gibt die Website folgende Auskunft: „Organisations- und Führungsfragen begegnen uns im beruflichen Alltag überall und in den unterschiedlichsten Facetten und Ausprägungen. Als führende deutschsprachige Zeitschrift auf ihrem Gebiet bietet die zfo – Zeitschrift Führung + Organisation zu diesen Themenbereichen fundierte und aktuelle Fachinformationen sowie professionelle Lösungsansätze renommierter Autoren aus Wissenschaft und Praxis. Die zfo ist offizielles Organ der Gesellschaft für Organisation e.V. (gfo), der Schweizerischen Gesellschaft für Organisation und Management (SGO) sowie der Österreichischen Vereinigung für Organisation und Management (ÖVO).“ (Website zfo) Weitere Informationen über www.zfo.de.

Abb.: In einem gesunden Körper …

In der Fabrik von morgen

In der Edition HMD von Springer ist am 26. Juli 2017 das Buch „Industrie 4.0: Herausforderungen, Konzepte und Praxisbeispiele“ erschienen. Herausgeber ist Prof. Dr. Stefan Reinheimer, zu den Autoren gehören Prof. Dr. Oliver Bendel, Prof. Dr. Elgar Fleisch, Prof. Dr. Felix Wortmann und Prof. Dr. Stefan Strohmeier. Aus dem Klappentext: „Das Fachbuch greift das Konzept Industrie 4.0 – Ausdruck der vierten industriellen Revolution – mit seinen Chancen und Risiken für produzierende Unternehmen auf. Das Herausgeberwerk bringt das Thema durch anschauliche Beispiele aus der Praxis näher und zeigt die Visionen auf, mit denen sich nicht nur die akademische Welt bereits auseinandersetzt. Die Autoren der Beiträge thematisieren einerseits Kernthemen der Digitalisierung und beleuchten andererseits nicht zu vernachlässigende Begleiterscheinungen: In der Fabrik von morgen wachsen reale und virtuelle Welt zusammen. Schlagworte wie Internet der Dinge und Cyber-Physische Systeme (CPS) wurden bereits geprägt, um diese Verschmelzung anzudeuten. Industrie 4.0 verspricht neue Optionen für die Flexibilisierung und weitergehende Automatisierung der Fertigung. Sie schafft die Grundlage für neue Geschäftsmodelle, erfordert aber auch ein Umdenken in der Interaktion zwischen Mensch und Maschine.“ (Information Springer) Auch Informationsethik und Maschinenethik sind ein Thema. Weitere Informationen über www.springer.com/de/book/9783658181642#aboutBook.

Abb.: Kollege Roboter erscheint pünktlich bei der Arbeit

Brauchen wir eine Robotersteuer?

Die Bundeszentrale für politische Bildung hat auf ihrem Portal „Die Netzdebatte“ zwei neue Beiträge veröffentlicht. Es handelt sich um keine Pole, sondern um Varianten. Prof. Dr. Jürgen Schmidhuber sieht eher Vorteile in der Robotersteuer, die er sich unter gewissen Umständen und in einer bestimmten Ausgestaltung vorstellen kann. Prof. Dr. Oliver Bendel ist dafür, die Robotersteuer zu diskutieren, sieht aber insgesamt eher Nachteile, und benennt Herausforderungen, denen sich eine Umsetzung im Moment stellen müsste. Vor allem sei unklar, was genau man besteuern soll. Besonders deutlich zeige sich dies bei Kooperations- und Kollaborationsrobotern, die eng mit Menschen zusammenarbeiten. Wann fängt die Arbeit des Menschen und der Maschine an, wann hört sie auf? Auch muss man klären, ob man nur Hardwareroboter oder auch Softwareroboter besteuern soll. Wie verhält es sich mit einer Armee von Social Bots? Mit Crawlern von Suchmaschinen? Die Beiträge können über www.bpb.de/dialog/netzdebatte/248706/meinung-auch-roboter-sollten-steuern-zahlen und www.bpb.de/dialog/netzdebatte/245350/meinung-roboter-haben-keine-verantwortung aufgerufen werden.

Abb.: Der fiktive Lohn eines Roboters ist schwer zu bestimmen

Die Maschine als Rechtssubjekt

Mit einem lachenden und einem weinenden Auge schwelgen die Macher des Festivals science+fiction, wie sie in einer Nachricht vom 24. Juli 2017 verkündeten, „in Erinnerungen an das vergangene Festival und blicken gleichzeitig voller Tatendrang auf die Ausgabe 2018“. Über scienceandfiction.ch/festival/videos-2017/ kann man sich die Videos der einzelnen Events ansehen, die im Sommercasino Basel vom 5. bis 7. Mai 2017 stattfanden. Am 6. Mai ging es um Roboterrecht und Maschinenethik. Beim Panel „Maschinen und das Gesetz“ wurde gefragt, welche Bedingungen erfüllt sein müssen, damit eine Maschine zum Rechtssubjekt wird, ob es in naher Zukunft eines Maschinenrechts bedarf, oder ob sich Maschinen in unsere Rechtsprechung einfügen müssen, und welche Folgen sich ergeben, wenn in einer Mensch-Maschine-Interaktion etwas schief geht. Es moderierte Christoph Keller von SRF 2 Kultur, es diskutierten Wolfram Burgard (Professor für Autonomous Intelligent Systems, Universität Freiburg), Nadine Zurkinden (Postdoc für Strafrecht, Universität Basel) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik, Hochschule für Wirtschaft FHNW). Die nächste Ausgabe des Festivals findet vom 4. bis 6. Mai 2018 in Basel statt.

Abb.: Kann eine Maschine ein Rechtssubjekt sein?

Dobrindts Kommission legt Bericht vor

Die „Ethikkommission“, die Alexander Dobrindt eingesetzt hat, hat nach neun Monaten ihren Bericht vorgelegt. Einerseits ging es um datenschutzrechtliche und informationsethische, andererseits um maschinenethische Fragen im Kontext des automatisierten Fahrens. Die Kommission war, wie üblich in Deutschland, vor allem mit Vertretern von Interessengruppen besetzt, etwa von ADAC und Kirche. Philosophische Ethiker blieben in der Minderzahl. Laut finanznachrichten.de müssten Fahrzeughalter und -nutzer „grundsätzlich über Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten“ entscheiden dürfen. Die Zulassung von automatisierten Systemen sei nur vertretbar, „wenn sie im Vergleich zu menschlichen Fahrleistungen zumindest eine Verminderung von Schäden im Sinne einer positiven Risikobilanz verspricht“. „So müssten Sach- und Tierschäden bei Unfällen immer Vorrang vor dem Personenschaden haben.“ (finanznachrichten.de, 20. Juni 2017) Dies war bereits eine Vorgabe von Alexander Dobrindt gewesen. Grundsätzlich müssten, so die Zeitung, die Systeme so programmiert sein, dass es nicht zu Unfällen kommt. Genau dies ist aber nicht möglich, und nicht nur die Software ist das Problem, sondern auch die Hardware im weitesten Sinne. „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen … strikt untersagt. Eine Aufrechnung von Opfern ist untersagt. Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern“, heiße es in dem Bericht (finanznachrichten.de, 20. Juni 2017). Das Qualifizieren wird also abgelehnt (dies war auch eine Vorgabe des Bundesverkehrsministers), das Quantifizieren nicht grundsätzlich.

Bremsen für Haus- oder für Wildtiere?

„Klett News Ethik und Philosophie“, der Newsletter des Schulbuchverlags, untersucht in der aktuellen Ausgabe (Mai 2017) „Die Moral in der Maschine“. Das Buch mit dem gleichlautenden Titel von Prof. Dr. Oliver Bendel kam 2016 bei Heise Medien heraus. Der Newsletter enthält Material aus diesem Buch und anderen Quellen, etwa aus dem Massachusetts Institute of Technology (MIT). Es wird vor allem auf autonomes Fahren aus Sicht der Maschinenethik eingegangen. Entstanden sind drei Arbeitsblätter für die Klassen 10 bis 12/13 und eine Unterrichtsidee zur „moral machine“ der Hochschule in Cambridge. Zudem sind Links – z.B. zu maschinenethik.net – und Literaturhinweise (etwa zur Kurzgeschichte „Sally“ von Isaac Asimov) enthalten. Im Vorwort spricht Dr. Peter Ley auch die Forschung von Oliver Bendel zu Maschinen und Tieren im Rahmen von Maschinenethik und Tierethik sowie der Mensch-Maschine-Interaktion an und skizziert ein spezielles Problem: „Was bedeutet es, wenn das Programm das Bremssystem für unsere geliebten Haustiere aktiviert, nicht aber für Fuchs und Hase?“ Weitere Informationen über www.klett.de.

Abb.: Schutz von Haus- oder von Wildtieren?

Autonome Autos in Recht und Moral

Der Artikel „Autonome Autos in Recht und Moral“ im VDI-Jubiläumsheft „Technik in Bayern“ beginnt mit folgenden Worten: „Das autonome Fahren beschwingt und beflügelt die einen, als würde man damit den Boden verlassen können, und empört die anderen. Es entstehen Eutopien und Dystopien. Es werden Behauptungen aufgestellt, die entweder eine gewisse Plausibilität haben oder von der Realität weit entfernt sind.“ Oliver Bendel nimmt Stellung zu Behauptungen aus Wirtschaft und Politik, etwa dazu, dass man mit hoch- und vollautomatisiertem Fahren und autonomen Autos die Zahl der Verkehrsopfer verringern kann. Nach seiner Meinung trifft dies für Autobahnen durchaus zu; in Städten könnte sie sich aber auch erhöhen. Zum einen gibt es dort zahllose bewegte und unbewegte Objekte, die das Auto erkennen und beurteilen muss. Beim Priorisieren hat es Mühe, anders als erwachsene Menschen. Zum anderen ist Fahren in Städten immer auch Kommunizieren. Ein Blickkontakt, eine Handbewegung, und schon ist den Verkehrsteilnehmern klar, was die anderen wollen. Das Auto tut sich diesbezüglich schwer, und bisher hat es kaum Möglichkeiten, mit den Fußgängern und Fahrradfahrern zu kommunizieren. Natürlich gibt es Tricks, um auch den automatisierten Verkehr in der Stadt sicherer zu gestalten. Man reduziert die Geschwindigkeit stark, man schafft separate Spuren. Man baut die Stadt um, so wie man sie schon einmal umgebaut hat. Die Frage ist nur, ob man das will. Der Beitrag ist Anfang 2017 erschienen und kann mit freundlicher Genehmigung des Verlags hier heruntergeladen werden.

Abb.: Dieses Auto hat das Recht auf seiner Seite

Der Wandel der Städte durch autonome Autos

Die Daimler und Benz Stiftung fördert das neue Projekt „AVENUE21 – Autonomer Verkehr: Entwicklungen des urbanen Europa“. Aus der Pressemitteilung: „Ein interdisziplinäres Wissenschaftlerteam geht der Frage nach, wie sich europäische Städte durch das autonome Fahren entwickeln werden – und welchen Einfluss umgekehrt Stadtstrukturen auf die Entwicklung des autonomen Verkehrs nehmen.“ (Pressemitteilung DBS, 31. Januar 2017) „Das autonome Fahren“, so die These von Mathias Mitteregger von der Fakultät für Architektur und Raumplanung der TU Wien, „wird die Morphologie der Städte, die Art der Stadtgesellschaften und die urbane Governance entscheidend verändern“ (Pressemitteilung DBS, 31. Januar 2017). Dieser These stimmt Oliver Bendel, der im September 2017 den Ladenburger Diskurs zu Pflegerobotern durchführt, der ebenfalls von der gemeinnützigen Stiftung finanziert wird, grundsätzlich zu. Allerdings fordert er, dass PKW in den Städten nicht autonom fahren dürfen. Es gibt dort zu viele bewegte und unbewegte Gegenstände, die zu berücksichtigen sind, zudem Signale, Reflexe und Schatten. Und natürlich ungeschützte Menschen und Tiere. Zudem ist Fahren in der Stadt ständige Kommunikation. Menschen können sich mit einem Blick in die Augen und einem Wink verständigen – Maschinen und Menschen nicht. Natürlich kann man die Städte, wie es schon einmal geschehen ist, für das Auto umbauen. Nach der Meinung von Oliver Bendel sollte man aber das Gegenteil tun: Man sollte sie Fußgängern und Fahrradfahrern zurückgeben. So oder so ist Forschung in diesem Bereich dringend notwendig.

Abb.: Wohin gehört das autonome Auto?