Lexikon

Das KLEINE LEXIKON DER MASCHINENETHIK enthält ca. 80 Begriffe. Es wurde 2013 begonnen, ausgehend vom KLEINEN LEXIKON DER INFORMATIONSETHIK (ab 2012).

Bitte zitieren Sie einen Beitrag nach folgendem Muster: Bendel, Oliver. Robotergesetze. In: Kleines Lexikon der Maschinenethik. Über www.maschinenethik.net. Letzter Aufruf am 1.7.2017.

A – E ––––– F – J ––––– K – O ––––– P – T ––––– U – Z –––––

A – E –––––

Adaptivität

Adaptivität ist die Eigenschaft eines Systems, sich an eine veränderte Umwelt bzw. neue Bedingungen und Anforderungen selbst anzupassen. Bei Informations- und Kommunikationstechnologien und Informationssystemen bedeutet Adaptivität u.a. die Möglichkeit der Personalisierung und damit der Orientierung an Aufgaben und Bedürfnissen des Benutzers. Auch die automatische Einstellung auf Netzwerkverbindungen oder Stromquellen fällt unter den Begriff.

Agent

Agenten sind Computerprogramme, die bei Anforderungen und Aufgaben assistieren und dabei autonom und zielorientiert agieren. Sie werden für das Sammeln und Auswerten von Informationen, in der Verwaltung von Netzwerken und für Benutzerschnittstellen benötigt. In manchen Umgebungen sind sie anthropomorph umgesetzt, etwa in der Kombination mit Avataren bzw. in der Form von Chatbots, sodass sie wie Menschen aussehen und sprechen. Für die Maschinenethik ergeben sich in diesen Fällen besondere Fragestellungen, insofern die Agenten damit auch die Unwahrheit sagen, jemanden in seiner Würde verletzen und in einer Notsituation als Gesprächspartner scheitern können.

Akteur-Netzwerk-Theorie

Die Akteur-Netzwerk-Theorie („actor-network theory“) wendet sich gegen (vor-)bestimmte Dichotomien wie Subjekt und Objekt bzw. deren konventionelle Zuordnung. Stattdessen werden vielfältige Entitäten zugelassen und ihre sich verändernden, in einem Netzwerk sich entwickelnden Beziehungen betrachtet. Nicht nur Menschen können handeln bzw. etwas beeinflussen, als Akteure, sondern auch Dinge („non-humans“), als sogenannte Aktanten. Die Theorie ist für die Maschinenethik von Bedeutung, u.a. mit Blick auf Haftungsfragen und Wirtschaftszusammenhänge.

Akzeptanz

Akzeptanz ist die Bereitschaft, einen Sachverhalt wohlwollend hinzunehmen. Neben der zeitpunktbezogenen Akzeptanz interessiert die Veränderung der Akzeptanz im Laufe der Zeit durch Erfahrung und Lernen oder eine Änderung der (Ausgangs-)Situation. Eine Möglichkeit, Akzeptanz zu schaffen, ist die Etablierung von Anreizsystemen. In der Robotik und der Agentenforschung wird die Akzeptanz gegenüber Handlungen und Emotionen von Maschinen untersucht. Dabei spielt auch der Uncanny-Valley-Effekt eine Rolle.

Android

Ein Android (oder Androide) ist eine menschengleiche oder -ähnliche Maschine respektive ein künstlicher Mensch. Ein weiblicher Android wird zuweilen auch als Gynoid (oder Gynoide) bezeichnet. Wenn etwas humanoid oder anthropomorph ist, ist es von menschlicher Gestalt bzw. menschenähnlich, was auch Verhalten, Mimik, Gestik und Sprache mit einschließen kann. Damit humanoide Roboter oder anthropomorphe Agenten als Androiden gelten können, müssen sie Menschen zum Verwechseln ähnlich sein. Auch die Jaquet-Droz-Automaten aus dem 18. Jahrhundert werden als Androiden angesehen. Ein Fembot ist ein weiblicher Chatbot oder Roboter und unter bestimmten Voraussetzungen ein Gynoid. In der Maschinenethik sind bei Androiden z.B. die natürlichsprachlichen Fähigkeiten von Relevanz.

Anthropozentrismus

Bei einer anthropozentrischen Haltung sieht man den Menschen im Mittelpunkt, bei einer biozentrischen die Lebewesen überhaupt. Ein anthropozentrisches Denken neigt dazu, die Interessen von Tieren zu übersehen (Speziesismus), aber auch die Möglichkeiten von Maschinen, einbegriffen die Moral. Als Kohlenstoff-Wasserstoff-Chauvinismus bezeichnet ein Bioroboter in einem Buch von Thomas Metzinger diese Form des Anthropozentrismus. In der Maschinenethik, verstanden als Pendant zur Menschenethik, versucht man sich von einem solchen Denken zu lösen, ohne in eine technozentrische Haltung zu verfallen.

Assistent

Im Kontext von Informations- und Kommunikationstechnologien und Anwendungssystemen ist ein Assistent eine Maschine bzw. Software, die Personen bei Anforderungen und Problemen unterstützt. Das Spektrum reicht von Telefonassistenten, die Anfragen und Aufträge entgegennehmen, über Navigationsassistenten, die Autofahrerinnen oder Webbenutzer zum gewünschten Ziel bringen, bis hin zu Agenten, die in virtuellen Umgebungen Suchaufträge durchführen oder als intelligente Hilfefunktion zur Seite stehen.

Autonomie

In der Informationsethik interessiert, ausgehend von der Idee der Autonomie, vor allem die informationelle Autonomie, also die Möglichkeit, selbstständig auf Informationen zuzugreifen, über die Verbreitung von eigenen Äußerungen und Abbildungen selbst zu bestimmen sowie die Daten zur eigenen Person einzusehen und gegebenenfalls anzupassen. Ausgehend von der verwandten Idee der Freiheit ist die Freiheit des Individuums in der Informationsgesellschaft angesprochen, womit auch die Selbstentfaltung sozialer, technischer und wirtschaftlicher Art gemeint ist. Es geht ferner um das autonome Handeln gegenüber Maschinen und gegenüber IT-Unternehmen bzw. ihren Technologien und Systemen – und um autonome Systeme, die Subjekte der Moral und damit (Untersuchungs-)Objekte der Maschinenethik sein können.

Avatar

Im Kontext neuer Medien sind Avatare grafisch, teils dreidimensional realisierte virtuelle Repräsentationen von Personen oder Figuren. Manche Avatare basieren auf Agententechnologien oder kommen als Chatbots daher und beherrschen die natürlichsprachliche Kommunikation. Die Maschinenethik untersucht, wie Avatare in moralisch aufgeladenen Situationen interagieren bzw. (wenn sie entsprechende Fähigkeiten haben) kommunizieren sollen. Beispielsweise müssen sie adäquat reagieren, wenn der Benutzer ihnen gegenüber Tötungsabsichten bekundet.

Benutzer

Im Kontext von neuen Medien sind Benutzer – auch Nutzer oder User genannt – Anwender von Informations- und Kommunikationstechnologien und Informationssystemen. Sie nutzen und benutzen die Technologien z.B. zur Information, Kommunikation, Interaktion und Transaktion. Von daher müssen sie über ein gewisses Maß an Medienkompetenz verfügen. Der Benutzer ist das Subjekt und Objekt der Moral der Informationsgesellschaft, des Gegenstands der Informationsethik. Die Benutzerschnittstelle verbindet ihn mit der Maschine, die ebenfalls zum Subjekt der Moral werden kann, was Gegenstand der Maschinenethik ist.

Benutzerschnittstelle

Eine Benutzerschnittstelle schafft mit Hilfe von Hardware- oder Softwarekomponenten die für die Interaktion und Kommunikation zwischen Mensch und Computer notwendige Verbindung. Beispiele sind Maus, Joystick, Tastatur, Headset oder Bildschirm, aber auch die grafische Benutzeroberfläche und Teile der verwendeten Betriebssysteme und Programme. Seit der Jahrtausendwende gibt es verstärkt Versuche, bestehende Lösungen substanziell zu verbessern oder gänzlich neue Schnittstellen zu entwickeln. Ein Ansatz ist die Projektion; beispielsweise wird der Bildschirminhalt auf eine Fläche projiziert, sodass der Bildschirm überflüssig wird, oder eine Tastatur aus Licht wird auf den Schreibtisch geworfen und ersetzt das übliche Gerät. Ein anderer Ansatz sind anthropomorphe Agenten, menschenähnliche, intelligente virtuelle Wesen mit der Fähigkeit zu natürlichsprachlicher Kommunikation. Agenten dieser Art verstehen bzw. deuten geschriebene oder gesprochene Sätze des Benutzers und antworten mittels Text oder gesprochener Sprache. Ein wichtiger Treiber der Transformation von Schnittstellen ist die Mobilität und die damit einhergehende Notwendigkeit handlicher Geräte.

Bereichsethik

Eine Bereichsethik (auch Spezialethik genannt) ist eine Ausprägung der angewandten Ethik und bezieht sich auf einen klar abgrenzbaren Lebens- und Handlungsbereich. Beispiele sind Medizinethik, Bioethik, Umweltethik, Militärethik, Friedensethik, Technikethik, Informationsethik, Medienethik, Wissenschaftsethik, Wirtschaftsethik, Politikethik und Rechtsethik. Jede Bereichsethik muss sich heute mit der Informationsethik verständigen. Dieser Umstand wird im sogenannten Ethik-Dekagon (bzw. im Ethik-Ei) visualisiert.

Big Brother

Der Big Brother ist, nach dem Roman „1984“ von George Orwell, die Verkörperung des Überwachungsstaats. Der Begriff wird heute vor allem im Zusammenhang mit digitaler Überwachung gebraucht. Varianten sind die „Big Sister“, die in dem Artikel „Die Medizinethik in der Informationsgesellschaft“ (2012) von Oliver Bendel auftritt und auf die Verantwortung beider Geschlechter in Politik und Wirtschaft hinweist, der „Little Brother“, der auf die Überwachung durch die Benutzer zielt, und die „Little Sister“, die die Verwendung von Social Networks als Datenschleudern und Stalkinginstrumente durch Jugendliche meint. Mit diesen Verwendungen werden auch Verbindungen zu Aldous Huxleys Roman „Schöne neue Welt“ („Brave New World“) hergestellt, wo die gegenseitige Observation eine zentrale Rolle spielt. Der aufgeklärte Benutzer tritt in digitalem Ungehorsam dem großen Bruder genauso entgegen wie der großen Schwester, und er versucht den jüngeren Geschwistern die Folgen ihres Tuns vor Augen zu führen, nicht zuletzt indem er verständliche und anwendbare Informationsethik treibt.

Brett des Karneades

Das Gedankenexperiment stammt angeblich vom griechischen Philosophen Karneades. Es geht um zwei Schiffbrüchige und ein im Wasser treibendes Brett, das nur einen von ihnen tragen kann. Der eine tötet den anderen und wird gerettet. Die Frage ist, ob bzw. wie die Tötung zu rechtfertigen ist. Im Verkehr mit autonomen Autos könnte sich eine ähnliche Frage stellen. Darf mein PKW einen Insassen in einem anderen PKW oder einen anderen Verkehrsteilnehmer töten, damit ich überlebe? Darauf müssen Maschinenethik, Roboterethik und Rechtsethik eine Antwort finden.

Buridans Esel

Buridans Esel ist, in der ursprünglichen Version von Aristoteles, ein Mann, der zwischen Speis und Trank verenden muss, weil er genauso hungrig wie durstig ist. Buridan selbst, der zu Unrecht als Urheber des Gleichnisses gilt, spricht von einem Wanderer und einem Segler, in einem Kommentar zu einem Text von Aristoteles auch von einem Hund, der ratlos zwischen zwei Nahrungsquellen sitzt oder steht. Den Esel, der zwischen zwei Heubündeln erstarrt, haben vermutlich seine Gegner erfunden, um die vermeintliche Eselei zu veranschaulichen. Oliver Bendel hat das Gleichnis in einem Artikel, der Ende 2013 erschienen ist, auf die moderne Welt übertragen und Buridans Robot erfunden. Er fragt sich, wie eine (teil-)autonome Maschine entscheidungsfähig bleibt, wenn gleichartige Reize auf sie einwirken, etwa wenn zwei Kunden mit ihren Anliegen auf einen Serviceroboter zutreten, und skizziert verschiedene Strategien.

Chaos Computer Club

Der Chaos Computer Club (CCC) ist nach eigener Darstellung die größte europäische Hackervereinigung. Er will im Spannungsfeld von technischen und sozialen Entwicklungen vermitteln. Vom CCC stammen Weiterentwicklungen der sogenannten Hackerethik, die eigentlich eine Hackermoral und -anleitung ist.

Chat

Ein Chat ist ein Raum für die textbasierte, synchrone Kommunikation über ein Computernetz bzw. die entsprechende Kommunikation (der „Schwatz“) selbst. Ende der 80er-Jahre des 20. Jahrhunderts wurde die technische Urform erfunden, der Internet Relay Chat (IRC). Die Benutzer kommunizieren, indem sie kurze Nachrichten in ein Textfeld eintippen und zugleich die Dialoge in einem Bildschirmfenster verfolgen. Meist sind auch private Unterhaltungen in sogenannten Dias möglich. Nach der Chatiquette, einer Sonderform der Netiquette, sollen Textnachrichten keine Benutzer verletzen und keine unerlaubten Handlungen verlangen. Die Nicknames dürfen nicht anstößig sein. Für die Einhaltung der Chatiquette sorgen Moderatoren und spezielle Chatbots. Die Benutzer können ihre Virtualität und Anonymität kreativ gebrauchen, aber auch moralisch oder rechtlich missbrauchen. Die Informationsethik untersucht das Verhalten in Chats in moralischer Hinsicht und entwickelt die Chatiquette weiter. Die Maschinenethik widmet sich der adäquaten Interaktion und Kommunikation der Bots.

Chatbots

Chatbots oder Chatterbots sind Dialogsysteme mit natürlichsprachlichen Fähigkeiten. Sie werden, oft in Kombination mit Avataren, auf Websites eingesetzt und erklären dort Produkte und Dienstleistungen. In einer Wissensbasis sind Antworten enthalten, in der Form von Aussage- und Fragesätzen, und Erkennungsmuster für die Fragen, damit die Antworten darauf passen. Ebenfalls als Chatbots werden die Bots bezeichnet, die im Chat neue Gäste begrüßen, die Unterhaltung in Gang bringen sowie für die Einhaltung der Chatiquette sorgen und beispielsweise unerwünschte Gäste kicken. Chatbots und andere Systeme mit natürlichsprachlichen Fähigkeiten sind ein Spezialfall für die Maschinenethik. Diese kann zu dem Ergebnis kommen, dass Chatbots die Wahrheit sagen sollen, es sei denn, sie richten damit erheblichen Schaden an, und sie sich gegenüber Benutzern in Rücksicht üben und deren Probleme ernst nehmen müssen.

Computerethik

Die Computerethik ist, Rafael Capurro folgend, ein Teilbereich der Informationsethik. Sie kann auch als deren Vorläufer und insofern als eigenständige Bereichsethik gesehen werden. Es geht um die moralischen Probleme, die beim Einsatz und bei der Nutzung von Computern entstehen. In der Regel ist damit keine Ethik gemeint, die wie die Maschinenethik eine mögliche Moral von Computern anspricht.

Cybersex

Cybersex ist eine Form von Sex, die im virtuellen Raum stattfindet, etwa in Chats und Spielewelten. Man erregt sich gegenseitig über die Sprache (bei gesprochener Sprache auch über die Stimme) oder – mit Hilfe von Avataren, von Fotos, Videos und anderem selbsterstelltem oder ausgewähltem Cyberporn-Material – über das Aussehen. Auch Ein- und Ausgabegeräte (Datenhandschuhe und -helme, Vibrationsunterwäsche sowie 3D-Drucker mit ihren Erzeugnissen), Sexroboter und andere technische Hilfsmittel werden zur Darstellung bzw. Betrachtung und Stimulation des eigenen und fremden Körpers eingesetzt. Informations- und Sexualethik gehen beim Cybersex eine Liaison ein; u.a. interessiert, wie Informations- und Kommunikationstechnologien ein lustvolles Leben unterstützen oder behindern können.

Cyborg

Cyborgs sind – im engeren Sinne vornehmlich noch als Gegenstand von Dichtung und Film sowie von wissenschaftlich fundierten Zukunftsvisionen – Verschmelzungen von Mensch und Maschine. Es geht in der praktischen Anwendung darum, den menschlichen Körper mit technischen Mitteln zu perfektionieren oder seine Schwächen auszugleichen. Cyborgs aus Überzeugung nennen sich auch Bodyhacker und sind Teil der Bewegung des Transhumanismus. Aus Sicht der Rechtswissenschaft interessiert etwa, ob es sich bei einer erfolgreichen Attacke um Sachbeschädigung oder Körperverletzung handelt, aus Sicht der Informationsethik, ob durch die Integration von Chips und die Verwendung von Hightech-Prothesen die Autonomie des Menschen eingeschränkt oder erweitert wird, aus Sicht der Maschinenethik, ob die künstlichen Teile selbst Subjekte der Moral sein können.

3D-Drucker

3D-Drucker erlauben das „Ausdrucken“ von Gegenständen aller Art. Typische Materialien sind Kunststoff, Metall und Gips, als Pulver, Granulat und am Stück oder aber in flüssiger Form. Es wird geklebt oder geschmolzen und gehärtet bzw. getrocknet. 3D-Drucker, die Dateien analysieren und etwas über Form und Funktion des geplanten Objekts herausfinden, können die Herstellung von Pistolen und Bauteilen von Bomben verhindern. In der Maschinenethik werden Möglichkeiten dieser Art erörtert.

Drohne

Eine Drohne ist ein unbemanntes Luft- oder Unterwasserfahrzeug, das entweder von Menschen ferngesteuert oder von einem integrierten oder ausgelagerten Computer gesteuert und damit teil- oder vollautonom wird. Aus der Perspektive der Informationsethik interessiert, ob die informationelle Autonomie des Menschen eingeschränkt oder erweitert wird und welche Konsequenzen eine feindliche Übernahme der Drohne hat. In der Technikethik wird diese als Gerät in den Vordergrund gerückt und nach dessen Omnipräsenz und der Abhängigkeit von diesem gefragt. Die Abhängigkeit ist wiederum ein Thema der Informationsethik, vor allem wenn das Gerät als Computer und die Datenanalyse und -nutzung im Mittelpunkt stehen. Insofern sich die Maschinenethik teil- oder vollautonomen, intelligenten Systemen widmet, sind ihre Erkenntnisse in Bezug auf Drohnen relevant, wenn diese selbst Entscheidungen verantworten und Handlungen vollziehen, auch wenn dies nur vorübergehend stattfindet, oder selbstständig Informationen filtern.

ELIZA

Das Dialogsystem ELIZA wurde 1966 von Joseph Weizenbaum entwickelt. Es gilt als Vorläufer von Chatbots und Sprachassistenten. ELIZA stellt einerseits auf der Basis von Aussagen des Benutzers dazu passende (Rück-)Fragen, andererseits formuliert sie diesem gegenüber, wenn sie Schlüsselwörter erkennt, Aussage- und Imperativsätze. Das Programm bestand den Turing-Test in der Weise, dass es von bestimmten Menschen als vollwertiger Gesprächspartner anerkannt wurde. Weizenbaum war so erschrocken über diesen Umstand, dass er in der Folge zum Computerkritiker – oder Gesellschaftskritiker, wie er es nannte – wurde.

Ethik

Die Ethik als Wissenschaft ist eine Disziplin der Philosophie und hat die Moral zum Gegenstand. In der empirischen oder deskriptiven Ethik beschreibt man Moral und Sitte, in der normativen beurteilt man sie, kritisiert sie und begründet gegebenenfalls die Notwendigkeit einer Anpassung. In der normativen Ethik beruft man sich im abschließenden Sinne – so u.a. Otfried Höffe – weder auf religiöse und politische Autoritäten noch auf das Natürliche, Gewohnte oder Bewährte. Man kann in der Ethik auch auf die Moralität zielen und Grundbedingungen der Moral oder Diskrepanzen zwischen Haltung und Verhalten deutlich machen. Die Metaethik analysiert moralische Begriffe und Aussagen in semantischer Hinsicht. Es kann in der Ethik nicht nur die Moral von Menschen (Ethik im engeren Sinne), sondern auch von Maschinen (Maschinenethik) thematisiert werden. Die angewandte Ethik gliedert sich in Bereichsethiken wie Medizinethik, Wirtschaftsethik und Informationsethik. Die theonome Ethik, die sich auf Gott beruft, gehört nicht zur Ethik als Wissenschaft.

Zum Anfang
F – J –––––

Fahrerassistenzsystem

Fahrerassistenzsysteme (FAS) unterstützen den Lenker von Kraftfahrzeugen und übernehmen in bestimmten Fällen seine Aufgaben. Es handelt sich mehrheitlich um Computersysteme, die mit Ein- und Ausgabegeräten gekoppelt sind und Zugriff auf manche Komponenten und Funktionen der Fahrzeuge haben. Die Maschinenethik fragt danach, wie die Systeme in moralisch aufgeladenen Situationen entscheiden und handeln sollen, die Technikethik beschäftigt sich mit der (gefährdeten) Autonomie des Menschen, die Informationsethik auch mit seiner (gefährdeten) informationellen Autonomie und mit dem Problem, dass FAS gehackt und übernommen werden können.

Futurologie

Die Futurologie erforscht die Zukunft, vor allem technische, wirtschaftliche, politische und gesellschaftliche Entwicklungen. Sie liefert wissenschaftlich fundierte Prognosen oder gefällt sich in der Skizze einer Utopie. Der Begriff geht auf Ossip K. Flechtheim zurück.

Genius Malignus

Der Genius Malignus ist ein böser, mächtiger und li­stiger Geist, der in den „Meditationes de prima philosophia“ von René Descartes vorkommt. Vielleicht existiert die Außenwelt, die Welt des Wahrnehmbaren, gar nicht, weil wir in einem Traum begriffen sind und wir sie uns einbilden. Vielleicht existiert nicht einmal die Innenwelt, die Welt unserer Ideen und Erkenntnisse, weil ein solcher Geist sie uns vorgaukelt. Variationen des Gedankenspiels stammen von David Malet Armstrong und John Jamieson Carswell Smart (das „Gehirn-im-Tank-Argument“) sowie von Keith Lehrer (sogenannte Googols als böse Außerirdische). Im Artikel „Über gute und böse Maschinen“ von Oliver Bendel (2013) wird der Typ eines pädagogischen Agenten entworfen, der den Benutzer hinsichtlich der Außenwelt täuscht, indem er ihn mit Fehlinformationen versorgt, und als eine Art virtueller Genius Malignus fungiert, insofern er den Benutzer hinsichtlich seiner Ideen und Erkenntnisse, also der Innenwelt, mit Falschbehauptungen verunsichert; gleichermaßen könnte man, so der Artikel, Chatbots, Sprachassistenten oder Roboter gestalten, ein „böser Willen“ vorausgesetzt.

GOODBOT

Der GOODBOT ist ein Chatbot, der auf Aussagen und Fragen mit moralischen Implikationen in adäquater Weise reagiert bzw. antwortet. Er wird seit Sommer 2013 in einem von Oliver Bendel an der Hochschule für Wirtschaft FHNW initiierten und geleiteten Projekt entwickelt. Seit Anfang 2014 liegt er als Prototyp vor. Die moralische Maschine soll auf Websites von Unternehmen und Organisationen eingesetzt werden können.

Human Enhancement

Human Enhancement dient der Erweiterung der menschlichen Möglichkeiten und der Steigerung menschlicher Leistungsfähigkeit, letztlich also – aus Sicht der Betroffenen und Anhänger – der Verbesserung und Optimierung des Menschen. Ausgangspunkt sind kranke oder gesunde Menschen, die mit Wirkstoffen, Hilfsmitteln und Körperteilen versorgt und mit Technologien verbunden werden. Eine Bewegung, die Human Enhancement fordert, ist der Transhumanismus. Dieser propagiert die selbstbestimmte Transformation des Menschen mit Hilfe wissenschaftlicher und technischer Mittel. Allerdings nimmt er zuweilen religiöse und damit bevormundende Züge an. Ein Beispiel für die Weiterentwicklung ist der Umbau zum Cyborg, z.B. mit Hilfe von Implantaten. Aus Sicht der Informationsethik interessiert etwa, ob durch Human Enhancement ein neuer digitaler Graben entsteht (also die Informationsgerechtigkeit in Frage gestellt wird) und ob durch die Integration von Chips und die Verwendung von Hightech-Prothesen die Autonomie des Menschen (auch seine informationelle Autonomie) eingeschränkt oder erweitert wird.

Industrie 4.0

„Industrie 4.0“ ist ein Marketingbegriff, der auch in der Wissenschaft und in der Wissenschaftskommunikation verwendet wird. Er steht für ein „Zukunftsprojekt“ der deutschen Bundesregierung. Die sogenannte vierte industrielle Revolution basiert auf Automatisierung und Vernetzung und zeichnet sich durch Individualisierung bzw. Hybridisierung der Produkte und die Integration von Kunden und Geschäftspartnern in die Geschäftsprozesse aus. Cyber-physische Systeme sind wesentlicher Bestandteil der technischen Infrastruktur. Automatisierte Entscheidungen in moralischer Hinsicht, mithin die damit zusammenhängenden Probleme, sind Thema der Maschinenethik. Die Informationsethik beschäftigt sich damit, dass die Systeme manipuliert und gehackt, dass sie falsche Daten benutzen und falsche Informationen liefern und in feindlicher Weise übernommen werden können.

Informatik und Gesellschaft

Ein Teilgebiet der Informatik nennt sich Informatik und Gesellschaft. Es handelt sich zugleich um einen Fachbereich der Gesellschaft für Informatik (GI). Laut GI analysieren dessen Mitglieder die Voraussetzungen, Wirkungen und Folgen von Informatik, Informationstechnik und Informationsverarbeitung, und zwar in allen Bereichen der Gesellschaft. Die Bedeutung des Teilgebiets hat allerdings stark abgenommen.

Informationsethik

Die Informationsethik hat die Moral (in) der Informationsgesellschaft zum Gegenstand. Sie untersucht, wie wir uns, Informations- und Kommunikationstechnologien und digitale Medien anbietend und nutzend, in moralischer Hinsicht verhalten bzw. verhalten sollen. Man kann ihr, Rafael Capurro folgend, Computer-, Netz- und Medienethik zuordnen, wobei insbesondere die letztere auch als eigenständige Bereichsethik begriffen werden kann. Oliver Bendel spricht deshalb auch von Computer-, Netz- und Neue-Medien-Ethik. Die Informationsethik steht aus einer bestimmten Perspektive im Zentrum der Bereichsethiken.

Internet

Das Internet ist ein weltweites Computernetzwerk, das Rechner aller Arten auf der Basis der Protokollgruppe Transmission Control Protocol over Internet Protocol (TCP/IP) verbindet und dessen Anfänge in den 60er-Jahren des 20. Jahrhunderts liegen. In das Internet gingen verschiedene Netze wie das Arpanet oder das Usenet ein; man bezeichnet es deshalb auch als „Netz der Netze“. Bereits in den 70er-Jahren wurden Internetdienste wie Diskussionsforen zur Kommunikation und zum Austausch von Dateien genutzt. Ende der 80er-Jahre kam der Chat hinzu. Als um 1990 das World Wide Web als Hypertextsystem mit grafischer Benutzeroberfläche entstand, wurde das Internet schlagartig populär.

Internet der Dinge

Das Internet der Dinge (Internet of Things) vernetzt Dinge, Tiere und Menschen – eindeutig identifizierbare Objekte aller Art – miteinander. Es wandelt sich von einer Utopie zu einer immer weiter verbreiteten Realität. Gekennzeichnet werden die Objekte über Tags, etwa über RFID. Denkende Dinge (Thinking Things) können ein Teil des Internets der Dinge sein; übergeordnete Konzepte sind Ubiquitous Computing und Pervasive Computing. Im Rahmen der Informationsethik stellen sich Fragen nach informationeller und persönlicher Autonomie, nach Überwachungsstaat und -gesellschaft. Auch die (Verletzung der) Würde von Lebewesen bzw. ihre Instrumentalisierung und die (Versehrtheit der) Schönheit von Gegenständen kann thematisiert werden, sodass es Überschneidungen mit Bereichsethiken wie der Tierethik, aber auch mit philosophischen Disziplinen wie der Ästhetik gibt. Die Maschinenethik kommt ins Spiel, wenn die (teil-)autonomen, intelligenten Maschinen mit den Dingen interagieren und dabei moralische Aspekte berührt werden.

Zum Anfang
K – O –––––

Konflikt

Ein Konflikt ist ein Gegensatz zwischen Ideen, Werten und Handlungen und ihren Trägern. In offenen Gesellschaften bemüht man sich um eine rationale Verständigung mit Hilfe von Rechtswissenschaft und Ethik. Die Informationsethik thematisiert Konflikte zwischen Benutzern und IT-Unternehmen, die Maschinenethik löst Konflikte, die sich bei Maschinen zwischen Regeln ergeben, wobei Priorisierung einer der Ansätze ist.

Künstliche Intelligenz

Der Begriff „Künstliche Intelligenz“ („KI“, engl. „Artificial Intelligence“ bzw. „AI“) steht für einen eigenen wissenschaftlichen Bereich der Informatik, der sich mit dem menschlichen Denk-, Entscheidungs- und Problemlösungsverhalten beschäftigt, um dieses durch computergestützte Verfahren abbilden zu können. Auch die Intelligenz von Maschinen selbst kann mit dem Begriff gemeint sein. Die Maschinenethik wird von Vertretern der Künstlichen Intelligenz und Philosophen dominiert.

Lügenbot

Ein Lügenbot ist ein Chatbot, der Lügen erzählt und verbreitet. Oliver Bendel skizziert ihn in einem Artikel aus dem Jahre 2013 („Der Lügenbot und andere Münchhausen-Maschinen“). Er geht davon aus, dass Maschinen lügen können, wenn sie sprechen oder schreiben (und damit die Unwahrheit sagen) können. Informationen und Wissen aus verlässlichen Quellen werden in Falschinformationen und -behauptungen umgewandelt, etwa durch Negation. Der Lügenbot war zunächst ein Gedankenexperiment; 2016 wurde er an der Hochschule für Wirtschaft FHNW als Prototyp umgesetzt.

Maschine

Eine Maschine ist ein künstliches Werkzeug oder ein künstliches Wesen. Es gibt Maschinen in der Fertigung, auf der Bühne, im Militär und im Alltag, als Produktionsmaschinen, Bühnenausrüstungen, Drohnen und Roboter. Descartes vertrat die Meinung, dass Tiere seelenlose Automaten seien. In der Folge entwickelte sich die Maschinentheorie, in der Lebewesen als Maschinen aufgefasst wurden. Es werden immer mehr (teil-)autonome Systeme eingesetzt, die in bestimmten Situationen selbstständig entscheiden und handeln müssen, wie Drohnen, Roboter und Chatbots. Der Frage nach ihrer Moral widmet sich die Maschinenethik.

Maschinenethik

Die Maschinenethik („machine ethics“) hat die Moral von Maschinen zum Gegenstand, vor allem von (teil-)autonomen Systemen wie Agenten, bestimmten Robotern, bestimmten Drohnen, Computern im automatisierten Handel und selbstständig fahrenden Autos. Sie kann innerhalb von Informations- und Technikethik eingeordnet oder als Pendant zur Menschenethik angesehen werden. Der Begriff der Algorithmenethik wird teilweise synonym, teilweise eher in der Diskussion über Suchmaschinen und Vorschlagslisten sowie Big Data verwendet. Die Roboterethik ist eine Keimzelle und ein Spezialgebiet der Maschinenethik. Die Maschinenethik erweist sich mehr und mehr als Prüfstein für die Ethik. Sie kann neue Subjekte und Objekte der Moral beschreiben und aufzeigen, welcher normative Ansatz jenseits der auf Menschen bezogenen Moralphilosophie sinnvoll ist. Die Anwendungsbereiche der Maschinenethik haben hochrelevante wirtschaftliche und technische Implikationen.

Medizinethik

Die Medizinethik hat die Moral in der Medizin zum Gegenstand. Sie untersucht das moralische Denken und Verhalten in Bezug auf die Behandlung menschlicher Krankheit und die Förderung menschlicher Gesundheit und fragt nach dem moralisch Gewünschten und Gesollten im Umgang mit menschlicher Krankheit und Gesundheit. Mit Wirtschafts- und Informationsethik unterhält die Medizinethik enge Beziehungen. Wegen der zunehmenden Bedeutung von Operations-, Pflege-, Therapie- und Sexrobotern kommt auch die Maschinenethik ins Spiel.

Menschenethik

Menschenethik ist die Ethik, die die Moral des Menschen betrachtet. Bis in die heutige Zeit hinein war Ethik immer Menschenethik. Tieren kann man allenfalls vormoralische Qualitäten zusprechen. Maschinen aber fällen Entscheidungen, die moralisch relevant sind, und man kann ihnen eine Form der Moral beibringen; dies ist Thema der Maschinenethik, die als Pendant zur Menschenethik verstanden werden kann.

Mensch-Maschine-Interaktion

Die Mensch-Maschine-Interaktion, im Englischen „human-machine interaction“ genannt, behandelt die Interaktion zwischen Mensch und Maschine. Synonym oder mehr auf die Kommunikation bezogen spricht man auch von Mensch-Maschine-Kommunikation („human-machine communication“), wenn es um die Zusammenarbeit von Mensch und Roboter geht, von Mensch-Roboter-Kooperation. Bei (teil-)autonomen Maschinen wie Chatbots, Robotern, Drohnen und selbstständig fahrenden Autos stellt sich die Frage nach dem adäquaten Design nicht bloß im herkömmlichen, sondern auch im sozialen und moralischen Sinne. Von daher sind soziale Robotik und Maschinenethik gefragt.

Mensch-Roboter-Kooperation

Bei der Mensch-Roboter-Kooperation arbeiten Mensch und Roboter in Kooperationszellen oder Arbeitsräumen zusammen. Es findet eine Arbeitsteilung statt, etwa indem sich Mensch und Roboter bei der Bearbeitung von Produkten abwechseln, oder indem der Roboter benötigte Teile und Werkzeuge bringt und holt. Damit der Mensch in der Nähe der Zusammenarbeit nicht zu Schaden kommt, braucht es die soziale Robotik, womöglich auch die Maschinenethik.

Metaethik

Die Metaethik analysiert ethische Begriffe und Aussagen, nimmt sich der Methoden und Ansätze der Ethik an und fragt nach deren Sinn und Zweck. Auch die Begründung einer Bereichsethik wie der Informationsethik kann ihr zugehören. Im angelsächsischen Sprachraum versteht man unter der Metaethik eine Metamoral, in der man moralische Begriffe und Aussagen auf ihre sprachliche Form hin untersucht.

Militärethik

Die Militärethik beschäftigt sich mit der Moral in militärischen Auseinandersetzungen und Einrichtungen. Dabei fragt sie auch nach der Verantwortung von Soldaten und Politikern. Es gibt, etwa beim Einsatz von Kampfrobotern und Drohnen mit einem hohen Grad an Autonomie, Überschneidungen mit der Maschinenethik.

Moral

Der Begriff der Moral zielt auf die normativen Aspekte im Verhalten des Menschen gegenüber sich selbst, gegenüber anderen Menschen und gegenüber der belebten (und evtl. auch unbelebten) Umwelt. Die Moral ist wie die Sprache intersubjektiv und kann wie diese individuell ausgestaltet werden. Zu ihr zählen, Otfried Höffe folgend, Tabus, Verhaltensregeln, Wertmaßstäbe und Sinnvorstellungen. Tiere haben allenfalls vormoralische Anlagen. Die Handlungen von Maschinen (insbesondere autonomen Systemen) können moralische Implikationen haben. Die Moral ist der Gegenstand der Ethik; die Informationsethik hat die Moral (in) der Informationsgesellschaft zum Gegenstand.

Moralische Maschinen

Moralische Maschinen sind mehr oder weniger autonome Systeme, die über moralische Fähigkeiten verfügen. Sie wurden entweder als solche konzipiert oder auf der Basis von gewöhnlichen Maschinen entwickelt, die den Prozess des Moralisierens durchlaufen müssen. Oliver Bendel spricht in Artikeln aus dem Jahre 2013 (u.a. in „Dr. Robot entdeckt die Moral“) auch von einfachen moralischen Maschinen. Seine These ist, dass es sehr schwer ist, komplexe moralische Maschinen zu bauen, aber relativ simpel, einfache Maschinen in einfache moralische Maschinen zu verwandeln. Beispiele sind Saugroboter, die Spinnen und Käfer verschonen, und Chatbots, die auf heikle Aussagen adäquat reagieren. Relevante Disziplinen in diesem Zusammenhang sind u.a. Maschinenethik, Robotik, Künstliche Intelligenz und Informatik.

Moralisieren

Das Moralisieren ist der Ausdruck des Moralismus. In Veröffentlichungen von Oliver Bendel aus den Jahren 2013 und 2014 wird mit diesem Begriff auch das Umwandeln von Maschinen in moralische Maschinen bezeichnet. Das Moralisieren in diesem Sinne ist ein Optimieren aus maschinenethischer Sicht.

Münchhausen-Maschinen

Der Begriff der Münchhausen-Maschinen wurde von Oliver Bendel in dem Artikel „Der Lügenbot und andere Münchhausen-Maschinen“ (2013) und im Artikel „Können Maschinen lügen?“ (2015) erwähnt. Roboter, Chatbots, Sprachassistenten oder Internetdienste können lügen, wenn sie sprechen oder schreiben (und damit die Unwahrheit sagen) können. Informationen und Wissen aus verlässlichen Quellen werden in Falschinformationen und -behauptungen umgewandelt, etwa durch Negation.

Normative Modelle

Mit normativen Modellen der Ethik, wie sie auf Aristoteles, Immanuel Kant und Jean-Paul Sartre zurückgehen, werden moralische Möglichkeiten eingeordnet, begründet und bewertet. Annemarie Pieper führt den transzendentalen, existenzialistischen, eudämonistischen, vertragstheoretischen, traditionalen, materialistischen und lebensweltlichen Ansatz auf. In der Maschinenethik wird danach gefragt, welches normative Modell sich für die Entwicklung einer moralischen Maschine eignet. In der Literatur gibt man meist der transzendentalen (vor allem der deontologischen), der eudämonistischen (vor allem der teleologischen) und der traditionalen (vor allem der auf die Tugend gerichteten) Ethik den Vorzug. Unter Umständen ist es sinnvoll und möglich, sich neue normative Modelle auszudenken, die sowohl moralischen Maschinen als auch menschlichen Vorstellungen entsprechen.

Zum Anfang
P – T –––––

Person

Die Person ist aus Sicht der Ethik das Subjekt der Moral. Der Mensch kommt im Heranwachsen von der Freiheit von Entscheidung zur Freiheit der Entscheidung und wird zur Person, die Verantwortung tragen und zur Verantwortung gezogen werden kann. Auch die Maschine kann – ein Thema der Maschinenethik – Subjekt der Moral sein. Das Objekt der Moral muss keine Person, sondern kann ein Tier oder zukünftig u.U. auch ein Roboter sein. Der Benutzer ist nicht per se eine Person im engeren Sinne, und man kann in der Informationsethik fragen, ob seine Verantwortung mit seiner Medienkompetenz zusammenhängt.

Pflichten

Pflichten im moralischen Sinne hat man gegenüber denjenigen, die Rechte haben, aber z.B. auch gegenüber Wäldern und Bergen. Man kann sie nur haben, wenn man prinzipiell einsichtsfähig ist, also über eine spezielle Art des Denkens verfügt und im Besitz seiner geistigen Kräfte ist. Damit kommen Pflichten nur bestimmten Menschen zu und keinesfalls Kleinkindern oder Bewusstlosen; auch Tiere können keine Pflichten haben, genauso wenig Pflanzen, die unbelebte Natur etc. Man unterscheidet in der Ethik zwischen negativen und positiven Pflichten. Zum ersten Typus gehören Formulierungen wie „Du sollst/darfst nicht töten“, zum zweiten Formulierungen wie „Du sollst/musst Leben schützen“. Ob der digitale Ungehorsam zu den Pflichten des aufgeklärten Netzbürgers gehört, wird in der Informationsethik diskutiert.

Rechte

Rechte im moralischen Sinne werden i.d.R. denjenigen zugesprochen, die die Fähigkeit haben zu denken oder zu fühlen. Diese Fähigkeit muss sozusagen prinzipiell vorhanden sein, sodass auch Wesen mit eingeschlossen sind, die man vorübergehend der Fähigkeit – etwa durch Narkose – beraubt hat. Denken kann die Form von Interessen (Pläne, Wünsche etc.) annehmen, Fühlen die Form von Leiden oder Glück. Die Wahrnehmung von Rechten kann in der Bewahrung von Interessen bestehen oder in der Maximierung von Glück bzw. in der Minimierung von Leiden. Existenzielle Rechte werden auch Grundrechte genannt. Kinder sind nach der vorgetragenen Argumentation ebenso Träger von Rechten wie Tiere. Mindestens allen geborenen Menschen kommen Menschenrechte zu, mindestens allen höheren Tieren Tierrechte. Die Tierethik begründet Tierrechte und sucht nach Argumenten über die Leidensfähigkeit hinaus. Roboter und Computer sind keine Objekte der Moral in diesem Sinne; es ist aber nicht ausgeschlossen, dass sie es eines Tages sein werden; dass sie Subjekte der Moral sein können, ist das Thema der Maschinenethik. Ob der Zugang zum Internet zu den Grundrechten gehört, ist umstritten und ein Thema der Informationsethik.

Roboterethik

Die Roboterethik („Robot Ethics“ oder „Robo Ethics“) ist eine Keimzelle und ein Spezialgebiet der Maschinenethik. Gefragt wird danach, ob ein Roboter ein Subjekt der Moral sein und wie man diese implementieren kann. Im Fokus sind auch mimische und gestische Fähigkeiten und die natürlichsprachliche Kommunikation, sofern diese in einem moralischen Kontext stehen. Man kann nicht nur nach den Pflichten, sondern auch den Rechten der Roboter fragen. Allerdings werden ihnen solche im Moment kaum zugestanden. Nicht zuletzt kann man die Disziplin in einem ganz anderen Sinne verstehen, nämlich in Bezug auf die Folgen des Einsatzes von Robotern für Menschen. In dieser Ausrichtung kann sie in Technik- und Informationsethik verortet werden.

Robotergesetze

Über die Moral von Maschinen haben nicht nur Wissenschaftler, sondern auch Schriftsteller nachgedacht. Robotiker, KI-Experten und Philosophen beziehen sich im Kontext von Roboter- und Maschinenethik gerne auf den Science-Fiction-Autor Isaac Asimov und seine berühmten Robotergesetze bzw. Gesetze der Robotik („Three Laws of Robotics“), die in der Kurzgeschichte „Runaround“ aus dem Jahre 1942 und in weiteren Shortstorys enthalten sind. Der Katalog ist hierarchisch aufgebaut und gibt so eine Priorisierung vor. Nach dem ersten Gesetz darf kein Roboter einen Menschen verletzen oder durch Untätigkeit erlauben, dass ein menschliches Wesen zu Schaden kommt. Nach dem zweiten Gesetz muss ein Roboter den ihm von Menschen erteilten Befehlen gehorchen, es sei denn, einer der Befehle würde mit dem ersten Gesetz kollidieren. Nach dem dritten Gesetz muss ein Roboter seine Existenz beschützen, solange er dabei nicht mit dem ersten oder zweiten Gesetz in Konflikt kommt. Asimov hat in einem späteren Werk den Katalog erweitert und modifiziert. Zudem spricht er in der 1974 erschienenen Geschichte „… That Thou Art Mindful of Him“ von den „Three Laws of Humanics“, erdacht von Robotern, die die Macht an sich reißen wollen.

Robotersex

Robotersex, Sex mit und zwischen Robotern, ist ein Sujet von Science-Fiction-Büchern und -Filmen und – dort teilweise mit Hilfe von Avataren visualisiert – von Computerspielen. Auf dem Markt sind Sexroboter als handliches Spielzeug und (wie im Falle von Roxxxy) in Lebensgröße erhältlich. Mit Cybersex gibt es Berührungspunkte, etwa wenn Sexroboter über das Netz gesteuert werden. Informations-, Technik- und Sexualethik gehen beim Robotersex eine Liaison ein; zudem können Fragen der Maschinenethik (insbesondere der Roboterethik) aufgeworfen werden, wenn der künstliche Sexarbeiter ein autonomes System ist.

Robotik

Die Robotik oder Robotertechnik beschäftigt sich mit dem Entwurf, der Gestaltung, der Steuerung, der Produktion und dem Betrieb von Robotern. Bei anthropomorphen oder humanoiden Robotern geht es auch um die Herstellung von Gliedmaßen und Haut, um Mimik und Gestik sowie um natürlichsprachliche Fähigkeiten. Ein Problem dieser Form der Robotik ist das Uncanny Valley, das unheimliche Tal. Roboter gehören zu den Maschinen, mit denen sich die Maschinenethik beschäftigt. Die Robotik muss sich zusammen mit der Maschinenethik (und der Roboterethik) mit der Moral von Robotern auseinandersetzen.

Schwarzer Schwan

Ein schwarzer Schwan ist ein Ereignis, das völlig unwahrscheinlich ist, gänzlich überraschend eintritt und (fast) alle erstaunt. Im Nachhinein wird deutlich, dass durchaus Anhaltspunkte vorhanden waren, und in manchen Fällen wurde es auch von einem Experten vorausgesehen, den man nicht gehört oder ernstgenommen hat. Der Begriff geht auf Publikationen von Nassim Nicholas Taleb zurück, das Bild auf Juvenal, der in den Satiren VI eine treue Ehefrau mit dem schwarzen Schwan vergleicht, der in der Antike in Europa unbekannt war. Moralische Maschinen können als schwarze Schwäne angesehen werden. Tauchten sie lange Zeit nur in Science-Fictions auf, werden sie nun von der Maschinenethik konzipiert und entwickelt. Technik- und Informationsethik berücksichtigen schwarze Schwäne in Technikgeschichte und Informationsgesellschaft.

Science-Fiction

Science-Fiction ist ein Literatur- und Filmgenre. Die Handlung ist meist in der Zukunft, auf Weltraumschiffen oder auf fremden Planeten angesiedelt. Es werden Alternativen des Seins, des Zusammenlebens und des Bewohnens und für Technik, Politik und Wirtschaft entwickelt, bis hin zur Utopie. Etliche Filme sind ein mögliches oder tatsächliches Vorbild für die Maschinenethik, etwa „2001: Odyssee im Weltraum“ („2001: A Space Odyssey“) von Stanley Kubrick mit der künstlichen Intelligenz namens HAL (1968) und „Moon“ von Duncan Jones mit GERTY (1999). Besonders einflussreich sind die Robotergesetze aus Isaac Asimovs Kurzgeschichte „Runaround“ von 1942 geworden.

Sexroboter

Sexroboter sind je nach Geldbeutel und Geschmack als handliches Spielzeug oder in Lebensgröße erhältlich. Man kann sie mit nach Hause nehmen und vielleicht bald in Etablissements treffen. Sie helfen bei der Befriedigung, indem sie Menschen stimulieren oder sich penetrieren lassen. Robotersex ist sowohl der Sex mit als auch zwischen Robotern. Gefragt sind Informations-, Technik- und Sexualethik sowie – z.B. in Bezug auf die moralischen Fähigkeiten oder den Grad der Autonomie des künstlichen Sexarbeiters – die Maschinenethik.

Sinnhafte Entcomputerisierung

„Sinnhafte Entcomputerisierung“ ist der Titel eines Artikels von Oliver Bendel aus dem Jahre 2013 und ein Begriff für die systematische Eindämmung der Computerisierung und mithin der Automatisierung. Er wird dem Begriff der sinnhaften Vollautomation von Peter Mertens gegenübergestellt. Im Buch „Die Rache der Nerds“ von 2012 kommt die Abkürzung TFRGL vor, die als Arbeitsbegriff für „technologiefreie Räume, Gegenstände und Lebewesen“ steht. Innerhalb der Informationsethik kann danach gefragt werden, ob wir in der Informationsgesellschaft in unseren Möglichkeiten und Freiräumen eingeschränkt werden bzw. gesundheitlichen Gefahren ausgesetzt sind.

Smartphone

Das Smartphone ist ein Kleinstrechner und ein Allzweckgerät für das Lesen (von Zeitungen, Zeitschriften und Büchern), Hören (von Musik und Hörspielen), Schauen (von Fotos und Videos), Kommunizieren (Simsen und Telefonieren) sowie Gamen. Es dient als Transaktionssystem im Mobile Commerce, als Interaktionsmedium im Mobile Learning und als Assistenzgerät im E-Health. Bei Robotern wird es zum Gehirn und zum Gesicht, in Autos zum Navigationssystem. Als Software dominieren neben Betriebssystem und Browser native und nichtnative Apps. Das Smartphone unterstützt und gefährdet die persönliche und informationelle Autonomie. Einerseits hilft es bei einem verantwortlichen, selbstbestimmten Leben, andererseits drohen ständige Verfügbarkeit und totale Überwachung.

Smartwatch

Eine Smartwatch ist eine digitale Armbanduhr, die über ein flaches, eckiges oder rundes Display – meist ein Touchscreen – verfügt und ähnlich wie ein Smartphone bedient und mit diesem verbunden werden kann. Sie zeigt Zeit und Datum an, misst den Puls, zählt die Schritte und vermittelt Informationen aller Art. Es entstehen Optionen für Gesundheitsvorsorge, Senioren- und Patientenbegleitung sowie den Fitness- und Sportbereich, aber auch Probleme für informationelle Autonomie und Datenschutz. Risiken sind weiter wegen der Omnipräsenz des Geräts (und der Abhängigkeit davon) und seiner Überwachungsmöglichkeiten vorhanden. Rechtswissenschaft, Technikethik und Informationsethik suchen bei all diesen Aspekten nach Lösungen.

Social Bots

Social Bots sind Bots, die in sozialen Medien, etwa Microblogs und sozialen Netzwerken, Profile nutzen, die für sie eingerichtet wurden, oder selbst Profile einrichten, und die Kommentare schreiben und Informationen verbreiten, bei denen es sich oft um Gerüchte, Halbwahrheiten und Falschinformationen handelt. Dadurch, dass man sie beliebig vervielfältigen kann, entstehen regelrechte Armeen von künstlichen Meinungsmachern. Die Informationsethik fragt nach den Auswirkungen auf die Informationsgesellschaft in moralischer Hinsicht, die Maschinenethik danach, ob Social Bots moralische bzw. unmoralische Akteure sind, die man entsprechend gestalten kann und muss.

Soziale Robotik

Die soziale Robotik beschäftigt sich mit (teil-)autonomen Maschinen, die in Befolgung sozialer Regeln mit Menschen interagieren und kommunizieren und zuweilen humanoid bzw. anthropomorph realisiert und mobil sind. Manche Experten lassen in diesem Zusammenhang nur physisch vorhandene Roboter gelten, andere auch virtuell umgesetzte, sogenannte Bots. Soziale Roboter täuschen oft Gefühle vor, und man spricht auch von „emotionaler und sozialer Robotik“. Wenn die Maschinen zu moralisch adäquaten Entscheidungen fähig sein sollen, ist die Maschinenethik gefragt.

Technikethik

Die Technikethik bezieht sich auf moralische Fragen des Technik- und Technologieeinsatzes. Es kann um die Technik von Fahrzeugen oder Waffen ebenso gehen wie um die Nanotechnologie oder die Kernenergie. Zur Wirtschafts- und zur Wissenschaftsethik bestehen enge Beziehungen. In der Informationsgesellschaft ist die Technikethik zudem eng mit der Informationsethik verbunden.

Technikfolgenabschätzung

Die Technikfolgenabschätzung (TA), auch Technologiefolgenabschätzung genannt, ist für Analyse und Bewertung der Wirkungen und Folgen einer Technik bzw. Technologie zuständig und ein wichtiges Instrument bei der Beratung der Politik. In Deutschland gibt es das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB), in der Schweiz das Zentrum für Technologiefolgen-Abschätzung TA-SWISS, in Österreich das Institut für Technikfolgen-Abschätzung (ITA). In moralischen Fragen der Informationsgesellschaft trifft sich die TA mit der Informationsethik.

Theoretische Robotik

In der theoretischen Robotik werden mathematische, logische und ethische Modelle entwickelt. In der praktischen Robotik strebt man die technische Umsetzung (technische Robotik) für bestimmte Anwendungsgebiete (angewandte Robotik) an. Die theoretische Robotik wird beeinflusst von Science-Fiction-Büchern und -Filmen. Eine besondere Wirkung haben die Robotergesetze von Isaac Asimov entfaltet, obwohl sie in der Wissenschaft kontrovers diskutiert werden und zu Widersprüchen führen. Eine Disziplin, mit der die theoretische Robotik eng zusammenarbeiten muss, vor allem mit Blick auf das „Moralisieren“, ist die Maschinenethik.

Tierethik

Die Tierethik beschäftigt sich, um eine Wendung von Ursula Wolf zu gebrauchen, mit dem Tier in der Moral, genauer mit den Pflichten von Menschen gegenüber Tieren (diese sind Objekte der Moral) und den Rechten von Tieren (nicht mit den Pflichten, denn sie sind keine Subjekte der Moral). Ein wichtiges moralisches und ethisches Argument ist die Leidensfähigkeit. Mit dieser lässt sich eine artgerechte Tierhaltung oder auch ein Verbot der Haltung und Nutzung begründen. Die Frage ist aber nicht nur – um Jeremy Bentham zu erweitern –, ob Tiere leiden können, sondern auch, ob sie leben wollen. Mit diesem Lebenswillen lässt sich ein Verbot des Tötens begründen. Die Informationsethik beschäftigt sich vor dem Hintergrund, dass Tiere mit Funkchips versehen, mit Überwachungsgeräten verfolgt und von Maschinen betreut werden, mit den Rechten und Pflichten von Kreaturen in der Informationsgesellschaft und mit den Möglichkeiten, Informationstechnologien und -systeme art- und tiergerecht zu gestalten. Die Maschinenethik fragt danach, wie man (teil-)autonome Systeme, die in eine Interaktion mit Tieren treten (Tier-Maschine-Interaktion), in moralischer Hinsicht optimieren kann.

Tier-Maschine-Interaktion

Die Mensch-Maschine-Interaktion ist – inklusive der spezielleren Mensch-Computer-Interaktion – eine etablierte Disziplin, die sich mit dem Design, der Evaluation und der Implementierung von Maschinen befasst, die in Interaktion mit Menschen treten. Die Tier-Maschine-Interaktion („Animal-Machine Interaction“) ist die Interaktion von Tier und Maschine über eine entsprechende Schnittstelle. In der von Oliver Bendel in seinem Artikel „Considerations about the Relationship between Animal and Machine Ethics“ (2013) erwähnten und in anderen Beiträgen skizzierten Disziplin mit dieser Bezeichnung geht es um Design, Evaluierung und Implementierung von Maschinen, die sich in Interaktion mit Tieren befinden. Ansätze einer spezielleren Tier-Computer-Interaktion („Animal-Computer Interaction“) gibt es im angelsächsischen Sprachraum bereits.

Totalitarismus

Der Totalitarismus ergibt sich aus Formen der Diktatur und zielt auf die Formung des Menschen nach einer bestimmten Ideologie. Charakteristisch sind die Omnipräsenz von Staat bzw. Ideologie, die uneingeschränkte Verfügung über die Betroffenen und deren völlige Unterwerfung unter ein politisches bzw. wirtschaftliches Ziel. Wie Oliver Bendel in seinem Buch „Die Rache der Nerds“ (2012) festgestellt hat, fördert eine weitgehende Elektronifizierung und Automatisierung des Privat- und Berufslebens totalitäre Strukturen. Die Omnipräsenz der Informations- und Kommunikationstechnologien ist typisch für Überwachungsstaat und -gesellschaft des 21. Jahrhunderts.

Transhumanismus

Der Transhumanismus ist eine Bewegung, die die selbstbestimmte Weiterentwicklung des Menschen mit Hilfe wissenschaftlicher und technischer Mittel propagiert. Er sieht sich damit in der Tradition des Humanismus und der Aufklärung. Eine Möglichkeit der Weiterentwicklung ist der Umbau zum Cyborg.

Trolley-Problem

Das Trolley-Problem ist ein Gedankenexperiment von Philippa Foot. Eine außer Kontrolle geratene Straßenbahn rast auf fünf Personen zu. Sie kann auf ein anderes Gleis umgeleitet werden, auf dem sich ein weiterer Mensch befindet. Die moralische Frage ist, ob der Tod dieses Menschen in Kauf genommen werden darf, um das Leben der fünf Personen zu retten. Eine Erweiterung von Judith Jarvis Thomson ist das Fetter-Mann-Problem. Ein korpulenter Mann wird auf das Gleis gestoßen, damit die Straßenbahn zum Stehen kommt. Der Tod eines Menschen wird so nicht nur in Kauf genommen, sondern bewusst herbeigeführt. Das Trolley-Problem kann innerhalb der Maschinenethik auf selbstständig fahrende Autos übertragen werden.

Turing-Test

Beim Turing-Test ist ein menschlicher Fragesteller mit einer Maschine und einem Menschen in einem anderen Raum verbunden. Wenn er durch seine Fragen nicht herausfinden kann, wer die Maschine ist, hat diese den Test bestanden und scheinbar ein Denkvermögen vorzuweisen, das dem menschlichen vergleichbar ist. Alan M. Turing hat das fiktive Fragespiel in seinem Artikel „Computing Machinery and Intelligence“ aus dem Jahre 1950 vorgestellt. Es ist für die Maschinenethik von Relevanz, insofern auch bei autonomen Systemen das Denkvermögen der Moralfähigkeit vorausgeht.

Zum Anfang
U – Z –––––

Überwachung

Unter den Begriff der Überwachung fällt die zielgerichtete Beobachtung von Zuständen, Objekten und Personen ebenso wie die Erhebung von Daten in Bezug auf Personen und Situationen. Überwachung findet auf der Straße statt, in Gebäuden und Verkehrsmitteln, im Intra- und Internet, über Kameras und Mikrofone, über Tracking- und Monitoringsoftware, mit Hilfe von Bild- und Gesichtserkennung. Wenn der Staat seine Bürger observiert, wird er zum Überwachungsstaat und zum Big Brother. Wenn man andere ausspioniert, in Social Networks oder mit Hilfe von Überwachungssoftware, ist man ein aktives Mitglied der Überwachungsgesellschaft. Überwachung kann auch ein selbstständiges Leben unterstützen, etwa wenn man als Alter oder Kranker dank medizinischer Assistenzgeräte weiter zu Hause wohnen kann. Die Informationsethik fokussiert in diesem Kontext auf elektronische Überwachung und widmet sich u.a. der informationellen Autonomie.

Umweltethik

Die Umweltethik bezieht sich auf moralische Fragen beim Umgang mit der belebten und unbelebten Umwelt des Menschen. Im engeren Sinne verstanden, beschäftigt sie sich in moralischer Hinsicht mit dem Verhalten gegenüber natürlichen Dingen und dem Verbrauch von natürlichen Ressourcen. Wenn sie nicht nur Menschen und Unternehmen als moralische Subjekte begreift, die auf die Umwelt einwirken und sie verändern, sondern auch Maschinen, muss sie sich mit der Maschinenethik verständigen; wenn sie nicht nur die natürliche Umwelt meint, sondern auch Artefakte wie Fahrzeuge und Roboter, mit Technikethik bzw. Roboterethik.

Uncanny Valley

Je mehr ein Avatar oder ein Roboter durch sein Aussehen verspricht, desto perfekter muss er umgesetzt sein, damit er nicht unheimlich wirkt. Die meisten humanoiden Roboter kommen aus dem Uncanny Valley nicht heraus. Die meisten tierähnlichen Roboter geraten erst gar nicht hinein, da sie kaum Erwartungen wecken. Der Effekt, der von Masahiro Mori in den 70er-Jahren entdeckt wurde, kann auch auf die Emotionen und die Moral der Maschinen übertragen werden. Insofern hat er mit der Maschinenethik zu tun.

Utopie

Eine Utopie beschreibt eine politische, wirtschaftliche, technische oder religiöse Entwicklung bzw. Ordnung, die von der gegebenen Wirklichkeit weit entfernt sein kann. Eine Utopie von Ray Kurzweil beinhaltet das Transferieren des Bewusstseins in digitale Speicher. Die Frage, ob es sich um eine negative oder positive Utopie handelt, kann innerhalb der Informationsethik unterschiedlich beantwortet werden.

Verantwortung

Verantwortung kann nach Otfried Höffe eingeteilt werden in Primärverantwortung (die man trägt), Sekundärverantwortung (zu der man gezogen wird) und Tertiärverantwortung (die mit einer Haftung verbunden ist). Mit der Sekundär- und Tertiärverantwortung wird der Mensch als Subjekt von Recht und Moral sichtbar. Voraussetzung ist die Primärverantwortung, die lediglich mündigen Personen zukommt. Eine Wiedergutmachung im Rahmen der Haftung ist in der Informationsgesellschaft besonders schwierig, etwa wenn sich Falschbehauptungen im virtuellen Raum verbreitet und verselbständigt haben; dieses Problem wird in der Informationsethik behandelt. Der innerhalb der Maschinenethik relevanten Frage, ob ein Computer selbst Verantwortung für seine Entscheidungen übernehmen kann, geht Oliver Bendel in seinem Buch „Pädagogische Agenten im Corporate E-Learning“ (2003) nach. Er fasst u.a. Arbeiten von James H. Moor und John W. Snapper aus den 70er- und 80er-Jahren zusammen und überträgt sie auf anthropomorphe Agenten.

Virtuelle Realität

Unter Virtueller Realität (Virtual Reality) versteht man die (meist dreidimensionale) Computersimulation von Objekten (Personen, Lebewesen und Gegenständen) und Räumen und damit zusammenhängenden Prozessen. Abgebildet werden Objekte und Räume der Realität oder aber eines gedachten, also fiktionalen – in irgendeiner Form lebensechten – Seins. Aus Sicht der Informationsethik ist interessant, ob es eine spezielle Moral der Virtuellen Realität gibt.

Wirtschaftsinformatik

Wirtschaftsinformatik ist die Wissenschaft von Entwurf, Entwicklung und Einsatz betrieblicher Informations- und Kommunikationssysteme und verbindet Informatik und Betriebswirtschaftslehre. Ziel der Wirtschaftsinformatik ist nach Peter Mertens die sinnhafte Vollautomation. Oliver Bendel hat in seinem Artikel „Sinnhafte Entcomputerisierung: Bereicherung durch weniger Automation“ (2013) im Kontext der Informationsethik ein Gegenkonzept skizziert. In seinem Beitrag „Die Moral der Informationsgesellschaft“ (2013) schlägt er vor, innerhalb der Wirtschaftsinformatik einen Forschungsbereich für Informationsethik zu schaffen.

Zum Anfang
Das Lexikon ist ein Teil des Glossars zur Informationsethik (www.informationsethik.net). Mehrere Definitionen sind angelehnt an: Bendel, Oliver; Hauske, Stefanie. E-Learning: Das Online-Glossar der Learntec. Bereitgestellt von der Learntec über glossar.learntec.de. Karlsruhe 2008. Manche Definitionen finden sich in stark erweiterter Form im Wirtschaftslexikon von Gabler (wirtschaftslexikon.gabler.de) bei den Beiträgen von Oliver Bendel. Weitere verwendete Publikationen sind auf www.oliverbendel.net und in der Literaturliste dieser Plattform aufgeführt.

Creative Commons Lizenzvertrag
KLEINES LEXIKON DER MASCHINENETHIK von Oliver Bendel steht unter einer Creative Commons Namensnennung-NichtKommerziell-KeineBearbeitung 3.0 Unported Lizenz.