BR24 hat sich mit Oliver Bendel – Technikphilosoph, Informationsethiker und Maschinenethiker – über DeepL Write, ChatGPT und andere KI-Anwendungen unterhalten. Bei DeepL Write sieht er das Problem, dass das Unternehmen nicht die offiziellen Rechtschreibregeln befolgt, sondern eigene – oder aus dem Datenmaterial abgeleitete. Auch Microsoft Word hat seit vielen Jahren eine ungeeignete Rechtschreibprüfung, was vermutlich mit der zunehmend genutzten KI zusammenhängt. ChatGPT sieht Oliver Bendel als mächtiges Werkzeug an, das man für allerlei Belange nutzen kann. Hochschulen und Medien müssen freilich darauf reagieren. Studenten und Studentinnen müssen grundsätzlich fremdes geistiges Eigentum markieren und referenzieren – vielleicht gibt es bei ChatGPT kein geistiges Eigentum in diesem Sinne mehr, aber man kann auf jeden Fall sagen, dass es sich nicht um das geistige Eigentum der Anwender handelt. Auch Gesichtserkennung hält Oliver Bendel für eine mächtige Technologie. Man solle die Forschung dazu nicht begrenzen, wohl aber die Anwendung, und Gesichtserkennung zum Zweck der Massenüberwachung verbieten. Er berichtet von einem System, das von ihm und Ali Yürekkirmaz konzipiert wurde und das Gesichtserkennung für Bären in den Alpen vorsieht. Ihr Paper „A Face Recognition System for Bears: Protection for Animals and Humans in the Alps“ wird demnächst in den Proceedings der „Ninth International Conference on Animal-Computer Interaction (ACI’22)“ erscheinen. Bei BR24 stehen ein Podcast mit dem Interview von Cosima Weiske mit Oliver Bendel und ein Artikel mit Aussagen von ihm zur Verfügung.
Abb.: Gesichtserkennung kann man auf Bären anwenden
Gesichtserkennung ist eine problematische Technologie, vor allem wenn sie für die Überwachung von Menschen eingesetzt wird. Sie hat allerdings auch Potenzial, etwa mit Blick auf die Erkennung von (Individuen von) Tieren. Prof. Dr. Oliver Bendel hatte 2021 an der Hochschule für Wirtschaft FHNW das Thema „ANIFACE: Animal Face Recognition“ ausgeschrieben und die Wahl gelassen, ob es um Wölfe oder Bären gehen sollte. Ali Yürekkirmaz nahm den Auftrag an und konzipierte in seiner Abschlussarbeit ein System, mit dem man in den Alpen – ohne elektronische Halsbänder oder implantierte Microchips – einzelne Bären identifizieren und entsprechende Maßnahmen einleiten könnte. Es stehen, so die Idee, in bestimmten Gebieten entsprechende Kamera- und Kommunikationssysteme bereit. Wenn ein Bär identifiziert ist, wird eruiert, ob er als harmlos oder gefährlich gilt. Dann werden die zuständigen Stellen oder direkt die Betroffenen informiert. Spaziergänger können vor den Aufnahmen gewarnt werden – es ist aber auch technisch möglich, ihre Privatsphäre zu schützen. In einem Expertengespräch mit einem Vertreter von KORA konnten wichtige Erkenntnisse zur Wildtierbeobachtung und speziell zur Beobachtung von Bären gewonnen werden, und eine Umfrage hat die Haltung von Teilen der Bevölkerung in Erfahrung gebracht. Aufbauend auf der Arbeit von Ali Yürekkirmaz, die im Januar 2022 abgegeben wurde, könnte ein Algorithmus für Bären entwickelt und ein ANIFACE-System in den Alpen implementiert und evaluiert werden.
Der BESTBOT wurde in mehreren Medien thematisiert. In der ICTkommunikation vom 15. August 2018 war zu lesen: „Wie der Liebot ist der Bestbot ein vernetztes System, das z.B. Suchmaschinen und Lexika anzapft. Der Bestbot analysiert die Texteingaben des Users u.a. mit textbasierter Emotionserkennungssoftware. Zugleich wird Gesichtserkennung eingesetzt, wiederum mit Emotionserkennung. Wenn der Benutzer etwa angibt, dass es ihm gut geht, sein Gesicht aber anderes verrät, spricht der Chatbot diese Diskrepanz an.“ VRODO titelte am 10. September 2018 mit „Das Chatbot-Dilemma: Kann eine Maschine moralisch sein?“ und schrieb im Teaser: „Die Interaktion zwischen Mensch und Computer ist längst eine Sache der Moral, beispielsweise beim Tracking von Klicks. Zukünftige Mensch-Maschine-Schnittstellen setzen da noch etwas drauf: Sprache kann analysiert, das Gesicht gescannt und eine Bewegung registriert werden. Das verschärft das moralische Spannungsfeld.“ Die Zeitschrift hatte den BESTBOT getestet und ging ausführlich auf das System ein. Oliver Bendel, der Erfinder des Chatbots, ist der Meinung, dass sich in der moralischen Maschine eine unmoralische versteckt, nämlich eine, die die Freiheit des Benutzers bedroht.
Abb.: Versteckt sich in der moralischen Maschine eine unmoralische?
Das BESTBOT-Projekt startete am 22. März 2018. Nach den Vorgaben von Oliver Bendel wird das vierte Artefakt der Maschinenethik an der Hochschule für Wirtschaft FHNW geschaffen. Anders als der GOODBOT wird der BESTBOT ein webbasiertes System sein. Wie der LIEBOT aka LÜGENBOT soll der BESTBOT in Java programmiert werden, unter Zuhilfenahme der AIML. Der BESTBOT soll auf alle möglichen Anfragen und Herausforderungen reagieren können, auch auf solche, die in der Person des Benutzers liegen. Deshalb wird er erstens stark vernetzt sein, wie der LIEBOT, mit Systemen wie Suchmaschinen, mit Thesauri und Ontologien. Der GOODBOT war ein geschlossenes System mit einer Wissensbasis – er konnte nur begrenzt auf Probleme des Benutzers eingehen. Zweitens soll der BESTBOT Gesichtserkennung benutzen, auch Emotionserkennung. Auf diese Weise soll er Erkenntnisse zu Aussagen des Benutzers ergänzen und diese gegebenenfalls relativieren können. Die dabei auftretenden Probleme sollen ebenfalls reflektiert werden, mit Begriffen und Methoden der Informationsethik. Oliver Bendel stellt das BESTBOT-Projekt am 27. März 2018 an der Stanford University vor, im Rahmen der AAAI Spring Symposia.
