Ende März 2024 ist der Band „Generative Künstliche Intelligenz: ChatGPT und Co für Bildung, Wirtschaft und Gesellschaft“ erschienen. Herausgeber sind Prof. Dr. Sabine Seufert und Prof. Dr. Siegfried Handschuh von der Universität St. Gallen. Sie informieren wie folgt: „Generative Künstliche Intelligenz beschreibt eine Klasse von KI-Systemen, die in der Lage sind, aus großen Datenmengen zu lernen und auf dieser Grundlage neue, bisher nicht gesehene Inhalte zu generieren, wie beispielsweise Texte, Bilder, Musik oder Videos. Dabei wird die Generierungskapazität der KI mit dem Ziel eingesetzt, kreative Prozesse zu unterstützen, neue Ideen zu generieren und innovative Lösungsansätze zu liefern. Trotz ihrer beeindruckenden Fähigkeiten haben generative KI-Systeme auch ihre Herausforderungen, wie die Kontrolle über den generierten Inhalt, das Verständnis von Kontext und Bedeutung sowie ethische Fragen im Zusammenhang mit der Nutzung von generativer KI. Der Band gibt einen Überblick über generative KI-Systeme und beleuchtet die Auswirkungen auf das Management von Innovationen, Wirtschaft, Bildung und Gesellschaft.“ (Website Verlag) Im Band enthalten ist der Beitrag „Generative KI aus ethischer Sicht“ von Prof. Dr. Oliver Bendel. Weitere Informationen über shop.haufe.de/prod/generative-kuenstliche-intelligenz.
Abb.: Ein schwarzer Arzt ist oft nicht vorgesehen (Bild: DALL-E 3)
On March 26, 2024, Oliver Bendel (School of Business FHNW) gave two talks on generative AI at Stanford University. The setting was the AAAI Spring Symposia, more precisely the symposium „Impact of GenAI on Social and Individual Well-being (AAAI2024-GenAI)“. One presentation was based on the paper „How Can Generative AI Enhance the Well-being of the Blind?“ by Oliver Bendel himself. It was about the GPT-4-based feature Be My AI in the Be My Eyes app. The other presentation was based on the paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ by Stefanie Hauske (ZHAW) and Oliver Bendel. The topic was GPTs used for self-regulated learning. Both talks were received with great interest by the audience. All papers of the AAAI Spring Symposia will be published in spring. The proceedings are edited by the Association for the Advancement of Artificial Intelligence itself.
Zu @llegra, einem Chatbot für Vallader, liegt seit 10. September 2023 ein Video vor. Vorgeführt wird ein kurzes Gespräch mit Texteingabe und -ausgabe sowie Sprachausgabe. Conversational Agents sind seit einem Vierteljahrhundert ein Forschungsgegenstand von Prof. Dr. Oliver Bendel. Ihnen widmete er seine Doktorarbeit an der Universität St. Gallen. An der Hochschule für Wirtschaft FHNW entstanden sie von 2012 bis 2022 vor allem im Kontext der Maschinenethik und Sozialen Robotik. Der Technikphilosoph und Wirtschaftsinformatiker widmet sich seit einiger Zeit verstärkt toten, ausgestorbenen und gefährdeten Sprachen. Nach @ve (2022), einem auf GPT-3 basierenden Chatbot für Latein, startete im März 2023 ein weiteres Projekt. Entwickelt wurde bis August 2023 der Chatbot @llegra von Dalil Jabou für das rätoromanische Idiom Vallader, das im Unterengadin zwischen Martina im Nordosten und Zernez im Südwesten sowie im Val Müstair auftritt und gefährdet ist. Der Chatbot mit einem Steinbock als Avatar beruht auf dem Sprachmodell GPT-4. Das hat den Vorteil, dass er von Haus aus mächtig ist, und den Nachteil, dass man ihn noch nicht mit eigenem Material trainieren kann – was sich erst Ende des Jahres ändert. Entsprechend rutscht @llegra immer wieder in Sursilvan und Rumantsch Grischun, wenn sie auf Vallader nicht weiterweiß. Das kann freilich auch Menschen passieren, die gerade von Flims nach Scuol gezogen sind und regelmäßig RTR gesehen oder gehört haben. Das Video kann über YouTube aufgerufen werden.
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
Seit März 2023 wird im Auftrag von Prof. Dr. Oliver Bendel der Chatbot @llegra für das rätoromanische Idiom Vallader entwickelt, das im Unterengadin zwischen Martina im Nordosten und Zernez im Südwesten sowie im Val Müstair auftritt und gefährdet ist. Der Entwickler Dalil Jabou hat auf das Sprachmodell GPT-4 gesetzt und alle wesentlichen technischen Probleme gelöst. Der Benutzer kann Text in Englisch, Deutsch oder Rätoromanisch eintippen und bekommt Text in Vallader ausgegeben. Zudem spricht @llegra das Idiom mit Hilfe eines Text-to-Speech-Systems der Firma SlowSoft aus Zürich. Ein kleiner Test mit einem Experten fand bereits statt und führte zu einer ersten Verbesserung. Oliver Bendel war am 9. Juli mit @llegra im Unterengadin unterwegs und suchte nach einer Testperson mit Vallader als Muttersprache. In Tarasp Fontana bei Scuol sprach er mehrere ältere Frauen an. Eine verwies auf eine Dame von vielleicht 78 Jahren, die sich in der Nähe befand und gerade vom Nordic Walking kam. Die Vallader-Sprecherin hörte sich die Antwort des Chatbots auf eine Frage zu Tarasp an und begann ungefragt, das Gesprochene ins Deutsche zu übersetzen. Dann wurde @llegra gefragt, ob sie Scuol kennt. Sie gab wiederum in Vallader eine längere Auskunft. Die ältere Dame bestätigte, dass die Aussprache gut und der Inhalt verständlich ist. Sie begann zu strahlen und fragte, ob es sich um künstliche Intelligenz handle. Oliver Bendel bestätigte dies, strahlte ebenfalls, fuhr weiter und ließ sich von @llegra in Scuol noch Informationen zum dortigen Museum d’Engiadina Bassa geben. Das Projekt wird im August 2023 abgeschlossen. Die Ergebnisse werden danach veröffentlicht.
Chatbots und Sprachassistenten – sogenannte Conversational Agents – entstanden an der Hochschule für Wirtschaft FHNW von 2012 bis 2022 vor allem im Kontext der Maschinenethik und Sozialen Robotik. Prof. Dr. Oliver Bendel möchte sich nun verstärkt um tote, ausgestorbene und gefährdete Sprachen kümmern. @ve ist ein erster Versuch in dieser Richtung. Gewonnen werden konnte dafür im September 2022 der Entwickler Karim N’diaye. Er stellte am 17. November 2022 an der Hochschule die Zwischenergebnisse vor. Der Chatbot basiert auf GPT-3, einem Sprachmodell, das Deep Learning einsetzt, um natürlichsprachliche Fähigkeiten zu erlangen. Das neuronale Netzwerk weist etwa 175 Milliarden Parameter auf, was einen Rekord darstellt. Kombiniert mit einer Wissensdatenbank, welche Informationen über die lateinische Sprache enthält, kann @ve präzise Antworten auf Benutzeranfragen generieren. Mit ihr kann man also auf Lateinisch plaudern und etwas darüber erfahren. Weitere Projekte mit Chatbots und Sprachassistenten ab 2023 sollen sich gefährdeten und aussterbenden Sprachen widmen. Latein wird an vielen Schulen und Hochschulen gelehrt und immer noch für das eine oder andere Studium – etwa der Philosophie – vorausgesetzt respektive gewünscht. Mit „Romulus“ hat Sky Italia eine Serie in dieser toten Sprache produziert und sie damit ein Stück weit lebendig gemacht. In Deutschland ist sie auf Magenta TV mit Untertiteln zu sehen. Informationen zu @ve werden Ende Dezember 2022 über www.ave-bot.ch bereitgestellt.
„Der Begriff der Digitalisierung taucht täglich in den Medien, in Reden von Politikern und in wissenschaftlichen Beiträgen auf. Er fasziniert, inspiriert und irritiert, er wird bejubelt und bekämpft. Die Definition im vorliegenden Lexikon will ihn nüchtern betrachten, und um ihn vollständig auszuleuchten, gesellen sich zu ihr weit über 450 weitere Einträge. Nach einer kursorischen oder auch intensiven Lektüre sollte man soweit informiert sein, dass man dem Diskurs zur Digitalisierung folgen, oder sogar soweit, dass man ihn selbst beeinflussen kann.“ Mit diesen Worten beginnt das Vorwort des Buchs „450 Keywords Digitalisierung“ von Oliver Bendel, das im August 2022 bei Springer Gabler erscheint. Mit seinen über 300 Seiten und seinen über 450 Beiträgen deckt es die wesentlichen Bereiche der Digitalisierung ab. Das Vorgängerwerk „350 Keywords Digitalisierung“ hat seit 2019 allein bei SpringerLink über 170.000 Zugriffe erzielt. Dazu kommen Verkäufe über den Buchhandel. Damit gehört es zu den erfolgreichsten Lexika in diesem Bereich. In dem neuen Werk werden neben der Grundlagenterminologie zahlreiche neue oder der breiten Öffentlichkeit nicht geläufige Begriffe wie „Digitaler Zwilling“, „Non-Fungible Token“, „Smart Farming“ und „Uncanny Valley“ erklärt. Auch das Verlags- und Publikationswesen ist nun breiter abgedeckt. Erste Informationen sind über diverse Plattformen erhältlich.
Abb.: Auch Virtual Reality ist immer wieder ein Thema
Ende April 2022 ist das Lexikon „110 Keywords Wirtschaftsethik“ von Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Prof. Dr. Nick Lin-Hi (Universität Vechta) und Prof. Dr. Andreas Suchanek (Handelshochschule Leipzig) im Verlag Springer Gabler erschienen. Aus dem Klappentext: „Von ‚Aktivist‘ über ‚Nachhaltigkeit‘ bis zu ‚Zensur‘: Im Kontext der Wirtschaftsethik gibt es unzählige Fachtermini und Abkürzungen. Das vorliegende Nachschlagewerk eignet sich für den ersten schnellen Überblick. Anhand von 110 übersichtlichen Schlüsselbegriffen werden die Grundlagen erläutert. Die Erklärungen sind kompakt und verständlich formuliert und bieten Basiswissen für alle, die einen schnellen Einstieg in das Thema Wirtschaftsethik suchen, einzelne Begriffe nachschlagen oder ihr vorhandenes Wissen auffrischen möchten.“ (Verlagsinformation Springer) Von Oliver Bendel stammen vor allem Begriffe aus Informations-, Roboter- und Maschinenethik sowie aus dem Bereich von Technik und Gesellschaft. Nick Lin-Hi und Andreas Suchanek decken Wirtschaftsethik und speziell Unternehmensethik ab. Das Buch hat ca. 110 Beiträge und 161 Seiten. Weitere Informationen über link.springer.com/book/9783658363840.
„Der Begriff der digitalen Ethik (‚digital ethics‘) ist ebenso erfolgreich wie uneindeutig. Die einen verweisen damit auf einen Teilbereich der Informationsethik, die anderen – mit dem Ziel einer Neubenennung – auf die Gesamtheit dieser Bereichsethik, womöglich unter Einbeziehung der Medienethik. Wieder andere fassen darunter ein zu konstruierendes normatives System, das für die Informationsgesellschaft oder auch speziell für die Wirtschaft (nicht nur für KI-, IT- und Internetfirmen) zu gelten habe, was mit Aussagen wie ‚Wir brauchen eine digitale Ethik‘ verbunden wird. Nicht zuletzt kann die Moral der Informationsgesellschaft gemeint sein, wobei dann – wie es häufig im Englischen der Fall ist – die Begriffe von Ethik und Moral nicht scharf getrennt werden.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel, der im Dezember 2020 im Gabler Wirtschaftslexikon erschienen ist. Es wird die Beziehung zu verschiedenen Bereichsethiken und zur Maschinenethik hergestellt, der Hintergrund (samt der Entwicklung) des Begriffs dargestellt und am Ende nochmals dessen Potenzial bzw. Problematik erläutert. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/digitale-ethik-121185 aufgerufen werden.
Abb.: Auch VR kann man innerhalb der Ethik behandeln
Die Mitglieder der Ethikkommissionen der Schweiz sind zu der diesjährigen Weiterbildung mit dem Thema „Künstliche Intelligenz in der Humanforschung – Wissenschaftliche, rechtliche und ethische Herausforderungen“ ins Landesmuseum Zürich eingeladen. Die Veranstaltung wird durchgeführt von swissethics, der Dachorganisation der Kantonalen Ethikkommissionen. Sie wird eröffnet von Prof. Dr. Julia Vogt (ETH Zürich). Ihr Vortrag trägt den Titel „Künstliche Intelligenz: eine wissenschaftliche Herausforderung in der Forschung“. Danach spricht Prof. Dr. med. Adrian Egli (Universitätsspital Basel) über „Herausforderungen künstlicher Intelligenz in der Mikrobiologie“. Nach der Pause geht es um „Apps, Algorithmen und Roboter in der Medizin: Haftungsrechtliche Herausforderungen“ – das Gebiet von Prof. Dr. iur. Corinne Widmer Lüchinger (Universität Basel). Den Abschluss bildet der Vortrag von Prof. Dr. oec. HSG Oliver Bendel (Hochschule für Wirtschaft FHNW) mit dem Vortrag „Maschinenethik – Informationsethik: welche ethischen Herausforderungen sind relevant?“ Das Programm kann hier aufgerufen werden. Weitere Informationen über www.swissethics.ch/aus-fortbildung/fuer-ek-mitglieder.
Der Vortrag „Serviceroboter aus der Perspektive der Ethik“ von Prof. Dr. Oliver Bendel am 12. März 2020 an der ZHAW in Wädenswil war der erste Vortrag im Forum des Frühjahrssemesters – und wegen COVID-19 wohl auch der letzte. Roboter waren lange Zeit besondere Maschinen, die in Käfigen in Fabriken eingesperrt und als Werkzeuge für bestimmte Aufgaben verwendet wurden, sei es zur Bombenentschärfung oder zur Umfelderkundung, auf der Erde wie auf dem Mond. Nur wenige Menschen bekamen sie zu Gesicht. Seit der Jahrtausendwende ändert sich das drastisch. Zuerst waren es Saug-, Mäh- und Poolroboter, die uns unterstützt und an die wir uns gewöhnt haben. Sie helfen uns im Haushalt und im Außenbereich, sozusagen in „geschlossenen“ und „halboffenen“ Welten. Inzwischen sind immer mehr Serviceroboter in „offenen“ Welten anzutreffen. Sie sind an Orten unterwegs, die wir uns teilen bzw. die öffentlich sind. Dabei stellen sich – vor allem, aber nicht nur bei sozialen Robotern – diverse Herausforderungen. Diese thematisierte der Vortrag, in moralischer und sozialer Hinsicht, und er schlug Lösungen u.a. auf ethischer, technischer und organisationaler Ebene vor. Das Video des Vortrags kann hier aufgerufen werden.
Bereits im Buch „300 Keywords Informationsethik“ (2016) von Oliver Bendel und dann im Nachfolgewerk „400 Keywords Informationsethik“ (2019) war erklärt worden, was schwarze Schwäne sind. Dabei war auch ein Bezug zur Maschinenethik und zu Technik- und Informationsethik hergestellt worden: „Moralische Maschinen können als schwarze Schwäne angesehen werden. Tauchten sie lange Zeit nur in Science-Fictions auf und hielten die meisten Menschen ihre Umsetzung für unmöglich, werden sie nun von der Maschinenethik konzipiert und implementiert. Technik- und Informationsethik berücksichtigen schwarze Schwäne in Technikgeschichte und Informationsgesellschaft.“ Eine grundlegende und ausführliche Definition des gleichen Autors findet sich nun im Gabler Wirtschaftslexikon. Der Begriff geht bekanntlich auf Publikationen von Nassim Nicholas Taleb zurück, nämlich auf „Fooled By Randomness“ (2001) und „The Black Swan“ (2007), das Bild auf Juvenal, der in den Satiren VI eine treue Ehefrau mit dem schwarzen Schwan vergleicht, der in der Antike in Europa unbekannt war. Aber was man mit ihm heute verbindet und ob COVID-19 damit zu tun hat, kann über wirtschaftslexikon.gabler.de/definition/covid-19-122147 nachgelesen werden.
Die Euroforum-Konferenz „Automatisation & Data Analytics: Praktische Nutzung von KI in Versicherungen“ findet am 12. und 13. März 2020 in München statt. „Robotics und KI gesteuerte Prozessautomatisierung bieten der Assekuranz sowohl im Antrags- als auch Schadenmanagement die Chance zur Erhöhung von Qualität, Effizienz und Kundenzufriedenheit. Am ersten Konferenztag stellen Experten der Versicherer Allianz, VKB, Cosmos, Gothaer und das Start-up Joonko erfolgreiche Automatisierungsprojekte vor, berichten über ihre Umsetzungserfahrungen und geben Tipps und Tricks.“ (Website Konferenz) „Zukünftig wird ein Versicherer, der es schafft, eine gute Datenaufbereitung, -Qualität und -Sicherheit herzustellen, entscheidende Wettbewerbsvorteile haben. Doch bisher hängen die Daten der Versicherer unstrukturiert in Silos fest und können nicht für KI-Systeme genutzt werden. Am zweiten Konferenztag zeigen Experten von Google, Allianz, Markel, Coya und getsafe auf, wie Versicherer ihre Datensilos aufbrechen und aktivieren können.“ (Website Konferenz) Auch Wissenschaftlerinnen und Wissenschaftler geben Input. Dr. Andrea Cornelius spricht über die „Einführung von KI-Projekten“, Prof. Dr. Oliver Bendel über „KI und Big Data in der Versicherung aus ethischer Sicht“. Der Flyer kann hier heruntergeladen werden.
„‚Smarte‘ Technologien halten Einzug in unseren Alltag, mit allen Chancen, Risiken und Nebenwirkungen. Häufig sind wir uns gar nicht mehr bewusst, wo im Hintergrund bereits entsprechende Systeme agieren oder welche Effekte das zum Beispiel auf die Stabilität des Stromnetzes hat. Einem besonderen Bereich der smarten Unterstützung widmete sich das 23. Kolloquium der Daimler und Benz Stiftung am 22. Mai 2019 in Berlin: ‚Roboter in der Pflege – Wer hilft uns, wenn wir hilflos sind?'“ (Newsletter Spektrum, 25. November 2019) Eine Auswahl dieser Beiträge sowie zu Smart Living findet man in dem neuen Spektrum Kompakt. Dieses ist seit dem 25. November 2019 online erhältlich. Die Beiträge stammen von Prof. Dr. Oliver Bendel, dem wissenschaftlichen Leiter des 23. Berliner Kolloquiums, Prof. Dr. Susan L. Anderson, einer der bekanntesten Maschinenethikerinnen, und den Pflegeexperten Dr. Karsten Schwarz und Prof. Dr. Patrick Jahn. Das Heft kann drei Monate lang kostenlos über www.spektrum.de/pdf/spektrum-kompakt-smart-living/1675504 heruntergeladen werden. Ohne zeitliche Beschränkung steht „Weder Heilsbringer noch Vorboten des Weltuntergangs“ von Oliver Bendel hier kostenlos zur Verfügung.
Laut NZZ und anderen Medien soll Genf „ein Ethikzentrum für die digitale Gesellschaft werden“ (NZZ, 15. August 2019). Am 2. September soll beim Swiss Global Digital Summit eine neue „Plattform“ gegründet werden, präsidiert von der ehemaligen Bundesrätin Doris Leuthard (CVP), heute u.a. Verwaltungsrätin der Bell Food Group AG, einer Fleischverarbeiterin. Führungsleute von „namhaften Unternehmen“ hätten sich angemeldet, unter ihnen „die CEO von Adecco, Credit Suisse, UBS, Migros, Roche, SwissRe, Zurich Insurance, Swisscom und SBB“ (NZZ, 15. August 2019). Mit dabei seien auch die Präsidenten der Hochschulen ETHZ und EPFL sowie Vertreter aus den Chefetagen von Google, Huawei, IBM, Microsoft, Uber und Siemens. Die Grundhaltung und Stoßrichtung wird offenbar klar und deutlich vorgegeben. Es geht laut NZZ „darum, im optimistischen Geist des technischen Fortschritts ethische Standards zu formulieren, um die heiklen Aspekte der rasanten Entwicklung zu meistern“. „Stichworte dafür sind künstliche Intelligenz, die Automatisierung sowie die Ansammlung und Verwendung persönlicher Daten. Dafür sollen Lösungen im marktwirtschaftlich-freiheitlichen Sinn gefunden werden, die eine internationale Strahlkraft entwickeln.“ (NZZ, 15. August 2019) Wie auf EU-Ebene besteht die Gefahr der Instrumentalisierung der Ethik und der Vereinnahmung der Wissenschaft durch politische und wirtschaftliche Kräfte. Als Moralphilosoph wird man der Einrichtung eher skeptisch gegenüberstehen.
„Die britische Elite-Universität Oxford hat eine Spende in Höhe von 150 Millionen Pfund (rund 168 Millionen Euro) von US-Milliardär Stephen A. Schwarzman erhalten. Mit der höchsten Einzelspende in der Geschichte der Hochschule soll das ‚Stephen A. Schwarzman Centre‘ für Geisteswissenschaften entstehen.“ (SPON, 19. Juni 2019) Dies meldete der Spiegel am 19. Juni 2019. Weiter heißt es: „In dem Gebäude sollen unter anderem die Fakultäten für … Geschichts- und Sprachwissenschaften, Philosophie, Musik und Theologie zusammengelegt werden. Rund ein Viertel aller Oxford-Studenten sind in diesen Fächern eingeschrieben. Zusätzlich soll dort ein neues Institut für Ethik im Umgang mit Künstlicher Intelligenz entstehen, wie die Universität mitteilte.“ (SPON, 19. Juni 2019) Der Schwerpunkt scheint auf Informations- und Roboterethik zu liegen. Schwarzman selbst sagte laut Spiegel, Universitäten müssten dabei helfen, ethische Grundsätze für den schnellen technologischen Wandel zu entwickeln. Über die Herkunft der Mittel wird debattiert. Weitere Informationen über www.spiegel.de/lebenundlernen/uni/oxford-elite-uni-erhaelt-150-millionen-pfund-spende-a-1273161.html.
Abb.: Lexikon zur Wirtschaftsethik erschienen
