VON ANDREAS BRENNEIS (DARMSTADT)
„Ja, ja, es ist alles klar, es ist in Ordnung. Und nun stören Sie mich nicht, ich bin gerade hier am Compiler checken“ – mit diesen Sätzen umreißt Wolfgang Coy die Haltung, gegen die sich die Fallbeispiele in der Textsammlung „Gewissensbisse“ wenden. Darin werden fünfzig kleine Geschichten aus dem Kontext der Informatik vorgestellt, in denen das Gewissen sich melden könnte. Oder sollte. Die Fallbeispiele sollen Reizpunkte für Diskussionen sein – mit dem Ziel, den „ethischen Aushandlungsmuskel“ zu stärken. Das kann gelingen. Doch nachhaltiger Trainingserfolg ist am ehesten mit richtigen Trainingsmethoden zu erreichen.
Das Buch „Gewissensbisse. Fallbeispiele zu ethischen Problemen der Informatik“, erschienen open access 2023 bei transcript in der Edition Medienwissenschaft, liefert genau, was der Titel verspricht: Ein Team von acht Herausgeber:innen, allesamt mit einem Hintergrund in der Informatik, hat fünfzig Fallvignetten zusammengestellt, die zuvor schon auf der Webseite Gewissensbits veröffentlicht wurden. Diese bieten eine reichhaltige Grundlage für ethische Diskussionen, da sie die verschiedensten moralisch aufgeladenen Konstellationen darstellen, in denen das Denken von Informatiker:innen eine wichtige Rolle spielt. Es geht den Autor:innen des Buchs darum, dass der „gemeinsame Aushandlungsprozess des richtigen Handelns“ (12) erfahren, erprobt und letztlich auch eingeübt wird. Mit den Fallbeispielen wird Material zur Verfügung gestellt, das zu gemeinsamen Diskussionen des richtigen Handelns einlädt, um so „das Verständnis vom Verhältnis von Ethik zu Technik zu verbessern und – vielleicht am wichtigsten – den ethischen Aushandlungsmuskel zu trainieren“ (ebd.).
Eingerahmt sind diese Fallbeispiele durch einleitende Bemerkungen zu Fragen des richtigen Handelns und didaktische Hinweise für den Einsatz der Textsammlung in der Schule oder an Hochschulen sowie durch einen Anhang. In diesem finden sich vier spezifisch für die Informatik relevante Ethik-Kodizes, ein Abdruck der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen und der Wiederabdruck einer Rede von Wolfgang Coy, in welcher er die Bedeutung dialogischen Denkens für die Aufbereitung ethischer Konflikte reflektiert. Dieser Text („Kein Problem! Alles klar, oder…? Aufbereitung ethischer Konflikte in Dialogen“) kann selbst wiederum als Leitfaden für den Sammelband verstanden werden.
Coy setzt sich darin mit der Frage auseinander, wie sich ein zunächst womöglich abstrakt erscheinendes Thema wie die Ethischen Leitlinien der Gesellschaft für Informatik in der Lehre vermitteln lässt. Dazu rekapituliert er mit einiger Polemik die Ideengeschichte der Logik und der Lehre von den Argumenten als monologisches und monotones Denken, welches für logische Argumentationen reklamiere, keines Gegenübers zu bedürfen. Coy grenzt davon die Ansätze des Critical Thinking ab, mit denen sich lernen lasse, „wie man einerseits sauber logisch arbeitet und andererseits argumentativ offen bleibt und miteinander reden kann und wie aus dem Reden miteinander dann Erkenntnis und Konsens entsteht, gemeinsames Handeln möglich wird“ (198). Diese Auffassung bildet das Fundament des ethischen Programms, das dem Buch zugrunde liegt: „Die beherzte Diskussion, der respektvolle Austausch und nicht zuletzt die soziale Aushandlung sind wesentlicher Teil und Erkenntniskern des ganzen Prozesses.“ (13)
Innerhalb der Gesellschaft für Informatik (GI) hat die Fachgruppe Informatik und Ethik nach dieser Maßgabe den Diskursgedanken in die ethischen Diskussionen dieser Fachgesellschaft eingebracht, so dass auch die Ethischen Leitlinien der GI weniger als Regeln, sondern als Katalysatoren dienen sollen, um die Auseinandersetzung über ethische Konflikte einzugehen. Statt einfach über Vorgaben der Informatik-Community ethisches Handeln anzutragen, sollen die Mitglieder sich selbst in der Auseinandersetzung über ethische Konflikte üben. Der methodische Dreiklang hierzu lautet: „Analyse, Verständigung, Handeln“ – und das Programm dazu umfasst fünf Schritte: „Man muss die Problemstellung umreißen, man muss eine offene Fallbeschreibung machen, man muss eine fallbezogene Diskussion machen, man muss ein Resümee geben. Dann kann auch gehandelt werden.“ (201)
An diesem methodischen Programm setzen die fünfzig Fallbeispiele an: Die Beispiele erzählen immer kleine Geschichten, in denen ethische Konflikte durch die Augen von handelnden Personen dargestellt werden – und umreißen damit eine Problemstellung (Schritt 1). Durch ihre Gestaltung regen die Szenarien zum Mitdenken und -fühlen an, sodass man sich in die Figuren hineinversetzen und quasi durch ihre Augen erleben kann, was um sie herum vor sich geht. Durch die narrativen Elemente und den Lebensweltbezug fühlt man sich beim Lesen involviert und nimmt die verschiedenen Perspektiven und Facetten der Situation wahr, gerade auch die Stellen, an denen die Beteiligten Entscheidungen treffen und sich die Geschichte dadurch in eine bestimmte Richtung entwickelt.
Ein Beispiel kann das verdeutlichen: Einer der ältesten Fälle der Sammlung wurde zuerst 2011 veröffentlicht und hat seither durch generative KI-Systeme sogar noch an Aktualität gewonnen. Der Fall 3.28 („Maschinelle Hausarbeiten“) beschreibt folgende Konstellation: Ein Informatikstudent steht kurz vor dem Abgabetermin seiner Hausarbeit unter Zeitdruck und sein Mitbewohner (Geisteswissenschaftler mit Interesse an Informatik) bietet ihm Unterstützung an. Bei der Recherche stößt er auf ein Demonstrationstool einer Informatik-Dozentin mit Expertise in Information Retrieval und Data Mining. Damit lassen sich Exzerpte aus öffentlich zugänglichen Internetquellen inklusive korrekter Quellenangaben erstellen. Der Mitbewohner verfasst damit große Abschnitte der Hausarbeit, ohne zu erwähnen, dass die Zusammenfassungen nicht von ihm stammen. Im Gutachten werden stilistische Schwankungen und inkonsistente Begriffsverwendungen bemängelt, insbesondere in den zugelieferten Teilen. Auf Nachfrage gesteht der Mitbewohner schließlich, die Zusammenfassungen unverändert übernommen zu haben.
Die Fallbeispiele stammen aus erfreulich diversen Lebensbereichen. So verdeutlichen sie, wie allgegenwärtig informatische Anwendungen und damit zusammenhängende (ethische) Fragen sind. Immer wieder wird auch die soziale Eingebundenheit der Informationstechnik zum Thema, mitsamt der daraus resultierenden Notwendigkeit zur Reflexion von Technik als Teil soziotechnischer Systeme, z.B. wenn es um die Gesundheitsdaten von Prominenten geht wie in Fall 3.37 („Sensible Gesundheitsdaten“). Soziale Gruppen, individuelle Überzeugungen, Vertrauen, Misstrauen, Karrierechancen, Erfindergeist, Ökonomie, Ökologie – diese und viele weitere Aspekte finden sich reichhaltig in den Fallbeispielen. Da die Geschichten mit Schlagworten kategorisiert sind, erlaubt ein Index das Heraussuchen passender Fallbeispiele.
Zu jeder Vignette gibt es eine Reihe an Fragen, mit denen das Thema entweder hinsichtlich bestimmter Problemaspekte vertieft oder mit denen die Geschichte weiter kontextualisiert wird. Die Fragen zu Fallbeispiel 3.40 („Statistische Irrungen“), wo es um automatisierte Gesichtserkennung an Flughäfen geht, zielen beispielsweise u.a. darauf ab, ob und wie alltäglich stattfindende Diskriminierungen durch den Einbezug von Softwaresystemen reduziert werden könnten oder ob es einen prinzipiellen Unterschied gibt zwischen der Diskriminierung durch Menschen und der durch Maschinen. Spätestens durch die Fragen wird die offene Fallbeschreibung (Schritt 2) in eine offene Diskussion (Schritt 3) überführt. Da die Geschichten Interpretationsspielräume lassen, können diese beiden Schritte nicht immer sauber getrennt werden und mitunter gehört es zur Diskussion, verschiedene Aspekte eines Falls zu beschreiben und zu gewichten. Ein Resümee (Schritt 4) kann das Ergebnis einer Diskussion sein. Inwieweit dadurch Handlungen (Schritt 5) in der Gegenwart oder der Zukunft beeinflusst werden, kann an dieser Stelle offenbleiben.
Die Fallbeispiele zeichnen sich durch eine hohe Sachnähe aus und bieten zahlreiche Anknüpfungspunkte für eigenständige moralische Überlegungen. Allerdings gibt das Buch nur wenige Hinweise darauf, wieso etwas moralisch fraglich ist und wie man damit umgehen könnte. Das überrascht nicht, da es Diskussionen vor allem anstoßen soll – eine Funktion, die es gut erfüllt. Betrachtet man diesen Ansatz als eine Hinführung zu ethischen Problemen, wird zugleich deutlich, was dem Buch ergänzend noch gutgetan hätte: eine stärkere Einbettung der dargestellten Problemkonstellationen in die fachlichen Debatten der Informatik und der Ethik. Ein Verzeichnis mit weiterführender Literatur zu den aufgeworfenen ethischen Fragen wäre besonders hilfreich gewesen, um eine vertiefte Auseinandersetzung mit den zugrunde liegenden Problemen zu ermöglichen. Viele der aufgeworfenen Fragen sind bereits Gegenstand substanzieller Debatten und viel diskutierter Argumente. Ohne eine Einbettung in die etablierten Debatten bleiben die Fälle etwas freischwebend, obwohl eine solche Verankerung didaktisch und fachlich sinnvoll wäre. Auch rechtliche Verweise wären nützlich gewesen. Einerseits ist es wertvoll, ethische Fragen unabhängig von juristischen Vorgaben zu reflektieren. Andererseits regeln Vorschriften wie die DSGVO oder die KI-Verordnung der EU durchaus Aspekte der behandelten Fälle.
Interessant ist auch das Titelwort „Gewissensbisse“, das den Ansatz des Buches unterstreicht, die Fallbeispiele und die sich daran anschließenden Fragen aus individuellen Perspektiven zu betrachten. Denn es sind einzelne Personen, die Gewissensbisse haben – oder eben nicht. Diese Fokussierung auf das Individuum ist sowohl aus narrativen wie auch didaktischen Gründen nachvollziehbar, stellt jedoch gleichzeitig andere moralische und politische Institutionen zunächst in den Hintergrund. Daher ist es umso wichtiger, dass in den Beispielen auch andere Instanzen wie Recht und Gesetz oder zivilgesellschaftliche Akteure eine Rolle spielen – denn Ethik setzt nicht nur am einzelnen Gewissen an.
Zum Training des „ethischen Aushandlungsmuskels“ kann das Buch so einen wertvollen Beitrag leisten. Es spricht dabei, um die Metapher aufzugreifen, verschiedene Muskelgruppen an, die gemeinsam wichtig sind und die in der Didaktik der Ethik und Philosophie oft als Dreischritt von Sehen, Urteilen und Handeln gefasst werden (vgl. z.B. Petermann 2007). Dieses Zusammenspiel aufeinander aufbauender Tätigkeiten lässt sich sogar schon bei Aristoteles finden, der in seiner Metaphysik die Fähigkeiten (982a7) und die Haltungen von Philosophierenden (982b12) beschreibt, die zu einer Fähigkeit der bewussten – und somit auch ethisch reflektierten – Lebensführung beitragen.
Für das ethische Muskeltraining können die Fallbeispiele nützlich sein, insofern sie Reize setzen. Durch Analyse und Verständigung werden Fähigkeiten aufgebaut, nicht zuletzt auch „eine […], die Informatikerinnen und Informatiker unbedingt brauchen: dass sie verstehen, wo ihre Systeme eingesetzt werden, wofür ihre Systeme eingesetzt werden und was schiefgehen kann“ (202). Um darüber in den Austausch zu kommen und diesen einzuüben, dafür ist das Buch entsprechend seiner Grundidee gut geeignet, nach der „erst mit der Auseinandersetzung mit dem Text in einer Gruppe, in der Diskussion und dem Austausch von unterschiedlichen Meinungen […] Fallbeispiele ihre volle Wirkung“ (17) entfalten. Wenn die Fallbeispiele zudem in einen Plan integriert werden, der auch moralphilosophische Zusatzlektüren umfasst, und man ferner schaut, ob es passende Trainingsgruppen gibt (also Gespräche mit anderen gesucht werden), dann lassen sich kräftige Muskeln aufbauen. Für die Philosophiedidaktik können die Fallbeispiele aus dem Spektrum der Informatik aus mindestens zweierlei Gründen wertvoll sein. Zum einen können sie als Anschauungsmaterial bezüglich mehr oder minder realistischer Situationen dienen, in denen sich der Bedarf für ethische Klärung offenbart. Für Seminardiskussionen, Unterrichtsentwürfe, Reihenplanungen, Materialanalysen und dergleichen mehr findet sich in der Sammlung reichhaltiges Material an Fallvignetten. Zum anderen laden die einzelnen Beispiele aber auch zu einem interdisziplinären Gespräch ein, in dem die versäumten Anbindungen an ethische Traditionen und Diskurse gemeinsam nachgetragen werden können: Da auf der Gewissensbits-Webseite eine Kommentarfunktion bereitsteht, könnte es ein ebenso lohnendes wie leicht umsetzbares Unterfangen sein, sie in diesem Punkt zu kontextualisieren und anzureichern. Vielleicht ja sogar gemeinsam mit Studierenden in einem Seminar?
Literatur
Petermann, Hans-Bernhard (2007): Philosophieren und kompetenzorientierte Bildung. In: Johannes Rohbeck (Hrsg.): Hochschuldidaktik Philosophie. Dresden: Thelem, S. 32-55.
Class, Christina, Coy, Wolfgang, Kurz, Constanze, Obert, Otto, Rehak, Rainer, Trinitis, Carsten, Ullrich, Stefan, & Weber-Wulff, Deborah (Hrsg.) (2023): Gewissensbisse. Fallbeispiele zu ethischen Problemen der Informatik. Bielefeld: transcript. Open Access.
Zur Person
Andreas Brenneis ist Philosoph und Erziehungswissenschaftler. Er arbeitet am Institut für Philosophie der Technischen Universität Darmstadt sowie am Zentrum verantwortungsbewusste Digitalisierung. Dort hat er zuletzt Normordnungen und Forschungsethik Künstlicher Intelligenz sowie die Rolle von Big Data in der Arbeit von Sicherheitsbehörden erforscht. Und er mag Didaktik.
Veröffentlicht unter der Creative Commons Lizenz CC BY-NC-SA 4.0.
Kommentare? Gern veröffentlichen wir selbst sehr kurze Repliken als eigene Beiträge. Mehr dazu unter Hinweise für Beitragende.