Beurteilen – Entscheiden – Gestalten Künstliche Intelligenz als ethische Herausforderung – drei Unterrichtsideen für den Religionsunterricht im Jahrgang 9/10

1. Medienbildung und Künstliche Intelligenz

1.1 Medienbildung in der Schule

Medien schaffen in einem bisher nie dagewesenen Ausmaß an Möglichkeiten des Lernens und der Bildung. Sie beeinflussen aber auch die „Weltaneignung“ von Kindern und Jugendlichen, ihre Realitätsvorstellungen, Emotionen sowie Verhaltens- und Werteorientierungen.
Schule versucht, diesen Herausforderungen mit Aktivitäten zu begegnen, die unter dem Begriff „Medienbildung“ zusammengefasst werden. Häufig liegt dabei jedoch ein verkürztes Verständnis von Medienbildung vor, da es oftmals „nur“ um die bloße Anwendung von konkreten Medienangeboten geht (Lernen mit Medien). Medienbildung ist aber „mehr als der kompetente Umgang mit Technik und Standardsoftware“¹.
Wie dieses „mehr“ verstanden werden kann, zeigt sich z. B. innerhalb eines handlungs- und entwicklungsorientierten Ansatzes zur Medienbildung²: Neben der reflektierten Nutzung von Medien sowie der Gestaltung und Präsentation von eigenen medialen Produkten umfasst Medienbildung insbesondere auch kritisch-reflexiv angelegte Aufgabenbereiche:

• Analysieren und Einschätzen von Gestaltungsmerkmalen und Prozessen der Erzeugung medialer Botschaften,
• Erkennen und Aufarbeiten von Medieneinflüssen auf Individuum und Gesellschaft,
• Verstehen und Bewerten der Medienlandschaft,
• Durchschauen und Beurteilen von Bedingungen der Medienproduktion und -verbreitung.

Es wird also deutlich, dass es im Bereich von Medienbildung nicht nur um ein Lernen mit Medien geht, sondern auch um ein Lernen über Medien. Ziel ist es, Kinder und Jugendliche in ihrer Bildung so zu unterstützen, dass sie sachgerecht, selbstbestimmt, kreativ und sozial verantwortlich in einer von Medien mitgestalteten Welt handeln können.³ Insbesondere die Entwicklungen im Bereich Künstlicher Intelligenz (KI) eröffnen hierbei vielfältige Chancen für ein reflektiertes Lernen über Medien sowie (medien-)ethische Fragestellungen und Reflexionen.⁴

Medienbildung und sozial verantwortliches Handeln
In der digitalen Welt stellt die Vielzahl an oft divergierenden Informationen, widersprüchlichen Weltanschauungen und miteinander konkurrierenden Wertvorstellungen für Kinder und Jugendliche eine große Herausforderung dar. Die Zielperspektive eines sozial verantwortlichen Handelns erweist sich in diesem Zusammenhang als „wichtiges Korrektiv“⁵:
Eine schulische Medienbildung, die sozial verantwortliches Handeln fördert, hilft Schüler*innen dabei, eigene Werte zu entwickeln und sich kritisch mit moralischen Fragen auseinanderzusetzen. So lernen sie, reflektierte Urteile zu fällen, vernünftige Entscheidungen zu treffen und verantwortungsvoll zu handeln – insbesondere im Umgang mit Medien und KI.
Notwendig dafür ist ein Urteilsvermögen, das über reine Regelbefolgung hinausgeht und auf einer kritisch-reflexiven Haltung beruht, um eigene Entscheidung vertieft zu begründen.

Medienbildung und der Beitrag der Religionspädagogik
Religion als ein Modus der Welterschließung bietet für eine werteorientierte Medienbildung, insbesondere für sozial verantwortliches Handeln, wertvolle Impulse, da ihr ethische Fragestellungen zutiefst eigen sind. Von besonderer Bedeutung ist dabei das Konzept der „Gottesebenbildlichkeit“ (Gen 1,27), welches die unantastbare Würde und den einzigartigen Wert des Menschen hervorhebt – und damit als Grundlage für christliche Werte und sozial verantwortliches Handeln in einer von KI geprägten Welt dienen kann.
Bei der medienethischen Auseinandersetzung mit KI sind die christlichen Begriffe von Menschenwürde, Freiheit, Autonomie und Verantwortung entscheidende Leitwerte.⁶ Medienbildung, die sich an christlichen Werten orientiert, gibt Jugendlichen Orientierung, fördert reflektiertes Urteilen und hilft ihnen, begründete Entscheidungen zu treffen. So führt sie zu einem Handeln in „vernünftiger Freiheit“ und unterstützt die bewusste Auseinandersetzung mit sich selbst, der Welt und der eigenen Identität.

1.2 Ethische Problemfelder aus dem Bereich KI

Aus mediendidaktischer Sicht sollten für den Unterricht KI-Themen so ausgewählt werden, dass mit ihnen grundlegende Prinzipien von KI allgemeingültig erklärt sowie medienethische Fragen exemplarisch aufgezeigt werden können. Diese Themenauswahl hilft den Schüler*innen, auch mit zukünftigen Entwicklungen im Bereich KI umgehen zu können.
Als mögliche ethische Problemfelder bieten sich die Erzeugung und Nutzung von Daten, das Verhältnis von Mensch und Maschine sowie der Umgang mit KI-generierten Fake-News an.⁷

Ethisches Problemfeld: Datenerzeugung und Datennutzung
Künstliche Intelligenz basiert wesentlich auf der Analyse großer Datenmengen (Big Data), um Muster zu erkennen und Entscheidungen zu treffen. Hinsichtlich der Neutralität und Objektivität der Datensätze bleibt aber fraglich, wie diese Datensätze entstehen oder wie mit persönlichen Daten verantwortungsvoll umgegangen wird. Ein Problem sind bspw. sogenannte „Bias“, also Vorurteilstendenzen in den Daten, die etwa nach Geschlecht oder Ethnie benachteiligen können, weil die Trainingsdaten eine solche Tendenz widerspiegeln. Darüber hinaus ist eine „KI-Antwort“ letztlich nur ein Output, der die größte mathematische Wahrscheinlichkeit hat – und teilweise auch von Halluzinationen geprägt ist.⁸
Somit stellt sich die Frage, wie vertrauenswürdig und verlässlich die KI-Entscheidungen sind und wie (sozial) verantwortlich damit umgegangen werden kann.

Ethisches Problemfeld: Mensch und Maschine
Maschinen mit KI werden immer autonomer und leistungsfähiger. Sie treffen Entscheidungen in Echtzeit und erkennen Sprache, Emotionen und Gestik, um individuell auf Menschen einzugehen. Dadurch haben sie Einfluss auf menschliche Tätigkeits- und Verantwortungsbereiche und es entsteht eine engere Zusammenarbeit: Maschinen übernehmen wiederholende oder gefährliche Aufgaben, steigern die Effizienz, entlasten Menschen körperlich und unterstützen bei Entscheidungen, z. B. in der Medizin, indem sie präzisere Analysen und Prognosen liefern.
Dies wirft bspw. die ethische Frage auf, in welchem Ausmaß KI-Maschinen Teil des Zwischenmenschlichen werden dürfen.

Ethisches Problemfeld: Fake-News und Wahrheiten
Fake News sind absichtlich verbreitete Falschinformationen, die öffentliche Meinungen manipulieren und bestimmte Interessen fördern sollen. Besonders in sozialen Medien erreichen Fake-News eine große Reichweite, was insbesondere für Kinder und Jugendliche eine Gefahr darstellt. KI kann Fake-News bspw. durch Deepfakes, Filter Bubbles oder Beauty Filter weiter algorithmisch verstärken und somit das Vertrauen in Medien und Institutionen untergraben, gesellschaftliche Spannungen fördern und politische Polarisierungen verstärken.
Somit verschwimmen zunehmend die Grenzen zwischen „echt“ und „künstlich“ und es stellt sich die Frage, was „die Wahrheit“ ist.

2. Didaktische Überlegungen

Für den Religionsunterricht ist das Lernen über KI nachhaltiger und gewinnbringender als das Lernen mit KI: Durch das Eröffnen von ethischen Perspektiven und Fragestellungen aus den drei obigen Problemfeldern, werden Schüler*innen zum verantwortungsvollen Handeln befähigt, da sie ethische Herausforderungen im Bereich von KI erkennen, differenzierte Normendiskurse führen und eigene begründete Positionen entwickeln. Dabei setzen sie sich gleichzeitig mit religiös geprägten Vorstellungen von Autonomie, freiem Willen, Intelligenz, Vernunft auseinander und denken so auch über grundsätzliche anthropologische und existenzielle Fragen nach.
Die Auseinandersetzung mit den drei Problemfeldern sollte in den religionsdidaktischen Ansatz des Ethischen Lernens eingebettet werden. Zielperspektive ist, dass Schüler*innen lernen, im Sinnhorizont der christlichen Botschaft eine fundierte Diskussion über Werte und Normen zu führen und eine eigene ethische Urteilsfähigkeit zu entwickeln.
Eine strukturierte Bearbeitung moralischer Fragestellungen ermöglichen die Schritte der ethischen Urteilsfindung nach Tödt⁹, die zugleich die moralische Selbstreflexion fördern (M 1). Dabei bietet es sich an, multiperspektivisch vorzugehen, d.h. unterschiedliche Perspektiven (religiöse, gesellschaftliche, persönliche) miteinander in Beziehung zu setzen. Durch Perspektivübernahme und -wechsel werden die Lernenden dazu angeregt, sich in andere hineinzuversetzen und gleichzeitig ihre eigene Position kritisch zu reflektieren. Diese Herangehensweise fördert nicht nur Wissen, sondern auch Empathie, kritisches Denken und einen respektvollen Umgang mit Vielfalt.

2.1 Lernprozessanregende Aufgaben

Lernen, das auf ein sachgerechtes, selbstbestimmtes, kreatives und sozial verantwortliches Handeln (in Medienzusammenhängen) zielt, sollte durch eine Auseinandersetzung mit lernprozessanregenden Aufgaben erfolgen. Mit Blick auf (medien-)ethische Fragestellungen eigenen sich in besonderer Weise folgende Aufgabentypen:¹⁰

• Entscheidungsfälle, bei denen unter Berücksichtigung verschiedener Kriterien Handlungsmöglichkeiten zu beurteilen und Entscheidungen zu treffen sind, ohne dass man einzelne Handlungsmöglichkeiten aus logischer oder empirischer Sicht einfach als richtig oder falsch bezeichnen könnte.
• Beurteilungen verschiedener, bereits vorhandener Problemlösungen, Entscheidungen oder Gestaltungsergebnisse, wobei verschiedene Kriterien zur Bewertung zu erarbeiten, diskutieren und anzuwenden sind.
• Gestaltungsaufgaben, wobei die Gestaltung einer Situation, eines Verfahrens oder eines Produkts gefordert ist und die gedanklich erarbeiteten Handlungsmöglichkeiten bzw. Entscheidungen in angemessener Form (kreativ) umgesetzt werden müssen.

3. Unterrichtsbausteine

Im Folgenden wird zu den drei ethischen Problemfeldern jeweils eine lernprozessanregende Aufgabe für die Jahrgangsstufe 9/10 vorgestellt, ein entsprechender religionspädagogischer Zielhorizont aufgespannt sowie eine passende methodische Idee für die Bearbeitung aufgezeigt. In den Download-Materialien finden sich weiterführende Fragen, die mit den Schüler*innen dabei diskutiert werden können.

3.1 Ethisches Problemfeld: Datenerzeugung und Datennutzung

Beurteilungsaufgabe:
Eine Krankenversicherung bietet günstigere Tarife für Menschen an, die ihre Gesundheitsdaten, wie z. B. Herzfrequenz und Schrittzahl, von einem Fitnessarmband an die Versicherung übermitteln. Eine Frau entscheidet sich dafür, ihre Gesundheitsdaten an die Versicherung weiterzugeben, um Geld zu sparen. Beurteile die Entscheidung der Frau.

Religionspädagogische Zielvorstellungen
Zunächst setzen sich die Schüler*innen mit Fragen zur Transparenz und zu normativen Erzeugungsmomenten der Daten auseinander, die bei der Datenerzeugung eine Rolle spielen. Bei der Datennutzung stehen Fragen nach Autonomie und Verantwortung im Mittelpunkt. Aus einer theologischen Perspektive wird untersucht, wie hier christliche Werte (z. B. Menschenwürde und Gottesebenbildlichkeit) als Orientierungshilfe dienen können. Ziel ist es, Schüler*innen dafür zu sensibilisieren, wie eine Balance zwischen Innovation, Privatsphäre, Datenschutz und christlich-ethischer Verantwortung gewahrt werden kann. Darüber hinaus sollen die Lernenden hinterfragen, wie KI den Zugang zu gesundheitlichen (und sozialen) Ressourcen beeinflusst und welche Verantwortung – mit Blick auf die christlichen Werte Gerechtigkeit und Solidarität – Gesellschaft, Unternehmen und Einzelpersonen tragen.

Methodische Idee
Die Auseinandersetzung mit der Beurteilungsaufgabe kann in Form einer Podiumsdiskussion erfolgen, in der bspw. folgende Perspektiven berücksichtigt werden: Frau, gesunder Mensch, Mensch mit Gesundheitsproblemen, Versicherer (mit Datenverwendung), Versicherer (ohne Datenverwendung), Datenschützer, Arbeitgeber, Politiker.

3.2 Ethisches Problemfeld: Verhältnis Mensch – Maschine

Entscheidungsaufgabe
Als Einstieg in diese Unterrichtseinheit sehen die Schüler*innen den Kurzfilm „St. Android“ (M 3). Der Trickfilm erzählt die Geschichte eines Mannes (Norman), der verzweifelt nach Hilfe und Beistand sucht, um seine schwerkranke Frau (Helen) zu heilen. Eine hochentwickelte Roboterintelligenz, die Teil der Pflege seiner Frau ist, teilt ihm mit, dass Helen im Sterben liegt und ein Priester bereits kontaktiert wurde. Ein androider Priester soll die Frau auf ihrem letzten Weg begleiten und bietet Norman technologische und pragmatische Lösungen an, die jedoch das religiös-spirituelle Vertrauen herausfordern. Norman und der Roboter geraten aneinander…

Aufgabe:
Setze dich mit der Frage auseinander, ob (humanoide) Roboter in der Sterbe- und Trauerbegleitung (oder alternativ: in der Pflege) eingesetzt werden sollen und dort Aufgaben übernehmen, die bisher dem Menschen zukamen.

Religionspädagogische Zielvorstellungen
In einem engen Zielhorizont geht es um die Frage, ob und inwieweit die Übernahme diakonischer und seelsorgerischer Aufgaben durch Maschinen legitim und mit der christlichen Idee der Nächstenliebe vereinbar ist (sowohl aus Sicht der Pflegenden als auch der Pflegebedürftigen). In der Perspektive von Verantwortung und Autonomie kann thematisiert werden, inwieweit der Mensch Kontrolle über KI-Entscheidungen behalten soll, wer für KI-Entscheidungen letztendlich verantwortlich ist, und wer (z. B. im Schadensfall) Haftung übernimmt.
Weiter gefasst geht es hier um grundlegende anthropologische Fragen, bspw. was menschliche Intelligenz und Kreativität von KI-generierter unterscheidet, was Autonomie und freien Willen ausmacht oder ob Personalität und Selbstbewusstsein ausschließlich menschliche Merkmale sind.

Methodische Idee
Bei dieser Entscheidungsaufgabe bietet es sich an, dass die Schüler*innen ein Alten- und Pflegeheim besuchen und vor Ort mit „Expert*innen“ (Pfleger*innen, Bewohner*innen) zu diesem Thema ins Gespräch kommen.

3.3 Ethisches Problemfeld: Fake-News und Wahrheiten

Gestaltungsaufgabe:
Produziert zwei widersprüchliche Kurzvideos zu einem aktuellen gesellschaftlichen Thema (Klimawandel und Umweltkrisen; Migration und Integration; Soziale Gerechtigkeit und gesellschaftliche Ungleichheit). Die Zuschauer sollen am Ende „verwirrt“ zurückbleiben und sich fragen, welcher der Clips nun „wahr“ ist.
Filmt euren Clip mit dem Handy und nutzt Bearbeitungstechniken, um ihn möglichst überzeugend und „realistisch“ wirken zu lassen. Arbeitet auch mit Filtern oder anderen Techniken, mit denen eine digitale Manipulation möglich ist und mit denen ihr eure Aussagen unterstützt.

Religionspädagogische Zielvorstellungen
Für Schüler*innen stellen sich hier Verständnisfragen von „Echtheit“ und „Wahrheit“. Christliche Theologie betrachtet Wahrheit nicht als absolute Tatsache, sondern als Vertrauensverhältnis, das im Glauben wurzelt und auf das man sich verlassen kann (vgl. Joh 14,6). So gibt es weniger „die Wahrheit“ (im Sinne einer faktischen Wahrheit) als vielmehr verschiedene Wahrheiten/Wahrheitsansprüche, zu denen sich positioniert werden muss.

Da die Konfrontation mit verzerrten oder manipulierten Informationen zudem das Vertrauen in die eigene Selbstwahrnehmung beeinflussen kann, sollten Schüler*innen auch in ihrer Identitätsentwicklung unterstützt werden: Der Glaube an den eigenen Wert, die eigene Würde und Identität als von Gott geschaffen, unabhängig von äußeren Vorstellungen und Verzerrungen, wird durch den Druck, einem idealisierten Bild zu entsprechen, gefährdet. Im christlichen Verständnis ist die wahre Identität nicht an äußeren Erscheinungen, sondern an der Beziehung zu Gott ausgerichtet.

Methodische Idee
Bei der Erstellung der beiden Videos arbeiten die Schüler*innen mit einem Storyboard (M 4), damit sie KI-basierte Gestaltungsmerkmale erkennen und verstehen sowie Medieneinflüsse aufarbeiten und bewerten können.

 

Anmerkungen

1. GMK, Positionspapier.
2. Vgl. Tulodziecki / Herzig / Grafe, Medienbildung in Schule und Unterricht, 217ff.
3. Vgl. a.a.O., 78ff.
4. Vgl. Balceris, Religionspädagogische Überlegungen zu einer werteorientierten Medienbildung in der Schule, 93ff.
5. Tulodziecki / Herzig / Grafe, Medienbildung in Schule und Unterricht, 81.
6. Vgl. DBK, Digitalität und Künstliche Intelligenz.
7. Vgl. Balceris, Religionspädagogische Überlegungen für eine werteorientierte Medienbildung in der Schule, 93ff.
8. Vgl. a.a.O., 92.
9. Tödt, Versuch zu einer Theorie ethischer Urteilsfindung.
10. Vgl. Tulodziecki / Herzig / Grafe, Gestaltung von Unterricht, Eine Einführung in die Didaktik, 131ff.

 

Literatur

• Balceris, Michael: Religionspädagogische Überlegungen zu einer werteorientierten Medienbildung in der Schule, in: Aßmann, Sandra / Grafe, Silke / Martin, Alexander (Hg.): Medien – Bildung – Forschung, Integrative und interdisziplinäre Perspektiven, Bad Heilbrunn 2024, 84-101
• Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK): Positionspapier der GMK zum Stand der schulischen Medienbildung zum Schuljahr 2018/19, 2018
• Publizistische Kommission der Deutschen Bischofskonferenz (Hg.): Digitalität und Künstliche Intelligenz. Technik im Dienst des Geist-begabten und Selbst-bewussten Menschen, Thesenpapier, 2020
• Tödt, Heinz Eduard: Versuch zu einer Theorie ethischer Urteilsfindung, in: Zeitschrift für Evangelische Ethik 21 (1977), 80-93, https://doi.org/ 10.14315/zee-1977-0110
• Tulodziecki, Gerhard / Herzig, Bardo / Grafe, Silke: Gestaltung von Unterricht, Eine Einführung in die Didaktik, Bad Heilbrunn 2017
• Tulodziecki, Gerhard / Herzig, Bardo / Grafe, Silke: Medienbildung in Schule und Unterricht, Grundlagen und Beispiele, Bad Heilbrunn 2021