"Bin ich schon Ich?" - Unterrichtsimpulse für die Bearbeitung des Themas „Künstliche Intelligenz“ an Berufsbildenden Schulen

Seit der Veröffentlichung von ChatGPT durch Open AI ist in der Gesellschaft eine Diskussion über die Künstliche Intelligenz (KI) entstanden. Wird von KI gesprochen, so sind damit zumeist ChatBots wie ChatGPT, Google® Bard/Gemini oder Microsoft® Copilot/Bing gemeint. Der Begriff der KI ist bereits seit den 1950er Jahren in der Informatik in Gebrauch und umfasst Algorithmen in Werkzeugmaschinen ebenso wie in Smartphones, Assistenzsysteme in Autos oder bei Robotern zur Unterstützung in der Medizin, in der Pflege oder in Kindergärten. In Schulen nutzen Lehrkräfte und Lernende Chatbots zur Unterrichtsvorbereitung oder der Erstellung von Hausarbeiten und diskutieren u.a. über die Vor- und Nachteile des Einsatzes im Unterricht sowie die Notwendigkeit, Bewertungsmaßstäbe neu zu bestimmen. Der Einsatz der KI sowie die Chancen und Risiken sind somit Themenbereiche, die sich zur Bearbeitung im Religionsunterricht anbieten, da sie neben der Aktualität eine gesellschaftliche Bedeutung und ethische Fragestellungen enthalten.

An den berufsbildenden Schulen werden Jugendliche und Erwachsene ab dem 15. Lebensjahr in unterschiedlichen Schulformen wie z. B. Berufseinstiegsschule, Fachoberschule, Berufliches Gymnasium, Berufsfachschule, Fachschule etc. in Voll- und Teilzeit beschult. In vielen Berufen findet derzeit ein Transformationsprozess statt, bei dem sich Berufsbilder durch den Einsatz der KI verändern. Gleichzeitig zeigen viele Jugendliche und junge Erwachsene ein starkes Interesse an Themen rund um die Digitalisierung. Joscha Falck, Lehrkraft und Schulentwicklungsmoderator weist daher darauf hin, dass „Künstliche Intelligenz […] nicht bloß als Werkzeug für Lehrkräfte und Lernende begriffen, sondern zudem als gesellschaftliches Mega-Thema kritisch behandelt werden [sollte]. Ein mündiger Umgang mit generativer KI beinhaltet das Bedienen und Nutzen der technischen Möglichkeiten ebenso wie die Einordnung von Risiken und Folgen.“¹  Er betont, dass die KI bereits ein Teil der realen Welt geworden ist und dieser Prozess sich nicht mehr umkehren lassen wird. Falck sieht die Schule in der Verpflichtung, die Lernenden dazu zu befähigen, reflektiert und selbstbestimmt mit der veränderten Realität und der KI umzugehen.² 

Theologisch befindet sich die KI im Spannungsfeld u.a. zur Gottebenbildlichkeit (z. B. Objekt-/Subjekt-Diskussion), zum Schöpfungsauftrag (z. B. Ausbeutung von Ressourcen), zur Gerechtigkeit (z. B. Zugang zur Technologie) und zur Menschenwürde (z. B. Bias-Problem, welches zu Ausgrenzungen aufgrund des Trainings der KI führt). Miriam Meckel, Professorin für Kommunikationsmanagement an der Universität St. Gallen, und die Sozialwissenschaftlerin Léa Steinacker stellen heraus, dass es „jenseits von Untergangsszenarien und Techno-Utopien […] stets darum gehen [muss], den Menschen durch Künstliche Intelligenz zu unterstützen, zu bestärken und besser zu machen, nicht ihn sukzessive durch KI zu ersetzen.“³  Der Baden-Württembergische Landesbischof Ernst-Wilhelm Gohl verweist in diesem Zusammenhang auf die Mitverantwortung der Kirchen bei der Bildung der dazu nötigen Reflexionsfähigkeit⁴ . Da die Auseinandersetzung mit der KI im Religionsunterricht Verbindungen mit anderen Fachbereichen wie Politik oder Informatik beinhaltet, bieten sich im Unterricht Möglichkeiten für Teamteaching oder Projektarbeiten.

Aufgrund des eigenen Unterrichtseinsatzes an einer BBS beziehen sich die vorgestellten Impulse auf pflegerische, therapeutische und sozialpädagogische Berufsgruppen. Die Impulse sind den Niveaustufen 4 und 6 sowie den Lernfeldern „Den Menschen aus christlicher Perspektive wahrnehmen“, „Verantwortungsbewusst handeln“ und „Den Menschen in seiner Religiosität wahrnehmen, bilden und begleiten“ zugeordnet⁵ .

Für die Fachschule Sozialpädagogik wurden Inhalte des Impulses „No risk, no fun“, ergänzt durch weitere Materialien, in eine Unterrichtseinheit von zwölf Unterrichtsstunden zusammengefasst.

Die Impulse sind, je nach Lerngruppe, für acht bis zehn Unterrichtsstunden ausgelegt, können aber ergänzt, miteinander kombiniert oder eingekürzt werden. Die beschriebenen Beruflichen Handlungssituationen dienen als Startpunkte des Kreises der vollständigen Handlung.

Impuls „Bin ich schon Ich?“
Zur Diskussion des Objekt- bzw. Subjekt-Status der KI

Die Frage, ob die KI gegenwärtig oder zukünftig ein Bewusstsein ihrer selbst entwickeln kann, wird kontrovers diskutiert. Während z. B. der Historiker Yuval Noah Harari die Möglichkeit sieht, dass die KI ein Bewusstsein entwickelt⁶ , wird dies vom Philosophen Richard David Precht verneint⁷ . Als Theologe weist Matthias Hülsmann auf die Gottebenbildlichkeit, die damit verbundene besondere Stellung und unbedingte Würde des Menschen hin, welche das menschliche Individuum von der KI unterscheidet.⁸  Für Miriam Meckel und Léa Steinacker ist es derzeit nicht möglich, eine abschließende Aussage zu treffen, da die internen Rechenprozesse während des Trainings der KI nicht genau erforscht werden können. Konzerne wie z. B. Meta® oder OpenAI verweigern den Einblick in die für die wissenschaftliche Forschung benötigten Algorithmen, da diese Betriebsgeheimnisse darstellen.⁹ 

Die Berufliche Handlungssituation beschreibt eine Situation, in der eine Patientin die Behandlung durch die Pflegefachkräfte auf Station verweigert und ausschließlich von einem Pflegeroboter versorgt werden möchte, weil dessen sanften Augen und weiche Stimme die Patientin so beruhigen. Sie ist sich sicher, dass der Roboter ihre Gefühle erwidert. Sie überlegt, sich eine Schnittstelle implantieren zu lassen, um ihm näher zu sein. Im Kolleg*innen-Kreis entsteht in der Folge die Diskussion, ob die KI ein eigenes Bewusstsein besitzt und wie eine gemeinsame Zukunft von Mensch und KI aussehen kann.

Einen ersten Gedankenanstoß kann der Popsong „Wir sind die Roboter“ der Gruppe Kraftwerk (1978) bieten. Aufgrund des stark verzerrten Gesangs sollten die Lernenden den Text vorliegen haben.

Um in eine Diskussion über einen Subjekt- oder Objektstatus einzusteigen werden zunächst die Begriffe der KI, des Algorithmus sowie der Menschlichen Intelligenz definiert. Im Ergebnis erkennen die Lernenden, dass beide Intelligenz-Begriffe nicht eindeutig beschrieben sind und es verschiedene Formen der Intelligenz gibt, welche ein Selbst-Bewusstsein nicht generell beinhalten. Sie entwickeln ein Verständnis für die Bedeutung, sich als Individuum fühlen zu können und die sich daraus ergebenden Unterschiede in den derzeitigen Reaktionsweisen eines KI-Bots. Im Anschluss erhalten die Lernenden fünf Fragestellungen, welche den Objekt- bzw. Subjektstatus der KI thematisieren und die in Gruppen bearbeitet werden (M 1), in welchen sie eigene, begründete Lösungsansätze entwickeln. Als Hinweis kann der Impuls gegeben werden, wie mit Fehlerverhalten oder „Lügen“ (sog. Halluzinationen, bei der die KI Antworten „erfindet“, um die Aufgabenstellung lösen zu können) umzugehen ist, wenn die KI als Objekt oder als Subjekt gesehen wird. Es werden die Roboter-Gesetze zur Verfügung gestellt, die Isaac Asimov in der Kurzgeschichte „Runaround“ formulierte¹⁰  (M 2). Theologische Impulse stellen 1.Mos 1,26-28, 1.Mos 2,7-8.15.21-25 oder Psalm 139, 1-18 dar, welche auf die Unterschiedlichkeit von Mensch und Maschine hinweisen. Als Handlungsergebnis entwerfen die Lernenden ein „Best Case“- sowie ein „Worst Case“-Szenario der Zukunft von Menschen und KI. Möglich ist die Entwicklung einer Kurzgeschichte oder das Gestalten eines Bildes bzw. einer Collage. Als weitere Option verfasst die KI selbstständig eine Geschichte über ihre zukünftige Entwicklung auf der Grundlage von Prompts („Arbeitsanweisungen“ an die KI), die von den Lernenden formuliert werden. Hier bietet sich fobizz® an, da es DGSVO-konform ist. Die Ergebnisse werden in der Klasse vorgestellt und diskutiert.

Impuls „No risk, no fun?“
Chancen und Risiken der Künstlichen Intelligenz

Die Diskussion zum Umgang mit der KI wird von zwei gegensätzlichen Standpunkten aus geführt. Befürworter*innen sehen Chancen wie die medizinische Versorgung und Bildung in Ländern, in denen der Zugang sich bisher schwierig gestaltet, die Verringerung von umweltbelastenden Emissionen, die Entlastung von eintönigen, schweren sowie gefährlichen Tätigkeiten und den Zugewinn an freier Zeit durch die Übertragung von Aufgaben an die KI. Kritiker*innen benennen als Problemstellungen u.a. die Entmenschlichung der Arbeitswelt, die Entstehung einer künstlichen Intimität, die Verbreitung von Fake News oder ökologische Risiken durch den Energiebedarf beim Training der KI und dem Betrieb der Rechenzentren.

Für Sozialassistent*innen und Erzieher*innen thematisiert die Berufliche Handlungssituation eine Diskussion um die Einführung von KI (Roboter und Tablets) in einer Kindertagesstätte mit Regelgruppen und I-Gruppen. Die Einrichtung befindet sich in kirchlicher Trägerschaft. Die Lernenden erhalten den Auftrag, ein Konzept mit ethischen Regeln für den Einsatz zu entwickeln.

In einem ersten Schritt werden Chancen und Risiken der KI herausgearbeitet (M 3). Hierzu eignen sich bei starken Lerngruppen die Think-Pair-Share-Methode, das Placemat und das Unterrichtsgespräch. Einen medialen Einstieg stellt die Verwendung des Fernseh-Films „Der unsichtbare Angreifer“ dar. Der Film beschreibt das Leben einer Familie, die ihre Umwelt mit Hilfe verschiedener digitaler Tools Smart gestaltet hat. Insbesondere die ersten 15 Minuten stellen zahlreiche Anwendungsmöglichkeiten, Chancen und Risiken der KI dar und eignet sich daher, um einen medialen Zugang zur Thematik zu eröffnen. Die Lernenden erhalten verschiedene Beobachtungsaufträge, deren Ergebnisse im Anschluss diskutiert und ethische Aspekte für den Umgang mit der Künstlichen Intelligenz formuliert werden.

Eine weitere Option stellt die Verwendung von KI-Tools (DGSVO-konform wie z. B. fobizz® oder SchulKI) dar.

Im zweiten Schritt ergeht an die Lernenden der Auftrag, sich mit der optimistischen und der kritischen Sicht auf die KI vertiefend zu beschäftigen. Eine Methode stellt hierbei das Gruppenpuzzle dar. In den Expert*innengruppen werden dabei Argumente und praktische Beispiele für die jeweiligen Standpunkte entwickelt. Unterstützend können theologische Impulse wie Mt 7,12; Mk. 12,28-31 sowie 1.Mos 1,28-30 sowie, als ethisch-philosophischer Impuls, wesentliche Aspekte der Verantwortungsethik von Hans Jonas¹¹  und kurze, vertiefende Informationstexte zu den Chancen und Risiken zur Verfügung gestellt werden. Die Lernenden diskutieren ihre Ergebnisse anschließend in den Stammgruppen und entwickeln Handlungsergebnisse, welche dann als TaskCards oder in Form eines Museumsrundhangs vorgestellt werden. Alternativ kann ein Stationslernen durchgeführt werden, bei dem Aspekte mittels kurzer Texte, Bildern oder Podcasts bearbeitet werden. Die Ergebnisse werden in der Lerngruppe zusammengetragen und es werden Perspektiven für eine Problemlösung in der beruflichen Handlungssituation entwickelt.

Insbesondere für pflegerische und therapeutische Berufsgruppen eignet sich die Auseinandersetzung mit Themen rund um den Einsatz der KI in der Medizin oder im Umgang mit sterbenden Menschen.

In der beruflichen Handlungssituation befinden sich die Lernenden in einem Krankenhaus, in dem z. B. die Vitalwerte der Patient*innen digital erfasst und Auffälligkeiten direkt an die Pflegefachkräfte weitergeleitet werden. Pflegeroboter unterstützen das Personal aufgrund des Fachkräftemangels. Ein Patient mit Krebserkrankung im finalen Stadium ist enttäuscht, dass die moderne Medizin ihn nicht am Leben erhalten kann und will einen Avatar erstellen, damit er nach seinem Tod weiterhin bei seiner Familie, die seinen Wunsch teilt, sein kann. Die Krankenhausseelsorge lehnt das Ansinnen ab. Sie fasst ihre Argumente im Satz „Reden vom Tod ist Reden vom Leben“ zusammen. Der Patient möchte von den Lernenden wissen, wie ihre Meinung zu seinem Wunsch ist.

Hier werden mit den Lernenden zunächst Aspekte der Anwendung der KI im medizinischen Sektor erörtert und ethische Aspekte erarbeitet. Aufgrund der Sensibilität der Thematik bedarf es ggf. Vorinformationen zur Lerngruppe, um Reaktionen der Lernenden deuten und entsprechend reagieren zu können. Als Vertiefung für das weitere Unterrichtsgeschehen dient die Dokumentation „Eternal You – Vom Ende der Endlichkeit“, welche sich mit dem zunehmenden Wunsch von Menschen, ihre sterbenden Angehörigen als Avatare zu erhalten, auseinandersetzt. Dadurch ergeben sich Fragestellungen zu Aspekten wie der Auseinandersetzung mit der eigenen Endlichkeit, der Verarbeitung eines Verlustes innerhalb des Trauerprozess sowie der Rechtsstellung der KI, wenn die Person gestorben ist (z. B. Urheberschutz und Haftung). Alternativ kann der Bericht „Verstorbene digital auferstehen lassen“¹²  verwendet werden. Theologisch ist es je nach Lerngruppe möglich, Fragestellungen zum Sterbeprozess und der Eschatologie zu bearbeiten. Zur Unterstützung der Lernenden bei der Entwicklung von ethischen Lösungen werden zusammenfassende Informationstexte der Stellungnahme des Deutschen Ethikrats¹³ , der Denkschrift der EKD¹⁴  und/oder der Rede des Papstes auf dem G7-Treffen in Savelletri di Fasano¹⁵  verwendet. Diese müssen aufgrund der Länge und Komplexität der Themen stark reduziert werden.

Die Lernenden erarbeiten in Gruppen während eines Stationenlernens Aspekte der Thematik. Abschließend entwerfen sie ein Rollenspiel, in dem der Patient, die Krankenhausseelsorge sowie die Lernenden ihre Sichtweisen diskutieren und begründen. Die Rollenzuweisung erfolgt dabei mittels Losverfahren.

Anmerkungen

1. Falck, Effektiv unterrichten mit Künstlicher Intelligenz, 64.
2. Ebd.
3. Meckel / Steinacker, Alles überall auf einmal, 354.
4. Vgl. Gohl, „ChatGPT, verstehst Du mich?”, 13.
5. Vgl. MK, Rahmenrichtlinien für das Fach Ev. Religion.
6. Vgl. Harari, 21 Lektionen für das 21. Jahrhundert, 49-56.124-129.
7. Vgl. Precht, Künstliche Intelligenz und der Sinn des Lebens, 22-40.146-167.
8. Vgl. Hülsmann, Theologisches Basiswissen, 51-61.
9. Vgl. Meckel / Steinacker, Alles überall auf einmal, 267-318.
10. Vgl. Asimov, Runaround, 61.
11. Vgl. Jonas, Technik, Medizin und Ethik.
12. Braun, Verstorbene als digitale Avatare auferstehen lassen.
13. Deutscher Ethikrat, Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz.
14. EKD, Freiheit digital – Die Zehn Gebote in Zeiten des digitalen Wandels.
15. VaticanNews, https://kurzlinks.de/3z4i (25.02.2025)

Literatur

• Asimov, Isaac: Runaround, in: Ich der Roboter, die Foundation Saga, Übersetzung: Schrag, Otto, 5. Aufl. München 2016
• Braun, Anja: Verstorbene als digitale Avatare auferstehen lassen, SWR Wissen 08.05.2023, https://kurzlinks.de/g9jv (25.02.2025)
• Deutscher Ethikrat (Hg.): Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Stellungnahme, Berlin 2023
• Falck, Joscha: Effektiv unterrichten mit Künstlicher Intelligenz – Wie Lehrkräfte und Lernende ChatGPT und andere KI-Tools in der Schule erfolgreich einsetzen können, Bergedorfer Grundsteine Schulalltag (5.-10.Klasse), 2. Aufl. Hamburg 2024
• Evangelische Kirche Deutschlands (EKD) (Hg.): Freiheit digital. Die Zehn Gebote in Zeiten des digitalen Wandels: Eine Denkschrift der Evangelischen Kirche in Deutschland, Leipzig 2021
• Gohl, Ernst-Wilhelm: „ChatGPT-Verstehst Du mich?“ – Künstliche Intelligenz als Herausforderung für Glaube und Vernunft, Vortrag in Rahmen der „Nürtinger Reihe“ 05.11.2023, https://kurzlinks.de/h5ez (25.02.2025)
• Harari, Yuval N.: 21 Lektionen für das 21. Jahrhundert, 9. Aufl. München 2023
• Hülsmann, Matthias: Theologisches Basiswissen, Rehburg-Loccum 2023
• Jonas, Hans: Technik, Medizin und Ethik. Praxis des Prinzips Verantwortung, 9. Aufl. Berlin 2017
• Lenzen, Manuela: Künstliche Intelligenz. Fakten Chancen, Risiken, 3. Aufl. München 2024
• Meckel, Miriam / Steinacker, Léa: Alles überall auf einmal. Wie Künstliche Intelligenz unsere Welt verändert und was wir dabei gewinnen können, 2. Aufl. Hamburg 2024
• Niedersächsisches Kultusministerium (Hg.): Rahmenrichtlinien für das Fach Evangelische Religion in der Berufseinstiegsschule; Berufsschule; Berufsfachschule; Fachoberschule; Berufsoberschule; Fachschule Heilerziehungspflege, Heilpädagogik, Sozialpädagogik, Hannover 2014
• Precht, Richard David: Künstliche Intelligenz und der Sinn des Lebens, 2. Aufl. München 2021
• Vatican News: Wortlaut: Papst Franziskus über KI bei G7-Treffen in Italien 14.06.2024, https://kurzlinks.de/3z4i (25.02.2025)