Neue KI-Regulierungen: Welche Auswirkungen gibt es für die Bildung?

Neue KI-Regulierungen: Welche Auswirkungen gibt es für die Bildung?

Künstliche Intelligenz – Fluch oder Segen? Diese Frage wird aktuell stark diskutiert. Trotzdem nutzen immer mehr Menschen KI in den unterschiedlichsten Bereichen, um sich ihr Leben zu erleichtern. Auch bei Schülern und Lehrern erfreuen sich Künstliche Intelligenzen in Form von Programmen wie ChatGPT immer größerer Beliebtheit. Es ist abzusehen, dass KI damit auch in Zukunft einen großen Einfluss auf die Bildung und den Unterricht an deutschen Schulen haben wird. 

Laut einer Studie von Vodafone, durchgeführt im März diesen Jahres, glauben 54 Prozent der Deutschen, dass KI den Unterricht an Schulen wesentlich verändern wird. In der Verantwortung, Kindern und Jugendlichen einen reflektierten Umgang mit KI-Programmen zu vermitteln, sehen 77 Prozent die Lehrkräfte. Die Hoffnung auf einen zukünftigen verantwortungsbewussten Umgang mit KI liegt damit auf den Schulen. Doch 57 Prozent der Befragten zeigen sich nach wie vor skeptisch gegenüber Programmen wie Chat GPT und sehen in der Nutzung von KI in der Schule mehr Gefahr als eine Chance. 

Auch  wegen dieser Zweifel werden die Forderungen nach einer stärkeren Regulierung von KI-Programmen immer lauter. Dies liegt vor allem an den Befürchtungen um Deep Fakes und Betrugsversuchen, zum Beispiel bei Prüfungen. Erst kürzlich wurde bekannt, dass Schüler in Hamburg während der Abiturprüfungen wohl das Programm ChatGPT genutzt haben sollen. In einem Fall entdeckte die Lehrkraft den Betrugsversuch noch während der Prüfung, in 20 anderen Fällen hingegen wurde die Schule erst bei der Korrektur auf Unstimmigkeiten aufmerksam. Die Texte waren teilweise fehlerfrei, in Teilen aber auch mangelhaft. Mit Hilfe einer Software, die die Wahrscheinlichkeit ermittelt, mit der ein Text von ChatGPT erstellt wurde, wurde der Verdacht der Lehrer scheinbar bestätigt. Diese Fälle müssen jedoch nicht gemeldet werden und wurden daher nicht formal erfasst, genaueres ist deshalb also noch unklar. Die Schulbehörde teilte lediglich mit, dass sie die Vorfälle prüfen werde. Über spätere rechtliche Schritte wie eine Ahndung können die Schulen selbst entscheiden. Dies kritisierte unter anderem der Vorsitzende der Vereinigung der Hamburger Gymnasialschulleitungen, Christian Gefert. Seine Forderung: Behörden sollen klarer regeln, wie Schulen mit KI rechtssicher umgehen können. Gefert fordert außerdem zu grundsätzlichen Überlegungen auf, wie Schulen sich den neuen technologischen Entwicklungen anpassen können, statt nur zu versuchen, die neuen Technologien in ein altes System zu quetschen.

Von Seiten der Bundesregierung melden sich ebenfalls immer mehr Stimmen zu Wort, die eine Regulierung fordern. SPD-Chefin Saskia Esken plädiert für die Einrichtung einer Aufsichtsbehörde für den Einsatz von KI in Deutschland. „Weil der Umgang mit Daten bei der Aufsicht eine bedeutende Rolle spielt, könnte der Beauftragte für den Datenschutz und die Informationsfreiheit eine gute Wahl sein“, äußerte sie gegenüber der Deutschen Presse-Agentur. „In jedem Fall brauchen wir eine Behörde, die beurteilt, ob der Einsatz von KI Recht und Gesetz folgt.“

Auch das Bundesinnenministerium hat sich für einen klaren Rechtsrahmen beim Einsatz von Künstlicher Intelligenz ausgesprochen. Eine Sprecherin von Innenministerin Nancy Faeser teilte  mit, man sehe zwar grundsätzlich großes Potential für die digitale Gesellschaft bei der Verwendung von KI-Anwendungen, jedoch brauche es neue Standards für eine „vertrauenswürdige KI”. Eine große Rolle spiele dabei, laut dem Ministerium, die Erklärbarkeit und Nachvollziehbarkeit von KI-Ergebnissen. 

Der deutsche Ethikrat plädiert ebenfalls für eine strikte Begrenzung bei der Verwendung von KI. Die Vorsitzende, Alena Buyx, äußerte: „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern.”

Der AI-Act: die stärkste Regulierung weltweit 

Um den neuen Gefahren und Problemen im Zusammenhang mit Künstlicher Intelligenz entgegenzuwirken, plant die Europäische Union die weltweit erste umfangreiche Regulierung von KI. Mit dem Artificial Intelligence Act hat die EU-Kommission im Rahmen der EU-Digitalstrategie bereits einen Gesetzesentwurf dazu veröffentlicht. Dieser enthält konkrete Vorschläge zur Regelung im Umgang mit KI in Forschung und Wissenschaft. Um das Gesetz zu verabschieden, kommt es nun zur finalen Abstimmung des Gesetzestextes unter Mitwirkung des Parlaments, der EU Kommission und des Rates der EU. Ziel ist es, das Gesetz noch vor dem Ende der laufenden Legislaturperiode des Europäischen Parlaments im Jahr 2024 zu verabschieden. Nach Inkrafttreten folgt noch eine zweijährige Übergangsfrist.

Teil der vorgeschlagenen Maßnahmen ist eine Verpflichtung für Chatbot-Hersteller, offenzulegen, ob sie beim Training ihrer KI-Modelle urheberrechtlich geschütztes Material verwenden. Des Weiteren soll der Gebrauch von Gesichtserkennung im öffentlichen Raum verboten werden. Die Verantwortung für den Missbrauch von KI-Programmen soll außerdem zukünftig der Anbieter selbst tragen, nicht die kleineren Unternehmen, die die Programme verwenden.

Um eine sichere Nutzung von KI zu gewährleisten, sollen laut dem Entwurf künftig KI Programme in drei unterschiedliche Risiko-Kategorien eingeteilt und entsprechend reguliert werden:

 

Außerdem möchte die EU Firmen zu einer freiwilligen Selbstverpflichtung bewegen. Die Kommission plant hierzu einen Rahmenvertrag, unter anderem für den Konzern Google. „Wir können es uns nicht leisten, zu warten, bis die KI-Regulierung tatsächlich in Kraft tritt", äußerte sich EU-Industriekommissar Thierry Breton nach seinem Gespräch mit Google-Chef Sundar Pichai.

Auswirkungen auf Schulen und Bildung

Unter Lehrkräften sind Künstliche Intelligenzen wie ChatGPT ein zunehmend gern gesehenes Hilfsmittel. 11 Prozent der Lehrer:innen geben in der Studie von Vodafone an, dieses für die Unterrichtsvorbereitung zu nutzen. Im Unterricht selbst nutzen sogar 22 Prozent der befragten Lehrkräfte KI-Anwendungen. Künstliche Intelligenz hat also bereits einen hohen Stellenwert in den meisten Klassenzimmern. Daran, KI für euren Unterricht zu nutzen, dürften euch nach den bisherigen Bekanntmachungen auch die neuen Regelungen der AI-Acts nicht hindern. Denn meist werden im Unterricht nur Chat-Bots wie ChatGPT zum Einsatz kommen, welche als minimales Risiko eingeschätzt werden und damit weiter genutzt werden dürfen. Es bleibt jedoch abzuwarten, welche Regulierungen von Seiten der Bundesregierung auf den AI-Act folgen könnten. Baldige  Veränderungen kann es bereits zuvor in der Ausbildung für Lehrkräfte geben. Bundesbildungsministerin Bettina Stark-Watzinger sieht aufgrund der gravierenden Veränderungen für das Lernen, die Künstliche Intelligenz mit sich bringt, eine Anpassung der Lehrerausbildung als erforderlich. Um den Umgang mit den modernen Technologien zu lernen und weitergeben zu können, müssten Lehrerinnen und Lehrern verstärkt digitale Kompetenzen an die Hand gegeben werden, sagte sie Ende Januar im ARD-Morgenmagazin.

Inzwischen haben außerdem bereits mehrere Bundesländer Empfehlungen für den Einsatz von KI an Schulen herausgegeben, beispielsweise die Berliner Senatsverwaltung für Bildung. Als Unterstützung bei der Einbindung von KI in euren Unterricht hat diese in einer Handreichung Tipps, unter anderem für die Bewertung von Leistungen, zusammengestellt. Nordrhein-Westfalen informiert in einem im Februar veröffentlichten Leitfaden zum Umgang mit Künstlicher Intelligenz ebenfalls über mögliche Nutzung von KI im Unterricht. Auch Hessen schließt sich der positiven Einstellung gegenüber KI im Unterricht an. Der Einsatz von KI-Anwendungen im Unterricht unter anderem durch ChatGPT kann Schülerinnen und Schüler individuell in ihrem Lernprozess unterstützen, heißt es seitens des hessischen Kultusministeriums. Hessen entwickelt daher gerade gemeinsam im Rahmen der länderübergreifenden Vorhaben ein intelligentes, tutorielles System zum Einsatz im Unterricht, teilte das Kultusministerium mit. Laut deutschem Ethikrat soll sich der Einsatz von KI an Schulen jedoch „an grundlegenden Bildungsvorstellungen orientieren und auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern“. Auch hier müsse die Privatsphäre geschützt werden. Somit ist es nach wie vor an euch als Lehrer zu entscheiden, ob und in welcher Form KI in eurem Unterricht benutzt und thematisiert werden soll. Vorschläge zur Nutzung von KI und Chat GPT für Lehrkräfte findet ihr auch in unseren Artikeln zu Tipps für das Nutzen von ChatGPT als Lehrkraft und speziell zu den hilfreichsten ChatGPT-Prompts für Lehrkräfte.

Was ist eure Meinung zu den neuen Bemühungen, Künstliche Intelligenzen zu regulieren? Nutzt ihr bereits ChatGPT oder ähnliche Programme in eurem Unterricht? Teilt uns gerne eure Meinung in den Kommentaren mit!

Anzeige
Mehr zum Thema
Neuste Artikel
Kommentare
No items found.