KI-Vorhersage: So will eine japanische Stadt Schulschwänzen verringern

Saitama Präfektur, Japan. Seit Dezember 2023 wird an 18 Grund- und Mittelschulen der Stadt Toda eine künstliche Intelligenz eingesetzt, um Schüler:innen zu identifizieren, die Gefahr laufen, dem Unterricht fernzubleiben. Die Technologie soll dabei helfen, die Zahl der Fehlzeiten zu reduzieren und präventive Maßnahmen zu erleichtern. Ziel ist es, das Bildungswesen der Stadt zu verbessern und Schüler:innen frühzeitig bei Problemen unterstützen zu können.

Die KI-Software wurde in Zusammenarbeit von Uchida Yoko, einem auf Bildungsprodukte spezialisierten Händler, und PKSHA Technology, das auf Software und KI spezialisiert ist, entwickelt. Sie basiert auf Algorithmen, die ursprünglich für die Bewertung finanzieller Risiken konzipiert wurden und Anzeichen im Verhalten von Kunden zur Voraussage von beispielsweise Versicherungsbetrug verwenden sollten. 

Dieses Prinzip wurde auf die Schüler:innen übertragen. Es analysiert ihre Anwesenheit in der Schule, die Nutzung des Schulkrankenzimmers, ihre Antworten auf Fragebögen über das Schulleben, Ergebnisse von Tests und tägliche Notizen zur eigenen psychischen und körperlichen Gesundheit. Anhand dessen berechnet die Software das Abwesenheitsrisiko der Schüler:innen und zeigt die Ergebnisse in den Farben Rot, Rosa, Orange und Gelb in der Reihenfolge von hohem zu niedrigem Risiko an. Diese Ergebnisse sind nur für die Schulleitung bzw. stellvertretende Schulleitung zugänglich. 

Die Stadt Toda hat sich vorsichtig an den Einsatz von KI-Vorhersagesoftware herangetastet, da diese das Potenzial hat, Datenschutz und Privatsphäre der Kinder und Jugendlichen erheblich zu verletzen. Ein Gremium von Expert:innen aus Bildungsökonomie, Datenschutz und weiteren Bereichen wurde eingesetzt, um Leitlinien für die Anwendung der KI-Technologie in einem Prognosemodus zu diskutieren und zu entwerfen. Die 2022 erstellt Richtlinien legen einen starken Fokus auf den Schutz und die Unterstützung der Schüler:innen. Sie betonen, dass das Hauptziel der Einführung von KI-Systemen darin besteht, potenzielle Schulabbrecher:innen frühzeitig zu identifizieren und diesen gezielte Unterstützung zukommen zu lassen. Hirokazu Yokota, Leiter der Abteilung für Bildungspolitik im städtischen Schulamt, warnte dennoch davor, den Voraussagen nicht blind zu vertrauen.

Sie enthalten zudem eine Liste von Aspekten, die Lehrer:innen bzw. die Schulleitung bei der Verwendung beachten sollten. Der Einsatz der KI soll sich ausschließlich darauf beschränken, Lehrkräfte auf potenzielle Probleme aufmerksam zu machen. Sie verbieten ausdrücklich die diskriminierende Behandlung von Kindern. Im Vorfeld wurden die Schüler:innen und ihre Eltern darüber informiert, welche Daten gesammelt und wie sie genutzt werden sollen. Eltern, die mit der Erfassung und Verwendung der Daten ihrer Kinder nicht einverstanden sind, konnten über eine “Opt-Out”-Option widersprechen. Von dieser Option machten aber nur wenige Gebrauch. 

In Japan gibt es bisher keine Vorschriften für die Anwendung von KI-Technologien. Deshalb entschied man sich dazu, den AI Act der EU als Orientierungshilfe zu nutzen. Die EU ist weltweit führend in ihren Bemühungen, die schnell voranschreitende KI-Technologie zu regulieren, die weitreichende Auswirkungen auf die Gesellschaft und die Wirtschaft haben könnte. Das KI-Gesetz kategorisiert die potenzielle Bedrohung durch die Technologie für die Menschenrechte und eine Reihe anderer Bereiche und verbietet und beschränkt bestimmte Anwendungen.