Es besteht ein Bedarf an mehr Transparenz in Bezug auf die Datensammlung und -nutzung, insbesondere bei der Verwendung von KI, einer Technologie, die auf großen Datenmengen basiert, um zu lernen und Vorhersagen zu treffen. Während Schulbezirke schon lange Daten gesammelt haben, um Schülerdaten und Bildungserfolge zu verfolgen, hat der zunehmende Einsatz von EdTech durch Lehrer und Schulleiter zu einer Zunahme sowohl der Art der gesammelten Informationen als auch der Anzahl der Entitäten geführt, die auf diese Daten zugreifen können. Viele EdTech-Tools bieten vielversprechende Möglichkeiten, aber Pädagogen und Schulbezirke sollten die Effektivität neuer Tools sorgfältig prüfen.
Schulbezirke sollten Eltern/Erziehungsberechtigte und Schüler einbeziehen, um zu entscheiden, welche Informationen von KI-Modellen gesammelt, geteilt oder genutzt werden können und sollten, selbst wenn diese für Bildungszwecke verwendet werden. Technologierichtlinien sollten leicht zugänglich und verständlich sein, sodass Eltern/Erziehungsberechtigte und Schüler genau wissen, welche Informationen gesammelt werden und wie sie verwendet werden. Lehrer können dazu beitragen, dass digitale Kompetenzen vermittelt werden, indem sie mit ihren Schülern altersgerecht über die Datensammlung und -nutzung sprechen. Darüber hinaus sollten klare Protokolle für den Zugriff, die Berichtigung und Löschung von Schüler- und Erziehungsberechtigtendaten vorhanden sein.
Schulbezirke sollten Pädagogen Weiterbildungsmöglichkeiten zum Thema algorithmische Voreingenommenheit und ethischer KI-Nutzung bieten. KI-Modelle treffen Vorhersagen auf der Grundlage einer großen Datenmenge, aber es ist wichtig zu betonen, dass diese Modelle nicht unfehlbar sind und bestehende Schäden in verschiedenen Gemeinden verstärken können. Aufgrund der Tendenz vieler KI-Modelle, Fehler in vorhandenen Daten zu replizieren und bestehende diskriminierende Annahmen oder Ergebnisse zu verstärken, ist beim Einsatz algorithmischer Entscheidungsfindung große Vorsicht geboten. Wo möglich sollten Schulbezirke von den Drittanbieter-Apps, die sie verwenden, algorithmische Transparenz verlangen.
Abschließend müssen bei der Nutzung von KI Überlegungen angestellt werden, um Schülerdaten vor unbefugtem Zugriff und bösartigen Angriffen zu schützen. Schulen müssen Maßnahmen wie Verschlüsselung, Zugriffskontrollen, Protokolle für Datenverletzungen und regelmäßige Sicherheitsprüfungen implementieren, um sowohl die KI-Infrastruktur als auch die sensiblen Daten, die sie verarbeitet, zu schützen. Leider sind Datenverstöße viel zu häufig, und durch mehr Datenaustausch gibt es mehr Möglichkeiten für Verstöße. Auch deshalb ist es wichtig sicherzustellen, dass Pädagogen nur mit vertrauenswürdigen Anbietern arbeiten. Schulbezirke sollten immer dann, wenn möglich, Drittanbieter überprüfen und Datenfreigabeverträge mit jedem Anbieter abschließen, der Schülerdaten erhalten kann.