Als letzten Monat die Nachricht die Runde machte, dass Ed, der neue KI-Chatbot des Los Angeles School District im Wert von 6 Millionen US-Dollar, in Gefahr war – das Startup, das ihn erstellt hat, stand kurz vor dem Zusammenbruch -, fragten sich viele Insider in der Bildungstechnologie-Welt dasselbe: Warum hat es so lange gedauert?
Der KI-Bot, erstellt von der in Boston ansässigen Firma AllHere Education, wurde am 20. März gestartet. Aber nur drei Monate später veröffentlichte AllHere auf seiner Website, dass die Mehrheit seiner etwa 50 Mitarbeiter aufgrund seiner “aktuellen finanziellen Lage” beurlaubt worden sei. Eine Sprecherin des Los Angeles Districts sagte, dass die Gründerin und CEO des Unternehmens, Joanna Smith-Griffin, nicht mehr im Job sei. AllHere stehe zum Verkauf, so der Bezirk, und mehrere Unternehmen seien an einer Übernahme interessiert.
Die Nachricht war schockierend und sicherlich düster für die Ed-Tech-Branche, aber mehrere Beobachter sagen, dass die Partnerschaft technisch gesehen ein zu großes Vorhaben angegangen ist – und dass der daraus resultierende Zusammenbruch zukünftige Investitionen in KI beeinträchtigen könnte.
Ed wurde als leistungsstarkes und benutzerfreundliches Online-Tool für Schüler und Eltern angepriesen, um den Unterricht zu ergänzen, Hilfe bei den akademischen Schwierigkeiten der Kinder zu finden und Familien bei Themen wie Anwesenheit, Noten, Transport und anderen Schlüsselthemen in 100 Sprachen und auf ihren Mobiltelefonen zu unterstützen.
Amanda Bickerstaff, Gründerin und CEO von AI for Education, einer Beratungs- und Schulungsfirma, sagte jedoch, dass dies ein zu großes Vorhaben war. “Was sie versucht haben zu tun, ist mit der derzeitigen Technologie wirklich nicht möglich,” sagte sie. “Es handelt sich um eine sehr breite Anwendung [mit] mehreren Benutzern – Lehrer, Schüler, Führungskräfte und Familienmitglieder – und es wurden Daten aus mehreren Systemen zusammengeführt.”
Sie wies darauf hin, dass sogar ein Mega-Konzern wie McDonald’s seine KI-Anwendungen zurückfahren musste. Der Fast-Food-Gigant räumte kürzlich ein, dass ein kleines Experiment mit einem Chatbot an Drive-Thru-Fenstern zu einigen problematischen Kundengesprächen geführt hatte, wie zum Beispiel einem Vorfall, bei dem eine Frau wütend versuchte, den Bot zu überzeugen, dass sie ein Karamell-Eis wollte, während dieser mehrere Portionen Butter zu ihrer Bestellung hinzufügte.
Wenn McDonald’s, mit einem geschätzten Wert von 178,6 Milliarden Dollar, keine 100 Drive-Thrus findet, um Mittagsbestellungen mit generativer KI aufzunehmen, sagte sie, dass die Technologie “nicht da ist, wo wir sie brauchen.”
Außerdem schien L.A. und AllHere nicht besorgt über das Ausmaß des Projekts zu sein, auch wenn Brancheninsider jetzt sagen, dass es zum Scheitern verurteilt war: Letzten Frühling präsentierten Smith-Griffin und Superintendent Alberto Carvalho Ed weit verbreitet auf verschiedenen hochkarätigen Ed-Tech-Konferenzen, wobei Carvalho sagte, es werde die Beziehungen der Schüler und Eltern zur Schule revolutionieren, “indem es die datenreiche Umgebung nutzt, die wir für jedes Kind haben.”
In einem Interview mit The 74 auf dem ASU+GSV Summit in San Diego im April sagte Carvalho, dass viele Schüler nicht mit der Schule verbunden seien, “und deshalb verloren gehen.” Ed, versprach er, werde das ändern, und zwar mit einem “signifikant anderen Ansatz” zur Kommunikation des Bezirks.
Er sagte, dass eine bessere Kommunikation mit den Eltern nicht nur die Anwesenheit, sondern auch die Lese- und Mathematikkompetenz, die Abschlussquoten und andere Ergebnisse verbessern würde. “Die Frage, die gestellt werden muss, lautet: Warum haben diese Ressourcen nicht sinnvoll mit Schülern und Eltern verbunden, und warum haben sie nicht zu dieser explosiven Erfahrung im Bereich der Bildungschancen geführt?”
Carvalho hob die Fähigkeit von Ed hervor, in etwa 100 verschiedenen Sprachen zu verstehen und zu kommunizieren. Und er sagte stolz, dass es “nie schläft”, um rund um die Uhr Fragen zu beantworten. Er nannte es “eine Entität, die ständig dazulernt und sich anpasst. Ich denke, das ist ein Game Changer.”
Aber ein erfahrener Insider der Ed-Tech-Branche erinnerte sich daran, Carvalho im April auf der Konferenz sprechen zu hören und sagen, dass Ed bereits “alle Probleme” gelöst habe, mit denen große Bezirke konfrontiert seien. Der Insider, der aus sensiblen Gründen ungenannt bleiben wollte, fand die Äußerungen beunruhigend. “Die Botschaft war so falsch, dass ich zu diesem Zeitpunkt im Grunde einen Stoppuhr gestartet habe,” sagte er. “Und ich bin ziemlich erstaunt, dass es so lange gedauert hat, bis alles auseinanderfiel. Es tut mir leid, aber es ist nicht überraschend.”
Zusätzlich zur Auflösung des Deals berichtete The 74 letzte Woche, dass ein ehemaliger leitender Softwareingenieur bei AllHere den Bezirksvertretern, dem unabhängigen Generalinspektor von L.A., und den Bildungsbehörden des Bundesstaates gesagt habe, dass Ed Schülerdaten auf eine Weise verarbeitet habe, die wahrscheinlich gegen die Datenschutzbestimmungen des Bezirks verstoßen habe und sensible Informationen einem erhöhten Risiko aussetze, gehackt zu werden – Warnungen, denen er zufolge die Behörden keine Beachtung schenkten.
Auch Richard Culatta, CEO der International Society for Technology in Education (ISTE), brachte es deutlich auf den Punkt: “Immer wenn ein Bezirk sagt: ‘Unsere Strategie im Umgang mit KI besteht darin, ein Tool zu kaufen,’ ist das ein Problem. Wenn der Bezirk sagt: ‘Für uns ist KI eine Vielzahl von Werkzeugen und Fähigkeiten, an denen wir gemeinsam arbeiten,’ dann fühle ich mich wohl, dass wir uns in die richtige Richtung bewegen.”
Culatta schlug vor, dass die Bezirke aufgrund der rapiden Entwicklung der generativen KI die nächsten Monate nutzen sollten, um “einen Moment der Erkundung zu schaffen – es ist ein Moment, Lehrer und Eltern und Schüler hereinzuholen, um Rückmeldungen zu erhalten,” sagte er. “Es ist nicht der Moment für Einweihungen.”
Die Zukunft der allgemeinen Anwesenheitsarbeit von AllHere in Bezirken bundesweit ist zurzeit unklar. In einem großen Bezirk, den Prince George’s County Public Schools in der Nähe von Washington, D.C., haben Lehrer AllHere mit 32 Schulen bis Januar 2020 getestet, sagte Sprecherin Meghan Thornton. Der Bezirk fügte 2022 zwei weitere Schulen zum Pilotprogramm hinzu, aber AllHere informierte den Bezirk am 18. Juni, dass es aufgrund “unerwarteter finanzieller Umstände” ab sofort seine Dienste nicht fortsetzen könne.
Bickerstaff sagte, dass das Feld im Allgemeinen unter einer “erheblichen Überschätzung der bisherigen Fähigkeiten der Technologie” leide. L.A. sei der zweitgrößte Schulbezirk des Landes, also habe auch die Pilotphase wahrscheinlich zu “sehr hohen” Nutzungskosten geführt, was ihre Prognose einer schnellen Übernahme von AllHere unterstrich.
Gründer des Start-ups Magic School AI, das Lehrern Tools zur Vereinfachung ihrer Arbeit bietet, ist Adeel Khan, der sich nicht nur damit auskennt, um Mittel zu kämpfen, sondern auch mit Konkurrenten, die das Geld ausgeht. Er sagte, die Nachrichten über AllHere und Ed seien schlecht für die Branche insgesamt, da sie die Bezirke vor die Frage stellen, ob sie mit neueren, unerprobten Unternehmen zusammenarbeiten sollen.
Er fügte hinzu, dass es nicht nur darum gehe, ein Produkt für Monate oder sogar Jahre zu finanzieren, sondern auch Lehrer und andere auszubilden, und deshalb streben sie ein verantwortungsbewusstes Wachstum an.
“Ein Produkt, das aus dem Geschäft ausscheidet, bedeutet viel Disruption für die K-12-Bildung”, sagte Khan. “Also daran erinnern sich die Leute. Sie erinnern sich: ‘Hey, wir haben uns für dieses Produkt engagiert. Wir haben es vor zwei Jahren auf der ISTE entdeckt und waren begeistert. Es war großartig – und es ist nicht mehr da. Und das wollen wir nicht noch einmal durchmachen.”