2024-12-29 –, Saal ZIGZAG
Language: Deutsch
Was können die Tools wirklich, was machen sie mit der “Bildung”, und sollten wir dafür Steuergelder ausgeben?
Spätestens seit dem Hype um ChatGPT werden KI-Tools als magische Technofixes für Lehrkräftemangel und soziale Segregation im Bildungswesen angepriesen. Mehrere Bundesländer haben zum Beispiel Flächenlizenzen für alle Lehrkräfte bei dem Hamburger Unternehmen "Fobizz" erworben. Das Unternehmen bietet auf Basis großer Sprachmodelle (meist GPT-3/4) und verschiedener bildgenerierender KIs eine ganze Reihe von Bots sowohl für SchülerInnen als auch für LehrerInnen an: Tools zur automatisierten Korrektur und Bewertung von Hausaufgaben, Chatbot-basierte individuelle Lern-Coaches, Avatare zur Gesprächssimulation ("mit Angela Merkel chatten"), oder Bots zur Erstellung von individualisiertem Unterrichtsmaterial.
Wir haben das Fobizz-Tool zur automatisierten Korrektur von Hausaufgaben und Prüfungsleistungen detailliert unter die Lupe genommen. Funktioniert das wirklich? Wie wirkt sich das auf die Qualität des Unterrichts aus? Kann man LehrerInnen und SchülerInnen guten Gewissens darauf loslassen? – Unsere Antwort ist schockierend eindeutig: nein! Und es ist ein Skandal, dass Steuergelder dafür ausgegeben werden. Im Vortrag berichten wir von frustrierenden Irrfahrten wenn SchülerInnen den Korrekturen des KI-Tools folgen; von quasi ausgewürfelten Bewertungen (nach dem Motto: wenn dir die Note für diese Person nicht passt, drück einfach auf "re-generate"), und von der impliziten Botschaft an die SchülerInnen: Ihr müsst ChatGPT verwenden, sonst könnt ihr nicht gut abschneiden.
Im zweiten Teil unserer Studie haben wir systematisch mit LehrerInnen gesprochen und ihre Perspektive auf KI im Schulunterricht untersucht. Wir besprechen, wie dystopisch und fehlgeleitet es ist, die sozialpolitischen Probleme im Bildungswesen mit Techno-Tools zu lösen. Während in Großbritannien bereits “teacher-free” KI-Klassen als Pilotprojekt ins neue Schuljahr gestartet sind, scheint man in Deutschland zwar immer noch auf Lehrkräfte im Klassenzimmer zu setzen – doch die Signale der Kultusministerien sind eindeutig: Lieber den Lehrkräftemangel mit den Services privater KI-Unternehmen fixen als echte politische Maßnahmen durchzusetzen, die den Beruf erträglicher und attraktiver machen. Dass das Schulsystem über KI-Tools noch weiter an private Unternehmensinteressen gebunden wird, hat unweigerlich steigende Ungleichheit und Intransparenz zur Folge.
Da aktuell weitere Bundesländer an der Schwelle stehen, Lizenzverträge mit KI-Unternehmen für Lerntools abzuschließen, steht mit diesem Thema einiges auf dem Spiel.
Unsere Studie zur "KI-Korrekturhilfe" von Fobizz kann hier runtergeladen werden: https://doi.org/10.48550/arXiv.2412.06651
Rainer Mühlhoff, Philosoph und Mathematiker, ist Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück. Er ist außerdem assoziierter Forscher am Einstein Center Digital Future, Berlin, und am Weizenbaum-Institut für die vernetzte Gesellschaft, Berlin. Er forscht zu Ethik, Datenschutz und kritischer Sozialtheorie in der digitalen Gesellschaft. Mit seinen systemischen Analysen von KI-Kapitalismus und seinen Vorschlägen zur Schärfung des Datenschutzes bespielt er zahlreiche außerwissenschaftliche Transferformate und ist regelmäßiger Gast in Politik, Bildungsarbeit und öffentlichen Foren. In seiner Forschung analysiert er KI-Systeme als soziotechnische Systeme ("Human-Aided AI"), hat den Begriff "Predictive Privacy" geprägt und tritt für eine Zweckbindung für KI-Modelle ein.
In seinem früheren Leben hat Rainer Mathematik/Physik/Informatik studiert und zu Quantenphysik gearbeitet. Durch ein Zweitstudium in Philosophie und Gender Studies ist er dann in den kritischen Geisteswissenschaften gelandet. Sein interdisziplinäres Team der Forschungsgruppe Ethics and Critical Theories of AI an der Uni Osnabrück bringt Philosophie, Medienwissenschaft und Informatik zusammen, um das Wechselspiel von Technologie, Macht und gesellschaftlicher Veränderung zu untersuchen. [Publikationen]
Rainers Talk auf dem 37C3: KI – Macht – Ungleichheit
Marte Henningsen ist PhD Kandidatin in Philosophie (Schwerpunkt: kritische Technikphilosophie) an der Universität Maastricht. Sie hat zwei Bachelorabschlüsse in Computergestützten Ingenieurwissenschaften und Informatik an der Leibniz Universität Hannover erworben, sowie einen Master in Kognitionswissenschaften an der Universität Osnabrück. Ihre Spezialisierung liegt im Bereich Ethik der KI und Technikphilosophie. In ihrem PhD Projekt analysiert sie verschiedene KI Narrative unter Anwendung von Kritischen Theorien.
Außerdem hat Marte einen stark aktivistisch geprägten Hintergrund, beispielsweise durch Engagement bei der Klimabewegung FFF sowie verschiedenster Hochschulgruppen in Hannover und Osnabrück zu Themen wie Feminismus, globale Gerechtigkeit, und Arbeitsstreik. Dabei hat sie stets die Tools, die ihr aus dem technischen Studium zur Verfügung standen, für ihre politische Arbeit genutzt. Beispielsweise indem sie Datenbanken baute, um auf die Geschlechterdisparitäten innerhalb der verschiedenen Statusgruppen an den Fakultäten der Universität aufmerksam zu machen.