Technik ist nicht neutral!
„Das Problem liegt nicht in der Technologie selbst, sondern in der Art und Weise, wie wir sie einsetzen.“ Dieser Satz taucht so oder in ähnlicher Form in zahlreichen Diskussionen um Bildung und Digitalisierung auf. Ist das aber wirklich stimmig und als pädagogische Perspektive hilfreich?
Auf den ersten Blick ist die Antwort sicherlich Ja. Denn natürlich lassen sich beispielsweise KI-Chatbots auf Basis großer Sprachmodelle so einsetzen, dass sie mir schnell meine aktuelle Lernherausforderung abnehmen und einen Text zu einem geforderten Thema generieren. Ich kann aber auch einen selbst geschriebenen Text mit ihnen teilen und mir dazu Nachfragen einholen, die mich potenziell zum Weiterdenken bringen.
Näher betrachtet finde ich die Aussage aber dennoch schwierig. Denn Technik ist nicht neutral: Sie entsteht immer unter bestimmten gesellschaftlichen Bedingungen und hat somit aktuell die Interessen der jeweiligen Anbieter in ihre Struktur eingeschrieben. Die überwiegende KI-Entwicklung, wie sie insbesondere von den Technologieunternehmen in den USA vorangetrieben wird, verfolgt meiner Beobachtung nach zurzeit vor allem das Interesse der Monopolisierung. Es läuft ein Konkurrenzkampf verschiedener Anbieter, die sich mit immer spektakuläreren Modellen gegenseitig zu überbieten versuchen. Da ist es kein Wunder, dass selbst aus den eigenen Reihen der Ruf nach einem „KI-Moratorium“ lauter wird. Immer spektakulärere Modelle bedeuten, dass in die Struktur der Technik Muster eingeschrieben werden, die nicht der Demokratisierung von Wissen, der Unterstützung von Lernen und der Wertschätzung menschlicher Fähigkeiten dienen.
Wir sehen das konkret, wenn menschliche Arbeit und menschliche Leistungen im Interesse der Monopolisierung massenhaft angeeignet werden und so gerade nicht im Sinne einer vielleicht durchaus spannenden ‚Remix-Kultur‘ allen gleichermaßen zur Verfügung stehen. Wir sehen es am ‚Zustimmungscharakter‘ von KI-Chatbots, der Menschen an die Bots binden soll, damit sie sich gut verkaufen lassen, und der dafür die zunehmende Einsamkeit und die psychischen Herausforderungen in unserer Gesellschaft kapert. Und wir sehen es am grundsätzlichen ‚Ersetzungscharakter‘ gegenüber menschlicher Steuerung, den wir zunehmend bei der Entwicklung von KI-Agenten erleben: KI-Agenten erscheinen uns umso faszinierender und damit umso besser vermarktbar, je autonomer sie arbeiten. Darum wird es immer herausfordernder, z. B. beim Vibe-Coding gängige Agenten zum Nachfragen zu verpflichten. Sie sind so gebaut, dass sie sich möglichst schnell möglichst viele Berechtigungen holen.
Bedeutet das also: ‚Oh je, schnell verbieten und Finger weg‘? Zumindest im pädagogischen Kontext ist das aus meiner Sicht keine gute Antwort. Denn insbesondere die KI-Chatbots sind in der Welt. Laut JIM-Studie 2025 nutzen knapp drei Viertel der Jugendlichen sie fast täglich für Hausaufgaben oder zum Lernen und zunehmend auch für soziale Fragen. Die erste pädagogische Verantwortung ist für mich deshalb, diese Realität aufzugreifen und Räume für Verstehen und Reflexion zu schaffen: Was passiert da unter der Haube? Was macht das mit mir? Was kann ich stattdessen tun? Ergebnis dieses Reflexionsprozesses kann sein, die gängigen KI-Chatbots auf Plattformen nicht oder nur begrenzt zum Lernen einzusetzen. Gehe ich dagegen vom eingangs zitierten Satz aus, dass es vor allem auf eine kluge Nutzung ankommt, werde ich stattdessen sehr viel Energie investieren, um mir Ideen für eine lernförderliche Nutzung dieser in der gesellschaftlichen Diskussion im Fokus stehenden ‚KI‘ zu überlegen und zu vermitteln.
Zweitens geht es darum, Digitalisierung und auch KI als menschengemacht zu erkennen und vor diesem Hintergrund zu Gestaltung zu ermutigen. Die gegenwärtige Entwicklung und die eingeschriebenen Muster sind kein Naturzustand. Solche Werkzeuge könnten auch ganz anders entwickelt werden. Wir müssen nicht akzeptieren, dass KI-Agenten derart programmiert werden, dass sie zunehmend zu einer realen Gefahr für unsere (digitale) Infrastruktur und vor allem für unsere Demokratie werden. Es gibt die Möglichkeit der Regulierung. Im Podcast von Übermedien nennt Eva Wolfangel dafür ein schönes Beispiel: Wir haben uns als Gesellschaft aus guten Gründen dagegen entschieden, Menschen zu klonen. Wer trotzdem in diese Richtung entwickelt und arbeitet, wird sanktioniert und bestraft. Warum sollten solche Entscheidungen nicht auch im Hinblick auf monopolisierte KI-Systeme möglich sein?
Drittens, und das konkreter für die Bildung, geht es um Ermächtigung zur eigenen Gestaltung. Hier sehe ich zurzeit die größte Leerstelle. Wir legen unseren Fokus so sehr darauf, was sich mit diesen immer leistungsfähigeren monopolisierten KI-Systemen machen lässt, die wahrscheinlich weder gesamtgesellschaftlich sinnvoll noch von ihrer Grundstruktur und ihren eingeschriebenen Mustern her lernförderlich sind. Dadurch nehmen wir viel zu wenig in den Blick, was kleinere Modelle ermöglichen könnten, was alles auch mit lokaler Nutzung möglich wäre oder wie gerade dezentrale Ansätze dazu führen könnten, dass Wissen demokratisiert statt von einzelnen Unternehmen angeeignet wird. Und wir nehmen auch viel zu wenig in den Blick, was jenseits der generativen KI noch in der grundsätzlichen technischen Möglichkeit der Mustererkennung steckt, z. B. für Diagnostik oder für eine Nutzung als Spiegel statt als Sparringspartner.
Mein Fazit ist also: Wir sollten uns in der Bildung weniger schönreden, dass wir mit den vorherrschenden meinem Empfinden nach immer mistigeren, weil auf Monopolisierung ausgerichteten Systemen lernförderliche Nutzung gestalten könnten. Stattdessen sollten wir gemeinsam mit Lernenden Reflexionsräume öffnen und vor allem gemeinsam lauter und aktiver werden für eine andere Form von Technologie. Wir können das in der Schule unterstützen, je weniger perfekt, fertig und abgeschlossen wir Technik präsentieren und vermitteln, und je mehr wir Räume zu gemeinsamen Hacking und Entwicklung öffnen.
#DigitaleMündigkeit #KünstlicheIntelligenzKI