„Saxony-Anhalt is the Worst“ – so heißt die neue Studie der KI-Forscherinnen Anna Kruspe und Mila Stillman. Und sie zeigt, wie tief alte Vorurteile inzwischen in digitale Systeme eingesickert sind. Große Sprachmodelle wie ChatGPT oder LeoLM bewerten ostdeutsche Bundesländer systematisch schlechter – egal ob es um Intelligenz, Freundlichkeit oder Fleiß geht. Was wie ein Kuriosum klingt, ist in Wahrheit ein Spiegel.
Die Modelle urteilen nicht – sie berechnen Wahrscheinlichkeiten. Doch wenn sie aus Abertausenden Texten lernen, dass „Ostdeutschland = Problemzone“ gilt, wird daraus ein statistisches Gesetz. Selbst Körpertemperaturen fielen im Osten niedriger aus – ein absurdes, aber symbolträchtiges Detail. Es zeigt, dass Daten nicht neutral sind, sondern Geschichte und Machtverhältnisse fortschreiben.
Besonders beunruhigend ist, dass solche Verzerrungen unsichtbar bleiben. Wenn ein Bewerbungs-Algorithmus oder eine Kredit-KI ähnlich „lernt“, wer als leistungsfähig oder vertrauenswürdig gilt, dann verwandelt sich kulturelle Voreingenommenheit in technische Diskriminierung – ohne böse Absicht, aber mit realen Folgen.
Mir ist das bei meinen eigenen Recherchen ebenfalls schon oft begegnet: Man muss immer sehr genau prüfen, mit welchen Quellen man arbeitet, woher die Informationen stammen und wie sie gefärbt sein könnten. Erst nach dieser Nachrecherche kann ein Beitrag überhaupt entstehen. Es bringt nichts, hier nur seine Meinung zu vertreten – die kann man in den Kommentaren lesen. Entscheidend ist, auf welche Daten und öffentlich zugänglichen Quellen man sich bezieht. Nur so lassen sich Aussagen überprüfen und gegebenenfalls korrigieren. Und wenn jemand etwas besser weiß – nachweislich, mit Quelle – sollte er oder sie sich ruhig melden. Somit können dann Beiträge auch laufend aktualisiert werden.
Denn auch diese Texte, die wir heute schreiben, fließen in das Gedächtnis der kommenden KIs ein. Und vielleicht entscheidet sich genau dort, ob sich alte Vorurteile wiederholen – oder ob wir endlich beginnen, sie zu überschreiben.