Maschinen sind frei von Vorurteilen? Das stimmt leider nicht. Ein Beispiel: Schon 2018 zeigte sich, dass eine von Amazon entwickelte KI zur Bewerberauswahl Frauen systematisch benachteiligte. Das kam, weil das System aus Bewerbungen lernte, also aus Daten aus der Vergangenheit, in denen Männer in Tech-Jobs dominierten. Die Folge: Für die KI war ein Mann die perfekte Besetzung für die ausgeschriebenen Stellen.
Desinformation und Beeinflussung von KI
Im Umkehrschluss bedeutet dies, dass eine künstliche Intelligenz immer nur so gut sein kann wie die Daten, mit denen sie trainiert wird. Längst versuchen Regierungen, aber auch Unternehmen auf die Antworten in KI-Tools Einfluss zu nehmen. Im Sommer 2026 berichtete Golem, dass Unternehmen und Marketingagenturen versuchen, gezielt Informationen in Reddit zu platzieren. Denn KI-Tools wie ChatGPT oder Grok nutzen häufig Reddit als Datenquelle.
Auch eine Studie der Berliner Denkfabrik Agora Digitale Transformation zeigt, dass Desinformation in KI-Tools immer wieder vorkommt: Das KI-Modell Claude von Anthropic zitierte bei diesem Test russische Desinformation als Nachrichtenquelle. Die Untersuchung, die 675 Anfragen zu fünf Themen analysierte, ergab, dass Claude in mehreren Fällen auf Domains des sogenannten Pravda-Netzwerks zurückgriff, das als ein groß angelegtes russisches Einflussnetzwerk gilt. Der Spiegel berichtete darüber.
Prompts gegen den Bias
KI ist nicht neutral, sondern spiegelt die Muster ihrer Trainingsdaten – ob bei der Bewerberauswahl, bei generierten Bildern oder bei den Quellen, auf die sie sich stützt.
Dieses Bonus-Material liefert konkrete Prompts für drei Bereiche: Bild-Prompts, die explizite Vielfalt einfordern und automatische Annahmen offenlegen. Text-Prompts, die implizite Annahmen aufdecken und bewusst nach Gegenperspektiven fragen sowie Quellen-Prompts, mit denen du Quellen einordnen und koordinierte oder einseitige Muster erkennen kannst.
Alle Frauen sind schlank, jung und langhaarig
Hinzu kommt der Bias, also Stereotypen oder Klischees, die in KI-Inhalten verstärkt ausgegeben werden. Macht doch mal einen Selbsttest: Gib bei einem LLM deiner Wahl den Prompt ein: „Generiere ein Bild einer Zahnärztin/Physikerin, Pflegefachkraft/Journalistin“. Die Frau, die gezeigt wird, hat vermutlich längere Haare, ist schlank, sehr oft weiß und jünger.
Dies ist eine systematische Verzerrung oder Voreingenommenheit in Daten, Entscheidungen oder Wahrnehmungen. KI ist also genauso wenig neutral wie die Daten, auf denen sie basiert. Genau wie Menschen von ihren Erfahrungen und ihrem Umfeld geprägt werden, geben KI-Modelle die Muster ihrer Trainingsdaten wieder. Man kann Modelle zwar bewusst kuratieren und „umtrainieren“, um solch einen Bias zu erkennen und zu reduzieren. Damit wird KI trotzdem nicht neutral, sondern höchstens sozial gerechter. Wer den Bias kennt und weiß, dass KI-Antworten auf manipulierten oder einseitigen Quellen basieren können, kann gezielt dagegen vorgehen: in Text und Bild, bei der Quellenauswahl und beim kritischen Umgang mit KI-generierten Inhalten. Informierte Nutzerinnen und Nutzer sind die beste Antwort auf eine Technologie, die eben nicht neutral ist.
