Kann KI ungerecht sein?

Die kurze Antwort

Ja. Eine KI lernt aus Beispielen, und wenn diese einseitig sind, lernt sie etwas Schiefes und entscheidet ungerecht – man spricht von einem Vorurteil in den Daten. Hat eine Hunde-KI nur braune Hunde gesehen, erkennt sie weisse nicht; bei Gesichtern oder Bewerbungen kann so etwas Menschen benachteiligen. Vielfältige Beispiele und Menschen, die genau prüfen, machen eine KI fairer.

Geprüft am 22.10.2026 · aus der Montibit-Lektion «Schlechte Beispiele machen eine KI ungerecht»

Wie wird eine KI ungerecht?

Stell dir vor, ein Forscherteam trainiert eine KI mit vielen Hundefotos. Aber auf allen Fotos sind braune Hunde, und niemand hat es bemerkt. Dann kommt ein weisser Hund. Die KI sagt: «Kein Hund.» Sie hat gelernt, dass Hunde braun sind. Das ist falsch und für den weissen Hund ungerecht. Die KI ist dabei nicht böse. Sie hat nur genau das gelernt, was in ihren Beispielen steckte.

Was ist ein Vorurteil in den Daten?

Sind die Beispiele einseitig, lernt die KI etwas Schiefes. Das nennt man ein Vorurteil in den Daten; auf Englisch sagt man «Bias». Das Knifflige: Die KI merkt es selbst nicht. Sie hält das, was sie gelernt hat, für richtig. Darum müssen Menschen prüfen, ob die Beispiele fair verteilt waren.

Warum ist das bei Menschen besonders wichtig?

Bei Hunden ist ein Fehler ärgerlich. Bei Menschen kann er jemanden benachteiligen:

• Eine KI, die Gesichter erkennt, braucht Fotos von allen Menschen: jung und alt, mit heller und dunkler Haut. Sonst erkennt sie manche Menschen schlechter.
• Lernt eine KI aus Daten, in denen bestimmte Gruppen schlechter behandelt wurden, übernimmt sie diese Benachteiligung. Die Plattform Jugend und Medien des Bundes nennt als Beispiel ein Programm, das Bewerbungen filtert.
• Auch Vorurteile über Geschlecht, Hautfarbe oder Herkunft kann eine KI weiterverbreiten.

Wie wird eine KI fairer?

1. Vielfältige Beispiele sammeln: Hunde in allen Farben, gross und klein, bei Sonne und Regen. Je vielfältiger die Beispiele, desto gerechter entscheidet die KI.
2. Die Beispiele vor dem Training prüfen: Fehlt jemand? Ist etwas einseitig?
3. Die fertige KI mit vielen verschiedenen Fällen testen.
4. Bei wichtigen Entscheidungen über Menschen soll nicht die KI allein entscheiden. In der Schweiz kann man nach dem Datenschutzgesetz verlangen, dass ein Mensch eine automatische Entscheidung überprüft.

So erklärt es Bipo

3 Lernkarten aus der Lektion «Schlechte Beispiele machen eine KI ungerecht», genau so, wie sie im Spiel stehen.

• 

  Ein weisser Hund?

  Dann kommt ein weisser Hund. Die KI sagt: «Kein Hund.» Sie hat gelernt, dass Hunde braun sind. Das ist falsch und für den weissen Hund ungerecht.

  Bipo: Wuff! Der ist doch ganz klar ein Hund!

• 

  Schiefe Beispiele

  Sind die Beispiele einseitig, lernt die KI etwas Schiefes. Das nennt man ein Vorurteil in den Daten. Die KI merkt es selbst nicht.

  Bipo: Die Waage ist schief, und die KI kippt mit.

• 

  Auch bei Menschen wichtig

  Eine KI, die Gesichter erkennt, braucht Fotos von allen Menschen: jung und alt, mit heller und dunkler Haut. Sonst erkennt sie manche schlechter.

  Bipo: Jeder Mensch soll gleich gut erkannt werden.

MerkeLernt eine KI aus einseitigen Beispielen, entscheidet sie ungerecht. Vielfältige Beispiele und genaues Prüfen machen sie fairer.

Wichtige Begriffe

Vorurteil

Ein schiefes Bild, das entsteht, wenn die Beispiele einseitig sind. Eine KI übernimmt es, ohne es zu merken.

einseitig

Wenn bei den Beispielen viel fehlt, zum Beispiel nur braune Hunde und keine weissen.

fair

Gerecht für alle. Eine faire KI erkennt jeden Hund und jeden Menschen gleich gut.

Teste dich

Fragen aus dem Test der Lektion. Tipp auf eine Antwort.

1. 1. Die KI hat nur braune Hunde gesehen. Was sagt sie zu einem weissen Hund?

   • Ein Hund!
   • Kein Hund
   • Eine Katze mit Hut
   • Gar nichts
   Lösung zeigen

   Kein Hund – Sie hat gelernt, dass Hunde braun sind.

2. 2. Was ist ein Vorurteil in den Daten?

   • Die Beispiele sind einseitig
   • Der Computer ist zu langsam
   • Das Kabel ist kaputt
   • Die Fotos sind zu gross
   Lösung zeigen

   Die Beispiele sind einseitig – Einseitige Beispiele lassen die KI schief lernen.

3. 3. Merkt die KI selbst, dass ihre Beispiele einseitig waren?

   • Ja, sofort
   • Nein, Menschen müssen das prüfen
   • Nur nachts
   • Ja, sie schreibt einen Brief
   Lösung zeigen

   Nein, Menschen müssen das prüfen – Darum prüfen Fachleute die Beispiele genau.

Jetzt selbst ausprobieren

Die Lektion dazu

«Schlechte Beispiele machen eine KI ungerecht»

Lektion 4 von 9 aus der Welt «KI-Akademie»

Mit Bildkarten, Spiel, Mission und kurzem Test. Gratis, ohne Anmeldung, es wird nichts gespeichert. Etwa 15 bis 20 Minuten.

Lektion gratis spielen

Entdecken · Spielen · Mission · Test · Anhören

WerkstattKI-TrainerEine kleine KI mit Beispielen trainieren und ihr beim Lernen zusehen.Werkstatt ausprobieren

Mehr dazu im Spiel: «Selber eine KI trainieren» · «Was ist KI?»

Verwandte Fragen

• Wie lernt eine KI? (KI trainieren)
• Was ist künstliche Intelligenz (KI)? Einfach erklärt
• Wie prüfe ich eine KI-Antwort?
• Was ist der Algorithmus bei TikTok und Instagram?

Quellen und Hilfe

• Jugend und Medien (Bundesamt für Sozialversicherungen): Künstliche Intelligenz – Risiken
• EDÖB (Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter): Geltendes Datenschutzgesetz ist auf KI direkt anwendbar

Geprüft am 22.10.2026. Die Erklärung beruht auf der Montibit-Lektion 15-4 «Schlechte Beispiele machen eine KI ungerecht» und den genannten Quellen. Sie wurde mit KI-Hilfe ausformuliert und vor dem Veröffentlichen geprüft. Herausgeber: Montibit (Textil-Point GmbH) · So entstehen unsere Antworten