Details zu dieser Leitlinie

Die voranschreitende Digitalisierung im Allgemeinen sowie der zunehmende Einsatz von KI-Tools im Speziellen bieten zahlreiche Chancen und Vorteile, haben aber auch kritische Stimmen auf den Plan gerufen, die einen ethischen und moralisch korrekten Einsatz von KI fordern. Hintergrund ist der sogenannte KI-Bias.

Was verbirgt sich hinter dem KI-Bias? Gemeint ist hierbei, dass menschliche Vorurteile, die in ursprünglichen Trainingsdaten enthalten sind, zu verzerrten Ergebnissen von KI-Tools führen können bzw. die Folge haben, dass KI-generierte Inhalte Vorurteile und Diskriminierung übernehmen oder gar potenzieren. Denn viele KI-Systeme lernen aus historischen Daten, die menschliche Entscheidungen, Verhaltensweisen und Bewertungen widerspiegeln. Wenn diese Daten Vorurteile gegenüber bestimmten Gruppen oder Individuen enthalten, lernt die KI diese Vorurteile und repliziert sie in ihren Entscheidungen und in ihren Inhalten. 

So entstehen verschiedene Risiken: In erster Linie das Risiko einer systematisch verzerrten Darstellung, zusätzlich das Risiko, bestimmter Gesellschaftsgruppen zu benachteiligen und zugleich das Risiko, Stereotype und Rollen zu bedienen. Dies bedeutet: Bestimmte Gruppen oder Individuen können ungerecht bevorzugt oder benachteiligt werden.

Daher verpflichtet sich die RPT dazu , sensibel im Umgang mit KI-generierten Inhalten umzugehen und textlichen, bildlichen und multimedialen Output durch menschliche Kontrolle stets auf die Einhaltung ethischer Standards, auf Fairness und Anti-Diskriminierung zu überprüfen. 

Was bedeutet das konkret?

Die RPT verpflichtet sich dazu, sensibel im Umgang mit KI-generierten Inhalten umzugehen und textlichen wie bildlichen Output auf die Einhaltung ethischer Standards, Fairness und Anti-Diskriminierung zu überprüfen. Dazu gehört immer die menschliche Prüfung zur Vermeidung von Diskriminierung und klischeehaften Darstellungen oder dem Ausschluss von Personen(gruppen) sowie die Vermeidung der Reproduktion von Vorurteilen.