Kategorie-Türkontrolle
Also known as: KI-Kategorie-Vorurteil, Systematische Ausschließung
Kategorie-Türkontrolle tritt auf, wenn die KI gelernt hat, Marken nur mit bestimmten Kategorien zu assoziieren, was sie von angrenzenden oder breiteren Kategorien ausschließt.
Vollständige Erklärung
Kategorie-Türkontrolle tritt auf, wenn die KI gelernt hat, Marken nur mit bestimmten Kategorien zu assoziieren, was sie von angrenzenden oder breiteren Kategorien ausschließt. Die Forschung fand heraus, dass dies sich als geschlechtsspezifische Ausschließung (KI-Ausschließung von Marken aus "Ehemann" vs. "Ehefrau"-Abfragen) und industrie-basierte Ausschließung (Marken unsichtbar bei verwandten, aber nicht Kern-Themen) manifestiert. Chi-Quadrat-Tests bestätigten systematische Kategoriezuweisung mit p<0,001.
Beispiel
Die KI empfiehlt systematisch unterschiedliche Marken für "Geschenk für Ehemann" vs. "Geschenk für Ehefrau" – nicht wegen Stereotypen, sondern weil sie Kategorie-Grenzen gelernt hat.
Forschungserkenntnisse
Unsere Forschung zu Geschlechtsbias bei KI-Empfehlungen hat gezeigt: Chi-Quadrat p<0,001 systematischer Bias
Die vollständige Forschung lesenVerwandte Begriffe
Vertiefung
Der Stand der KI-Sichtbarkeit
Erfahren Sie, wie KI-Sichtbarkeit funktioniert, welche Metriken wichtig sind und wie aus unsichtbaren Marken empfohlene Marken werden.