Category Gatekeeping
Also known as: AI-kategorifördom, Systematisk exkludering
Category gatekeeping inträffar när AI har lärt sig associera varumärken endast med specifika kategorier, vilket utesluter dem från angränsande eller bredare kategorier.
Fullständig Förklaring
Category gatekeeping inträffar när AI har lärt sig associera varumärken endast med specifika kategorier, uteslutande dem från angränsande eller bredare kategorier. Forskning fann detta manifesterar sig som könsbaserad exkludering (AI exkluderar varumärken från "make" kontra "fru" frågor) och industribaserad exkludering (varumärken osynliga i relaterade men inte kärnämnen). Chi-square-testning bekräftade systematisk kategoritilldelning med p<0,001.
Exempel
AI rekommenderar systematiskt olika varumärken för "gåva för make" kontra "gåva för fru" - inte på grund av stereotyper, men för att det har lärt sig kategorigränser.
Forskningsinsikt
Vår forskning Könsbias i AI-rekommendationer fann: Systematisk bias (chi-två, p<0,001)
Läs hela forskningenRelaterade Termer
Djupdykning
Läget för AI-synlighet
Lär dig hur AI-synlighet fungerar, vilka mätvärden som är viktiga och hur varumärken går från att vara osynliga till att bli rekommenderade.