Il utilise la technologie d’IA pour classer les photos des utilisateurs. Basé sur les « catégories de personnes » de la base de données ImageNet, l'outil classe les photos téléchargées en plus de 20.000 catégories.
À travers 2.833 sous-catégories, les personnes sont classées selon la race, la nationalité, la profession, le comportement, etc. Alors que certaines catégorisations peuvent être aussi banales que « fille » ou spécifiques comme « socio-linguiste », elles sont aussi parfois violentes, pouvant s'avérer misogynes ou racistes. Si cette catégorisation peut sembler amusante entre amis, elle révèle un côté plus sombre de l'IA. Le duo explique ainsi : « Les classifications de ce type via l'IA sont rarement rendues publiques. ImageNet Roulette donne un aperçu de ce processus - et montre les problèmes qu'il engendre. »
