Spotting Toxic Clouds (IJmondCAM)

Qu'est-ce que je peux apprendre ?

Un projet communautaire de Waag et du chercheur Yen-Chia Hsu dans lequel les habitants de la région d'IJmond participent à l'étiquetage des données — en déterminant ce qui constitue un panache de fumée suspect — pour constituer le jeu de données d'entraînement d'un modèle de surveillance, donnant ainsi aux gens une influence directe sur les choix que fait le modèle.

Idée clé

La « vérité terrain » dont un modèle apprend est un jugement humain, pas un fait de nature. Lorsque la communauté concernée étiquette les données, elle détient un pouvoir sur ce que le système voit et signale — une démonstration concrète de l'endroit où le biais s'introduit et de la façon dont on peut l'orienter.

Comment l'utiliser au quotidien

Un exemple local et tangible de citoyens qui façonnent un système d'IA au lieu d'y être seulement soumis, utile pour démystifier le fonctionnement des données d'entraînement et de l'étiquetage.

• Utilisez IJmondCAM pour expliquer concrètement à des usagers que quelqu'un décide de ce qu'une IA apprend à reconnaître — et que cela peut être eux.
• Appuyez-vous sur l'activité d'étiquetage pour montrer comment se construisent les jeux de données et pourquoi l'identité de qui étiquette compte pour l'équité.