Unmasking AI: My Mission to Protect Our Future
Joy Buolamwini, fondatrice de l’Algorithmic Justice League, y raconte son combat pour révéler et corriger les biais cachés des systèmes d’intelligence artificielle.
Publié en septembre 2023 par Random House, Unmasking AI revient sur la découverte par Buolamwini d’un taux d’erreur élevé des algorithmes de reconnaissance faciale sur les visages féminins et foncés, déclenchant son engagement pour l’équité algorithmique.
À travers des récits personnels et des enquêtes de terrain, elle dévoile comment les grandes entreprises tech et certains gouvernements ont déployé des IA sans tests rigoureux, exacerbant discriminations et injustices sociétales.
Elle décrit la création de l’Algorithmic Justice League au MIT Media Lab, ses collaborations avec des parlementaires américains et la campagne pour introduire des audits obligatoires et des normes éthiques dans le développement de l’IA.
Buolamwini explique également les méthodes de mitigation des biais (données diversifiées, évaluations ouvertes, design inclusif) et propose un « pacte de transparence » pour que chaque modèle d’IA soit accompagné de son « bilan d’impact humain ».
L’ouvrage se termine sur un appel à la vigilance citoyenne et à la co-construction de l’IA, invitant chercheurs, ingénieurs et décideurs à faire de l’équité un critère central dès la conception.
Points clés
- Découverte du biaisLes algorithmes de reconnaissance faciale faiblement testés se trompent jusqu’à 35 % sur les visages foncés.
- Algorithmic Justice LeagueOrganisation fondée pour sensibiliser et mobiliser autour des inégalités induites par l’IA.
- Audits obligatoiresProposition de lois pour exiger des tests d’équité et de sécurité avant tout déploiement.
- Méthodes de mitigationDiversification des données, transparence de code et inclusion de panels citoyens.
- Pacte de transparenceChaque modèle d’IA doit publier un rapport de son impact social et éthique.
Citations marquantes
“If our faces are misread by algorithms, how can we trust decisions made in our name?”
“We must build AI that sees all of us, not just the majority.”