Intelligence artificielle & discrimination raciale

C’est dans le cadre de la préparation d’un rapport sur l’intelligence artificielle et la
discrimination raciale qu’elle peut engendrer, que la rapporteuse spéciale sur les formes
contemporaines de racisme, de discrimination raciale et de xénophobie appelle la société civile à fournir ses observations.

L’ASSEDEL a répondu à cet appel en soumettant le présent rapport.

L’ASSEDEL démontre que l’utilisation d’outils d’intelligence artificielle peut entraîner des
pratiques discriminatoires, particulièrement envers les personnes racisées. L’ASSEDEL a décidé de baser son étude sur l’analyse du cadre juridique européen actuel régissant l’utilisation des algorithmes.

Après avoir détaillé l’état actuel du cadre juridique européen, le rapport s’intéresse aux lacunes
de ce cadre juridique, notamment dans son interprétation des principes de transparence et
d’explicabilité. Le rapport traite du concept de “boîtes noires” et met en évidence les pratiques
discriminatoires qui découlent de leurs utilisations.

Enfin, le rapport se penche sur les conséquences alarmantes de ces pratiques sur le respect et la réalisation de divers droits humains tels que le droit à la santé ou encore le droit à la liberté de mouvement. L’ASSEDEL termine le rapport par une rapide conclusion exposant également les recommandations de l’association afin de promouvoir et garantir une réalisation plus juste des droits humains dans le cadre de l’utilisation de l’intelligence artificielle.

Le rapport s’appuie sur les sources légales fournies par les institutions concernées (Conseil de
l’Europe, Parlement Européen etc), sur des études menées par les organismes européens de
promotion de l’égalité mais aussi sur des articles de presse relatant des pratiques discriminatoires ou encore sur des enquêtes menées par diverses ONG ou médias telles qu’Amnesty International ou Mediapart.

Pour lire l’intégralité de notre rapport, veuillez cliquer ici