Amazon a interdit à la police d'utiliser son logiciel de reconnaissance faciale pendant un an. Selon le cabinet, le moratoire sur l'utilisation d'Amazon Rekognition vise à donner aux gouvernements de nombreuses opportunités d'introduire des réglementations et des cadres pour empêcher la reconnaissance faciale de contribuer à toute forme de discrimination. En attendant, Amazon continuera à permettre aux organisations dédiées à la lutte contre des problèmes tels que la traite des êtres humains et l'enlèvement d'enfants d'utiliser sa technologie. Cette annonce fait suite à une action similaire d'IBM, qui a interrompu toutes les activités de développement et de recherche associées à cette technologie controversée en raison du risque d'utilisation abusive.
Reconnaissance faciale amazonienne
Bien que la technologie de reconnaissance faciale ait considérablement progressé ces dernières années et puisse contribuer à des enquêtes policières légitimes, son application a toujours été controversée. Les inquiétudes concernant les possibilités de surveillance de masse et de notation sociale sont aggravées par la question des préjugés liés à l’IA, qui pourraient conduire à une discrimination à l’égard des personnes en fonction de leurs attributs physiques. Les méthodes d'audit des ensembles de données sous-jacentes aux modèles d'IA (y compris les logiciels de reconnaissance faciale) pour détecter les biais restent incohérentes et non réglementées, ce qui soulève la possibilité que la technologie puisse nuire davantage aux groupes démographiques minoritaires. Amazon Rekognition s'est lui-même attaqué aux préjugés raciaux, avec un article de 2019 co-écrit par les chercheuses Joy Buolamwini et Deborah Raji affirmant que le logiciel ne parvient pas à identifier correctement les personnes à la peau plus foncée et confond également les femmes à la peau plus foncée avec les hommes. L’étude a également révélé que le système Amazon pouvait évaluer les images d’individus à la peau claire avec une précision presque parfaite. Les résultats ont ensuite été vérifiés par un groupe de chercheurs en IA, qui ont fait écho aux préoccupations exprimées par Buolamwini selon lesquelles la technologie ne devrait pas être utilisée dans un contexte d'application de la loi. Amazon semble être arrivé à la même conclusion, même s'il n'a jamais admis les allégations selon lesquelles son logiciel Rekognition serait raciste. "Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon", indique un communiqué publié par la société. "Nous avons plaidé pour que les gouvernements établissent des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi." "Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre les règles appropriées, et nous sommes prêts à aider si on le demande." On ne sait pas combien d'organismes chargés de l'application de la loi utilisaient Amazon Rekognition avant l'interdiction, bien que cette décision marque un changement radical de politique depuis 2018, lorsque le PDG d'AWS, Andy Jassy, a déclaré aux employés qu'il était satisfait de la valeur que le service offrait à tous les clients, y compris la police. Via le bord