Prospective

Déclaration de Toronto : non à la discrimination dans l'apprentissage automatique

  • 29 Mai
    2018
  • 2 min

À Toronto, un collectif a appelé les gouvernements et entreprises technologiques à faire preuve de plus de transparence algorithmique.

La conférence RightsCon a été l'occasion de réaffirmer la nécessité pour la technologie d'être « human centric » (centrée sur l'Homme) et non-discriminatoire. Amnesty International, Access Now, Human Rights Watch et la fondation Wikimédia (pour ne citer que ces organisations) ont réaffirmé à Toronto l'importance de défendre les droits de l'homme en ce qui concernait l'apprentissage automatique, rappelant aux acteurs qui en font usage l'obligation de respecter les principes fondamentaux d'égalité. La Déclaration de Toronto publiée par cette coalition appelle à garantir un traitement des données égalitaire et met l'accent sur la transparence, afin de s'assurer que l'intelligence artificielle soit une technologie qui serve au mieux la dignité humaine. L'apprentissage automatique doit être un outil d'inclusion et permettre de prendre de meilleures décisions dans des délais plus courts (concernant par exemple l'attribution d'un emploi, l'accès à des soins de santé ou à l'éducation), tout en respectant la vie privée, la protection des données, la liberté d'expression et l'égalité des droits fondamentaux - économiques, sociaux et culturels, de manière à ce que ni la nationalité, la religion ou l'opinion politique ne puisse entrer en jeu dans la décision finale ; tout en protégeant les individus en cas de telles dérives (les signataires évoquent notamment des cas d'usage où les algorithmes ont été utilisés par la police pour cibler les individus susceptibles de commettre un crime). Une version définitive de ladite déclaration devrait être publiée à la fin du mois, et éventuellement adoptée par les Nations Unies. Vers une IA plus éthique et un profilage discriminatoire inexistant ?

Rédigé par Marie-Eléonore Noiré