La transparence des algorithmes au sein de l’Union Européenne

Les algorithmes des plateformes numériques tiennent une place prépondérante dans nos vies puisqu’ils influencent quotidiennement nos choix. Ils restent pourtant très opaques.

Il s’agit d’une question essentielle touchant à la liberté et à la démocratie, comme l’a expliqué récemment la vice-présidente de la Commission européenne à l’occasion d’un discours devant l’organisation AlgorithmWatch.

« Lorsque les systèmes de recommandation choisissent les informations à promouvoir et celles à cacher, ils affectent profondément ce que nous savons sur le monde ».

Ainsi, les utilisateurs des plateformes devraient être en mesure de connaître les fondements du classement qui leur a été imposé, afin de le contrôler, voire de le contester.

C’est dans ce contexte que l’Union Européenne a proposé en 2020 le Digital Services Act et le Digital Markets Act, qui visent à garantir l’explicabilité des algorithmes utilisés par les plateformes numériques.

Le débat va bien au-delà des considérations relatives à la consommation ou au marketing. De nombreux logiciels ont en effet démontré que les algorithmes pouvaient comporter des biais à l’origine de discriminations subjectives contestables. En témoigne les logiciels de reconnaissance faciale (Clearview) ou les logiciels d’aide à la prise de décision (COMPAS).

Les plateformes numériques ont toujours été très réticentes à révéler leurs algorithmes, prétextant le secret des affaires, les droits de propriétés ou encore l’inaccessibilité du public à la compréhension des algorithmes.

C’est pourtant la transparence et l’éthique qui permettra de restaurer la confiance des utilisateurs en la matière.

Ce contenu a été mis à jour le 29 avril 2021 à 18 h 35 min.