abusesaffiliationarrow-downarrow-leftarrow-rightarrow-upattack-typeburgerchevron-downchevron-leftchevron-rightchevron-upClock iconclosedeletedevelopment-povertydiscriminationdollardownloademailenvironmentexternal-linkfacebookfiltergenderglobegroupshealthC4067174-3DD9-4B9E-AD64-284FDAAE6338@1xinformation-outlineinformationinstagraminvestment-trade-globalisationissueslabourlanguagesShapeCombined Shapeline, chart, up, arrow, graphLinkedInlocationmap-pinminusnewsorganisationotheroverviewpluspreviewArtboard 185profilerefreshIconnewssearchsecurityPathStock downStock steadyStock uptagticktooltiptwitteruniversalityweb
Article

3 Jul 2018

Auteur:
Dunja Mijatović, Commissaire aux droits de l’homme du Conseil de l’Europe

Protéger les droits de l'homme à l’ère de l’intelligence artificielle

...[L'utilisation de l'IA] peut menacer plusieurs de nos droits de l’homme. Le fait que des décisions soient prises sur la base de ces systèmes, en l’absence de toute transparence, responsabilité ou garanties quant à leur conception, leur fonctionnement et la manière dont ils peuvent évoluer au fil du temps, aggrave le problème.

...La tension entre les avantages de l’IA et les risques pour nos droits de l’homme est particulièrement évidente en matière de vie privée...dans l’environnement numérique, de grandes quantités de données à caractère personnel sont collectées, souvent à notre insu, et peuvent servir à établir notre profil et à prédire nos comportements...Le manque de diversité et d’inclusion qui caractérise la conception des systèmes d’IA...risquent de renforcer les discriminations et les préjugés en leur donnant une apparence d’objectivité...l’IA peut amplifier les discriminations...En matière judiciaire aussi, l’IA peut avoir une influence positive ou négative.

..Parmi les autres droits menacés figure le droit à la liberté d’expression...Facebook et YouTube ont adopté des mécanismes de filtrage pour détecter les contenus extrémistes violents.., aucune information n’est disponible sur le processus ou les critères retenus pour déterminer quelles vidéos ont un « contenu clairement illégal »... ce contrôle risque d’être exercé pour restreindre une liberté d’expression légitime et pour priver les gens de possibilités de s’exprimer...la reconnaissance faciale.. risque en effet d’être aussi utilisé comme une arme, à des fins de surveillance de masse ou pour identifier des manifestants.

... Il est donc urgent de trouver le juste équilibre entre les progrès technologiques et la protection des droits de l'homme...la jurisprudence de la Cour européenne des droits de l'homme fixe des limites précises pour le respect de la vie privée, la liberté et la sécurité...Les États devraient veiller à ce que le secteur privé, qui est responsable de la conception, de la programmation et de la mise en œuvre de l’IA, respecte les normes des droits de l'homme...Troisième chantier : familiariser la population avec l’IA.  

... nécessité de soumettre l’IA à des règles strictes, pour éviter qu’elle ne se métamorphose en une version moderne du monstre de Frankenstein.