Dans l’ère numérique, l’omniprésence croissante de l’intelligence artificielle (IA) et des Deepfakes soulève des préoccupations concernant le violation des droits et de la vie privée. Si elles sont prometteuses à bien des égards, ces technologies représentent une menace croissante pour l’intégrité personnelle et les valeurs démocratiques fondamentales.

Une enquête internationale sur les préjudices en ligne menée par le Centre for International Governance Innovation (CIGI) en 2020 dans 18 pays avec la participation de 18 149 personnes, a révélé que 60% des personnes interrogées avaient subi au moins une des 13 formes de préjudices en ligne. Les personnes LGBTQ+ ont signalé la plus grande proportion d’incidents subis. En outre, les femmes représentent une proportion légèrement supérieure à celle des hommes, bien qu’elles soient plus susceptibles de signaler un impact plus grave de ces incidents que les hommes. Parmi les formes de préjudice en ligne évoquées, l’utilisation non consensuelle d’images intimes est l’incident que la majorité considère comme préjudiciable, en particulier les femmes (82,8 % contre 71,2 % des hommes).

November 22, 2023 Por Nidia Hidalgo  

Examinons de plus près comment l’IA et les Deepfakes remettent en question l’éthique et la protection de la vie privée sous trois angles principaux :

Discrimination et absence de transparence

L’IA, utilisée dans divers contextes, de la sélection des employés à la prise de décision gouvernementale, peut perpétuer des préjugés et des inégalités involontaires. Des algorithmes opaques et un manque de transparence peuvent mener à des décisions injustes et à des violations des droits de l’homme. La collecte massive de données personnelles par les systèmes d’IA soulève également des préoccupations quant au respect de la vie privée et à l’autonomie individuelle.

Manipulation d’informations et d’identités

Les « deepfakes », une application particulièrement inquiétante de l’IA, ont le potentiel de manipuler les informations et les identités des gens de manière dangereuse. En permettant la création de faux contenus très réalistes, les Deepfakes sapent la confiance dans la véracité des médias et peuvent être utilisés pour diffuser de la désinformation, nuire à la réputation de personnes et d’entreprises, et même influencer les processus démocratiques, tels que les élections. En manipulant l’information, on compromet l’intégrité personnelle et la capacité des individus à contrôler leur propre récit.

Par exemple : Imaginez Marie, une jeune étudiante universitaire qui, comme beaucoup d’autres jeunes de son âge, partage des photos et des vidéos sur ses réseaux sociaux pour rester en contact avec ses amis et sa famille. Un jour, Marie découvre avec horreur que son visage a été superposé sur une vidéo pornographique sans son consentement. Cette vidéo, créée à l’aide d’une technologie d’intelligence artificielle connue sous le nom de deepfake, montre Marie en train de se livrer à des actes sexuels qui n’ont jamais eu lieu. Elle se sent violée, humiliée et complètement impuissante face à la diffusion de ce contenu qui porte atteinte à son intégrité et à sa dignité.

Marie n’est pas la seule victime de cette forme de violence numérique. Dans le monde entier, des milliers de femmes et de personnes LGBTQ+ sont soumises à une pornographie non consensuelle générée par des algorithmes d’IA. Au-delà d’une grave violation des droits de l’homme, cette pratique a des conséquences dévastatrices pour les victimes. Nombre d’entre elles connaissent des problèmes de santé mentale tels que l’anxiété, la dépression et même des tentatives d’automutilation en raison du traumatisme et de la honte causés par la diffusion de ce matériel.

Bien que certains pays aient commencé à s’attaquer à ce problème en mettant en œuvre des réglementations, comme en Chine, où des réglementations ont été mises en place pour contrôler l’utilisation préjudiciable des « deepfakes », dans des pays comme le Chili, la situation reste préoccupante. L’absence de législation spécifique laisse les victimes sans protection et limite les actions en justice qu’elles peuvent entreprendre pour défendre leurs droits.

Risque pour l’autonomie et la liberté

La prolifération de l’IA et des Deepfakes présente également des risques importants pour l’autonomie et la liberté individuelle. À cause de la capacité de ces technologies à collecter, analyser et manipuler les données personnelles, les gouvernements et les entreprises peuvent exercer une surveillance de masse et un contrôle excessif. Cela porte atteinte aux droits fondamentaux à la vie privée et à la liberté d’expression, créant un environnement dans lequel les individus se sentent constamment surveillés et manipulés.

Sensorial Sunsets

Violation des droits et de la vie privée