Des « lignes rouges urgentes » doivent être tracées
« Des lignes rouges réglementaires urgentes et strictes sont nécessaires pour les technologies qui prétendent effectuer une reconnaissance émotionnelle ou de genre », ont déclaré les experts, dont Fionnuala Ní Aoláin, rapporteur spécial sur la promotion et la protection des droits de l’homme dans la lutte contre le terrorisme.
Le Conseil des droits de l’homme-des experts nommés ont condamné l’utilisation et les impacts déjà « alarmants » des logiciels espions et des technologies de surveillance sur le travail des défenseurs des droits humains et des journalistes, « souvent sous le couvert de mesures de sécurité nationale et de lutte contre le terrorisme ».
Ils ont également appelé à une réglementation pour lutter contre le développement ultra-rapide de l’IA générative qui permet la production de masse de faux contenus en ligne qui propagent la désinformation et les discours de haine.
Conséquences dans le monde réel
Les experts ont souligné la nécessité de veiller à ce que ces systèmes n’exposent pas davantage les personnes et les communautés aux violations des droits de l’homme, notamment par l’expansion et l’abus de pratiques de surveillance invasives qui portent atteinte au droit à la vie privée, facilitent la commission de violations flagrantes des droits de l’homme, y compris les disparitions forcées et la discrimination.
Ils se sont également dits préoccupés par le respect des libertés d’expression, de pensée, manifestation pacifique, et pour l’accès aux droits économiques, sociaux et culturels essentiels et aux services humanitaires.
« Les technologies et applications spécifiques doivent être totalement évitées là où la réglementation des plaintes relatives aux droits de la personne n’est pas possible« , ont déclaré les experts.
Les experts ont également exprimé leur inquiétude quant au fait que le développement de l’IA générative est dirigé par un petit groupe d’acteurs puissants, y compris des entreprises et des investisseurs, sans exigences adéquates pour mener une diligence raisonnable en matière de droits de l’homme ou consulter les personnes et les communautés concernées.
Et le travail crucial de régulation interne par la modération du contenu est souvent effectué par des individus en situation d’exploitation par le travail, ont noté les experts indépendants.
Plus de transparence
« Une réglementation est nécessaire de toute urgence pour assurer la transparence, alerter les gens lorsqu’ils rencontrent des médias synthétiques et informer le public sur les données de formation et les modèles utilisés », ont déclaré les experts.
Les spécialistes ont réitéré leurs appels à la prudence sur l’utilisation des technologies numériques dans le contexte des crises humanitaires, de la collecte de données à grande échelle – y compris la collecte de données biométriques très sensibles – à l’utilisation de technologies avancées de surveillance ciblée.
« Nous appelons à la modération dans l’utilisation de ces mesures jusqu’à ce que les implications plus larges en matière de droits de l’homme soient pleinement comprises et que des garanties solides de protection des données soient en place », ont-ils déclaré.
Cryptage, confidentialité primordiale
Ils ont souligné la nécessité de garantir des solutions techniques, y compris cryptage fort de bout en bout et accès illimité aux réseaux privés virtuels – et sécuriser et protéger les communications numériques.
« Les deux l’industrie et les États doivent être tenus responsables, y compris pour leurs impacts économiques, sociaux, environnementaux et sur les droits humains », ont-ils déclaré. « La prochaine génération de technologies ne doit pas reproduire ou renforcer les systèmes d’exclusionla discrimination et les schémas d’oppression.
Les rapporteurs spéciaux et autres experts en matière de droits sont tous nommés par le Conseil des droits de l’homme des Nations unies, ont pour mandat de surveiller et de faire rapport sur des questions thématiques spécifiques ou des situations nationales, ne font pas partie du personnel des Nations unies et ne reçoivent pas de salaire pour leur travail.
