15.4 C
Bruxelles
lundi, octobre 7, 2024
AccueilFrançaisACTUALITERéglementation essentielle pour freiner l'IA à des fins de surveillance et de...

Réglementation essentielle pour freiner l’IA à des fins de surveillance et de désinformation : experts des droits

Publié le


Dans un communiqué publié vendredi, les experts ont déclaré que les technologies émergentes, y compris les systèmes de surveillance biométrique basés sur l’intelligence artificielle, sont de plus en plus utilisées « dans des contextes sensibles ». à l’insu ou sans le consentement des personnes

Des « lignes rouges urgentes » doivent être tracées

« Des lignes rouges réglementaires urgentes et strictes sont nécessaires pour les technologies qui prétendent effectuer une reconnaissance émotionnelle ou de genre », ont déclaré les experts, dont Fionnuala Ní Aoláin, rapporteur spécial sur la promotion et la protection des droits de l’homme dans la lutte contre le terrorisme.

Le Conseil des droits de l’homme-des experts nommés ont condamné l’utilisation et les impacts déjà « alarmants » des logiciels espions et des technologies de surveillance sur le travail des défenseurs des droits humains et des journalistes, « souvent sous le couvert de mesures de sécurité nationale et de lutte contre le terrorisme ».

Ils ont également appelé à une réglementation pour lutter contre le développement ultra-rapide de l’IA générative qui permet la production de masse de faux contenus en ligne qui propagent la désinformation et les discours de haine.

Conséquences dans le monde réel

Les experts ont souligné la nécessité de veiller à ce que ces systèmes n’exposent pas davantage les personnes et les communautés aux violations des droits de l’homme, notamment par l’expansion et l’abus de pratiques de surveillance invasives qui portent atteinte au droit à la vie privée, facilitent la commission de violations flagrantes des droits de l’homme, y compris les disparitions forcées et la discrimination.

Ils se sont également dits préoccupés par le respect des libertés d’expression, de pensée, manifestation pacifique, et pour l’accès aux droits économiques, sociaux et culturels essentiels et aux services humanitaires.

« Les technologies et applications spécifiques doivent être totalement évitées là où la réglementation des plaintes relatives aux droits de la personne n’est pas possible« , ont déclaré les experts.

Les experts ont également exprimé leur inquiétude quant au fait que le développement de l’IA générative est dirigé par un petit groupe d’acteurs puissants, y compris des entreprises et des investisseurs, sans exigences adéquates pour mener une diligence raisonnable en matière de droits de l’homme ou consulter les personnes et les communautés concernées.

Et le travail crucial de régulation interne par la modération du contenu est souvent effectué par des individus en situation d’exploitation par le travail, ont noté les experts indépendants.

Plus de transparence

« Une réglementation est nécessaire de toute urgence pour assurer la transparence, alerter les gens lorsqu’ils rencontrent des médias synthétiques et informer le public sur les données de formation et les modèles utilisés », ont déclaré les experts.

Les spécialistes ont réitéré leurs appels à la prudence sur l’utilisation des technologies numériques dans le contexte des crises humanitaires, de la collecte de données à grande échelle – y compris la collecte de données biométriques très sensibles – à l’utilisation de technologies avancées de surveillance ciblée.

« Nous appelons à la modération dans l’utilisation de ces mesures jusqu’à ce que les implications plus larges en matière de droits de l’homme soient pleinement comprises et que des garanties solides de protection des données soient en place », ont-ils déclaré.

Cryptage, confidentialité primordiale

Ils ont souligné la nécessité de garantir des solutions techniques, y compris cryptage fort de bout en bout et accès illimité aux réseaux privés virtuels – et sécuriser et protéger les communications numériques.

« Les deux l’industrie et les États doivent être tenus responsables, y compris pour leurs impacts économiques, sociaux, environnementaux et sur les droits humains », ont-ils déclaré. « La prochaine génération de technologies ne doit pas reproduire ou renforcer les systèmes d’exclusionla discrimination et les schémas d’oppression.

Les rapporteurs spéciaux et autres experts en matière de droits sont tous nommés par le Conseil des droits de l’homme des Nations unies, ont pour mandat de surveiller et de faire rapport sur des questions thématiques spécifiques ou des situations nationales, ne font pas partie du personnel des Nations unies et ne reçoivent pas de salaire pour leur travail.

Source link

Publicité

Voir l'interview

spot_img

Autres articles

Un atelier de l’OSCE renforce la collaboration interinstitutions pour la prévention de la criminalité chez les jeunes au Kirghizistan

Issyk-Kul, Kirghizistan – 7 octobre 2024 – Du 1er au 3 octobre, le Département...

L’OSCE-BIDDH a lancé le livre « Croyance, dialogue et sécurité »

Un nouveau guide pour favoriser la coopération interconfessionnelle Le Bureau des institutions démocratiques et des...

Application de la circulaire relative à la prudence budgétaire pendant la période des affaires courantes

Voici les dossiers concernés : Bureau de normalisation Missions déléguées au Bureau de normalisation (NBN) en matière...

Énergie : enchères pour la livraison de capacité

Avec le mécanisme de rémunération de capacité, la Belgique vise à assurer la sécurité...

autres articles

Un atelier de l’OSCE renforce la collaboration interinstitutions pour la prévention de la criminalité chez les jeunes au Kirghizistan

Issyk-Kul, Kirghizistan – 7 octobre 2024 – Du 1er au 3 octobre, le Département...

L’OSCE-BIDDH a lancé le livre « Croyance, dialogue et sécurité »

Un nouveau guide pour favoriser la coopération interconfessionnelle Le Bureau des institutions démocratiques et des...

Suivi de la mise en œuvre de la politique climatique fédérale

En application du Green Deal, de la loi européenne sur le climat et de...