Le CNDH stimule le débat sur l'intelligence artificielle en lien avec les droits de l'Homme

L'intelligence artificielle et les droits de l’Homme ont été au cœur d’une conférence, tenue vendredi 3 décembre à Rabat, à l’initiative du Conseil national des droits de l’Homme (CNDH), avec comme objectif de débattre des différentes initiatives internationales, régionales et nationales à ce sujet.

Intervenant à cette occasion, la présidente du CNDH, Amina Bouayach a relevé que le Conseil accompagne depuis 2019 le développement de l’intelligence artificielle au Maroc, notamment en termes de prévention des violations des droits de l’Homme, de protection des victimes et de promotion des droits humains.

Bouayach a rappelé l'organisation de consultations nationales à ce sujet portant, entre autres, sur la mise en place d’une plateforme numérique (avril à décembre 2020) «Taabirat raqmya », ayant reçu des contributions d’experts et de citoyens marocains sur la question de l’exercice des libertés dans l’espace numérique.

De même, le CNDH a tenu des rencontres, entre décembre 2019 et janvier 2020, avec des journalistes, éditeurs, syndicats, associations et défenseurs des droits humains sur la protection de tous les droits humains dans l’espace numérique, a-t-elle poursuivi.

Bouayach a souligné le grand intérêt accordé aux débats des instances des Nations-Unies et leurs préoccupations, traduits en recommandations sur la question de l’intelligence artificielle, notant que cette question soulève des préoccupations urgentes relatives aux possibilités offertes aux algorithmes de prendre des décisions déterminantes sur la vie des individus et des groupes.

Pour sa part, la directrice du Centre national pour la recherche scientifique et technique (CNRST), Jamila El Alami a appelé à encourager la recherche scientifique dans le domaine de l’intelligence artificielle au Maroc, soulignant la nécessité de lever les fonds alloués à la recherche et à l’innovation dans les domaines de l’intelligence artificielle et des droits de l'Homme.

El Alami a noté que les recherches et publications en la matière sont encore «modestes» au Maroc, précisant que les États-Unis et la Grande-Bretagne sont parmi les pays qui produisent le plus de recherches et publications liées à l'intelligence artificielle.

De son côté, le président de la Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST), Peter Paul Verbeek a mis en exergue les avantages de l'intelligence artificielle dans l’atténuation des impacts économiques de la pandémie de Covid-19 et le traitement des données sanitaires, constatant que l'utilisation de l’intelligence artificielle soulevait, en revanche, de nombreuses inquiétudes concernant la protection des données.

A cet égard, Verbeek a souligné la nécessité de formuler des politiques nationales et internationales à même de garantir la juste utilisation de l’intelligence artificielle, qui repose sur une base éthique solide, dans le plein respect du droit dans le monde.

Du brainstorming initié par le CNDH est sorti ce document de référence appelé "Déclaration de Rabat"

Intelligence artificielle et citoyenneté numérique :

Pour une intelligence artificielle respectant les droits humains.

Nous, expert.e.s nationaux et internationaux, participant.e.s au séminaire international relatif à l’intelligence artificielle et les droits humains, organisé à Rabat, le 03 décembre 2021 par le Conseil National des Droits de l’Homme CNDH, tout en saluant l’initiative, exprimons notre adhésion :

• Aux recommandations des rapports annuels du CNDH :
  • « Ouverture d’un débat public autour de la liberté d’opinion, d’expression et de presse, avec la participation de toutes les parties prenantes, prenant en considération les mutations relatives à ce sujet, notamment dans l’espace numérique et en particulier les plateformes de réseaux sociaux, pour la consécration de l’exercice de cette liberté sans atteindre la vie privée des personnes » (Rapport annuel 2019) ;
  • « Ouverture d’un débat public sur la protection des droits humains dans le domaine des technologies et de l’intelligence artificielle ... [et] la nécessité de la prise en considération de la protection des droits humains, notamment les droits à la vie privée, à la protection des données personnelles et à la sécurité dans la conception des applications et algorithmes relatifs à l’intelligence artificielle – Human Rights by design » (Rapport annuel 2020).
• Ayant pris connaissance des consultations larges et inclusives entreprises par le CNDH avec les parties prenantes au Maroc pour :
  • La mise en place d’une plateforme numérique (avril à décembre 2020) « taabirat raqmya » (Expressions numériques), ayant reçu des contributions d’expert.e.s et de citoyen.ne.s marocain.e.s sur la question de l’exercice des libertés dans l’espace numérique ;
  • La tenue d’ateliers d’échange (décembre 2019, janvier 2020) avec des journalistes, des éditeurs, des syndicats, des associations et des défenseurs des droits humains sur la protection de tous les droits humains dans l’espace numérique ;
  • L’édition d’un numéro spécial de la revue scientifique (Arribat) du CNDH sur les droits de l’Homme et l’intelligence artificielle ;
  • L’organisation d’un séminaire national de concertation (avril 2021) avec des entreprises technologiques, des universitaires, des associations professionnelles et des centres de recherches sur la protection des droits humains dans l’environnement de l’intelligence artificielle.
• Prenant en considération les initiatives internationales et nationales en matière de cadres réglementant l’intelligence artificielle basés sur la protection des droits humains exposées lors du séminaire international, et prenant note :
  • Des recommandations sur l’éthique de l’intelligence artificielle de la Commission mondiale d’éthique des connaissances scientifiques et des technologies COMEST[1] de l’UNESCO ;
  • L’initiative globale sur l’éthique des systèmes autonomes et intelligents, IEEE[2] (Institute of Electrical and Electronics Engineers) ;
  • Des recommandations vers une régulation des systèmes de l’intelligence artificielle du Conseil de l’Europe (Ad hoc Committee on Artificial Intelligence CAHAI[3] du Conseil de l’Europe) ;
  • Droits humains et technologies, rapport final[4], Commission Australienne des Droits de l’Homme ;
  • Les initiatives et travaux de recherches universitaires (Université Mohammed VI Polytechnique, Benguerir – Maroc ; Université Ibn Tofail, Kénitra, Maroc ; Centre National de Recherche Scientifique et Technique, Rabat, Maroc ; George Washingon University, Washintgton, Etats Unis ; International University in Geneva, Genève, Suisse ; Harvard University, Cambridge, Etats Unis ; Addis Ababa University, Addis Abeba, Éthiopie ; University of Technology, Sydney, Australie).

Nous recommandons au CNDH de :

• Poursuivre son action pour la protection des droits humains dans l’environnement de l’intelligence artificielle ;
• Elargir les consultations nationales avec les parties prenantes, en vue de proposer des principes directeurs réglementant le développement de l’intelligence artificielle pour le respect des droits humains ;
• Partager ses conclusions et recommandations avec l’opinion publique et ses partenaires au niveau régional et international.

Se félicitant de l’engagement du CNDH à organiser un séminaire international, au Maroc, en Juillet 2022, nous déclarons la constitution d’un comité scientifique pour l’accompagner dans la mise en œuvre des recommandations ci-dessus.

Composition du comité scientifique :

Présidente :

• Amina Bouayach, Présidente du Conseil National des Droits de l’Homme ;

Membres :

• Peter-Paul Verbeek, Président de la Commission mondiale d’éthique des connaissances scientifiques et des technologies COMEST de l’UNESCO, Professeur à l’Université de Twente, Pays-Bas ;
• John C. Havens, Directeur exécutif de la IEEE Global Initiative on Ethics of Automonous and Intelligent Systems, membre du World Economic Forum Global Future Council on Human Rights and Technology, États-Unis ;
• Azzeddine Midaoui, Président de l’Université Ibn Tofail, Maroc ;
• Elizabeth D. Gibbons, Présidente du Sustainable Development Committee, IEEE Ethically Aligned Design, Professor, senior fellow and director of Child Protection Certificate Program, Université de Harvard, États Unis;
• Jamila El Alami, Directrice du Centre National pour la recherche Scientifique et Technique, Maroc ;
• Sidi Mohammed Drissi Melyani, Directeur Général de l’Agence du Développement du Digital ADD, Maroc ;
• Leila Hanafi, Professeur à George Washington University, Etats Unis ;
• Workineh Kelbessa, Professor of Philosophy, ancient member de la COMEST / UNESCO (2012-2019), Addis Ababa University, Éthiopie ;
• Narjis Hilale, Professeur à l’International University in Geneva, Suisse;
• Emmanuel Goffi, Directeur du Global AI Ethics Institute, France ;
• Younes Alami, vice-président de la fédération nationale de l’Électricité, l’Électronique et des Énergies Renouvelables FENELEC, Maroc ;
• Mohamed Douyeb, Président du Collectif Digital Act, Maroc ;
• Mohammed Rhachi, Président de l’Université Mohammed V, Maroc ;
• Bouchta El Moumni, Président de l’Université Abdelmalek Essaâdi, Maroc ;