L’intelligence artificielle au Maroc: entre éthique et réglamentation

L’intelligence artificielle (IA) et les technologies connexes offrent d’importantes opportunités pour le Maroc, notamment dans des secteurs clés comme l’agriculture, la santé et l’éducation. Cependant, elles soulèvent des défis éthiques, juridiques et sociaux, notamment en ce qui concerne la protection des données personnelles, la transparence des algorithmes et la responsabilité en cas de dysfonctionnements. En l’absence d’un cadre normatif spécifique, une réglementation stricte est nécessaire pour prévenir les pratiques intrusives et discriminatoires.

Le Maroc, déjà engagé dans la mise en place d’un cadre institutionnel, transpose la Recommandation de l’UNESCO sur l’éthique de l’IA dans ses structures, soutenu par la création d’un Centre de catégorie II pour l’IA en Afrique sous l’égide de l’UNESCO depuis novembre 2023. Cependant, le pays doit développer une stratégie nationale de compétences et favoriser un consensus autour d’une vision éthique et réglementée de l’IA pour garantir une intégration inclusive de cette technologie.

La protection des données personnelles est un pilier essentiel, avec des lois (n°09-08 et n°05-20) qui imposent des obligations strictes aux entreprises et institutions. La Commission nationale de contrôle de protection des données à caractère personnel (CNDP) assure la supervision de ces normes, mais des défis persistent en matière de transparence algorithmique et de respect des droits des citoyens. Un renforcement du cadre législatif est nécessaire pour garantir des explications transparentes et éviter les discriminations.

Le Maroc pourrait s’inspirer des meilleures pratiques internationales, comme le RGPD (règlement général sur la protection des données), pour intégrer les principes de transparence, de limitation des finalités et de minimisation des données dans son cadre juridique. L’infrastructure institutionnelle joue un rôle central, mais une collaboration étroite entre régulateurs, entreprises et citoyens est essentielle pour garantir une transition technologique éthique et bénéfique pour tous.

Quels sont les fondements nécessaires à l’élaboration d’un cadre juridique et éthique adapté pour encadrer l’utilisation de l’intelligence artificielle au Maroc?

ENJEUX ÉTHIQUES INHÉRENTS À L’INTELLIGENCE ARTIFICIELLE

L’intégration de l’IA dans la société marocaine soulève des enjeux éthiques et juridiques majeurs, particulièrement en matière de protection des données personnelles. L’exploitation massive des données par les systèmes d’IA peut menacer la vie privée si des mesures adéquates ne sont pas mises en place pour garantir leur sécurité et prévenir les abus. Par ailleurs, la transparence des algorithmes reste une problématique clé, étant donné l’impact significatif des décisions automatisées sur les individus. Il est crucial de rendre ces processus décisionnels compréhensibles afin de préserver la confiance du public et de prévenir toute partialité.

L’équité constitue également un défi central, les systèmes d’IA risquant de reproduire ou d’aggraver les biais existants dans les données utilisées, ce qui pourrait entraîner des discriminations. Pour y remédier, il est indispensable d’intégrer des mécanismes d’identification et de correction des biais. Ces défis nécessitent une approche proactive, basée sur un cadre juridique robuste et des principes éthiques définis, pour garantir une utilisation responsable, équitable et respectueuse des droits fondamentaux de l’IA au Maroc.

LA PROTECTION DE LA VIE PRIVÉE ET DES DONNÉES PERSONNELLES À L’ÈRE DE L’IA

L’IA repose sur l’utilisation de vastes ensembles de données, nécessaires à l’entraînement, au perfectionnement et au fonctionnement des algorithmes. Cette dépendance intrinsèque soulève des enjeux fondamentaux relatifs à la protection de la vie privée et à la confidentialité des informations personnelles. Les systèmes d’IA, en collectant des données sensibles telles que celles liées à la santé, aux finances ou aux préférences individuelles, offrent des opportunités pour améliorer les services et produits, mais exposent également les utilisateurs à des risques d’abus ou de violations. Pour prévenir ces risques, il est essentiel d’adopter des mesures comme la minimisation des données collectées, leur anonymisation ou pseudonymisation, ainsi qu’une gestion stricte des accès. Par ailleurs, le respect des cadres juridiques en vigueur, tels que le RGPD en Europe et la loi 09-08 au Maroc, est impératif. La transparence sur la collecte et l’utilisation des données, combinée au contrôle effectif accordé aux individus sur leurs informations, constitue un pilier éthique pour garantir leur protection.

Au-delà des questions de confidentialité, d’autres défis majeurs se posent, notamment les biais algorithmiques. Entraînés sur des ensembles de données biaisés, les systèmes d’IA risquent de perpétuer ou d’accentuer des discriminations. La mise en œuvre d’algorithmes transparents et équitables est donc nécessaire. Par ailleurs, les questions de responsabilité juridique en cas d’erreurs ou de dommages causés par un système d’IA doivent être clarifiées afin d’assurer une reddition des comptes appropriée. Le Maroc, disposant déjà de lois telles que la loi 09-08 sur la protection des données personnelles et la loi 05-20 sur la cybersécurité, est appelé à renforcer son arsenal juridique pour répondre aux spécificités de l’IA. En abordant ces défis par une réglementation adaptée, une surveillance constante et une collaboration entre les parties prenantes, le pays peut garantir un déploiement responsable et éthique de l’IA, aligné sur les standards internationaux et bénéfique pour l’ensemble de la société.

LA TRANSPARENCE DES ALGORITHMES DANS L’IA

Sur le volet de la transparence des algorithmes, les décisions automatisées par des systèmes d’IA – qu’il s’agisse de l’octroi de crédits, des processus de recrutement ou de l’évaluation de risques en justice – restent souvent opaques et difficiles à interpréter. Cela peut compromettre les droits fondamentaux des individus et pose des questions quant à la responsabilité des entités utilisant ces outils. Le cadre juridique actuel, notamment en matière de protection des données personnelles, demeure insuffisant pour encadrer ces processus. Il est donc impératif de développer des réglementations spécifiques imposant la divulgation des algorithmes et l’explicitation des critères décisionnels. Une transparence accrue renforcerait la confiance des citoyens et limiterait les biais décisionnels.

Concernant l’équité, les algorithmes d’IA, souvent entraînés sur des données biaisées, risquent de reproduire ou d’accentuer des discriminations historiques, que ce soit dans le secteur de la justice, de l’emploi ou d’autres domaines. Ces systèmes pourraient favoriser ou désavantager des groupes sur des critères arbitraires tels que l’origine ethnique ou le genre, exacerbant ainsi les inégalités sociales. Face à cela, des mécanismes de correction s’imposent, incluant des audits réguliers des algorithmes, la diversification des données utilisées et l’intégration de mesures spécifiques pour atténuer les biais. Ces actions doivent être accompagnées de réglementations robustes pour garantir l’équité et prévenir toute discrimination.

ÉVALUATION ET DIAGNOSTIC DE L’ÉTAT DE PRÉPARATION À L’IA

Le Maroc a entrepris une démarche ambitieuse pour aligner son développement de l’IA avec les recommandations éthiques de l’UNESCO, visant à maximiser ses opportunités tout en minimisant les risques, dans le respect des droits fondamentaux. Depuis 2022, le pays a élaboré une cartographie de son écosystème d’IA, identifiant les priorités stratégiques pour son développement, notamment le renforcement du cadre réglementaire, la transparence des algorithmes, la protection des données et la lutte contre les biais discriminatoires.

Le Maroc mise également sur une gouvernance multipartite et multidisciplinaire pour superviser l’IA de manière éthique et efficace, et sur le développement des capacités en formant une main-d’œuvre qualifiée adaptée aux transformations induites par l’IA. L’inclusion numérique est une autre priorité, avec des efforts pour réduire les disparités régionales et de genre, tout en favorisant une IA accessible et équitable. La stratégie « Digital Morocco 2030 » soutient l’innovation numérique et les partenariats entre le public, les universités et les entreprises, renforçant ainsi les infrastructures numériques.

En dépit des avancées, des défis subsistent, notamment en matière de politique environnementale pour l’IA et de préservation du patrimoine culturel et des langues autochtones. Le Maroc doit aussi combler les inégalités d’accès aux technologies entre les sexes et les régions. Cependant, le pays dispose de solides atouts, notamment une base académique solide avec un taux de féminisation de 42,2 % dans les filières scientifiques, et des initiatives de gouvernance numérique avancées, comme les projets de smart cities.

Le Maroc se positionne ainsi comme un leader potentiel en IA en Afrique, avec une vision qui allie éthique, innovation et inclusion, soutenue par des partenariats internationaux, des investissements dans l’éducation, la recherche et les infrastructures numériques. En alliant ambition et responsabilité, le pays entend exploiter le potentiel transformateur de l’IA tout en respectant les valeurs de justice et d’équité.

ÉVALUATION DU CADRE JURIDIQUE ET INSTITUTIONNEL

La montée en puissance du cyberespace a apporté de nombreux défis juridiques et sécuritaires auxquels le Maroc, à l’instar d’autres pays, doit faire face. L’utilisation croissante d’Internet, des réseaux sociaux, du commerce électronique et de l’IA offre des opportunités considérables, mais expose également à des menaces telles que la cybercriminalité, la violation de la vie privée et l’exploitation abusive des données personnelles.

Pour relever ces défis, le Maroc s’est engagé dans un processus de renforcement de son arsenal juridique et institutionnel. Cette démarche ne se limite pas à la répression des cyberinfractions, mais vise aussi à protéger les droits numériques des citoyens, notamment la liberté d’expression en ligne, l’accès à l’information et la neutralité du net, tout en préservant leurs identités numériques.

Le Maroc s’appuie sur une série de lois adoptées au cours des deux dernières décennies pour encadrer le cyberespace, notamment :

• Loi 07 03 relative aux infractions liées aux systèmes de traitement automatisé des données (STAD).
• Loi 09 08 portant sur la protection des données personnelles.
• Loi 43 20 concernant les services de confiance pour les transactions électroniques.
• Loi 04 20 instituant la Carte Nationale d’Identité Électronique (CNIE).
• Loi 53 05 relative à l’échange électronique de données juridiques.
• Loi 05 20 axée sur la cybersécurité.

Ce cadre juridique traduit la volonté des autorités de garantir une utilisation sûre et éthique des technologies numériques, tout en stimulant l’innovation et en renforçant la confiance des citoyens et des entreprises dans l’écosystème numérique.

Malgré ces progrès, l’absence d’un cadre juridique spécifique dédié à l’IA au Maroc pose des défis considérables. Les lois existantes offrent une base initiale, mais restent insuffisantes pour encadrer les spécificités de l’IA. En l’absence de régulations adaptées, l’IA peut être utilisée de manière non éthique, engendrant des risques tels que la collecte et le traitement non réglementés des données personnelles, la discrimination et les biais algorithmiques dans les décisions automatisées, l’exploitation non encadrée des travailleurs du clic, et des atteintes à la vie privée et à la dignité humaine.

Cette lacune entrave également l’innovation responsable, car les entreprises et les chercheurs manquent de directives claires sur les normes à respecter. Par ailleurs, elle peut limiter l’attractivité du Maroc sur la scène internationale en matière d’investissement et de développement technologique.

Cadre institutionnel

Le développement numérique du Maroc repose sur plusieurs institutions clés, chacune jouant un rôle fondamental dans la mise en œuvre de la stratégie nationale et la régulation des technologies numériques, ainsi que la protection des données personnelles et la cybersécurité.

— L’Agence de développement du digital (ADD) est responsable de l’exécution de la stratégie nationale de développement numérique. Elle œuvre pour la promotion de l’adoption des technologies numériques par les citoyens, les entreprises et les institutions. Son rôle inclut la structuration de l’écosystème numérique pour favoriser l’émergence d’acteurs clés dans l’économie numérique, l’encouragement de l’administration numérique, et la réduction de la fracture numérique. L’agence soutient également l’innovation sociale et entrepreneuriale, contribuant à une inclusion numérique responsable et durable.

— L’Agence nationale de réglementation des télécommunications (ANRT) assure la régulation du secteur TIC au Maroc. Elle est chargée de l’élaboration du cadre réglementaire du secteur, de l’octroi des licences nécessaires aux opérateurs, et de la gestion des ressources comme le spectre des fréquences. L’ANRT veille également à la qualité des services et à la promotion de la concurrence loyale. Elle contribue à la société de l’information à travers des actions de formation et de recherche.

— La Direction générale de la sûreté nationale (DGSN) est responsable de la sécurité intérieure, en particulier dans les domaines de la cybercriminalité et de la protection des données personnelles. Elle mène des enquêtes sur les infractions liées à la cybersécurité, sensibilise le public aux risques liés à la divulgation des données personnelles, et collabore avec d’autres institutions pour identifier, enquêter et poursuivre les cybercriminels. Elle assure aussi la sécurité des systèmes d’information des institutions publiques et des organismes gouvernementaux.

— La Direction générale de la sécurité des systèmes d’information (DGSSI) déploie des dispositifs de sécurité pour protéger les données personnelles et les systèmes d’information critiques. Elle met en place une stratégie nationale de sécurité des systèmes d’information, en collaboration avec les ministères et autres parties prenantes. Elle élabore des normes et des standards de sécurité pour les systèmes traitant des données personnelles, conseille et assiste les entités publiques et privées, et mène des audits de sécurité pour identifier les vulnérabilités.

— La Commission nationale de la protection des données à caractère personnel (CNDP) veille à la conformité des pratiques de traitement des données personnelles avec la loi n°09 08. Elle informe les citoyens de leurs droits en matière de protection des données, traite les plaintes et sensibilise les acteurs concernés sur leurs obligations légales. Elle effectue également des inspections pour vérifier la conformité des traitements de données et gère les autorisations de traitement des données sensibles.

— Le Centre marocain d’alerte et de gestion des incidents informatiques (MA CERT) est chargé de la surveillance et de la gestion des cyberattaques et incidents informatiques. Il coordonne les actions de réponse aux menaces numériques au niveau national, partage des informations sur les menaces et vulnérabilités avec les organismes de cybersécurité, et sensibilise le public et les entreprises sur l’importance de la cybersécurité. Il contribue également à la formation et au renforcement des compétences en cybersécurité.

— Le Comité stratégique de la cybersécurité (CSC) coordonne les efforts pour protéger les systèmes d’information du Maroc contre les cybermenaces. Il élabore des politiques et normes de cybersécurité, collabore avec la Gendarmerie Royale pour détecter et réprimer les cybercrimes, et assure la sécurité des infrastructures publiques et privées. Le comité œuvre pour la construction d’un cyberespace sûr et résilient pour le pays.

— La Commission nationale pour le développement du numérique supervise la mise en œuvre de la stratégie nationale de développement numérique. Elle formule des recommandations et évalue les progrès réalisés dans le cadre de la stratégie numérique. Elle organise également des commissions thématiques pour aborder des aspects spécifiques du développement numérique, et promeut la collaboration entre les autorités publiques, les experts et les parties prenantes.

— La Cellule numérique au sein du Secrétariat général du gouvernement supervise la mise en œuvre de la stratégie numérique au sein du gouvernement, en soutien à la transition numérique. Elle régule et coordonne les activités numériques dans le cadre de la stratégie « Digital Morocco 2030 », assure la création d’un cadre juridique pour accompagner la transition numérique, et collabore avec les acteurs publics et privés pour renforcer l’infrastructure numérique et la régulation du secteur.

Points forts

L’arsenal juridique marocain relatif au cyberespace repose sur une approche globale visant à encadrer les technologies de l’information et de la communication. Il se concentre sur plusieurs aspects clés : la protection des données personnelles, la lutte contre la cybercriminalité, la sécurisation des transactions électroniques et la promotion de l’innovation technologique.

La protection des données personnelles est renforcée par des obligations strictes pour les responsables de leur traitement et un contrôle assuré par la CNDP. Le cadre juridique combat également la cybercriminalité en définissant des infractions spécifiques et en renforçant les pouvoirs des autorités pour enquêter et sanctionner les activités illégales en ligne.

Le Maroc facilite les transactions électroniques par des lois garantissant leur validité et sécurité, soutenant ainsi la croissance de l’économie numérique. La cybersécurité est également une priorité, avec des mesures de protection contre les cyberattaques et des initiatives pour sécuriser les systèmes d’information critiques.

Enfin, le Maroc encourage l’innovation numérique, soutenant les start-ups et la recherche technologique, tout en sensibilisant le public à la cybersécurité. La mise en place d’une plateforme nationale d’identité numérique, associée à la carte nationale d’identité électronique, vise à renforcer la fiabilité des transactions en ligne.

Ces efforts visent à créer un environnement numérique sûr, fiable et propice à l’innovation, tout en protégeant les droits des utilisateurs et en respectant les standards internationaux.

Lacunes

Au Maroc, la protection des données personnelles face à l’intelligence artificielle est régie par la loi générale sur la protection des données personnelles. Cette législation vise à protéger les droits individuels, mais elle se concentre principalement sur les données permettant d’identifier une personne. Cependant, l’intelligence artificielle et le Big Data dépassent souvent la gestion des données individuelles pour inclure des données agrégées, des profils génériques et des corrélations statistiques qui, bien qu’elles ne soient pas considérées comme des données personnelles au sens strict, peuvent avoir une influence sur la vie des individus. Le cadre juridique actuel semble insuffisant pour répondre aux défis posés par l’utilisation croissante de ces technologies, ce qui nécessite une évolution législative pour inclure des normes adaptées à la réalité de l’intelligence artificielle et du Big Data.

Recommandations

— L’absence d’un cadre juridique qui réglemente le Big Data : au Maroc, la protection du Big Data se réfère à la réglementation générale relative à la protection des personnes physiques à l’égard du traitement des données à caractère personnel (Loi 09 08). Les données massives, à la différence des données personnelles, ne bénéficient pas d’une protection juridique spécifique. Elles constituent un champ attractif en matière de recherche et d’innovation dans divers domaines, ce qui justifie l’ébauche d’un droit prospectif. La réglementation en vigueur se focalise sur les intérêts particuliers et les droits fondamentaux tels que la préservation de la vie privée et la protection des données, lesquels reposent sur la notion de « données personnelles » permettant d’identifier ou de caractériser une personne physique. Toutefois, les processus de Big Data transcendent l’unique gestion et traitement de données à l’échelle individuelle, en incluant de plus en plus l’utilisation de données consolidées, de profils génériques et de profils de groupe. Dès lors, il convient de s’interroger sur la pertinence de la focalisation sur l’individu et les données personnelles à l’ère du Big Data. Les corrélations statistiques et les profils de groupe ne sont pas reconnus comme des données personnelles, malgré leur capacité à influencer largement le contexte de vie des individus. De plus, la croissance de l’utilisation du Big Data soulève des questions sur la définition même des données personnelles.

— Le besoin d’une loi-cadre pour réglementer l’intelligence artificielle : à l’heure actuelle, le Maroc ne dispose pas d’une législation spécifique pour régir l’intelligence artificielle, ce qui crée un vide juridique et rend impérative l’adoption d’une loi-cadre pour garantir un développement éthique et responsable de l’intelligence artificielle.

Une telle loi devrait définir les principes fondamentaux, les normes de sécurité, les mécanismes de surveillance, ainsi que les responsabilités des acteurs impliqués dans l’écosystème de l’intelligence artificielle. Elle contribuera à assurer la protection des droits individuels, la transparence et la confiance du public dans cette technologie en constante évolution.

— L’impératif d’encourager l’adoption du Cloud au Maroc : il est indéniable que le Cloud Computing est l’une des avancées technologiques les plus révolutionnaires de notre époque. Cependant, au Maroc, son adoption n’a peut-être pas encore atteint son plein potentiel. Pourtant, encourager l’utilisation du Cloud offre d’innombrables avantages, tant pour les entreprises que pour l’administration publique. Le Cloud permet une flexibilité inégalée, favorise l’efficacité des opérations et réduit les coûts informatiques. De plus, il facilite l’accès à des ressources informatiques de pointe, ouvrant la voie à l’innovation et à la compétitivité. Pour maximiser ces avantages, il est impératif de mettre en place une infrastructure législative et technique adaptée. La sécurité, la protection des données et la confidentialité sont des préoccupations essentielles dans le contexte du Cloud. Dans cet environnement en évolution rapide, le Maroc a l’opportunité de stimuler sa croissance économique, de moderniser son secteur public et d’améliorer la qualité de vie de ses citoyens grâce à une adoption accrue du Cloud Computing. Il est temps de promouvoir des politiques et des incitations qui encouragent les entreprises et les organismes publics à embrasser cette technologie./