Alors que la Chine continue de s’affirmer comme un leader mondial de l’intelligence artificielle (IA), les préoccupations concernant son influence sur les technologies d’IA générative augmentent. Récemment, Apple a entamé des discussions avec des entreprises technologiques chinoises pour intégrer des outils d’IA générative locaux dans ses appareils et systèmes d’exploitation destinés au marché chinois. Le partenariat le plus probable semble être avec le robot Ernie de Baidu, connu pour son contenu fortement censuré aligné sur l’agenda du Parti communiste.
La décision d’adopter un modèle d’IA chinois n’est pas surprenante, compte tenu du respect d’Apple pour la censure et les directives de surveillance en Chine. Cependant, elle suscite des inquiétudes quant à l’influence croissante de la Chine sur cette technologie émergente et ses conséquences potentielles pour les droits de l’homme dans le domaine numérique.
Les ambitions de la Chine en matière d’IA sont devenues évidentes en 2017 lorsque AlphaGo de Google a battu le meilleur joueur chinois de Go. Le gouvernement chinois a ensuite publié son Plan de développement de l’intelligence artificielle de nouvelle génération, fixant l’objectif à la Chine de devenir leader en IA d’ici 2030. Depuis lors, la Chine a introduit des politiques et des lignes directrices sur l’IA, y compris des exigences strictes de censure imposées par l’Administration du cyberespace de Chine (CAC).
Les directives de la CAC exigent que les technologies d’IA générative en Chine respectent les règles de censure et défendent les « Valeurs socialistes essentielles ». Cela signifie empêcher tout contenu susceptible d’inciter à la subversion ou au séparatisme, de mettre en danger la sécurité nationale, de nuire à l’image de la Chine ou de diffuser des informations « fausses ». Ces directives, ainsi qu’une évaluation de la sécurité requise, ont conduit à l’approbation d’environ 40 modèles d’IA pour le marché chinois, y compris le robot Ernie de Baidu.
L’intégration d’Ernie Bot ou de tout autre modèle d’IA chinois dans les appareils d’Apple risque de banaliser le modèle autoritaire de gouvernance numérique de Pékin. Cela contribue également aux efforts de la Chine pour normaliser ses politiques et technologies en matière d’IA à l’échelle mondiale. Apple n’est pas seul à se conformer à ces directives, puisque Samsung a également annoncé des plans pour intégrer le chatbot de Baidu dans ses appareils.
Microsoft a également été critiqué avec son outil d’IA générative lorsqu’on lui a demandé des réponses sur les violations des droits de l’homme envers les Ouïghours par la Chine. Le chatbot a eu du mal à faire la distinction entre la propagande chinoise et les comptes d’experts en droits de l’homme. Ces cas soulignent le manque de transparence et l’influence potentielle des directives et de la censure chinoises sur l’IA générative au-delà de ses frontières.
Alors que la Chine se positionne en tant que leader de l’IA, il est essentiel que les développeurs d’IA mondiaux adoptent des directives claires basées sur les droits de l’homme sur la manière de répondre aux impacts de cette technologie sur les droits de l’homme. Un échec à le faire pourrait entraîner des conséquences négatives pour les droits de l’homme et renforcer davantage l’influence de la Chine sur l’avenir de l’IA générative.