Selon le New York Times daté du 1er juin, la société technologique chinoise Geedge Networks développe, via son institut de recherche soutenu par le gouvernement, le Mesa Lab, un outil de prédiction des risques politiques alimenté par l’IA. Contrairement aux techniques de surveillance traditionnelles qui ne traquent que les dissidents connus, ce système vise à collecter et analyser les données de localisation et le comportement en ligne des citoyens pour établir, grâce à l’IA, des profils individuels de la population ordinaire, afin d’identifier à l’avance les personnes « susceptibles » de critiquer le gouvernement — autrement dit, de les marquer comme sujets à risque avant même qu’elles n’aient entrepris une action publique. Ces informations proviennent de documents internes divulgués par Geedge Networks et examinés par des chercheurs de l’Université Vanderbilt ; le système en est encore au stade de développement. Geedge Networks est l’un des principaux fournisseurs de la version commerciale exportée du pare-feu chinois, offrant aux régimes autoritaires des infrastructures de surveillance et de filtrage de contenu. Brett Goldstein, directeur du Laboratoire des problèmes épineux (Vexations Lab) de l’Université Vanderbilt, a commenté : « C’est ce qui arrive quand la surveillance de masse rencontre l’intelligence artificielle. »
L’équipe de recherche souligne que les chercheurs de Geedge Networks « non seulement enregistrent des schémas de comportement, mais tentent de prédire ce que les citoyens feront ensuite et avec qui ils agiront » — transformant une masse de données comportementales ordinaires en matière première pour déduire les futures inclinations politiques individuelles. Il est à noter que les restrictions à l’exportation sur les puces IA américaines, imposées à l’encontre de la Chine, auraient entravé de manière substantielle les progrès de Geedge Networks. Selon le rapport, ces mesures pourraient avoir, dans une certaine mesure, ralenti le développement d’une nouvelle génération de technologies de surveillance en Chine. Parallèlement, un rapport indépendant récemment publié par l’Institut australien de politique stratégique (ASPI) documente également, au cours des deux dernières années, une mise à niveau significative des outils d’IA utilisés par le gouvernement chinois pour « l’examen automatisé, la surveillance renforcée et la répression préventive de la dissidence ». Ces systèmes sont désormais capables de prédire les manifestations publiques et de surveiller l’état émotionnel des détenus.