Как сообщает The New York Times со ссылкой на публикацию от 1 июня, китайская технологическая компания Geedge Networks с помощью своей поддерживаемой государством исследовательской лаборатории Mesa Lab разрабатывает инструмент прогнозирования политических рисков на основе ИИ. В отличие от традиционных систем наблюдения, отслеживающих лишь известных инакомыслящих, эта система нацелена на сбор и анализ данных о местоположении граждан и их поведении в интернете. Используя ИИ, она создает персональные профили обычных людей, чтобы заранее выявлять «потенциальных» кандидатов, способных критиковать правительство, — то есть маркировать их как объекты риска еще до того, как они предпримут какие-либо публичные действия. Эта информация получена из утекших внутренних документов Geedge Networks, которые были изучены исследователями Университета Вандербильта. В настоящее время система находится на стадии разработки. Geedge Networks является основным поставщиком экспортной коммерческой версии «Великого китайского файрвола», предоставляя авторитарным правительствам инфраструктуру для наблюдения и фильтрации контента. Бретт Голдштейн (Brett Goldstein), руководитель лаборатории «Tricky Problem Lab» Университета Вандербильта, прокомментировал: «Это результат столкновения массовой слежки с искусственным интеллектом».
Исследовательская группа отмечает, что сотрудники Geedge Networks «не просто фиксируют модели поведения, но и пытаются предсказать, что граждане сделают дальше и с кем будут действовать» — превращая огромные массивы данных о рутинном поведении в сырье для прогнозирования будущих политических предпочтений личности. Примечательно, что экспортные ограничения на американские чипы для ИИ, введенные при администрации Байдена, по мнению издания, создали серьезные препятствия для разработок Geedge Networks и, возможно, уже замедлили развитие технологий наблюдения нового поколения в Китае. Тем временем в недавнем независимом докладе Австралийского института стратегической политики (ASPI) также зафиксировано значительное обновление китайских инструментов ИИ за последние два года, используемых для «автоматизированной цензуры, усиления слежки и превентивного подавления инакомыслия»; соответствующие системы уже способны прогнозировать общественные протесты и отслеживать эмоциональное состояние заключенных.