Laut einem Bericht der New York Times vom 1. Juni entwickelt das chinesische Technologieunternehmen Geedge Networks mit Hilfe seines staatlich unterstützten Forschungsinstituts Mesa Lab ein KI-gestütztes Tool zur Vorhersage politischer Risiken. Im Gegensatz zu herkömmlichen Überwachungstechnologien, die nur bekannte Dissidenten verfolgen, soll dieses System durch die Erfassung und Analyse von Standortdaten und Online-Verhalten der Bürger mithilfe von KI persönliche Profile für normale Menschen erstellen, um potenzielle Personen zu identifizieren, „die möglicherweise“ die Regierung kritisieren könnten – d.h. Personen werden bereits als Risiko markiert, bevor sie überhaupt öffentlich handeln. Diese Informationen stammen aus internen Dokumenten von Geedge Networks, die von Forschern der Vanderbilt University eingesehen wurden. Das System befindet sich noch in der Entwicklungsphase. Geedge Networks ist der Hauptanbieter der kommerziellen Exportversion der chinesischen Firewall und liefert Überwachungs- und Inhaltsfilter-Infrastruktur an autoritäre Regierungen. Brett Goldstein, Leiter des „Tricky Problems Lab“ der Vanderbilt University, kommentierte: „Das ist das Ergebnis, wenn Massenüberwachung auf künstliche Intelligenz trifft.“
Das Forschungsteam stellte fest, dass die Forscher von Geedge Networks „nicht nur Verhaltensmuster aufzeichnen, sondern versuchen vorherzusagen, was ein Bürger als Nächstes tun wird und mit wem er zusammen handeln wird“ – und damit riesige Mengen alltäglicher Verhaltensdaten in Rohmaterial für die Ableitung zukünftiger politischer Neigungen einer Person umwandeln. Bemerkenswert ist, dass die Exportkontrollen für KI-Chips aus den USA, die die Biden-Regierung verhängt hat, nach Ansicht der Forscher den Forschungsprozess von Geedge Networks erheblich behindert haben. Der Bericht geht davon aus, dass dies möglicherweise bereits dazu beigetragen hat, die Entwicklung der nächsten Generation chinesischer Überwachungstechnologie zu verlangsamen. Unterdessen dokumentiert ein aktueller unabhängiger Bericht des Australian Strategic Policy Institute (ASPI) ebenfalls eine deutliche Aufrüstung staatlicher KI-Werkzeuge in China in den letzten zwei Jahren, die für „automatisierte Zensur, verstärkte Überwachung und präventive Unterdrückung von Dissens“ eingesetzt werden. Die betreffenden Systeme können bereits öffentliche Proteste vorhersagen und den emotionalen Zustand von Inhaftierten überwachen.