Korrupte (chinesische) Politiker als bester Schutz der Menschheit vor der Macht künstlicher Intelligenz?

Science Fiction trifft Realität trifft korrupte Politiker (Bildquelle)

Immer mehr hochwertige Digitaltechnologie kommt heute aus China und ein Ende ist nicht abzusehen. Da das Land dazu noch immer von einem autoritären (sich kommunistisch gebenden) Regime beherrscht wird, gibt es dort auch ambitionierte Projekte im Bereich der KI gestützten Gewalt- und Kriminalitätsprävention. Das Ergebnis sind heute schon dystopisch anmutende Überwachungssysteme. Deren weiteren Entwicklung könnte jedoch ein unüberwindbarer Stolperstein im Weg stehen in Form korrupter KPCh Kader, die um ihre Pfründe fürchten müssen, wie man bei ZerHede vermutet.

ZeroHedge: Schalten korrupte chinesische Behörden die KI gestützten Systeme für Verbrechensbekämpfung ab, weil sie zu gut funktionieren?

China scheint vor einem neuen unglaublich effizienten, KI gestützten Kriminalitätsbekämpfungssystem zurückzuschrecken und der Grund könnte darin liegen, dass mit dessen Hilfe seit 2012 über 8.700 Regierungsangestellte verhaftet wurden, die sich verschiedener Fehlverhalten schuldig machten, die von Veruntreuung über Machtmissbrauch bis hin zu Vetternwirtschaft reichen.

Das System mit der Bezeichnung „Zero Trust“ wurde in Zusammenarbeit mit den internen Überwachungsinstitutionen der Kommunistischen Partei Chinas und der Chinesischen Akademie der Wissenschaften entwickelt, um „die Arbeit und das Privatleben von Beamten zu überwachen, zu bewerten und bei Notwendigkeit einzugreifen“, so Stephen Chen vom SCMP.

„Laut staatlichen Medien gab es 2016 mehr als 50 Millionen Menschen auf der Gehaltsliste der chinesischen Regierung, obwohl Analysten die Zahl auf mehr als 64 Millionen geschätzt haben – eine Anzahl, die nur knapp unter der britischen Bevölkerung liegt.

Um diesen Riesen in einen nahtlosen Betrieb für das Informationszeitalter zu verwandeln hat China damit begonnen, verschiedene Arten von ausgefeilter Technologie zu entwickeln. So nutzt das Außenministerium beispielsweise das maschinelle Lernen, um bei der Risikobewertung und Entscheidungsfindung für Chinas große Investitionsprojekte im Ausland zu helfen.“

Peking steht heute an der Spitze bei der Gesichtserkennungstechnologie, bei der das „SkyNet-System“, das in über 16 Provinzen, Städten und autonomen Regionen eingesetzt wird, die Gesichter in Echtzeit scannt und in einer Geschwindigkeit von 3 Milliarden Abfragen pro Sekunde mit einer Fahndungsdatenbank vergleichen kann, so People's Daily. In Guizhou wiederum wird die Bewegung eines jeden einzelnen Polizisten in Echtzeit verfolgt.

Unterdessen hat China große Anstrengungen unternommen, um die Zuverlässigkeit aller staatlichen Zahlen zu gewährleisten - es hat beispielsweise Verträge mit Unternehmen wie ZTE abgeschlossen, um Blockchain-Technologien zu entwickeln mit dem Ziel, dass korrupte Akteure heimlich Informationen manipulieren können.

Mit "Zero Trust" lässt sich Chinas Überwachungsapparat in ein Großes Ganzes verschmelzen ist und ist in der Lage, über 150 geschützte Datenbanken von chinesischen Zentral- und Lokalbehörden abzugleichen – was es dem System ermöglicht, anspruchsvolle, vielschichtige soziale Beziehungskarten zu erstellen, die dann durch maschinelle Lernsysteme verfeinert werden, um als Ergebnis das Verhalten von Regierungsmitarbeitern zu erfassen, was mit sehr hoher Zuverlässigkeit funktioniert.

Zum Beispiel zeichnet das System ungewöhnliche Bankkontoaktivitäten nach - wie z.B. eine großen Zufluss auf das Sparkonto oder den Kauf eines Autos, „oder auch Ausschreibungen für Regierungsaufträge unter dem Namen eines Beamten oder einer seiner Familienangehörigen oder Freunde“, stellt SCMP fest.

„Das System kann sogar Satellitenbilder abrufen, um zum Beispiel zu untersuchen, ob die staatlichen Mittel für den Bau einer Straße in einem Dorf nicht in Wirklichkeit in der Tasche eines Beamten landeten“, zum Beispiel.

„Dies sei ‚besonders nützlich‘ bei der Aufdeckung von verdächtigen Eigentumsübertragungen, Infrastrukturbauten, Grunderwerb und Hausabrissen," sagte ein Forscher.

Sobald ein Verdacht besteht, berechnet das System die Korruptionswahrscheinlichkeit der jeweiligen Handlung. Überschreitet das Ergebnis dabei einen gesetzten Marker, dann werden die Behörden alarmiert.

Ein Informatiker, der an dem Programm beteiligt war und um Anonymität bat sagte, dass sich an diesem Punkt im Erkennungsprozess ein Vorgesetzter mit der in Verdacht stehenden Person in Verbindung setzen kann, um denjenigen auf die Unregelmäßigkeit hinzuweisen, so dass dieser „den gegangenen Weg und weitere, bedeutendere Fehler vermeiden kann.“

Peking hat mit Zero Trust bislang in 30 Bezirken und Städten experimentiert – also in nur einem Prozent der gesamten Verwaltungsfläche Chinas - und vor allem in relativ armen Regionen im Hinterland.

Laut einem mit Zero Trust verbundenen Forscher bestand der Gedanke für den bisherigen Test darin, „zu vermeiden, dass große Widerstände unter besonders mächtigen Bürokraten ausgelöst werden“ gegen den Einsatz von KI und Tracking Bots zur Überwachung des Staatsapparates.

Seit 2012 hat das System 8.721 Regierungsangestellte wegen „Fehlverhalten wie Veruntreuung, Machtmissbrauch, Missbrauch von Regierungsgeldern und Vetternwirtschaft“ verhaftet.

Den meisten der Betroffenen bekamen Verwarnungen oder geringfügige Strafen, während einige wenige zu Gefängnisstrafen verurteilt wurden.

Aus einem unbekannten Grund haben inzwischen allerdings einige Regionalregierungen beschlossen, das System zu deaktivieren, so die Forscher - einer von ihnen fügte hinzu, dass sich die Beamten „möglicherweise nicht ganz wohl fühlen mit der neuen Technologie“.

„Zhang Yi, ein Beamter der Kommission für die Inspektion der Disziplin der Kommunistischen Partei Chinas in Ningxiang, Provinz Hunan, sagte, dass seine Behörde eine der wenigen sei, die das System noch verwenden.

‚Es ist nicht einfach... wir stehen unter enormem Druck‘, sagte er und betonte, dass der Hauptzweck des Programms nicht darin bestand, Beamte zu bestrafen, sondern sie in einer ‚frühen Phase der Korruption‘ vom ‚falschen Weg abzubringen‘.

‚Wir verwenden nur das Ergebnis der Maschine als Referenz‘, sagte Zhang. ‚Es gilt dabei, die Korrektheit der maschinell erstellten Ergebnisse überprüfen und verifizieren. Das Gerät selbst kann den Hörer nicht abnehmen und im Verdachtsfall die betroffene Person anrufen. Die endgültige Entscheidung liegt immer beim Menschen.‘“, schreibt SCMP.

Seit Xi im Jahr 2012 an die Macht kam wurden angeblich über 1,4 Millionen Regierungsbeamte diszipliniert. Es überrascht daher nicht, dass Regierungsbeamte nun zögeren, das Zero Trust Projekt in ihrem Einzugsbereich einzusetzen - aber „mit ein wenig Druck beugen sie sich in der Regel“, so die anonyme Quelle von SCMP.

Insgesamt wird China im Alltag immer abhängiger von KI. Letzten Monat zum Beispiel war ein Gericht in Shanghai das erste im Land, das bei einer öffentlichen Anhörung einen KI-Assistenten einsetzte.

„Die Maschine mit dem Codenamen ‚206‘ hat die Fähigkeit, Gespräche aufzuzeichnen, auf Geheiß von Anwälten Beweise wie Überwachungskameramaterial zu zeigen und Aussagen zu vergleichen, um Richter dabei zu unterstützen, Unstimmigkeiten zu erkennen, so der Bericht.“

Ein Richter meinte darüber, dass mit Hilfe des Systems die Wahrscheinlichkeit für falsche Urteile verringert wird.

Dazu stellt sich die alte Frage, wer denn die Wächter bewacht, vor allem wenn diese einfach so ihre neuen KI-Wächter ausschalten können?