Science Fiction trifft Realität trifft korrupte Politiker (Bildquelle) |
Immer mehr hochwertige Digitaltechnologie kommt heute aus China und ein Ende ist nicht abzusehen. Da das Land dazu noch immer von einem autoritären (sich kommunistisch gebenden) Regime beherrscht wird, gibt es dort auch ambitionierte Projekte im Bereich der KI gestützten Gewalt- und Kriminalitätsprävention. Das Ergebnis sind heute schon dystopisch anmutende Überwachungssysteme. Deren weiteren Entwicklung könnte jedoch ein unüberwindbarer Stolperstein im Weg stehen in Form korrupter KPCh Kader, die um ihre Pfründe fürchten müssen, wie man bei ZerHede vermutet.
ZeroHedge: Schalten korrupte chinesische Behörden die KI gestützten Systeme für Verbrechensbekämpfung ab, weil sie zu gut funktionieren?
China scheint vor
einem neuen unglaublich effizienten, KI gestützten
Kriminalitätsbekämpfungssystem zurückzuschrecken und der Grund
könnte darin liegen, dass mit dessen Hilfe seit 2012 über 8.700
Regierungsangestellte verhaftet wurden, die sich verschiedener
Fehlverhalten schuldig machten, die von Veruntreuung über Machtmissbrauch bis hin zu
Vetternwirtschaft reichen.
Das System mit der
Bezeichnung „Zero Trust“ wurde in Zusammenarbeit mit den
internen Überwachungsinstitutionen der Kommunistischen Partei Chinas
und der Chinesischen Akademie der Wissenschaften entwickelt, um „die
Arbeit und das Privatleben von Beamten zu überwachen, zu bewerten
und bei Notwendigkeit einzugreifen“, so
Stephen Chen vom SCMP.
„Laut staatlichen
Medien gab es 2016 mehr als 50 Millionen Menschen auf der
Gehaltsliste der chinesischen Regierung, obwohl Analysten die Zahl
auf mehr als 64 Millionen geschätzt haben – eine Anzahl, die nur
knapp unter der britischen Bevölkerung liegt.
Um diesen Riesen in
einen nahtlosen Betrieb für das Informationszeitalter zu verwandeln
hat China damit begonnen, verschiedene Arten von ausgefeilter
Technologie zu entwickeln. So nutzt das Außenministerium beispielsweise
das maschinelle Lernen, um bei der Risikobewertung und
Entscheidungsfindung für Chinas große Investitionsprojekte im
Ausland zu helfen.“
Peking steht heute
an der Spitze bei der Gesichtserkennungstechnologie, bei der das
„SkyNet-System“, das in über 16 Provinzen, Städten und
autonomen Regionen eingesetzt wird, die Gesichter in Echtzeit scannt und
in einer Geschwindigkeit von 3 Milliarden Abfragen pro Sekunde mit
einer Fahndungsdatenbank vergleichen kann, so
People's Daily. In Guizhou wiederum wird die Bewegung eines jeden einzelnen
Polizisten in Echtzeit verfolgt.
Unterdessen hat
China große Anstrengungen unternommen, um die Zuverlässigkeit aller
staatlichen Zahlen zu gewährleisten - es hat beispielsweise Verträge
mit Unternehmen wie ZTE abgeschlossen, um Blockchain-Technologien zu
entwickeln mit dem Ziel, dass korrupte Akteure heimlich
Informationen manipulieren können.
Mit "Zero Trust" lässt sich Chinas
Überwachungsapparat in ein Großes Ganzes verschmelzen ist und ist
in der Lage, über 150 geschützte Datenbanken von chinesischen
Zentral- und Lokalbehörden abzugleichen – was es dem System
ermöglicht, anspruchsvolle, vielschichtige soziale Beziehungskarten
zu erstellen, die dann durch maschinelle Lernsysteme verfeinert
werden, um als Ergebnis das
Verhalten von Regierungsmitarbeitern zu erfassen, was mit sehr hoher Zuverlässigkeit funktioniert.
Zum Beispiel
zeichnet das System ungewöhnliche Bankkontoaktivitäten nach - wie
z.B. eine großen Zufluss auf das Sparkonto oder den Kauf eines
Autos, „oder auch Ausschreibungen für Regierungsaufträge unter
dem Namen eines Beamten oder einer seiner Familienangehörigen oder
Freunde“, stellt SCMP fest.
„Das System kann
sogar Satellitenbilder abrufen, um zum Beispiel zu untersuchen, ob
die staatlichen Mittel für den Bau einer Straße in einem Dorf nicht
in Wirklichkeit in der Tasche eines Beamten landeten“, zum
Beispiel.
„Dies sei
‚besonders nützlich‘ bei der Aufdeckung von verdächtigen
Eigentumsübertragungen, Infrastrukturbauten, Grunderwerb und
Hausabrissen," sagte ein Forscher.
Sobald ein Verdacht
besteht, berechnet das System die Korruptionswahrscheinlichkeit der jeweiligen Handlung. Überschreitet das Ergebnis dabei einen gesetzten
Marker, dann werden die Behörden alarmiert.
Ein Informatiker,
der an dem Programm beteiligt war und um Anonymität bat sagte, dass sich an diesem Punkt im Erkennungsprozess ein Vorgesetzter mit der in
Verdacht stehenden Person in Verbindung setzen kann, um denjenigen
auf die Unregelmäßigkeit hinzuweisen, so dass dieser „den
gegangenen Weg und weitere, bedeutendere Fehler vermeiden kann.“
Peking hat mit Zero
Trust bislang in 30 Bezirken und Städten experimentiert – also in
nur einem Prozent der gesamten Verwaltungsfläche Chinas - und vor
allem in relativ armen Regionen im Hinterland.
Laut einem mit Zero
Trust verbundenen Forscher bestand der Gedanke für den bisherigen
Test darin, „zu vermeiden, dass große Widerstände unter besonders
mächtigen Bürokraten ausgelöst werden“ gegen den Einsatz von KI
und Tracking Bots zur Überwachung des Staatsapparates.
Seit 2012 hat das
System 8.721 Regierungsangestellte wegen „Fehlverhalten wie
Veruntreuung, Machtmissbrauch, Missbrauch von Regierungsgeldern und
Vetternwirtschaft“ verhaftet.
Den meisten der
Betroffenen bekamen Verwarnungen oder geringfügige Strafen, während
einige wenige zu Gefängnisstrafen verurteilt wurden.
Aus einem
unbekannten Grund haben inzwischen allerdings einige Regionalregierungen
beschlossen, das System zu deaktivieren, so die Forscher - einer von
ihnen fügte hinzu, dass sich die Beamten „möglicherweise nicht
ganz wohl fühlen mit der neuen Technologie“.
„Zhang Yi, ein
Beamter der Kommission für die Inspektion der Disziplin der
Kommunistischen Partei Chinas in Ningxiang, Provinz Hunan, sagte,
dass seine Behörde eine der wenigen sei, die das System noch
verwenden.
‚Es ist nicht einfach... wir stehen unter enormem Druck‘, sagte er und betonte, dass der Hauptzweck des Programms nicht darin bestand, Beamte zu bestrafen, sondern sie in einer ‚frühen Phase der Korruption‘ vom ‚falschen Weg abzubringen‘.
‚Es ist nicht einfach... wir stehen unter enormem Druck‘, sagte er und betonte, dass der Hauptzweck des Programms nicht darin bestand, Beamte zu bestrafen, sondern sie in einer ‚frühen Phase der Korruption‘ vom ‚falschen Weg abzubringen‘.
‚Wir verwenden nur
das Ergebnis der Maschine als Referenz‘, sagte Zhang. ‚Es gilt dabei,
die Korrektheit der maschinell erstellten Ergebnisse überprüfen und
verifizieren. Das Gerät selbst kann den Hörer nicht abnehmen und im Verdachtsfall die betroffene Person anrufen. Die endgültige
Entscheidung liegt immer beim Menschen.‘“, schreibt SCMP.
Seit Xi im Jahr 2012
an die Macht kam wurden angeblich über 1,4 Millionen
Regierungsbeamte diszipliniert. Es überrascht daher nicht, dass
Regierungsbeamte nun zögeren, das Zero Trust Projekt in ihrem Einzugsbereich einzusetzen - aber „mit ein wenig Druck beugen sie
sich in der Regel“, so die anonyme Quelle von SCMP.
Insgesamt wird China
im Alltag immer abhängiger von KI. Letzten Monat zum Beispiel war
ein Gericht in Shanghai das erste im Land, das bei einer öffentlichen
Anhörung einen KI-Assistenten einsetzte.
„Die Maschine mit dem Codenamen ‚206‘ hat die Fähigkeit, Gespräche
aufzuzeichnen, auf Geheiß von Anwälten Beweise wie
Überwachungskameramaterial zu zeigen und Aussagen zu vergleichen,
um Richter dabei zu unterstützen, Unstimmigkeiten zu erkennen, so
der Bericht.“
Ein Richter meinte
darüber, dass mit Hilfe des Systems die Wahrscheinlichkeit für falsche
Urteile verringert wird.
Dazu stellt
sich die alte Frage, wer denn die Wächter bewacht, vor allem wenn diese
einfach so ihre neuen KI-Wächter ausschalten können?
twitter
google+
fb share