Wie KI in China der Überwachung und Manipulation dient - Merkur.de

Stand: 18.08.2023, 21:46 Uhr

Ein Gesichtserkennungssystem auf der Straße in Shenyang (Symbolbild)

Künstliche Intelligenz hat die Möglichkeiten für die chinesische Regierung zur Überwachung ihrer Bürger drastisch erhöht. Die Unternehmen können immer neue Innovationen entwickeln, weil der Staat sie mit wertvollen Datensätzen versorgt. Alarmierend: China exportiert die Technik auch ins Ausland.

Technologie zur Gesichtserkennung ist in China ein lukrativer Markt. Etwa 8.000 Firmen sind in den vergangenen zehn Jahren gegründet worden. Der Kuchen war bislang ausreichend groß genug, um alle Wettbewerber zu versorgen. Drei Millionen öffentliche Aufträge waren im gleichen Zeitraum ausgeschrieben. Die Nachfrage wird in naher Zukunft weiter steigen. Chinas Überwachungsnetz wird immer enger, der Kontrollwahn der Partei immer größer.

Die Covid-19-Pandemie hat Peking konsequent dazu genutzt, immer schärfere Maßnahmen mit Verweis auf gesundheitspolitische Dringlichkeit zu rechtfertigen. Gesichtserkennung zählt zu den zentralen Elementen der staatlichen chinesischen Überwachung. Mit Hilfe Künstlicher Intelligenz (KI) wird sie immer ausgeklügelter und präziser.

So bekommen Sie den Newsletter von Table.Media

Diese Analyse liegt IPPEN.MEDIA im Zuge einer Kooperation mit dem China.Table Professional Briefing vor – zuerst veröffentlicht hatte ihn China.Table am 10. August 2023.

Erhalten Sie 30 Tage kostenlos Zugang zu weiteren exklusiven Informationen der Table.Media Professional Briefings – das Entscheidende für die Entscheidenden in Wirtschaft, Wissenschaft, Politik, Verwaltung und NGOs.

HRW: Aufbau des digitalen Überwachungsstaates

Wie raffiniert die Software inzwischen ist, die chinesische Behörden zur Überwachung einsetzen, macht die Technologie „one person, one file“ deutlich. Sie ist eine Weiterentwicklung herkömmlicher Software-Systeme und ist in der Lage, Personen mit einem Minimum an biometrischen Daten zu identifizieren und sie in Echtzeit mit anderen Datensätzen zu verknüpfen. Selbst Masken über Mund und Nase reichen nicht mehr aus, um sich der Identifikation durch die Technik zu entziehen.

Aber auch sie ist nur eine Komponente eines technologischen Ökosystems, das der autokratischen Regierung in Peking dabei helfen soll, ihre autoritäre Politik langfristig durchzusetzen. Peking behauptet, die Überwachung sei für die Verbrechensbekämpfung von entscheidender Bedeutung. Menschenrechtsorganisationen wie Human Rights Watch behaupten dagegen, das Land baue einen Überwachungsstaat auf, der tief in die Privatsphäre der Bürger eindringe und beispielsweise ethnische Gruppen wie die Uiguren engmaschig überwachen soll.

Verhalten manipulieren und vorhersagen

Big Data ist der Schlüssel. Nirgendwo sonst auf der Welt fallen so große Mengen an Daten und Informationen über Bürger in die Hände einer Regierung wie in China. Menschen werden zu komplett gläsernen Akteuren, deren Verhalten nicht nur in gewissem Umfang vorhergesagt, sondern auch manipuliert werden kann.

Das erinnert an Science Fiction, ist aber schon verblüffend real. „Durch Vorhersagen darüber, wie Personen auf Anreize reagieren könnten, können Autokraten die KI-Technologie zur Verhaltensmanipulation einsetzen“, sagte David Yang von der Harvard Universität bei einer Podiumsdiskussion in Washington. Yang ist einer der Autoren der Studie AI-tocracy, die sich mit der Nutzung von KI durch autokratische Systeme beschäftigt.

Politischer Dissens, soziale Unruheherde oder die Entwicklung bürgerlicher Bewegungen sollen bereits im Frühstadium ermittelt und eliminiert werden. All das hilft einer Elite, ihr Machtmonopol über mehr als eine Milliarde Menschen zu verteidigen.

Alarm beim Entrollen eines Banners

Beispiel: Proteste. Kamerasysteme der Firma Dahua Technology namens „Jinn“ sind jetzt in der Lage, die Behörden zu alarmieren, wenn eine Person beim Entrollen eines Transparents entdeckt wird. Seit Mai ist die Software verfügbar. Und sie trifft einen Nerv, nachdem es im Vorjahr einem Mann gelungen war, ein Banner an einer Pekinger Autobahnbrücke zu befestigt, auf dem er das Ende der Diktatur gefordert hatte.

Die stete Optimierung der Überwachungssysteme ist das Resultat einer engen Zusammenarbeit zwischen Staat und Technologie-Unternehmen. Die Firmen versorgen die Behörden mit der nötigen Software, um ihre Kontrollkapazitäten auszuweiten. Im Gegenzug versorgt der Staat seine Zulieferer mit Datensätzen, zu denen sonst niemand Zugang bekommt.

Symbiose zwischen Staat und KI-Unternehmen

„Das Unternehmen, das KI-Dienstleistungen für die Regierung erbringt, kann diese Daten nutzen, um neue Technologien zu entwickeln, wobei die Daten der Regierung als Input für Innovationen dienen“, sagt der Co-Autor der Harvard-Studie, Noam Yuchtman. Die Unternehmer wollen einen Staat nicht untergraben, der ihnen Zugang zu wertvollen Daten für ihre Innovationen verschafft. Beide Seiten profitieren davon.

Beunruhigend für jeden Demokraten sollte die Tatsache sein, dass chinesische KI-Technologien bereits ein Exportschlager sind. Die Hälfte der weltweiten Handelsgeschäfte mit KI-Technologie zur Gesichtserkennung werden mit Lieferungen aus China getätigt. „Chinas Export ist in hohem Maße auf schwache Demokratien oder starke Autokratien ausgerichtet. Das ist ein ganz anderes Muster als bei den traditionellen Grenztechnologien, bei denen demokratische Länder zu den Käufern dieser Technologien gehören“, sagt Yuchtman.

Adblock test (Why?)