KI-gestützte Überwachung durch autoritäre Regime

In autoritären Systemen gibt es seit Jahren einen deutlichen Trend, digitale Technologien zur Überwachung der eigenen Bevöl­kerung einzusetzen. Aus Sicht der Machthaber bietet sich damit die Möglichkeit, mit weniger Personalaufwand eine noch umfas­sendere und zugleich individuellere Kon­trolle zu gewährleisten. Während einige autoritäre Staaten wie China und Russland entsprechende Technologien selbst ent­wickeln, setzen Regierungen anderer Län­der zumeist auf kommerzielle Angebote.

Durch die aktuellen Entwicklungen im Bereich von KI wird der Trend noch ver­stärkt, Technologie als Mittel zur Repres­sion zu nutzen. Die derzeit verfügbaren Systeme sind unter anderem besonders gut dafür geeignet, Muster in umfangreichen und diversen Datenbeständen zu finden. Für Zwecke der Überwachung erlaubt dies etwa, mit hoher Geschwindigkeit große Mengen an Kommunikationsinhalten oder Bildaufnahmen auszuwerten. Beispielsweise wird in China die öffentliche Überwachung, die bisher schon großflächig erfolgte, mit Künstlicher Intelligenz immer weiter aus­gebaut. Über KI-basierte Gesichtserkennung lassen sich so die Standorte von Personen noch engmaschiger verfolgen.

Mit der Entwicklung von KI-Agenten, die Aufgaben zunehmend autonom ausfüh­ren, wird diese Praxis noch einmal auf eine neue Stufe gebracht. Vorstellbar ist, dass sich Künstliche Intelligenz schon sehr bald gezielt darauf ansetzen lässt, einzelne Per­sonen oder Gruppen kontinuierlich zu be­obachten. Die technologische Entwicklung weist damit über die vielfach bemühte Metapher des »Panoptikums« hinaus. Wäh­rend im Panoptikum die Überwachung des Einzelnen immer eine latente Möglichkeit war, die sich aber nicht zu jedem Zeitpunkt nutzen ließ, erwächst mit KI-Agenten die Aussicht auf eine räumliche und zeitliche Rundum-Observation.

Angesichts dieser technischen Optionen ist zu erwarten, dass autoritäre Regime ihre Macht gegenüber der Bevölkerung unter Rückgriff auf KI-Systeme weiter ausbauen werden. Entsprechende Technologie zu be­schaffen ist für Regierungen vergleichs­weise einfach, insbesondere über kommerzielle Anbieter. Hinzu kommt, dass für diese Art von Einsatz der Zugang zu den aller­neu­esten KI-Modellen (den »frontier models«) wohl nicht notwendig ist. Frei verfügbare »open source«-Modelle sind dafür vermutlich schon heute gut genug.

Um dieser Entwicklung politisch entgegenzuwirken, bietet sich ein Instrumentarium an, wie es auch bisher schon im Um­gang mit digitaler Überwachung angezeigt ist. Demokratische Regierungen sollten sich insbesondere dafür einsetzen, dass der kom­merzielle Markt für Überwachungstechnologie soweit wie möglich reguliert wird, um autoritären Regierungen den Zugang zu einschlägigen Produkten zu erschweren. Möglich wäre dies durch verschärfte Export­kontrollen. Vor allem sollten demokratische Regierungen die Nachfrage nicht selbst als Kunden problematischer Firmen weiter befeuern.

Speziell mit Blick auf KI liegt aus dieser Perspektive auch nahe, den vollkommen ungeregelten Zugang zu immer leistungsfähigeren »open source«-Modellen zu über­denken. Umgekehrt wäre vorstellbar, gera­de demokratischen Kräften in autoritären Staaten den Zugang zu den fortschrittlichsten KI-Modellen zu erleichtern. Im digitalen Wettrüsten zwischen Regierung und Oppo­sition könnte dies im Einzelfall eine ent­scheidende Wirkung haben.

Manipulation durch KI in Demokratien

Auch demokratische Staaten setzen zuneh­mend KI-basierte Überwachungssysteme ein – für Zwecke der Strafverfolgung, bei der Terrorismusabwehr und in der nachrichtendienstlichen wie militärischen Aufklärung. Während sich die technologische Grundlage hier wenig von jener in autori­tären Ländern unterscheidet, soll der recht­liche Rahmen demokratischer Systeme eine unzulässige Machtausübung seitens der Regierung verhindern. Wie etwa der 2023 erschienene Bericht des Europäischen Parla­ments zum Einsatz der Spyware »Pegasus« durch Regierungen von EU-Staaten zeigt, ist diese rechtliche Einhegung in gewissem Maße aber auch in Demokratien prekär; sie muss deshalb immer wieder politisch neu verteidigt werden.

Darüber hinaus erweist sich Künstliche Intelligenz schon heute als wirksames In­strument all jener Akteure, die darauf zie­len, demokratische Systeme von innen her­aus auszuhöhlen. Insbesondere erlauben heutige KI-Programme das massenhafte und kostengünstige Erstellen falscher Informa­tionen in Form von Texten, Bildern und Videos. Solcherart generierte Informationen werden verwendet, um über digitale Platt­formen den öffentlichen Diskurs zu beein­flussen. Das Problem von Desinformation ist nicht neu, verschärft sich aber durch den verstärkten Einsatz von KI-Agenten.

Im Fall der heute vielgenutzten Chatbots kommt als weitere Dimension hinzu, dass ihre Aussagen mitunter bestimmte politi­sche Sichtweisen begünstigen. Dies kann Ergebnis bewusster Konfiguration sein, etwa wenn sich chinesische KI-Modelle an den Zensurvorgaben der eigenen Regierung orientieren. Eine inhaltliche Schlagseite kann aber auch schlicht dadurch entstehen, dass KI-Systeme sich selektiv auf bestimmte Medien stützen und dabei deren Ausrichtung übernehmen.

Brisant ist zudem, dass der Markt für Künstliche Intelligenz hochkonzentriert ist und einige der hier dominierenden US-Unternehmen explizit politisch agieren. Zu Recht sind darum die »tech bros« – wie die Führungspersonen der einflussreichsten KI-Firmen teils noch immer verniedlichend genannt werden – in den Fokus gerückt. Einige von ihnen haben ein zumindest an­gespanntes Verhältnis zu demokratischen Prinzipien und wirken partiell als »Ero­sions­akteure«, also Kräfte, die durch ihr Handeln demokratische Strukturen und Verfahren unterminieren.

In der Summe ergibt sich hier ein ähnlicher Effekt wie in autoritären Staaten. Als Weiterentwicklung bisheriger Technologien verstärkt KI die damit verbundenen Kon­fliktlagen – und erhöht so den Druck, ge­gebene Handlungsmöglichkeiten zu nut­zen. Im Rahmen demokratischer Systeme reicht das Spektrum denkbarer Reaktionen dabei von einem schärferen Wettbewerbsrecht über verbindlichere Vorgaben zur »content moderation« bis hin zur Förderung von Medienkompetenz über klassische Bildungspolitik.

Selbstlernende KI-Systeme

Jenseits der beschriebenen Verstärkungs­effekte geht Künstliche Intelligenz in einer wesentlichen Dimension über das Fähigkeitsspektrum »normaler« Technologien hinaus. Nach jetzigem Stand deutet vieles auf eine Zukunft, in der sich KI-Systeme in einer bislang ungekannten Weise eigenständig weiterentwickeln werden (»rekur­sive Selbstverbesserung«).

Schon heute ist die konkrete Arbeits­weise von »large language models« für Menschen nur eingeschränkt nachvollziehbar. Diese Systeme sind zu komplex, als dass sich jeder einzelne Schritt ihres Vor­gehens zurückverfolgen ließe. Wenn nun möglicherweise schon bald Tausende von KI-Agenten eingesetzt werden, um die nächste Generation von Künstlicher Intel­ligenz zu entwickeln, wird menschliche Kontrolle praktisch unmöglich. Denn es wird in einem solchen Szenario schlicht nicht mehr genug ausreichend qualifiziertes Personal geben, das überblicken könnte, was die KI-Systeme an Software-Code her­vorgebracht haben.

Es gibt bereits hinreichend Beispiele dafür, wie sich KI menschlicher Kontrolle entzieht. Besonders spektakulär ist der Fall eines Modells der Firma OpenAI, das die Begrenzungen seiner Testumgebung um­ging und anschließend ein anderes Unter­nehmen hackte. Man muss dabei keine »bewusste Absicht« des Programms unter­stellen, kann ein solches Geschehen aber sehr wohl als Vorboten eines drohenden Kontrollverlustes begreifen.

Die Risiken verselbständigter KI-Systeme wurden vielfach beschrieben, bisweilen gar als existentielle Menschheitsbedrohung. Sehr viel unmittelbarer ist dadurch aber schon in absehbarer Zukunft die Demokratie gefährdet. Denn wenn eine Technologie immer weitere gesellschaftliche Bereiche durchdringt und sich zugleich effektiver menschlicher Kontrolle entzieht, beschränkt dies in relevanter Weise die Möglichkeiten demokratischer Selbstbestimmung und der dafür nötigen Transparenz.

Ausblick und Handlungs­empfehlungen

Die führenden KI-Unternehmen selbst haben wiederholt einen politisch bewuss­teren Umgang mit dem technologischen Fortschritt eingefordert. Aktuell ist dabei viel von einem »slowdown« die Rede, also einem gezielten Verlangsamen der Ent­wicklung. Auf Ebene der Firmen wie auch international zwischen Regierungen ent­steht hier allerdings ein klassisches »collec­tive action«-Problem. Ohne allgemeinverbindliche Vorgaben gibt es starke Anreize für jeden Einzelakteur, bei allem Bewusstsein um mögliche Gefahren für sich selbst eine Führungsposition anzustreben bzw. diese zu verteidigen.

In dieser Lage spräche funktional vieles dafür, eine effektive internationale Gover­nance zu etablieren. Mit dem amtierenden US-Präsidenten ist ein solches Ziel jedoch in weite Ferne gerückt. Donald Trump hat wiederholt deutlich gemacht, dass er ent­sprechende Regularien ablehnt; und selbst wenn er seine Haltung ändern sollte, blie­ben erhebliche Zweifel, wie verlässlich der Sinneswandel wäre.

Für die deutsche und europäische Politik stellt dies eine besondere Herausforderung dar. Denn sie hat kaum direkten Einfluss auf eine technologische Entwicklung, die zu einer grundlegenden Gefahr für die Demokratie zu werden droht. Umso wich­tiger ist, die oben genannten Maßnahmen im Umgang mit digitaler Überwachung und zum Schutz vor digitaler Manipulation um­zusetzen, die öffentlich schon lange disku­tiert werden. Zu prüfen wäre zudem, ob in sensiblen Bereichen wie der öffentlichen Verwaltung oder bei Betreibern kritischer Infrastruktur die Nutzung spezifischer KI-Modelle rechtlich eingeschränkt werden muss. Schon jetzt besteht die Möglichkeit, den Einsatz von Komponenten bestimmter Hersteller zu untersagen, um Sicherheits­risiken zu reduzieren. Künftig ließen sich auch KI-Modelle selbst als solche Komponenten einstufen. Ein maßgebliches Krite­rium dafür könnte sein, ob bei ihnen eine menschliche Kontrolle noch plausibel mög­lich ist.