Künstliche Intelligenz, autonome Waffen und Sicherheitspolitik

Künstliche Intelligenz, autonome Waffen und Sicherheitspolitik

Über Rolle und Dynamik der Künstlichen Intelligenz (KI) besteht kein Zweifel. Sie wird mit Blick in die Zukunft absehbar ein Game Changer – dies in nahezu allen gesellschaftlichen Bereichen und gerade auch in den internationalen Beziehungen auf globaler Ebene. Keine Nation will es sich leisten, hier abgehängt zu werden. Auch Deutschland nicht. Daher ist es auch nachvollziehbar, wenn die Bundesregierung bereits 2018 in ihren Eckpunkten für eine KI-Strategie als erstes und höchst ambitioniertes Ziel festlegt: „Deutschland soll zum weltweit führenden Standort für KI werden.“ Das klingt gut.

Dennoch – oder gerade deshalb – überrascht es etwas, wie beiläufig und vermeintlich nachrangig die Chancen und Risiken für die innere und äußere Sicherheit angesprochen sind. Die deutsche KI-Strategie begnügt sich erstmal mit dem Hinweis: „Der künftige Einsatz von KI-basierten Technologien und Systemen wird Auswirkungen auf Streitkräfte haben …“. Man müsse die Vor- und Nachteile einer „umfassenden Bewertung unterziehen“. Das ist, wenn man an Rüstungsgüter denkt, doch recht allgemein formuliert. Die Chancen der KI für Schutz, Aufklärung oder Logistik sind ja durchaus einleuchtend. Andererseits lässt sich aber nicht ohne Grund eine tiefe sicherheitspolitische Ambivalenz etwa von teil- oder vollautonomen Waffen vermuten.

Also gehen wir doch da mal ran und versuchen eine zumindest grobe Analyse, um mit Blick auf sicherheitspolitische Argumente die unterschiedlichen Positionen der Technologie-Euphoriker einerseits und der Technologie-Skeptiker andererseits auf den Prüfstand zu stellen. Und da eine Diskussion auf der Grundlage von (möglichst provokativen, aber gleichwohl sachlich begründeten) Thesen immer besonders fruchtbar ist, soll hier auf unserer Plattform ein solcher Anstoß gegeben werden.

Grundlage für diese Diskussion ist die  Keynote für den 5. GSP-Sicherheitsdialog  vom 25. November 2020.

Folgende 6 Thesen stehen zur schnellen Abstimmung und/oder weiter unten für Ihre Kommentare zur Diskussion:


Umfrage

These 1: Autonomie und Vernetzung von Waffen mittels KI revolutioniert die Kriegsführung der Zukunft.

  • stimme ich zu:
    92.86%
  • stimme ich nicht zu:
    0%
  • bin ich mir nicht sicher:
    7.14%

These 2: KI wird dabei zum entscheidenden Faktor für militärischen Erfolg, dies vor allem im symmetrisch angelegten Konfliktlagen.

  • stimme ich zu:
    78.57%
  • stimme ich nicht zu:
    0%
  • bin ich mir nicht sicher:
    21.43%

These 3: KI bevorteilt den Angreifer. Sie definiert damit Abschreckung neu und beschleunigt eine Rüstungsspirale im Frieden und Eskalationsspirale in Konflikten.

  • stimme ich zu:
    78.57%
  • stimme ich nicht zu:
    14.29%
  • bin ich mir nicht sicher:
    7.14%

These 4: Menschliche Kontrolle und Verantwortung werden durch KI de facto zur Illusion – auch wenn sie formal bestehen bleiben sollte.

  • stimme ich zu:
    85.71%
  • stimme ich nicht zu:
    7.14%
  • bin ich mir nicht sicher:
    7.14%

These 5: KI-basierte Waffen stellen internationale Rüstungskontrolle und Verifikation vor kaum überwindbare Hürden.

  • stimme ich zu:
    75%
  • stimme ich nicht zu:
    16.67%
  • bin ich mir nicht sicher:
    8.33%

These 6: Im Ergebnis erzwingt der technologische Wandel durch KI eine neue internationale Sicherheitskultur.

  • stimme ich zu:
    85.71%
  • stimme ich nicht zu:
    7.14%
  • bin ich mir nicht sicher:
    7.14%

Kommentare (4)

  • Richard Roßmanith vom 01.12.2020 um 11:10
    Künstliche Intelligenz wird die Digitalisierung aller Bereiche von Individuen, Gesellschaften und Staaten in fundamentaler Weise fortsetzen, erweitern und beschleunigen. Selbst ohne die Superintelligenz der Science Fiction Welt erkennen wir schon heute massive Auswirkungen – und wir stehen erst am Anfang dieser Entwicklungen. Enorme Chancen sind damit verbunden, Risiken aber gleichermaßen.
    Treiber dieser Entwicklung ist einmal nicht wie oft in der Vergangenheit das Militärische sondern ganz eindeutig Wirtschaft, Industrie und Handel vor allem in Form von global agierenden Unternehmen und anderen nicht-staatlichen Akteuren. Aber auch Staaten – allen voran die USA und China - investieren unglaubliche Summen in die Erforschung von Künstlicher Intelligenz. Es ist m.E. nicht vermessen festzustellen, dass die künftige Weltordnung von Künstlicher Intelligenz mitbestimmt wird.
    Für die Sicherheitspolitik ergeben sich daraus Herausforderungen in mehrfacher Hinsicht. Zwei will ich ansprechen.
    Zum einen ist es die Anwendung von Künstlicher Intelligenz in der Sicherheitspolitik selbst und ihren Instrumenten. Die Diskussion fokussiert derzeit sehr stark auf autonome Waffensysteme. Es geht aber um weit mehr. Hier stehen wir erst ganz am Anfang der Entwicklung. Weitestgehend fehlt bei den heute Verantwortlichen das Verständnis und die Lage ist gekennzeichnet von fehlender Weitsicht.
    Zum anderen sind es die Auswirkungen der Künstlichen Intelligenz auf Gesellschaften und Staaten, die durch starke Umbrüche, Verwerfungen, Disruption und andere wahrscheinlich alle Lebens- und Politikbereiche betreffende massive Veränderungen gekennzeichnet sind. Kurzum, alles potenzielle Ursachen von künftigen Krisen und Konflikten und damit auch unsere Sicherheit.
    Mir stellt sich die Frage, ob Politik, insbesondere internationale Politik darauf eingestellt ist und diesen Prozess so gestalten kann, dass die sicherheitspolitischen Herausforderungen beherrscht werden können. Mir scheint, dass mit Diskussionen, wie wir sie auch im 5. GSP Sicherheitsdialog erlebt haben, eine zu starke Verengung des Denkens auf einen winzigen Aspekt – autonome Waffensysteme – erfolgt und die umfassenderen und weitergehenden Fragen noch nicht einmal identifiziert und adressiert, geschweige denn beantwortet werden.
  • Uwe Strathoff vom 01.12.2020 um 15:47
    Hallo Herr Roßmanith

    Ich möchte Ihnen beipflichten, die Diskussion beim 5. GSP Sicherheitsdialog greift auch meiner Meinung nach zu kurz.

    Eine Fokussierung auf autonome Waffensysteme zeigt keinesfalls den Blickpunkt auf die wirkliche Bedrohungslage von
    KI gestützten Systemen.
    Schon mit den heute verfügbaren Technologien ist ein Erstschlag ,hierbei besonders gegen unsere IT Infra und Versorgungsstruktur möglich.
    Leider zeigen sich hier in Deutschland sowohl die politischen als auch im besonderen militärischen System die Verantwortlichen weitgehend hilflos.
    Es wird zwar sehr viel diskutiert, aber wirklich Brauchbares zeigt sich nicht.
    Wir haben hier einen erheblichen Nachholbedarf nicht nur im Bereich der Digitalisierung sondern vielmehr wäre es dringendst notwendig unsere Strukturen und Abwehrsysteme sofern Sie adäquat vorhanden sein sollten, ausgeprägten PEN (Penetration Tests) zu unterziehen.
    Leider sieht die Bundeswehr hier keinerlei Notwendigkeit ihre als auch die politischen Systeme solchen Tests zu unterziehen.
    Vorfälle wie der in der Bundesverwaltung oder jüngst im Fuhrpark wären zu verhindern gewesen.
    KI basierte Schutzsysteme wären dazu in der Lage.
  • Richard Roßmanith vom 02.12.2020 um 11:48
    Herr Strathoff,
    da haben Sie sicher einen Punkt. MdB Brandl hat deswegen auch zurecht am Montag darauf hingewiesen, dass er in der Bundeswehr - aber wie ich meine auch darüber hinaus - erhebliche Defizite beim Bewusstsein hinsichtlich der Möglichkeiten und Notwendigkeiten der Anwendung von KI festgestellt.
    Mir geht es aber um mehr. Da wir am Anfang dieser Entwicklungen stehen, haben wir m.E. die nahezu einmalige Chance, global Entwicklungen so zu gestalten, dass es mittel- und langfrisitg nicht zu den Disruptionen, Verwerfungen und negativen Konsequenzen kommt, die dann Sicherheitspolitik und möglicherweise auch Militär zum Handeln zwingt. Das mag naiv gedacht sein. Es gibt aber zumindest die Möglichkeit, diese Herausforderung kooperativ anzugehen. Bei der Entwicklung der Anwendungen von Kernspaltung und -fusion insbesondere im militärischen Bereich gab es diese Möglichkeit nicht.
  • Kersten Lahl vom 02.12.2020 um 12:54
    Das sehe ich ganz ähnlich wie die bisherigen Kommentatoren. Die Diskussion um die sicherheitspolitische Relevanz der KI darf natürlich nicht auf autonome Waffensysteme beschränkt werden – wenngleich diese besonders geeignet sind, einige zentrale und dabei auch unerwünschte Aspekte der erwartbaren Zukunft drastisch aufzuzeigen. Aber klar: KI nur zu verteufeln, wäre ebenso falsch. Dazu ist ihr Nutzenpotenzial viel zu beeindruckend.

    Und ja, ich teile auch die Einschätzung, dass die Chancen der KI für die politische und militärische Sicherheitsvorsorge Deutschlands noch lange nicht hinreichend erkannt sind. Irgendwie befinden wir uns da noch im Dornröschenschlaf. Ob uns irgendwann ein Prinz wachküsst, oder ob uns ein eher unangenehmes Erwachen bevorsteht, bleibt offen.

    Viel Zeit haben wir eigentlich nicht. Der technologische Wandel wartet nicht auf uns. Es geht aus meiner Sicht um zwei große Aufgabenpakete, die in einer Analyse der KI abzuarbeiten sind: Zum einen sicherheitspolitisch die Prävention, zum anderen militärisch die Resilienz zu stärken. Beides ist nach meiner Auffassung kein Widerspruch.

Bitte einloggen um einen neuen Kommentar zu verfassen.
zum Login

Noch nicht registriert?
zur Registrierung

Flucht vor der Pandemie

| von Kersten Lahl

Seit mehr als 15 Monaten beherrscht ein Virus die täglichen Schlagzeilen – und verdrängt damit die Aufmerksamkeit auf so manch anderes. Im Fokus stehen zurecht die Corona-Opfer und die verzweifelten Versuche zur Eindämmung weiterer Krankheitsfälle, aber auch die Einschränkungen im öffentlichen Leben ganz unmittelbar. Der Blick der Politik und auch der meisten Menschen ist wie selten zuvor nach innen gerichtet.

Globale Aspekte der Pandemie werden hingegen in vielen Bereichen erst nach und nach…

Afghanistan – Mut zur Bilanz!

| von Kersten Lahl

Nun ist es also soweit. Die USA und mir ihr auch Deutschland haben entschieden, den Afghanistan-Einsatz noch in diesem Sommer zu beenden. Es hat lange, sehr lange gedauert bis zu diesem Entschluss – genau genommen rund 20 Jahre.

Um es vorab klarzustellen: Es gab nach den unfassbaren Anschlägen der AlQaida auf New York und Washington wohl kaum eine echte Alternative zu dem Ansatz, dem internationalen Terrorismus an seinem damaligen Ursprung militärisch zu begegnen – und dies in sichtbarer…

Wird der Preis für Nord Stream 2 unbezahlbar?

| von Kersten Lahl

Seit seinem Beginn birgt Nord Stream 2 hohes Konfliktpotenzial mit spalterischer Wirkung auf nationaler wie internationaler Ebene. Auch wenn bereits rund 90 Prozent des Projekts fertiggestellt sind, so scheint der politische Preis heute sehr viel höher als ursprünglich erwartet.

Die Argumentationslinien des Pro und Contra waren von Anfang an breit gefächert und verschärfen sich seither in teils dramatischer Weise:

  • Wirtschaftspolitisch verspricht man sich von dem Vorhaben einen beträchtlichen…

Das Kommando Spezialkräfte kommt nicht aus den Schlagzeilen.

| von Kersten Lahl

 

Elitetruppe?

Das Kommando Spezialkräfte kommt einfach nicht aus den Schlagzeilen. In regelmäßigen Abständen kochen neue Tatsachen oder auch Mutmaßungen hoch, die dann in Parlament, Truppe und Öffentlichkeit breit und mit ehrlichem Entsetzen diskutiert werden. Die ganze Bundeswehr fühlt sich letztlich betroffen, und dies auf keineswegs angenehme Weise. Den meisten Zeitungskommentaren lässt sich jedenfalls ein – mitunter vielleicht auch leicht wohliger – Schauer der Entrüstung entnehmen.…

Bilanz am Hindukusch?

| von Kersten Lahl

Es ist kaum zu glauben: In diesem Jahr werden nach den unfassbaren Terrorangriffen auf New York und Washington schon wieder 20 Jahre vergangen sein. Und fast ebenso lange dauert ein deutsches militärisches Engagement, das die Bundeswehr wie kaum eine andere Aufgabe seit dem Ende des Kalten Krieges bestimmt, geformt und beansprucht hat. Dies in der Ausrüstung, in der Ausbildung, in den Führungsprozessen, im soldatischen Selbstverständnis, und nicht zuletzt im öffentlichen Meinungsbild. Wer…

Deutschland und Atomwaffenverbot

| von Kersten Lahl

Mit seinem Zauberlehrling hat Goethe schon Ende des 18. Jahrhunderts ein Phänomen beschrieben, das auch in der heutigen Sicherheitspolitik immer wieder höchste Aktualität und Sorge erfährt: Die Schwierigkeit, eine einmal begonnene Entwicklung auf Dauer zu beherrschen, also die erst gern gerufenen und dann aber extrem gefährlichen Geister wieder loszuwerden. In der klassischen Ballade findet sich zum Glück eine Lösung, indem der Meister zurückkommt und die frechen, außer Kontrolle geratenen Besen…

Trump – wie lange noch Präsident?

| von Kersten Lahl

Die schockierenden Ereignisse im Kapitol von Washington werden lange nachwirken. Zu werten sind sie als gewaltsamer, ins Mark gehender Angriff gegen die Verfassung der Vereinigten Staaten von Amerika. Es besteht kein Zweifel, dass sie auch strafrechtlich entsprechend verfolgt und geahndet werden. Die USA werden und können es sich weder innen- noch außenpolitisch leisten, das auf eine leichte Schulter zu nehmen, was geschehen ist.

Im Fokus steht dabei auch die Rolle des amtierenden Präsidenten.…

Braucht die Bundeswehr eine Reform?

| von Kersten Lahl

Die Bundeswehr braucht eine neue Reform – diese These wurde beim 3. WebTalk der GSP am 8.12.2020 heftig diskutiert. (Die ganze Diskussion können Sie hier im Video abrufen.)

Grundlage war ein „Denkanstoß“ von Hans-Peter Bartels und Rainer Glatz, die eine durchgreifende Neuorientierung von Strukturen und Prozessen der deutschen Streitkräfte, also eine neue „Reform der Bundeswehr heute“ einfordern. Die Begründung liege – sehr verkürzt wiedergegeben – schlichtweg in der Tatsache, dass die Truppe…

Künstliche Intelligenz, autonome Waffen und Sicherheitspolitik

| von Kersten Lahl

Über Rolle und Dynamik der Künstlichen Intelligenz (KI) besteht kein Zweifel. Sie wird mit Blick in die Zukunft absehbar ein Game Changer – dies in nahezu allen gesellschaftlichen Bereichen und gerade auch in den internationalen Beziehungen auf globaler Ebene. Keine Nation will es sich leisten, hier abgehängt zu werden. Auch Deutschland nicht. Daher ist es auch nachvollziehbar, wenn die Bundesregierung bereits 2018 in ihren Eckpunkten für eine KI-Strategie als erstes und höchst ambitioniertes…

Deutschlands Verantwortung – Aber welche, wie und wo?

| von Kersten Lahl

Nach den Wahlen beginnt „normalerweise“ die Zeit des geregelten Übergangs in eine neue Regierungsperiode. Aber was ist seit einem Präsidenten Trump schon normal? Wir werden uns also noch etwas gedulden müssen, bis sich der Nebel des Ungewissen über den USA verzogen hat und sich die Welt wieder voll ihren eigentlichen Herausforderungen widmen kann. Das Abwarten gilt auch für uns. Es bedeutet aber nicht, eine Lagebeurteilung auf die lange Bank zu schieben. Vielmehr sollten wir die Zeit nutzen, um…

Die USA und wir – noch im gleichen Boot?

| von Kersten Lahl

Eine aufreibende Wahl liegt hinter uns, mit teils noch offenem Ausgang. Eigentlich war es ja nicht „unsere“ Wahl, sondern die der amerikanischen Bürger. Aber trotzdem liegen die Nerven auch in Deutschland seit Wochen blank – wie wohl fast überall auf der Welt. Denn alle sind betroffen, mehr oder weniger. „America first“ in seiner vier Jahre lang geübten Praxis lässt sich ja zugleich als „everything else last“ interpretieren. Das wiederum ist keine gute Grundlage in einer so komplexen Welt, in…

Corona und Sicherheitspolitik Teil 6: Neue Realitäten, Ziele, Konzepte?

| von Kersten Lahl

Am 12. Mai, 19 h – 20 h, fand der 1. GSP-WebTalk mit einer technisch begrenzten Präsenz von 100 Gästen statt. Das war für uns als GSP zugleich der Start für ein neues Format, um eine sicherheitspolitische Diskussion anzuregen – in der Methode nicht zuletzt den aktuellen Corona-Bedingungen geschuldet.

Alle Teilnehmer an der virtuellen Debatte unter dem Titel „Corona-Krise und Sicherheitspolitik: Neue Realitäten, Ziele, Konzepte?“ gehören dem Präsidium der Gesellschaft für Sicherheitspolitik an:…