#Kampfroboter sind durch den Ukraine-Krieg in aller Munde; ihre Anfänge 🫳 Zur Verteidigung der „Festung Breslau“ im Frühjahr 45 setzte die Wehrmacht 96 kabelgelenkte Ladungsträger „Goliath“ ein, um Straßenzüge zu sprengen, was den Vormarsch der Roten Armee verzögern sollte. (Foto/Stadtmuseum)

Die #Ukraine entwickelt einen #ferngesteuerten #Kampfroboter #Phantom2. Er verspricht Feuerkraft ohne Lebensgefahr. Trotzdem muss sein Pilot noch nah dran sein. https://www.merkur.de/politik/drohne-unbemannter-kampfroboter-ukraine-entwickelt-phantom-2-panzer-russland-ukraine-krieg-zr-92879070.html

heise+ | Autonome Waffensysteme: Wie künstliche Intelligenz die Kriegsführung verändert

In der Realität sind viele autonome Waffensysteme kaum schlauer als eine Waschmaschine. Trotzdem stellen sie Soldaten wie auch Völkerrechtler vor neue Probleme.
Autonome Waffensysteme: Wie künstliche Intelligenz die Kriegsführung verändert

Drohnen, die ihre Ziele selbstständig erfassen und angreifen - wegen der rasanten technologischen Entwicklung im Bereich Künstlicher Intelligenz und Datenverarbeitung könnten solche Szenarien bald möglich werden. Die "Kampagne zum Stopp von Killer-Robotern"warnt seit Jahren davor und auch die Vereinten Nationen diskutierten deswegen diese Woche auf einer Konferenz der Vertragskonferenz für Konventionelle Waffen (Convention on Certain Conventional Weapons - CCW) in Genf, ob ein Verbot sogenannter "Letaler Autonomer Waffensysteme" nötig ist - und wie das überhaupt aussehen könnte.
Dabei ist das Hauptproblem noch längst nicht geklärt: Was soll eigentlich genau verboten werden? Für die Nichtregierungsorganisationen, die ein Verbot von Killer-Robotern fordern, hat das Internationale Komitee des Roten Kreuzes (ICRC) einen Definitionsvorschlag gemacht. Verboten werden sollen demnach solche Waffensysteme, die in ihren kritischen Funktionen autonom sind: "Aus Sicht des ICRC ist ein Waffensystem ohne menschliche Kontrolle von Natur aus rechtswidrig."
Es gibt aber auch Länder, die internationalen Regulierungen grundsätzlich skeptisch bis ablehnend gegenüber stehen. Russland spricht sich wegen "des hohes Grades an Effizienz" deutlich für automatisierte bzw. autonome Waffen aus. Jeder Staat müsse dafür seine eigenen Regeln finden, universale Regeln würden "kaum zu praktischen Ergebnissen führen". Letztlich müssen solche Waffen aber von Menschen kontrolliert werden, räumt auch Moskau ein.

Auch die USA verweisen auf ihre bereits existierenden Drohnensysteme und sehen einen "menschlichen Betreiber" als ausreichend an. Juristisch entscheidend sei, "wie Menschen diese Waffen benutzen und was sie erwarten, was diese bewirken". Dementsprechend lehnt Washington alle Versuche, die Waffensysteme selbst genau zu definieren, als überflüssig ab.
www.heise.de/tp/features/ICRC-… www.heise.de/tp/features/ICRC-… #Kampfroboter #autonomeSysteme #autonomeWaffen

Auf der KI-Konferenz ISCForum 2017 am Applied Physics Laboratory der Johns Hopkins University erklärte Work, er beginne immer fester zu glauben, dass Künstliche Intelligenz nicht nur verändern werde, wie Krieg in Zukunft geführt wird, sondern auch "das Wesen des Kriegs" selbst. Es sei eine "Sünde" in seiner Profession zu unterstellen, dass Technik das unveränderbare Wesen des Konflikts verändern könne. Daher habe er gesündigt, als er dies sagte.

Work bezog sich auf Clausewitz, so berichtet Breakingdefense.com, als er das traditionelle Wesen des Krieges mit dem Zusammenspiel von Wille, Angst, Ungewissheit und Zufall zusammenfasste: "Sie müssen sich selbst fragen, wie Angst in einer Welt zur Geltung kommt, wenn ein großer Teil der Aktionen zwischen unbemannten Systemen stattfindet." Wenn Maschinen die Entscheidungen treffen, werden menschliche Schwächen und Emotionen wie Angst, Wut oder Stolz keine Rolle mehr spielen. Das würde die Strategien des Kriegführens tatsächlich verändern.
Die Einführung von KI in die Kriegsführung könne aber noch mehr Ungewissheit schaffen. Treten sich bekämpfende KIs gegenüber, könne dies zu einer zunehmend unvorhersehbaren Feedback-Schleife führen. Man habe allerdings bislang noch nie durch ein Netzwerk kooperierende spezielle KI-Systeme gehabt, um erkennen zu können, welche Interaktionen zwischen ihnen entstehen können, meint Work.
Ein Problem tritt freilich schon auf, wenn überhaupt lernende oder adaptive KI-Systeme eingesetzt werden. Sie können alleine schon deswegen außer Kontrolle geraten, weil niemand weiß, was und wie sie genau gelernt haben, bis sie dies im Verhalten zeigen. David Hanson von Hanson Robotics sagt, dass gerade dieses überraschende Element in komplexeren KI-Systemen ein Vorteil für die Anwender sein könnte. Die Gefahr bestünde allerdings auch, dass lernende KI-Systeme auch lernen könnten, sich der Kontrolle zu entziehen.

Spannend wird es, wenn KI-Systeme tatsächlich in militärischen Realspielen gegeneinander antreten, um wie die Programme beim Hochfrequenzhandel an Börsen in Millisekunden strategische Entscheidungen zu treffen, die einen Vorteil angesichts der vorweggenommenen Entscheidungen der anderen Programme versprechen.
https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html #Kampfroboter #KünstlicheIntelligenz #autonomeSysteme