Telepolis (inoffiziell)Auf der KI-Konferenz ISCForum 2017 am Applied Physics Laboratory der Johns Hopkins University erklärte Work, er beginne immer fester zu glauben, dass Künstliche Intelligenz nicht nur verändern werde, wie Krieg in Zukunft geführt wird, sondern auch "das Wesen des Kriegs" selbst. Es sei eine "Sünde" in seiner Profession zu unterstellen, dass Technik das unveränderbare Wesen des Konflikts verändern könne. Daher habe er gesündigt, als er dies sagte.
Work bezog sich auf Clausewitz, so berichtet Breakingdefense.com, als er das traditionelle Wesen des Krieges mit dem Zusammenspiel von Wille, Angst, Ungewissheit und Zufall zusammenfasste: "Sie müssen sich selbst fragen, wie Angst in einer Welt zur Geltung kommt, wenn ein großer Teil der Aktionen zwischen unbemannten Systemen stattfindet." Wenn Maschinen die Entscheidungen treffen, werden menschliche Schwächen und Emotionen wie Angst, Wut oder Stolz keine Rolle mehr spielen. Das würde die Strategien des Kriegführens tatsächlich verändern.
Die Einführung von KI in die Kriegsführung könne aber noch mehr Ungewissheit schaffen. Treten sich bekämpfende KIs gegenüber, könne dies zu einer zunehmend unvorhersehbaren Feedback-Schleife führen. Man habe allerdings bislang noch nie durch ein Netzwerk kooperierende spezielle KI-Systeme gehabt, um erkennen zu können, welche Interaktionen zwischen ihnen entstehen können, meint Work.
Ein Problem tritt freilich schon auf, wenn überhaupt lernende oder adaptive KI-Systeme eingesetzt werden. Sie können alleine schon deswegen außer Kontrolle geraten, weil niemand weiß, was und wie sie genau gelernt haben, bis sie dies im Verhalten zeigen. David Hanson von Hanson Robotics sagt, dass gerade dieses überraschende Element in komplexeren KI-Systemen ein Vorteil für die Anwender sein könnte. Die Gefahr bestünde allerdings auch, dass lernende KI-Systeme auch lernen könnten, sich der Kontrolle zu entziehen.
Spannend wird es, wenn KI-Systeme tatsächlich in militärischen Realspielen gegeneinander antreten, um wie die Programme beim Hochfrequenzhandel an Börsen in Millisekunden strategische Entscheidungen zu treffen, die einen Vorteil angesichts der vorweggenommenen Entscheidungen der anderen Programme versprechen.
https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html #Kampfroboter #KünstlicheIntelligenz #autonomeSysteme
Work bezog sich auf Clausewitz, so berichtet Breakingdefense.com, als er das traditionelle Wesen des Krieges mit dem Zusammenspiel von Wille, Angst, Ungewissheit und Zufall zusammenfasste: "Sie müssen sich selbst fragen, wie Angst in einer Welt zur Geltung kommt, wenn ein großer Teil der Aktionen zwischen unbemannten Systemen stattfindet." Wenn Maschinen die Entscheidungen treffen, werden menschliche Schwächen und Emotionen wie Angst, Wut oder Stolz keine Rolle mehr spielen. Das würde die Strategien des Kriegführens tatsächlich verändern.
Die Einführung von KI in die Kriegsführung könne aber noch mehr Ungewissheit schaffen. Treten sich bekämpfende KIs gegenüber, könne dies zu einer zunehmend unvorhersehbaren Feedback-Schleife führen. Man habe allerdings bislang noch nie durch ein Netzwerk kooperierende spezielle KI-Systeme gehabt, um erkennen zu können, welche Interaktionen zwischen ihnen entstehen können, meint Work.
Ein Problem tritt freilich schon auf, wenn überhaupt lernende oder adaptive KI-Systeme eingesetzt werden. Sie können alleine schon deswegen außer Kontrolle geraten, weil niemand weiß, was und wie sie genau gelernt haben, bis sie dies im Verhalten zeigen. David Hanson von Hanson Robotics sagt, dass gerade dieses überraschende Element in komplexeren KI-Systemen ein Vorteil für die Anwender sein könnte. Die Gefahr bestünde allerdings auch, dass lernende KI-Systeme auch lernen könnten, sich der Kontrolle zu entziehen.
Spannend wird es, wenn KI-Systeme tatsächlich in militärischen Realspielen gegeneinander antreten, um wie die Programme beim Hochfrequenzhandel an Börsen in Millisekunden strategische Entscheidungen zu treffen, die einen Vorteil angesichts der vorweggenommenen Entscheidungen der anderen Programme versprechen.
https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html https://www.heise.de/tp/features/Krieg-mit-KI-Systemen-Ohne-Angst-und-Emotion-aber-mit-hoher-Ungewissheit-3730667.html #Kampfroboter #KünstlicheIntelligenz #autonomeSysteme