Forscher wenden künstliche Intelligenz und Autonomie auf tödliche Luftmaschinen an, was neue Fragen darüber aufwirft, wie viel Kontrolle die Menschen über moderne Kämpfe behalten werden. Intelligente „Drohnenschwärme“ könnten einen Durchbruch in der Kriegsführung darstellen. Anstelle von Soldaten, die einzelne unbemannte Fahrzeuge steuern, könnten sie Luft- und Seeschwärme einsetzen, die bei Missionen „mit begrenztem Bedarf an menschlicher Aufmerksamkeit und Kontrolle“ zusammenarbeiten, so ein kürzlich erschienener Bericht der US-Regierung.
Die Verbreitung von kostengünstigen Drohnen in Konflikten in der Ukraine und dem Nahen Osten hat einen Wettlauf um unbemannte Fahrzeuge ausgelöst, die auf dem Schlachtfeld planen und zusammenarbeiten können. Diese intelligente nächste Generation der „Schwärme“ würde einen Durchbruch in der Kriegsführung darstellen. Als Forscher künstliche Intelligenz und Autonomie auf tödliche Maschinen anwenden, entstehen neue ethische Dilemmata in Bezug darauf, wie und ob die Entwicklung, Bereitstellung und Nutzung von KI reguliert werden sollte.
Die Frage, die sich in Zukunft stellt, ist, ob das Pentagon die vielen technologischen Herausforderungen der Drohnenkriegsführung überwinden kann, während es gleichzeitig die Ethik eines demokratischen Staates aufrechterhalten kann. Es herrscht die Furcht, dass Gegner ihre eigene Schwarmtechnologie in zukünftigen Konflikten ohne ethische Einschränkungen ausnutzen könnten. Die Menge an menschlicher Überwachung, die notwendig oder wünschenswert ist, ist eine Schlüsselfrage, da Menschen Informationen nicht so schnell verarbeiten wie Maschinen, was den Druck erhöht, Menschen aus der Schleife zu nehmen, um im Kampf wettbewerbsfähig zu bleiben. Margaret E. Kosal, eine ehemalige Wissenschafts- und Technologieberaterin beim Verteidigungsministerium, betont die Bedeutung, über diese Fragen im militärischen, völkerrechtlichen und ethischen Kontext nachzudenken.
Die Herausforderungen für die aktuellen Drohnenbetreiber auf den Schlachtfeldern der Ukraine sind die russischen Störtechnologien, die die Kommunikation zwischen Betreiber und Drohne sowie zwischen den Drohnen untereinander verhindern können. Einige Forscher arbeiten daran, Wege zu finden, wie Drohnen beobachten und Schlüsse daraus ziehen können, was andere Drohnen tun. Die „Nebel des Krieges“ erschweren die visuelle Beobachtung, weshalb Theodore Pavlic von der Arizona State University begonnen hat, Weberameisen in Australien im Auftrag des US Special Operations Command zu untersuchen.
Es sind jedoch Fortschritte zu verzeichnen. Red Cat Holdings, ein Drohnentechnologieunternehmen in Puerto Rico, kündigte letztes Jahr ein System an, bei dem eine Person vier seiner Teal-Drohnen betreiben könnte, im Gegensatz zum heutigen 1-zu-1-Verhältnis. Das Unternehmen zielt darauf ab, dieses Verhältnis zu erhöhen, indem noch mehr Autonomie auf die Maschinen selbst übertragen wird. Die Einbettung einer solchen Autonomie in tödliche Maschinen wirft jedoch ethische Herausforderungen in Bezug auf die Aufrechterhaltung menschlicher Überwachung auf, insbesondere wenn die Geschwindigkeit und Komplexität der Drohnenentscheidungen zunimmt. Der Druck, Menschen aus der Schleife zu nehmen, könnte steigen, wenn China oder ein anderer Gegner KI-ausgestattete Drohnen einsetzt, die vollständig autonom sind.