Mit der alarmierenden Ausnutzung von Software-Schwachstellen hat die AI Cyber Challenge (AIxCC) der Defense Advanced Research Projects Agency (DARPA) die Semifinal-Phase erreicht, und der Gesundheitssektor zeigt großes Interesse an den Ergebnissen des Wettbewerbs. AIxCC bringt Experten im Bereich KI und Cybersicherheit zusammen, um neuartige KI-Systeme zu entwickeln, die die für das moderne Leben kritische Open-Source-Software schützen können. Durch AIxCC erforscht DARPA letztendlich, ob KI dabei helfen kann, Software-Schwachstellen effektiver zu finden und zu beheben und eine Zukunft einzuleiten, in der Angriffe gestoppt werden können, sobald sie erkannt werden.
Der Wettbewerb wurde erstmals 2023 gestartet und wird Teams mit den besten Systemen insgesamt 29,5 Mio. US-Dollar an Preisen verleihen. Kathleen Fisher, Direktorin des Informations-Innovationsbüros von DARPA, bestätigte gegenüber Infosecurity, dass das Advanced Research Projects Agency for Health (ARPA-H) im Februar 2024 AIxCC unterstützt hat. ARPA-H ist hochmotiviert wegen der Ransomware-Angriffe im Gesundheitssektor und dem hohen technischen Schuldenstand in Krankenhäusern und medizinischen Geräten. Fisher sagte, dass die Bedeutung des Wettbewerbs darin liegt, nicht nur Fehler zu identifizieren, sondern auch Lösungen anzubieten.
Die Ausnutzung von Schwachstellen als erster Zugangsschritt für einen Angriff stieg zwischen 2022 und 2023 um 180%, so der Data Breach Investigations Report 2024 von Verizon. Fisher merkte an, dass der Wettbewerb möglicherweise an seinen technischen Zielen scheitern könnte, aber bei Erfolg würde DARPA potenzielle Kunden ansprechen, um zu zeigen, wie diese Technologie genutzt werden könnte. Die Konzentration auf kritische Infrastruktursoftware ist von besonderem Interesse für die US-Regierung, und die Teilnahme bedeutender Technologieunternehmen wie Anthropic, Google, Microsoft und OpenAI unterstreicht die Relevanz des Wettbewerbs.
Der Wettbewerb passt zu vielen anderen US-Regierungsinitiativen und -zusagen, die darauf abzielen, den Missbrauch von Software-Schwachstellen einzudämmen. US-Regierungsbehörden arbeiten an Initiativen wie der sicheren Gestaltung von Software, um für mehr Sicherheit zu sorgen. Trotzdem betonte Fisher, dass DARPA nicht immer mit anderen Regierungsbehörden hinsichtlich Roadmaps übereinstimmt, da DARPA eher auf technische Innovationen setzt, die die Roadmaps anderer Organisationen aufbrechen könnten.