Forscher des MIT haben eine neue Datenbank für künstliche Intelligenz-Risiken entwickelt, die Unternehmen dazu veranlassen könnte, ihre KI-Strategien zu überarbeiten. Dies könnte die Einführung verlangsamen, aber die Sicherheit in einer Ära der raschen KI-Verbreitung verbessern. Die umfassende “AI Risk Repository” des FutureTech Group des Massachusetts Institute of Technology erfasst 777 potenzielle KI-Fallen aus 43 Taxonomien. Diese zentralisierte Ressource adressiert kritische Lücken in bestehenden Rahmenbedingungen und wird voraussichtlich weitreichende Auswirkungen auf Unternehmen, Regulierungsbehörden und Politiker haben.
Experten betonen die wichtige Rolle der Cybersicherheit bei der Bewältigung von KI-Risiken. Die Datenbank präsentiert für Unternehmen jedoch auch eine zweischneidige Klinge, insbesondere für diejenigen, die KI in kritischen Bereichen wie Gesundheitswesen, Finanzen und Infrastruktur einsetzen. Während sie einen Fahrplan für sicherere KI-Implementierung bietet, hebt sie auch das Potenzial für verstärkte Überwachung und Haftung hervor, was die Notwendigkeit sorgfältiger Planung und Risikomanagement unterstreicht.
Haftungsbedenken stehen im Raum. Fragen nach der Haftung sind groß. Adam Sandman, CEO von Inflectra Corporation, weist auf potenzielle Risikominderungsstrategien hin, darunter “Änderungen an Versicherungspolicen, die solche Unternehmen besitzen (z. B. Cyber-Versicherungen) und große Neufassungen von Lizenzvereinbarungen, EULAs und Datenschutzvereinbarungen.”
Experten empfehlen einen vielschichtigen Ansatz zur Risikominderung. Robuste Sicherheitsmaßnahmen sind entscheidend. “Privileged Access Security und Identity Security sind entscheidend, um unbefugten Zugriff und Missbrauch dieser Systeme zu verhindern und sicherzustellen, dass nur autorisiertes Personal mit sensiblen Daten und Entscheidungsprozessen interagieren kann”, betonte Carson. Sandman schlägt zusätzliche Schutzmaßnahmen vor: “Eine andere Möglichkeit zur Risikominderung wäre, dass alle KI-bewerteten Ergebnisse von einem Menschen überprüft werden müssen und dieser die Ergebnisse zertifiziert.” Dieser Ansatz könnte die Effizienzgewinne der KI mit der notwendigen menschlichen Aufsicht ausgleichen.