Der Aufstieg von Stiftungsmodellen, die das Wachstum von generativer KI und anderen KI-Anwendungen vorantreiben, bietet aufregende Möglichkeiten – wirft jedoch auch neue Fragen und Bedenken hinsichtlich ihrer ethischen Gestaltung, Entwicklung, Bereitstellung und Nutzung auf. Das IBM AI Ethics Board-Papier “Foundation models: Opportunities, risks and mitigations” befasst sich mit diesen Bedenken und untersucht die Vorteile, Risiken, Schutzmaßnahmen und Risikominderungen der Technologie. Es werden potenzielle Risiken im Zusammenhang mit Stiftungsmodellen durch die Perspektiven von Ethik, Gesetzen und Vorschriften in drei verschiedenen Kategorien dargelegt: traditionelle, verstärkte und neue Risiken, die mit Stiftungsmodellen und ihren inhärenten generativen Fähigkeiten verbunden sind.
Diese Risiken sind in Bezug darauf strukturiert, ob sie mit dem Inhalt verbunden sind, der dem Stiftungsmodell zur Verfügung gestellt wird – dem Input – oder dem von ihm generierten Inhalt – dem Output – oder ob sie mit zusätzlichen Herausforderungen zusammenhängen. Darüber hinaus hebt das Papier einige der verfügbaren Risikominderungsstrategien und Tools hervor, wie die watsonx-Plattform für Unternehmensdaten und KI sowie vertrauenswürdige Open-Source-KI-Tools. Diese Strategien konzentrieren sich darauf, Sicherheit und Innovation im Gleichgewicht zu halten und Benutzern zu ermöglichen, die Leistungsfähigkeit von KI und Stiftungsmodellen zu erleben.
Die Risikoatlas-Veröffentlichung bietet eine interaktive Lernerfahrung zu den in diesem Papier beschriebenen Risikokategorien. Sie ermöglicht es den Kunden von watsonx sowie der allgemeinen Öffentlichkeit, die Risiken, ihre Auswirkungen auf Unternehmen, Beispiele und IBM-Lösungen zur Risikominderung genauer zu erkunden. Darüber hinaus wird betont, wie Designer von generativen KI-Systemen in allen Phasen des Designprozesses die Risikominderung einbeziehen und insbesondere während der Lösungsdefinition. Durch die Verkörperung von Benutzereingaben, die Definition der erforderlichen Daten und Schulungen und die Identifizierung der Variabilität im generierten Output können Teams besser verstehen, welche Risiken mit unseren Designs verbunden sein können.
Durch die Annahme eines humanzentrierten Designansatzes wird die Bewertung von Risiken auf sekundäre und tertiäre Benutzer ausgeweitet, das Verständnis aller Risiken vertieft und deren wahrscheinliches Auftreten in den Entwurfs- und Implementierungsphasen genau festgelegt. Die Auseinandersetzung mit diesen Risiken zu Beginn des Prozesses fördert die Entwicklung verantwortungsbewusster und vertrauenswürdiger KI-Lösungen. “Foundation models: Opportunities, Risks and Mitigations” wird Sie auf eine Reise führen, um das Potenzial von Stiftungsmodellen zu realisieren, die Bedeutung der Risiken zu verstehen und Strategien zur Minderung ihrer potenziellen Auswirkungen kennenzulernen.