Technologieunternehmen richten interne Gremien ein, um die Entwicklung verantwortungsbewusster künstlicher Intelligenz-Systeme zu überwachen, da das Auftreten von generativen KI-Modellen neue Bedenken hinsichtlich Datenschutz, Souveränität, Voreingenommenheit, Halluzinationen usw. aufwirft. Unternehmen wie IBM, Wipro und Automatic Data Processing (ADP) haben solche Gremien gebildet. IBMs KI-Ethik-Board wird von Francesca Rossi, einer IBMerin und globalen Leiterin für KI-Ethik, zusammen mit Christina Montgomery, der Chief Privacy and Trust Officer des Unternehmens, geleitet. Es handelt sich um ein zentrales, interdisziplinäres Gremium, das die Governance-, Überprüfungs- und Entscheidungsprozesse bei IBM unterstützt.
Wipro hat eine Responsible AI Taskforce unter der Leitung von Ivana Bartoletti, der globalen Chief Privacy & AI Governance Officer, die alle KI-Projekte basierend auf ihrem Risikolevel überprüft. ADP, das sensible Kundendaten wie Gehaltsabrechnungen besitzt, gab bekannt, dass sein AI & Data Ethics Council regelmäßig zusammenkommt, um über aufkommende Branchentrends und Bedenken zu beraten. Mit dem Aufkommen von KI werden immer mehr Unternehmen solche Gremien einrichten, die eine entscheidende Rolle in verschiedenen Funktionen wie Produkt, Finanzen, Vertrieb und HR spielen werden.
Laut einer Umfrage von Gartner im Mai untersuchen fast 68% der Unternehmensführer immer noch die Governance für den Einsatz von GenAI innerhalb ihrer Organisationen. In Indien lag dieser Prozentsatz bei 58%. Datensicherheit und Datenschutz (52%), mangelnde reife GenAI-Anbieter (52%) und Datenpräzision, -zuverlässigkeit und -transparenz (48%) zählen zu den häufigsten Herausforderungen für indische Befragte bei der Implementierung von GenAI. Verantwortliche Einkäufer in Indien suchen nach glaubwürdigen Anbietern, deren GenAI-fähige Lösungen den rechtlichen und sektorbezogenen Vorschriften Indiens entsprechen.
Laut Anushree Verma, Director Analyst für aufkommende Technologien und Trends bei Gartner, ist ein KI-Ethikrat für Langzeiterfolg von KI-Projekten von entscheidender Bedeutung. Die Aufgaben können Personen (z. B. einen Chief AI Officer) und Prozesse zur Unterstützung von KI, das Management von KI-spezifischen gesellschaftlichen und ethischen Risiken, die Erklärbarkeit von KI, Datenschutz und -schutz von KI und ModelOps umfassen. Für Wipro erstreckt sich die KI-Governance-Strategie auf funktionale Teams wie Recht (vertragliche Klauseln, IP-Risikobewertung), Cybersicherheit und Qualitätskontrolle, so Bartoletti.
IBM, eines der ersten globalen Unternehmen, das ein Ethikgremium für KI gebildet hat, hat kürzlich ein Papier zu den Risiken bei der Schulung von GenAI-Modellen veröffentlicht. Laut ADP werden Ethik und Transparenz Schlüsselfaktoren sein, um das Kundenvertrauen zu wahren. Srinivas Konidena, Chief Technology Officer und VP für APAC-Produkte bei ADP, erklärte, dass das AI & Data Ethics Council eine entscheidende Rolle bei der Leitung des Unternehmens spiele und regelmäßig über Branchentrends und Bedenken berate.