Während des Tages konnten die Redner mehrere Bereiche identifizieren, in denen KI-Technologie, einschließlich generativer KI, bedeutende Vorteile für die Öffentlichkeit bieten könnte, sowie die Hauptrisiken, die die Technologie birgt. Im Gesundheitswesen hat KI-Technologie das Potenzial, die Gesundheitsversorgung zu verbessern. Teilnehmer des Symposiums diskutierten darüber, wie KI zur Früherkennung von Krankheiten, zur Arzneimittelforschung, zur Überwachung von Trends in der öffentlichen Gesundheit, zu administrativen Aufgaben, die die Überlastung von Ärzten lindern können, und zur Präzisionsmedizin eingesetzt werden kann. KI-Tools wurden bereits zur Unterstützung bei medizinischer Bildgebung eingesetzt, um Scans schneller und kostengünstiger zu machen.
Auf der administrativen Ebene wird KI jetzt eingesetzt, um die Belastung für Ärzte zu verringern, z. B. durch das Transkribieren von Patientengesprächen. Ein Arzt diskutierte Versuche, generative KI-Technologie einzusetzen, um Patientengeschichten zusammenzufassen, damit Kliniker relevante Informationen sehen, die in umfangreichen Notizen möglicherweise verloren gehen könnten. Es wurde darauf hingewiesen, dass bei der Verwendung von KI-Tools in einem so sensiblen Kontext immer ein Mensch beteiligt sein sollte, der letztendlich verantwortlich ist und entscheidet, wann den KI-Tools vertraut und wann sie herausgefordert werden sollen.
KI-Tools, einschließlich Chatbots, die von generativer KI unterstützt werden, können Menschen dabei helfen, Informationen leicht zu finden. Diese Tools können bereits einige Telefonleitungen ergänzen, z. B. 311-öffentliche Dienste ohne Notfall und Kundenservice von Unternehmen. Diese Verwendung von Chatbots kann Telefonbetreiber entlasten, sich auf spezifische Dienstleistungen konzentrieren und komplizierte Fragen beantworten. Generative KI-Tools können auch die Übersetzung automatisieren, um die Kommunikation der Regierung und von Unternehmen mit Menschen in ihrer Muttersprache zu verbessern und einen besseren Zugang zu Informationen zu ermöglichen.
AI-Tools können bei der Vereinfachung einer Vielzahl administrativer Aufgaben hilfreich sein, insbesondere für Regierungsbehörden. Ein häufiges Anwendungsszenario für KI-Technologie besteht darin, bei der Überprüfung von Anträgen zu helfen, was diese Prozesse erheblich vereinfachen kann. Die Verwendung von KI-Tools zur Vorabprüfung von Anträgen birgt jedoch auch Risiken. Viele Unternehmen verwenden KI-Screening-Tools für Einstellungen, was möglicherweise zu algorithmischer Voreingenommenheit führt. Redner zitierten reichlich Beweise dafür, dass KI-Tools oft Vorurteile verstärken anstatt sie zu korrigieren.
Generative KI-Modelle, die auf beispiellosen Datensätzen trainiert sind, geben Anlass zu Bedenken bezüglich Qualität, Quantität und fairer Verwendung der Trainingsdaten. Ein Schlüsselproblem ist das Urheberrecht, da Unternehmen urheberrechtlich geschützte Artikel, Bilder und Videos, die sie im Internet gesammelt haben, in ihren Modellen verwenden, ohne den Schöpfern für ihre Arbeit zu entschädigen. Urheberrechtsbedenken haben viel öffentliche Aufmerksamkeit erhalten und werden derzeit rechtlich verhandelt.