Ethische und technische Bewertung einer KI-gestützten Lösung für das Newsroom-Team des EU-Rates
Auswirkung
Zur Unterstützung des Newsroom-Teams des Generalsekretariats des Rates der EU bewertete ML6 die technische Machbarkeit und die potenziellen ethischen Risiken, die mit dem Einsatz einer KI-basierten Lösung zur Kommentierung von Medieninhalten verbunden sind. ML6 nutzte seine Risikobewertungsmethode, um die wichtigsten ethischen Herausforderungen auf der Grundlage der 7 Dimensionen der vertrauenswürdigen KI zu bewerten und Empfehlungen zu geben, um potenzielle Risiken bereits bei der Entwicklung einer technischen Lösung zu mindern. Mit diesen Empfehlungen im Hinterkopf wird das Team der Nachrichtenredaktion des EU-Rates in der Lage sein, fundierte Entscheidungen über das Design und die Implementierung einer KI-basierten Lösung für ihre Nachrichtenredaktion zu treffen.
Wir von ML6 sind der Meinung, dass die systematische Bewertung von KI-Lösungen im Hinblick auf ethische Risiken ein wichtiger Teil des KI-Designs und der KI-Entwicklung ist und Teil eines jeden KI-Projekts sein sollte. Mit diesem Projekt ist das Newsroom-Team des EU-Rates ein Vorbild für die Durchführung solcher Bewertungen bereits in einer frühen Phase.
Der Kunde
Der Europäische Rat und der Rat der Europäischen Union sind zwei der wichtigsten Organe der Europäischen Union (EU). Der Europäische Rat setzt sich aus den Staats- und Regierungschefs der 27 EU-Mitgliedstaaten, dem Präsidenten des Europäischen Rates und dem Präsidenten der Europäischen Kommission zusammen und legt die politische Richtung und die Prioritäten der EU fest. Der Rat der EU setzt sich aus den Ministern der nationalen Regierungen der einzelnen Mitgliedstaaten zusammen. Der Rat verhandelt und verabschiedet EU-Gesetze, in den meisten Fällen zusammen mit dem Europäischen Parlament. Das Generalsekretariat des Rates steht im Dienste dieser beiden Institutionen. Über die Website Newsroom bietet diese Einrichtung kostenlosen Zugang zu qualitativ hochwertigen Video-, Bild- und Audiodateien zu allen wichtigen Aktivitäten des EU-Rates, wie z. B. Rundtischgespräche und Pressekonferenzen.
Die Herausforderung
Um die Effizienz zu steigern, der Nachrichtenredaktion des EU-Rates mehr Zeit zu geben und sich auf wertvollere Aufgaben zu konzentrieren, erwägt das Team den Einsatz eines KI-basierten Systems zur Automatisierung des Prozesses der Kommentierung von Mediendateien. Da der EU-Rat die Bedeutung und Notwendigkeit der Entwicklung ethischer und vertrauenswürdiger KI-Anwendungen erkannt hat, wollte er als Vorreiter die technische Entwicklung einer KI-Lösung mit einer eingehenden ethischen Bewertung begleiten.
Lösung
In der Konzeptionsphase des Projekts wurde großer Wert auf die Identifizierung möglicher ethischer Risiken eines KI-basierten Systems gelegt, und das Team des EU-Rats arbeitete eng mit ML6 zusammen, um technische und ethische Empfehlungen zu erhalten. Dazu gehörten Erwägungen wie die Sicherheit und die technische Robustheit des Systems, der Datenschutz und die Verwaltung, Fairness und Vielfalt. Diese Erkenntnisse dienten als Richtschnur für mögliche Lösungen und Designentscheidungen, um sicherzustellen, dass potenzielle Hindernisse in der Zukunft vermieden werden können.
Insbesondere bei den ethischen Empfehlungen haben wir potenzielle ethische Risiken auf der Grundlage unserer Risikobewertungsmethodik unter Verwendung der sieben Dimensionen vertrauenswürdiger KI bewertet, die von der hochrangigen EU-Expertengruppe für KI definiert wurden. Vertrauenswürdige KI beschreibt KI, die gesetzeskonform, ethisch verantwortlich und technisch zuverlässig ist. Das Konzept beruht auf der Prämisse, dass KI ihr volles Potenzial nur dann entfalten kann, wenn über ihren gesamten Lebenszyklus hinweg Vertrauen aufgebaut werden kann, von der Konzeption und Entwicklung bis hin zum Einsatz und zur Nutzung. Ein Ansatz, um vertrauenswürdige KI zu erreichen, besteht darin, die Entwicklung und Anwendung von KI an ethischen und integrativen Werten auszurichten und danach zu streben, ihren Nutzen zu maximieren und gleichzeitig potenzielle Fallstricke zu erkennen, zu verhindern und abzumildern.
Unter
Resultate
Der Bewertungsprozess begann mit einer Reihe von Interviews mit Mitgliedern des Newsroom-Teams, die wertvolle Einblicke in ihre täglichen Aufgaben und Abläufe lieferten. Auf diese Interviews folgte eine eingehende technische und ethische Bewertung der potenziellen Lösungen. Darüber hinaus führte das ML6-Team verschiedene technische Experimente durch, um ein tieferes Verständnis des Themas zu erlangen. Alle Ergebnisse wurden in einem Bericht zusammengefasst, der als Dokumentation möglicher Risiken und Strategien zur Risikominderung dient.