BRZ stellt Prüfkatalog für vertrauenswürdige KI-Systeme vor

BRZ stellt Prüfkatalog für vertrauenswürdige KI-Systeme vor

In der BRZ Breakout Session im Rahmen des Forum Alpbach diskutierten ExpertInnen und BranchenvertreterInnen ethische Aspekte des Einsatzes Künstlicher Intelligenz in der Verwaltung.

Künstliche Intelligenz (KI) kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kundinnen und Kunden zu erhöhen. Der Einsatz von KI in der Verwaltung wirft jedoch ethische Fragen auf. „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, so Markus Kaiser, Geschäftsführer des BRZ über das Thema der heurigen BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

BRZ präsentiert Kriterienkatalog für vertrauenswürdige Künstliche Intelligenz

Das BRZ hat einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen Einsatz von Künstlicher Intelligenz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, lauten Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit. Hinter jedem Kriterium stehen umfassende Prüfschritte, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nimmt das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel ist es, ein umfassendes Bild eines Algorithmus zu erhalten und ggf. Optimierungsbedarf herauszuarbeiten. Das Ergebnis der Prüfung der einzelnen Kriterien wird in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert.

Hochkarätig besetzte Diskussion beim Europäischen Forum Alpbach

Der Prüfkatalog wurde erstmals im Rahmen einer digitalen BRZ Breakout Session zum Thema Vertrauen in Künstliche Intelligenz („Building Trust in Human-Centric Artificial Intelligence“) am 2.9. im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell (Mitglied der APA-Chefredaktion) diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin (Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags) sowie BRZ-Geschäftsführer Markus Kaiser. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Prüfkatalog nutzen, um neue KI-basierte Anwendungen zu entwickeln

Das BRZ bietet seinen Kunden die Möglichkeit, den Prüfkatalog für neue Applikationen und Services, die Künstliche Intelligenz nutzen einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen. Wir sind uns sicher, dass BRZ-Kunden dieses innovative Service in Anspruch nehmen werden, um mit uns gemeinsam neue Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis.

Details zu Zukunftstechniken in der Verwaltung erfahren Sie hier: https://www.brz.gv.at/was-wir-tun/Innovationen

Die aktuelle Ausgabe des Kundenmagazins "read_IT" mit einem Schwerpunkt zum Thema Künstliche Intelligenz und Ethik finden Sie hier zum Durchblättern: https://www.brz.gv.at/read_it/flip-book-ausgabe-02-2020.html

back to top