Seit dem 01.08.2024 ist der AI-Act in Kraft. In unserer Blogreihe sind wir bislang auf wesentliche Details zu den Anfoderungen des AI-Acts eingegangen (Teil 1 und Teil 2). In Teil 3 haben wir beschrieben, wie sie potentielle KI-Anwendungsfälle strukturiert bewerten können.
In diesem Teil beschäftigen wir uns mit der Governance von KI-Anwendungsfällen, warum diese wichtig ist und was die Basis für eine funktionierende KI Governance ist.
KI Governance ist eine neue Teildisziplin im Daten- und Informationsframework
Die zunehmende Bedeutung der Künstlichen Intelligenz erfordert auch eine entsprechende Entwicklung der begleitenden Geschäftsprozesse. Der Umfang der Lösungen im Kontext von KI wächst explosionsartig und damit auch die Anforderungen an Daten, Architektur, Personal und Prozesse. Mittlerweile steht die Produktivsetzung dieser Anwendungen im Fokus, d.h. es stellt sich zunehmend die Frage nach dem “Wie“ und nicht mehr nach dem “Ob“.
Um die Frage nach dem „Wie“ beantworten zu können, bedarf es eines stabilen Fundaments, auf dem eine KI Governance aufgebaut werden kann. Dieses Fundament ist ein funktionierendes Daten- und Informationsframework, in dem KI Governance zu einer neuen Teildisziplin wird. Künstliche Intelligenz (KI) ist auf qualitativ hochwertige und gut kontextualisierte Daten angewiesen, um genaue und wertvolle Ergebnisse zu erzielen. Daten sind nur so wertvoll wie die Anwendungsfälle, in denen sie genutzt werden. KI als prominenter Anwendungsfall zeigt seinen Wert durch Innovation und Effizienz mit hoher Sichtbarkeit. Die Steuerung von Trainingsdaten für KI-Modelle ist oft eine Grauzone in Bezug auf die Verantwortlichkeit. Daher sind eine enge Abstimmung und flexible Zusammenarbeit zwischen Daten- und KI-Verantwortlichen erforderlich.
Dabei ist es ist wichtig zu verstehen, dass KI Governance allein nicht ausreicht, um verantwortungsvolle, faire und ethisch vertretbare KI-Anwendungen zu schaffen.
plenum KI Governance Framework
Wenn die Grundlagen eines funktionierenden Daten- und Informationsframework vorliegen, können die zusätzlichen Herausforderungen an das Daten- und Modellmanagement, die sich aus dem Einsatz von KI ergeben, bewältigt werden. KI Governance bezieht sich auf Richtlinien, Rahmenbedingungen und Verfahren zur Steuerung des Einsatzes, der Entwicklung und der Auswirkungen von Künstlicher Intelligenz. Ziel der KI Governance ist es, verantwortungsvolle, faire und ethisch vertretbare KI-Anwendungen zu schaffen.
Wir haben ein KI Governance Framework entwickelt mit dessen Hilfe die o.g. Ziele erreicht werden können. Externe (Umwelt) und interne (Organisation) Faktoren wirken auf die acht verschiedenen Governance-Kategorien, die für jedes KI-System berücksichtigt werden müssen. Jede Governance Kategorie beinhaltet unterschiedliche Aufgaben, die zu bestimmten Zeitpunkten im AI-Governance Lifecycle zu erledigen sind. Bei der Ausgestaltung der einzelnen Aufgaben wurden die Anforderungen aus dem AI-Act berücksichtigt.
Das Framework kann individuell an das jeweilige Ambitionsniveau angepasst werden. Sind Sie lediglich Betreiber von nicht Hochrisiko-KI-Systemen im Sinne des AI-Acts sind weniger Aufgaben zu erfüllen.
Zusammenfassung und Ausblick
Eine unternehmensweit konsistente Governance-Struktur ist eine Grundvoraussetzung für den Einsatz von KI und damit für die effiziente Umsetzung des AI-Acts. Der AI-Act ist ein wesentlicher Bestandteil einer umfassenden KI Governance. Die Bedeutung einer funktionierenden Governance-Struktur ist daher immens wichtig, um KI-Entwicklungen im eigenen Unternehmen zu ermöglichen und weitere zukunftsweisende Ansätze voranzutreiben.