Bild wurde mit Hilfe von KI generiert
AI governance is a system of rules, practices, processes, and technological tools that are employed to ensure an organization’s use of AI technologies aligns with the organization’s strategies, objectives, and values; fulfills legal requirements; and meets principles of ethical AI followed by the organization.“ – Mäntymäki, Minkkinen, Birkstedt, Viljanen, 2022
Wenn Unternehmen AI Governance aufbauen, fangen sie nicht bei null an. Mäntymäki et al. (vgl. 2022) sagen es deutlich: AI Governance entsteht nicht im luftleeren Raum („AI governance efforts do not take place in a vacuum“). Sie kommt in eine Governance-Landschaft, in der Corporate Governance, IT Governance und Data Governance schon heute die Aufmerksamkeit des Managements beanspruchen. Die Autoren sehen genau hier eine Lücke. Die Literatur zu AI Governance hat bisher kaum geklärt, wo AI Governance in der bestehenden Governance-Struktur einer Organisation steht.
Die Definition oben verlangt, dass der KI-Einsatz mehrere Anforderungen gleichzeitig erfüllt. Er muss zu Strategie, Zielen und Werten der Organisation passen, rechtliche Anforderungen einhalten und den ethischen KI-Prinzipien folgen, die sich die Organisation selbst gegeben hat. Laut den Autoren reicht die Ausrichtung an der eigenen Strategie allein nicht aus. Regulatorische und ethische Anforderungen aus dem Umfeld gehören ebenfalls dazu. Die Autoren erklären vier Elemente ihrer Definition:
- AI Governance ist ein System. Ihre Bestandteile müssen so zusammenspielen, dass ein funktionierendes Ganzes entsteht. Diese Systemsicht zeigt Synergien zwischen verschiedenen Werkzeugen, etwa zwischen Methoden zum Testen auf Bias und partizipativem Design. Zum System können auch organisatorische Einrichtungen wie Ethik-Gremien (Ethical Review Boards) gehören.
- Die Bausteine sind Regeln, Praktiken, Prozesse und technologische Werkzeuge. Alle vier sollen Verhalten in akzeptablen Grenzen halten und erwünschtes Verhalten ermöglichen. Technologische Werkzeuge nehmen die Autoren bewusst in die Definition auf, denn AI Governance hat menschliche und technische Komponenten. Beispiele sind Werkzeuge für Data Governance, Explainable AI (XAI) und Bias Detection.
- Gesteuert wird die „Nutzung“ von KI, und zwar im weiten Sinn. Gemeint ist jede Beschäftigung mit KI über den gesamten Lebenszyklus, von der Definition des Anwendungsfalls über das Design bis zu Wartung und Ablösung.
- Es geht um mehrere Ausrichtungen gleichzeitig. Strategie, Ziele und Werte, rechtliche Anforderungen und ethische Prinzipien können unterschiedliche Anforderungen an ein KI-System stellen. Mögliche Zielkonflikte (Trade-offs) müssen deshalb sorgfältig abgewogen werden.
Auch die Stellung von AI Governance innerhalb der Organisation beschreiben die Autoren klar. AI Governance ist eine Teilmenge der Corporate Governance, weil Corporate Governance die übergeordnete Governance-Struktur der Organisation bildet. Zugleich ist sie eine Teilmenge der IT Governance: KI-Systeme sind IT-Systeme mit besonderen Fähigkeiten und werden deshalb über Mechanismen gesteuert, die zur IT Governance gehören. Mit Data Governance überschneidet sie sich dagegen nur teilweise. Daten sind zwar Input und Output von KI-Systemen, Modelle und Algorithmen fallen aber nicht unbedingt unter Data Governance in ihrem üblichen Verständnis. Diese Einordnung ist wichtig, weil effektive AI Governance laut den Autoren „parsimonious“ sein soll, also sparsam. Sie soll auf den anderen Governance-Bereichen aufbauen und keine Prozesse doppelt anlegen.
Dieser Artikel zeichnet deshalb eine Landkarte. Er zeigt, in welchem Verhältnis AI Governance zu Corporate, IT und Data Governance steht und an welcher Stelle sie jeweils über diese Bereiche hinausgeht.
Bild wurde mit Hilfe von KI generiert
Corporate Governance: der übergeordnete Rahmen
Corporate Governance legt fest, wie eine Organisation mit ihren internen und externen Stakeholdern umgeht. Sie regelt die Beziehung zwischen Management und Anteilseignern, gleicht Spannungen zwischen Anteilseignern und anderen Stakeholdern aus und steuert die ökologischen und sozialen Auswirkungen des Unternehmens. Neben der Einhaltung von Gesetzen kann sie auch Verhalten beschreiben, das über gesetzliche Vorgaben hinausgeht, zum Beispiel in einem Verhaltenskodex. Damit setzt sie die Prinzipien, nach denen eine Organisation erwünschtes Verhalten ihrer Akteure versteht und durchsetzt.
Genau diese verhaltenssteuernde Funktion ist laut den Autoren die entscheidende Brücke zur AI Governance. Hinzu kommt ein Punkt, der KI von klassischer IT unterscheidet: Skalierbarkeit und größere Autonomie sind zentrale Vorteile von KI. Deshalb sind Rechenschaft (Accountability) und Verantwortung bei KI besonders wichtig. Setzt etwa ein Finanzdienstleister KI ein, kann das weitreichende Folgen für Menschen haben, über die das System entscheidet. AI Governance muss den KI-Einsatz deshalb an den Zielen der Organisation ausrichten und zugleich Auswirkungen steuern, die über die Grenzen der Organisation hinausgehen.
Die Autoren weisen außerdem darauf hin, dass die Rahmenbedingungen je nach Organisation verschieden sind. Öffentliche Einrichtungen unterliegen strengeren regulatorischen Vorgaben als private Unternehmen, und auch private Akteure haben je nach Branche unterschiedliche Auflagen und Stakeholder. Die grundlegenden Governance-Fragen sind aber über Sektoren und Branchen hinweg ähnlich.
Was das heißt: Corporate Governance ordnet AI Governance in den größeren organisatorischen Rahmen ein. Sie verbindet die gesellschaftlichen Folgen des KI-Einsatzes mit der sozialen Verantwortung des Unternehmens und seinen Stakeholdern.
IT Governance: die Steuerungsmechanismen
Organisationen verarbeiten Informationen, und ein großer Teil davon läuft über IT. Die Steuerung von IT-Systemen ist deshalb ein Mittel, um Corporate Governance umzusetzen, und zugleich ein Kernelement der Governance-Struktur. Technisch besteht KI aus Algorithmen in Form von Software-Code. Sie laufen als eigenständige Anwendungen oder sind in bestehende Informationssysteme eingebunden. Aus diesem Grund lässt sich AI Governance als Teilmenge der IT Governance verstehen.
Die etablierten IT-Governance-Frameworks lassen sich direkt übertragen:
- Weill und Ross definieren IT Governance über Entscheidungsrechte und Verantwortlichkeiten. Sie nennen fünf Entscheidungsfelder: IT-Prinzipien, IT-Architektur, IT-Infrastruktur, fachliche Anwendungsbedarfe und IT-Investitionen.
- Gregory et al. unterscheiden drei Dimensionen: was gesteuert wird (Fokus), wer verantwortlich ist (Scope) und wie gesteuert wird (Mechanismen).
Laut den Autoren gelten diese Entscheidungsfelder und die Fragen nach dem Was, Wer und Wie auch für AI Governance. Sie sind ein nützlicher Ausgangspunkt, um AI Governance praktisch umzusetzen.
Die Autoren schränken das allerdings ein. KI-Systeme können lernen und entwickeln sich dynamisch weiter. Sie sollten deshalb vorerst als Sonderfall von IT-Systemen gelten, der eigene Governance-Werkzeuge braucht. Mit wachsender Reife könnte AI Governance irgendwann ganz in der IT Governance aufgehen, so weit ist es aber noch nicht. In welchen Entscheidungsfeldern KI tatsächlich neue Fragen aufwirft, etwa bei Prinzipien, Architektur oder Investitionen, lassen die Autoren ausdrücklich für künftige Forschung offen.
Was das heißt: IT Governance liefert die Mechanismen, mit denen Organisationen IT steuern. Sie richtet die IT an Strategie und Zielen aus und fördert erwünschtes Verhalten im Umgang mit IT. Weil KI-Algorithmen Informationssysteme sind oder Teil davon, gilt das auch für sie.
Data Governance: notwendig, aber nicht ausreichend
KI-Systeme brauchen Daten, um zu funktionieren und zu lernen. Deshalb sind Teile der Data Governance zentral für AI Governance. Abraham et al. beschreiben Data Governance mit sechs Elementen:
- Sie ist funktionsübergreifend und ermöglicht Zusammenarbeit über Abteilungs- und Datengrenzen hinweg.
- Sie ist ein Rahmenwerk, das dem Datenmanagement Struktur und Verbindlichkeit gibt.
- Sie behandelt Daten als strategischen Unternehmenswert.
- Sie legt Entscheidungsrechte und Verantwortlichkeiten fest: welche Entscheidungen über Daten nötig sind, wie sie getroffen werden und wer sie treffen darf.
- Sie entwickelt Richtlinien, Standards und Verfahren, die zur Strategie passen.
- Sie überwacht die Einhaltung dieser Richtlinien und Standards durch Kontrollen.
Diese Elemente sind vor allem für die technische Ebene einzelner algorithmischer Systeme relevant. Die Autoren zitieren Doneda und Almeida: Wer Datensätze steuert, steuert damit auf eine der grundlegendsten Arten auch Algorithmen. Trotzdem geht AI Governance über die Steuerung von Daten hinaus, denn Daten sind nur ein Element algorithmischer Systeme. Die Autoren fassen das so zusammen: Data Governance ist für effektive AI Governance notwendig, aber allein nicht ausreichend.
Was das heißt: Data Governance liefert den Rahmen für die Daten, von denen KI-Systeme abhängen. Funktionen, Ergebnisse und Nutzen eines KI-Systems hängen direkt von diesen Daten ab.
Fazit: AI Governance als Teil der bestehenden Governance-Struktur
Die drei Bereiche ergänzen sich:
- Corporate Governance gibt AI Governance den übergeordneten Rahmen und verbindet sie mit Verantwortung gegenüber Stakeholdern und der Gesellschaft.
- IT Governance liefert die Mechanismen, um KI zu steuern.
- Data Governance bestimmt den Rahmen für die Daten, auf die KI-Systeme angewiesen sind.
AI Governance ist damit keine Parallelwelt neben diesen drei Bereichen. Sie ist ein eigenes System aus Regeln, Praktiken, Prozessen und technologischen Werkzeugen, das in die bestehende Governance-Struktur eingebettet ist. Sie baut so weit wie möglich auf vorhandenen Strukturen auf und ergänzt sie dort, wo lernende und sich weiterentwickelnde Systeme eigene Werkzeuge brauchen.
Die Autoren betonen auch, dass eine Definition nur der erste Schritt ist. Organisationen brauchen außerdem ein AI-Governance-Framework mit konkreten Prozessen, Mechanismen und Strukturen. Hinzu kommt AI Auditing, das prüft, ob die Governance-Mechanismen tatsächlich greifen, und das gegenüber Stakeholdern sichtbar macht.
Quelle: Mäntymäki, M., Minkkinen, M., Birkstedt, T., Viljanen, M. (2022): Defining organizational AI governance. AI and Ethics 2, 603–609. https://doi.org/10.1007/s43681-022-00143-x
Ist AI Governance ein Thema, welches auch bei Ihnen momentan im Gespräch ist? Lassen Sie uns darüber sprechen! Melden Sie sich gern über diesen Link bei uns für einen unverbindlichen Austausch!
Dieser Beitrag wurde mit Unterstützung generativer KI erstellt und redaktionell geprüft.
