Bild wurde mit Hilfe von KI generiert<\/em><\/p>

AI governance is a system of rules, practices, processes, and technological tools that are employed to ensure an organization’s use of AI technologies aligns with the organization’s strategies, objectives, and values; fulfills legal requirements; and meets principles of ethical AI followed by the organization.“ \u2013 M\u00e4ntym\u00e4ki, Minkkinen, Birkstedt, Viljanen, 2022<\/p><\/blockquote>

Wenn Unternehmen AI Governance aufbauen, fangen sie nicht bei null an. M\u00e4ntym\u00e4ki et al. (vgl. 2022) sagen es deutlich: AI Governance entsteht nicht im luftleeren Raum (\u201eAI governance efforts do not take place in a vacuum“). Sie kommt in eine Governance-Landschaft, in der Corporate Governance, IT Governance und Data Governance schon heute die Aufmerksamkeit des Managements beanspruchen. Die Autoren sehen genau hier eine L\u00fccke. Die Literatur zu AI Governance hat bisher kaum gekl\u00e4rt, wo AI Governance in der bestehenden Governance-Struktur einer Organisation steht.<\/p>

Die Definition oben verlangt, dass der KI-Einsatz mehrere Anforderungen gleichzeitig erf\u00fcllt. Er muss zu Strategie, Zielen und Werten der Organisation passen, rechtliche Anforderungen einhalten und den ethischen KI-Prinzipien folgen, die sich die Organisation selbst gegeben hat. Laut den Autoren reicht die Ausrichtung an der eigenen Strategie allein nicht aus. Regulatorische und ethische Anforderungen aus dem Umfeld geh\u00f6ren ebenfalls dazu. Die Autoren erkl\u00e4ren vier Elemente ihrer Definition:<\/p>

1. AI Governance ist ein System.<\/strong> Ihre Bestandteile m\u00fcssen so zusammenspielen, dass ein funktionierendes Ganzes entsteht. Diese Systemsicht zeigt Synergien zwischen verschiedenen Werkzeugen, etwa zwischen Methoden zum Testen auf Bias und partizipativem Design. Zum System k\u00f6nnen auch organisatorische Einrichtungen wie Ethik-Gremien (Ethical Review Boards) geh\u00f6ren.<\/li>
2. Die Bausteine sind Regeln, Praktiken, Prozesse und technologische Werkzeuge.<\/strong> Alle vier sollen Verhalten in akzeptablen Grenzen halten und erw\u00fcnschtes Verhalten erm\u00f6glichen. Technologische Werkzeuge nehmen die Autoren bewusst in die Definition auf, denn AI Governance hat menschliche und technische Komponenten. Beispiele sind Werkzeuge f\u00fcr Data Governance, Explainable AI (XAI) und Bias Detection.<\/li>
3. Gesteuert wird die \u201eNutzung“ von KI, und zwar im weiten Sinn.<\/strong> Gemeint ist jede Besch\u00e4ftigung mit KI \u00fcber den gesamten Lebenszyklus, von der Definition des Anwendungsfalls \u00fcber das Design bis zu Wartung und Abl\u00f6sung.<\/li>
4. Es geht um mehrere Ausrichtungen gleichzeitig.<\/strong> Strategie, Ziele und Werte, rechtliche Anforderungen und ethische Prinzipien k\u00f6nnen unterschiedliche Anforderungen an ein KI-System stellen. M\u00f6gliche Zielkonflikte (Trade-offs) m\u00fcssen deshalb sorgf\u00e4ltig abgewogen werden.<\/li><\/ol>

   Auch die Stellung von AI Governance innerhalb der Organisation beschreiben die Autoren klar. AI Governance ist eine Teilmenge der Corporate Governance, weil Corporate Governance die \u00fcbergeordnete Governance-Struktur der Organisation bildet. Zugleich ist sie eine Teilmenge der IT Governance: KI-Systeme sind IT-Systeme mit besonderen F\u00e4higkeiten und werden deshalb \u00fcber Mechanismen gesteuert, die zur IT Governance geh\u00f6ren. Mit Data Governance \u00fcberschneidet sie sich dagegen nur teilweise. Daten sind zwar Input und Output von KI-Systemen, Modelle und Algorithmen fallen aber nicht unbedingt unter Data Governance in ihrem \u00fcblichen Verst\u00e4ndnis. Diese Einordnung ist wichtig, weil effektive AI Governance laut den Autoren \u201eparsimonious“ sein soll, also sparsam. Sie soll auf den anderen Governance-Bereichen aufbauen und keine Prozesse doppelt anlegen.<\/p>

   Dieser Artikel zeichnet deshalb eine Landkarte. Er zeigt, in welchem Verh\u00e4ltnis AI Governance zu Corporate, IT und Data Governance steht und an welcher Stelle sie jeweils \u00fcber diese Bereiche hinausgeht.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t\t\t\t\t

   Bild wurde mit Hilfe von KI generiert<\/em><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

   \n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t

   Corporate Governance: der \u00fcbergeordnete Rahmen<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t\t\t\t\t

   Corporate Governance legt fest, wie eine Organisation mit ihren internen und externen Stakeholdern umgeht. Sie regelt die Beziehung zwischen Management und Anteilseignern, gleicht Spannungen zwischen Anteilseignern und anderen Stakeholdern aus und steuert die \u00f6kologischen und sozialen Auswirkungen des Unternehmens. Neben der Einhaltung von Gesetzen kann sie auch Verhalten beschreiben, das \u00fcber gesetzliche Vorgaben hinausgeht, zum Beispiel in einem Verhaltenskodex. Damit setzt sie die Prinzipien, nach denen eine Organisation erw\u00fcnschtes Verhalten ihrer Akteure versteht und durchsetzt.<\/p>\n

   Genau diese verhaltenssteuernde Funktion ist laut den Autoren die entscheidende Br\u00fccke zur AI Governance. Hinzu kommt ein Punkt, der KI von klassischer IT unterscheidet: Skalierbarkeit und gr\u00f6\u00dfere Autonomie sind zentrale Vorteile von KI. Deshalb sind Rechenschaft (Accountability) und Verantwortung bei KI besonders wichtig. Setzt etwa ein Finanzdienstleister KI ein, kann das weitreichende Folgen f\u00fcr Menschen haben, \u00fcber die das System entscheidet. AI Governance muss den KI-Einsatz deshalb an den Zielen der Organisation ausrichten und zugleich Auswirkungen steuern, die \u00fcber die Grenzen der Organisation hinausgehen.<\/p>\n

   Die Autoren weisen au\u00dferdem darauf hin, dass die Rahmenbedingungen je nach Organisation verschieden sind. \u00d6ffentliche Einrichtungen unterliegen strengeren regulatorischen Vorgaben als private Unternehmen, und auch private Akteure haben je nach Branche unterschiedliche Auflagen und Stakeholder. Die grundlegenden Governance-Fragen sind aber \u00fcber Sektoren und Branchen hinweg \u00e4hnlich.<\/p>\n

   Was das hei\u00dft:<\/strong> Corporate Governance ordnet AI Governance in den gr\u00f6\u00dferen organisatorischen Rahmen ein. Sie verbindet die gesellschaftlichen Folgen des KI-Einsatzes mit der sozialen Verantwortung des Unternehmens und seinen Stakeholdern.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

   \n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t

   IT Governance: die Steuerungsmechanismen<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

   \n\t\t\t\t

   \n\t\t\t\t\t\t\t\t\t

   Organisationen verarbeiten Informationen, und ein gro\u00dfer Teil davon l\u00e4uft \u00fcber IT. Die Steuerung von IT-Systemen ist deshalb ein Mittel, um Corporate Governance umzusetzen, und zugleich ein Kernelement der Governance-Struktur. Technisch besteht KI aus Algorithmen in Form von Software-Code. Sie laufen als eigenst\u00e4ndige Anwendungen oder sind in bestehende Informationssysteme eingebunden. Aus diesem Grund l\u00e4sst sich AI Governance als Teilmenge der IT Governance verstehen.<\/p>\n

   Die etablierten IT-Governance-Frameworks lassen sich direkt \u00fcbertragen:<\/p>\n

   • Weill und Ross definieren IT Governance \u00fcber Entscheidungsrechte und Verantwortlichkeiten. Sie nennen f\u00fcnf Entscheidungsfelder: IT-Prinzipien, IT-Architektur, IT-Infrastruktur, fachliche Anwendungsbedarfe und IT-Investitionen.<\/li>
   • Gregory et al. unterscheiden drei Dimensionen: was<\/em> gesteuert wird (Fokus), wer<\/em> verantwortlich ist (Scope) und wie<\/em> gesteuert wird (Mechanismen).<\/li><\/ul>\n

     Laut den Autoren gelten diese Entscheidungsfelder und die Fragen nach dem Was, Wer und Wie auch f\u00fcr AI Governance. Sie sind ein n\u00fctzlicher Ausgangspunkt, um AI Governance praktisch umzusetzen.<\/p>\n

     Die Autoren schr\u00e4nken das allerdings ein. KI-Systeme k\u00f6nnen lernen und entwickeln sich dynamisch weiter. Sie sollten deshalb vorerst als Sonderfall<\/em> von IT-Systemen gelten, der eigene Governance-Werkzeuge braucht. Mit wachsender Reife k\u00f6nnte AI Governance irgendwann ganz in der IT Governance aufgehen, so weit ist es aber noch nicht. In welchen Entscheidungsfeldern KI tats\u00e4chlich neue Fragen aufwirft, etwa bei Prinzipien, Architektur oder Investitionen, lassen die Autoren ausdr\u00fccklich f\u00fcr k\u00fcnftige Forschung offen.<\/p>\n

     Was das hei\u00dft:<\/strong> IT Governance liefert die Mechanismen, mit denen Organisationen IT steuern. Sie richtet die IT an Strategie und Zielen aus und f\u00f6rdert erw\u00fcnschtes Verhalten im Umgang mit IT. Weil KI-Algorithmen Informationssysteme sind oder Teil davon, gilt das auch f\u00fcr sie.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

     \n\t\t\t\t

     \n\t\t\t\t

     \n\t\t\t\t\t

     Data Governance: notwendig, aber nicht ausreichend<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

     \n\t\t\t\t

     \n\t\t\t\t\t\t\t\t\t

     KI-Systeme brauchen Daten, um zu funktionieren und zu lernen. Deshalb sind Teile der Data Governance zentral f\u00fcr AI Governance. Abraham et al. beschreiben Data Governance mit sechs Elementen:<\/p>\n

     1. Sie ist funktions\u00fcbergreifend<\/strong> und erm\u00f6glicht Zusammenarbeit \u00fcber Abteilungs- und Datengrenzen hinweg.<\/li>
     2. Sie ist ein Rahmenwerk<\/strong>, das dem Datenmanagement Struktur und Verbindlichkeit gibt.<\/li>
     3. Sie behandelt Daten als strategischen Unternehmenswert<\/strong>.<\/li>
     4. Sie legt Entscheidungsrechte und Verantwortlichkeiten<\/strong> fest: welche Entscheidungen \u00fcber Daten n\u00f6tig sind, wie sie getroffen werden und wer sie treffen darf.<\/li>
     5. Sie entwickelt Richtlinien, Standards und Verfahren<\/strong>, die zur Strategie passen.<\/li>
     6. Sie \u00fcberwacht die Einhaltung<\/strong> dieser Richtlinien und Standards durch Kontrollen.<\/li><\/ol>\n

        Diese Elemente sind vor allem f\u00fcr die technische Ebene einzelner algorithmischer Systeme relevant. Die Autoren zitieren Doneda und Almeida: Wer Datens\u00e4tze steuert, steuert damit auf eine der grundlegendsten Arten auch Algorithmen. Trotzdem geht AI Governance \u00fcber die Steuerung von Daten hinaus, denn Daten sind nur ein Element algorithmischer Systeme. Die Autoren fassen das so zusammen: Data Governance ist f\u00fcr effektive AI Governance notwendig, aber allein nicht ausreichend.<\/p>\n

        Was das hei\u00dft:<\/strong> Data Governance liefert den Rahmen f\u00fcr die Daten, von denen KI-Systeme abh\u00e4ngen. Funktionen, Ergebnisse und Nutzen eines KI-Systems h\u00e4ngen direkt von diesen Daten ab.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

        \n\t\t\t\t

        \n\t\t\t\t

        \n\t\t\t\t\t

        Fazit: AI Governance als Teil der bestehenden Governance-Struktur<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

        \n\t\t\t\t

        \n\t\t\t\t\t\t\t\t\t

        Die drei Bereiche erg\u00e4nzen sich:<\/p>\n

        \n
        • Corporate Governance<\/strong> gibt AI Governance den \u00fcbergeordneten Rahmen und verbindet sie mit Verantwortung gegen\u00fcber Stakeholdern und der Gesellschaft.<\/li>\n
        • IT Governance<\/strong> liefert die Mechanismen, um KI zu steuern.<\/li>\n
        • Data Governance<\/strong> bestimmt den Rahmen f\u00fcr die Daten, auf die KI-Systeme angewiesen sind.<\/li>\n<\/ul>\n

          AI Governance ist damit keine Parallelwelt neben diesen drei Bereichen. Sie ist ein eigenes System aus Regeln, Praktiken, Prozessen und technologischen Werkzeugen, das in die bestehende Governance-Struktur eingebettet ist. Sie baut so weit wie m\u00f6glich auf vorhandenen Strukturen auf und erg\u00e4nzt sie dort, wo lernende und sich weiterentwickelnde Systeme eigene Werkzeuge brauchen.<\/p>\n

          Die Autoren betonen auch, dass eine Definition nur der erste Schritt ist. Organisationen brauchen au\u00dferdem ein AI-Governance-Framework mit konkreten Prozessen, Mechanismen und Strukturen. Hinzu kommt AI Auditing, das pr\u00fcft, ob die Governance-Mechanismen tats\u00e4chlich greifen, und das gegen\u00fcber Stakeholdern sichtbar macht.<\/p>\n

          Quelle: M\u00e4ntym\u00e4ki, M., Minkkinen, M., Birkstedt, T., Viljanen, M. (2022): Defining organizational AI governance. AI and Ethics 2, 603\u2013609. <\/em>https:\/\/doi.org\/10.1007\/s43681-022-00143-x<\/em><\/a><\/p>\n

          <\/p>\n

          Ist AI Governance ein Thema, welches auch bei Ihnen momentan im Gespr\u00e4ch ist? Lassen Sie uns dar\u00fcber sprechen! Melden Sie sich gern \u00fcber diesen Link<\/a> bei uns f\u00fcr einen unverbindlichen Austausch! <\/p>\n

          Dieser Beitrag wurde mit Unterst\u00fctzung generativer KI erstellt und redaktionell gepr\u00fcft.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

          Wer AI Governance aufbaut, f\u00e4ngt nicht bei null an: Der Artikel zeigt, wie sie sich in Corporate, IT und Data Governance einbettet und wo sie dar\u00fcber hinausgeht.<\/p>\n","protected":false},"author":143,"featured_media":70763,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"content-type":"","footnotes":""},"categories":[825],"tags":[687,827,546,830,471,418],"class_list":["post-70769","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kuenstliche-intelligenz","tag-ai","tag-data-governance","tag-governance","tag-ki","tag-kuenstliche-intelligenz","tag-management"],"acf":[],"yoast_head":"\n