Den Terminator verhindern. KI-Governance, 10 konkrete Schritte zur Einführung in Ihrem Unternehmen

July 15, 2024

Sie haben sicher bereits einige schwammige Beschreibungen zu dem Begriff KI-Governance gehört und online gelesen. Dieser Artikel ist anders! Wir werden Ihnen konkrete Schritte an die Hand geben, wie Sie KI-Governance in Ihrem Unternehmen einsetzen können und ganz klar erklären, was man unter KI-Governance versteht.

Als ganz grobe Zusammenfassung kann man sagen: KI-Governance ist der Überbegriff für einen sicheren Umgang mit Künstlicher Intelligenz in Ihrem Unternehmen.

KI-Governance umfasst verschiedenste Bereiche, die wir in diesem Artikel genauer erklären: Richtlinien, Verantwortlichkeiten, Risikoeinschätzung, Datenhaltung, Fairness & Mitarbeiterschulung.

Welche Probleme verhindert KI-Governance?

Doch lassen Sie uns erst einmal darauf eingehen, was wir mit KI-Governance verhindern möchten. In den meisten Firmen (vermutlich auch bei Ihnen) passiert gerade folgendes:

Seit dem November 2022 (dem Veröffentlichungsdatum von ChatGPT) ist künstliche Intelligenz in aller Munde. Die gesamte Welt spricht davon, wie KI Arbeitskräfte ersetzen wird, besser ist als der Mensch und insgesamt absolut magisch. Da Ihre Mitarbeitenden nicht von dem Hype abgehängt werden wollen, bilden diese sich in ihrer Freizeit durch kostenlose ChatGPT-Online-Schulungen weiter. Da KI ein mächtiger Helfer ist, setzen Ihre Mitarbeitenden KI-Werkzeuge im Arbeitsalltag ein und sind nun schneller und produktiver. Gut für Ihr Unternehmen? Grundsätzlich leider nicht. Sie sind jetzt in die klassische Falle von Schatten-KI gelaufen. Das heißt, Künstliche Intelligenz wird ohne Ihr Wissen eingesetzt, Daten werden unkontrolliert an externe Dienstleister weitergegeben und im worst-case Urheberrechte und Persönlichkeitsrechte verletzt.

Und das ist nur eines der beiden Szenarien, die wir verhindern möchten. Das zweite geht um den sicheren Einsatz von Künstlicher Intelligenz. Vielleicht setzen Sie bereits (bewusst) Künstliche Intelligenz in Ihren Produktionsprozessen ein (z.B. um Ausschuss automatisiert zu erkennen). Das ist hervorragend und genau der richtige Schritt. Doch auch hier gibt es Probleme, die mit KI-Governance verhindert werden können:

Das System zur automatisierten Erkennung von Ausschuss wird nicht nur ein einziges Mal installiert, sondern muss sich kontinuierlich weiterentwickeln, um die richtigen Dinge zu erkennen. Dies geschieht, indem Mitarbeitende dem System Feedback geben zu Ausschuss, der nicht erkannt wurde (Fachbegriff: False-Negative) oder zu guten Ergebnissen, die fälschlich als Ausschuss markiert wurden (Fachbegriff: False-Postive). Beide Fälle können im Laufe der Einsatzzeit vermehrt auftreten und die Qualität des Systems verschlechtert sich ohne Rekalibrierung über die Zeit. Ohne klare Verantwortlichkeiten und Prozesse, wie das System kontinuierlich überwacht wird, wird es in absehbarer Zeit für Ihr Unternehmen nachteilige Ergebnisse produzieren.

Einfach gesagt: KI-Governance definiert Prozesse, um den Einsatz von Künstlicher Intelligenz für Ihr Unternehmen positiv zu gestalten. Vertrauen ist gut, Kontrolle ist besser.

Bitte beachten: Dieser Artikel richtet sich an Firmen, die Künstliche Intelligenz einkaufen und anwenden (Kurz: KI-Anwender). Sollten Sie KI-Systeme für externe Partner entwickeln, sind andere Governance-Anforderungen gegeben, die wir in diesem Artikel nicht behandeln.

Wie hängen IT-Governance, Data-Governance, KI-Governance zusammen?

Viele Geschäftsführer haben den Eindruck, dass alle zwei Jahre eine neue "Governance-Initiative" erfunden wird, um Projekte zu verkaufen. Diese Perspektive ist verständlich, doch möchten wir betonen, dass KI-Governance tatsächlich etwas Neues ist. Die gute Nachricht: KI-Governance baut auf bestehenden IT- und Data-Governance-Praktiken auf. Es ist eine moderate Erweiterung der Prozesse, die Sie idealerweise bereits etabliert haben. Die ersten Schritte und der Gesamtaufwand zur Einführung einer effektiven KI-Governance sind sehr überschaubar.

Genauso bleibt zu sagen: Sollten Sie weder eine IT- noch eine Data-Governance-Strategie haben, sollten Sie erst diese beiden Themen angehen, bevor Sie Sich mit KI-Governance beschäftigen.

Was sind die Kernelemente von KI-Governance?

Im Kern gibt es fünf Elemente, die KI-Governance ausmachen. Wie bereits erwähnt, werden Sie vier davon bereits aus den Bereichen der IT- & Daten-Governance kennen: Datenqualität, Datenschutz, Risikoabwägung, Fairness, Verantwortlichkeiten

Wenn Sie bereits (wie von uns empfohlen) eine IT-Governance-Struktur eingerichtet haben, wird Ihnen das Implementieren von KI-Governance leicht fallen. Einzig die Säule “Fairness” ist ein Spezialfall für KI-Systeme.

Datenqualität

Im Bezug auf Datenqualität im Unternehmen gilt “Shit in - Shit Out”. Das heißt, dass die Ergebnisse von datengetriebenen Systemen (wie KI-Systeme es sind) zu sehr großen Teilen von den Daten abhängen, auf denen die Systeme basieren. Im Bezug auf das derzeit bekannteste KI-System ChatGPT kann das so gedeutet werden: Wenn die Eingaben (Fachbegriff: Prompts) des Anwenders schlecht sind, werden auch die Ergebnisse schlecht sein. Und sollten spezialisierte KI-Modelle zum Einsatz kommen, ist es essenziell, die Daten, auf denen die Modelle trainiert wurden, zu kontrollieren.

Aufgabe von KI-Governance ist es hierbei, einen Prozess und Kriterien zu definieren, anhand derer Datenqualität bewertet werden kann. Kriterien sind unter anderem:

Aktualität der Daten: Daten, die schon 10 Jahre alt sind, sind oftmals nicht mehr aussagekräftig für heute. Zusätzlich ist das Cutoff Date der jeweiligen KI-System zu beachten (z.B. hat ChatGPT nur Daten bis Anfang 2024 im System und kann somit nichts über aktuelle Ereignisse wissen)
Sauberkeit der Daten: Mit sauberen Daten bezeichnet man Daten, die in standardisierten (Fachbegriff: strukturierten) Formaten vorliegen. So ist es z.B. besser, wenn Sie bei allen Kundendatensätzen Vor- und Nachname haben und nicht wild durcheinandergewürfelt, manchmal beides, manchmal nur den Vornamen und manchmal nur den Nachnamen. Je strukturierter die Daten vorliegen, desto fehlerfreier kann ein KI-System damit arbeiten. Das Gegenteil davon nennt man “unstrukturiert”, wobei die Daten zwar vollständig sind, aber z.B. nicht klar in Vor- & Nachname eingeteilt. Das macht es für die KI schwieriger, die richtigen Ergebnisse zu liefern.
Relevanz der Daten: Es ist sinnvoll, zuerst einmal nach dem Kredo “Mehr Daten ist immer besser” vorzugehen, aber in einem späteren Schritt müssen dann die relevanten Daten gefiltert werden. So hilft es Ihnen für automatisierte Ausschusserkennung z.B. nichts, die Krankheitstage Ihrer Mitarbeitenden mit in das Modell zu geben. Wobei, vielleicht doch, da Sie dann erkennen, ob die Abwesenheit bestimmter Personen den Ausschuss erhöht.

Wie Sie an diesen Beispielen bereits erkennen: Es gibt keine standardisierte Lösung, die jeden Spezialfall abdeckt. Sie sollten immer mit Experten zusammenarbeiten, um Kriterien für eine hohe Datenqualität zugeschnitten auf Ihr Unternehmen zu definieren.

Datenschutz

Seit der DSGVO ist Datenschutz in den meisten Betrieben auf dem Radar. Hier gibt es gute Nachrichten: Datenschutz für KI-Systeme unterscheidet sich nicht von anderen IT-Systemen. Wenn Sie die Standards, die Sie bereits definiert haben, nun auch auf die KI-Systeme anwenden, sind Sie bereits auf der sicheren Seite.

Wichtig ist im Bezug auf Datenschutz vor allem, Ihren Mitarbeitenden klar zu machen, welche Daten (Unternehmensgeheimnisse, personenbezogene Daten) NICHT in die KI-Systeme eingegeben werden dürfen. Weitere Informationen hierzu und der genauen rechtlichen Einordnung finden Sie in unserem kostenlosen KI-Unternehmensleitfaden.

Risikoabwägung

Künstliche Intelligenz, und im Speziellen Generative KI (wie ChatGPT eine ist), basieren auf Statistik (Wahrscheinlichkeitsrechnung). Diese Modelle tendieren dazu, manchmal falsche Antworten zurückzugeben. Sie können sich das vorstellen wie einen Mitarbeitenden, der einen schlechten Tag hat und schlechte Arbeitsergebnisse liefert. Und in abgeschwächter Form gilt diese Aussage für alle KI-Systeme.

Wenn man KI-Systeme mit dem gleichen Blick betrachtet wie Mitarbeitende, dann ist auch die Risikoabwägung sehr ähnlich. Es gibt Dinge, da können Sie einzelnen Mitarbeitenden voll vertrauen, und bei anderen gilt ein Vier- oder Mehr-Augen-Prinzip. So ist es beim Einsatz von Künstlicher Intelligenz auch. In bestimmten Bereichen Ihres Geschäfts können Sie sich voll auf KI verlassen und in anderen sollten alle Ergebnisse lieber noch einmal von einem Menschen überprüft werden.

Aufgabe der KI-Governance ist es, die verschiedenen Risiken, die intern und extern (gegenüber Ihren Kunden) entstehen können, zu katalogisieren und dann einzuordnen, wie schlimm das jeweilige Risiko ist. Danach können Sie und Ihr Team entscheiden, in welchen Bereichen Sie sich blind auf die KI verlassen und wo es ein zu hohes Risiko birgt und ein Mensch die Arbeitsergebnisse prüft oder erbringt.

Fairness

Im Vergleich zu altmodischen IT-Systemen bieten KI-Systeme einen entscheidenden Unterschied: Sie können selbständig Entscheidungen treffen.

Mit dieser neuen Fähigkeit kommen Probleme auf, denn die KI-Systeme sind leider nicht objektiv, sondern anhand ihrer Datenbasis voreingenommen. KI-Systeme müssen aber, aufgrund von Grundgesetz & DSGVO & dem EU AI Act, natürlich alle Menschen gleichberechtigt und fair behandeln.

Firmen, die KI-Systeme bauen, müssen sicherstellen, dass die Modelle fair sind. Jedoch liegt es trotzdem in Ihrer Verantwortung als Kunde, die Entscheidungen der Systeme zu überprüfen. Hier empfiehlt sich speziell, die Ein- und Ausgaben von KI-Systemen zu protokollieren und Entscheidungen entweder fortlaufend oder stichprobenartig zu überprüfen und ggf. gegenzusteuern.

Künstliche Intelligenz, und im Speziellen Generative KI (wie ChatGPT eine ist), basieren auf Statistik (Wahrscheinlichkeitsrechnung)

Wie genau Sie diese Überprüfung ausgestalten, um eine faire Behandlung von Menschen zu gewährleisten, ist Aufgabe Ihrer KI-Governance-Strategie.

Verantwortlichkeiten

Nur wenn alle Beteiligten klar wissen, wer sich um welchen Teilaspekt der Daten & Systeme kümmert, können Sie sich als Unternehmen darauf verlassen, dass es zuverlässig abläuft. Wie bei Ihrer IT-Governance ist es daher essenziell Verantwortlichkeiten klar zu definieren.

Es gibt Ansätze, die einen “AI Officer / CAIO” (ähnlich zu einem CISO & DPO) empfehlen, das halten wir für zu viel. Jedoch sollten Sie klar festlegen, welche Person für die Umsetzung und Überwachung der KI-Systeme verantwortlich ist. Damit im Falle von Verstößen Konsequenzen gezogen werden können. Es bietet sich an, diese Aufgabe einer technisch versierten Person in Ihrem Team zu geben (z.B. dem CIO oder CTO).

Klare Hierarchien und Aufgabenverteilung sind essenziell für einen erfolgreichen Einsatz von KI in Ihrem Unternehmen und helfen dabei, Schatten-KI zu verhindern.

10 Schritte zum Aufbau einer KI-Governance-Strategie

01. [Einmalig] Ziele und Anforderungen definieren:

Dieser Schritt steht nicht ohne Grund an erster Stelle: Viele Firmen starten ihre KI-Initiativen voller Enthusiasmus, aber ohne jemals konkret festgelegt zu haben, was das Ziel ist. Machen Sie nicht denselben Fehler, stellen Sie klare Ziele, Anforderungen und Zeitpläne auf für die Einführung von KI in Ihrem Unternehmen. Nur so können Sie bewerten, ob die Initiative ein Erfolg war/ist. Zusätzlich zu den Wunschzielen müssen Sie auch die gesetzlichen und regulatorischen Anforderungen mit einbeziehen, damit Sie nicht in Probleme laufen.