KI ist keine Technologieentscheidung mehr, die bei der IT liegt. Für die Geschäftsleitungen britischer KMU ist sie heute eine Governance-Entscheidung — und die meisten Gremien haben das noch nicht nachvollzogen. Nicht, weil es den Führungskräften an Urteilsvermögen fehlt, sondern weil ihnen Fragen zur KI-Aufsicht in dieser Form bisher nie gestellt wurden.
Im Folgenden die fünf Fragen, die jede Geschäftsleitung meiner Erwartung nach klar beantworten können sollte, bevor sie weitere KI-Investitionen genehmigt.
Die fünf Fragen, die ich jeder Geschäftsleitung stellen würde
Welche Entscheidung trifft dieses KI-System tatsächlich — und wer ist verantwortlich, wenn sie falsch ist?
Jeder KI-Einsatz trifft oder beeinflusst eine Entscheidung — eine Transaktion genehmigen, einen Fall priorisieren, eine Nachricht entwerfen. Wenn keine namentlich benannte Person in einfachen Worten erklären kann, was passiert, wenn diese Entscheidung falsch ist, ist das System nicht skalierungsreif — egal, wie gut der Pilot lief.
Woran erkennen wir, dass es funktioniert — jenseits von „fühlt sich schneller an“?
Tempo fällt am leichtesten auf und ist am wenigsten aussagekräftig. Die Geschäftsleitung sollte eine kleine Zahl konkreter Kennzahlen verlangen — Fehlerquote, Übersteuerungsquote, Kundenbeschwerden, Bearbeitungszeit —, die vor und nach dem Einsatz erfasst werden. Gibt es diese Zahlen nicht, genehmigt die Geschäftsleitung ein Gefühl, kein Ergebnis.
Was passiert, wenn es versagt — und wurde das tatsächlich getestet?
Jedes System versagt irgendwann. Die Frage ist nicht, ob, sondern ob ein Mensch so positioniert ist, dass er es abfängt, bevor Schaden entsteht — und ob diese Übergabe unter realistischen Bedingungen getestet und nicht nur auf einer Folie angenommen wurde.
Welche Daten nutzt dieses System — und dürfen wir sie so verwenden?
Hier liegt das meiste KI-Risiko in KMU tatsächlich — nicht im Modell, sondern in den Daten, die es speisen. Die Geschäftsleitung sollte ohne Nachschlagen sagen können, ob die in einem KI-System genutzten Kunden- oder Mitarbeiterdaten mit Blick auf diese Nutzung erhoben wurden und ob sie im Einklang mit den britischen Datenschutzpflichten gespeichert und verarbeitet werden.
Wer außerhalb des Projektteams hat das geprüft — und wann wird erneut geprüft?
Ein System, das einmal genehmigt und nie wieder betrachtet wird, ist ein System, das niemand wirklich steuert. Die Geschäftsleitung sollte einen festen Prüftermin erwarten — vierteljährlich ist für die meisten KMU-Einsätze angemessen —, an dem jemand, der unabhängig vom ursprünglichen Projektteam ist, es anhand der vier obigen Fragen prüft.
Die Disziplin, die echte Governance von Governance-Theater trennt
Keine dieser Fragen erfordert tiefes technisches Fachwissen. Sie erfordern die Disziplin, sie vor der Investition zu stellen, nicht erst, wenn etwas schiefgeht. Diese Disziplin — mehr als jedes einzelne Tool oder jeder Anbieter — unterscheidet KI-Governance, die eine Organisation tatsächlich schützt, von KI-Governance, die nur auf dem Papier existiert.
Wenn Ihre Geschäftsleitung diese fünf Fragen noch nicht durchgegangen ist, ist das ein guter Ausgangspunkt.