Schatten-KI: Wegsehen ist eine Entscheidung

In Ihrem Unternehmen arbeitet vermutlich gerade eine künstliche Intelligenz, die niemand eingekauft hat. Niemand hat sie freigegeben, niemand hat sie geprüft, und in der Regel weiß auch niemand, welche Daten sie sieht. Man nennt das Schatten-KI. Und mit am Feuer sitzt wie jede Woche Frank Wichert. Schön, dass du da bist, Frank.

Sehr gern, Tina. Ich fange heute allerdings mit einer Korrektur an, und zwar in eigener Sache. Am Ende der letzten Folge habe ich Ihnen eine Zahl mitgegeben. Einundsiebzig Prozent der Unternehmen, habe ich gesagt, berichten von künstlicher Intelligenz, die im Haus benutzt wird, ohne dass jemand sie freigegeben hat. Diese Zahl war in zwei Punkten falsch, und ich habe sie selbst gesagt.

Es sind neunundsechzig Prozent, nicht einundsiebzig. Und es sind nicht Unternehmen, es sind Führungskräfte. Zweitausendsechshundert von ihnen, in dreizehn Ländern, befragt von Oxford Economics für SAP. Die Frage war, ob so etwas mindestens gelegentlich vorkommt. Der Unterschied klingt klein. Er ist es nicht. Denn eine Führungskraft, die etwas berichtet, ist etwas anderes als ein Unternehmen, das etwas erhoben hat. Woher der Fehler kam, sage ich Ihnen auch: aus meiner eigenen Projektnotiz, die ich nie gegen das Original geprüft habe.

Womit wir mitten im Thema wären, denn genau so entstehen die meisten Zahlen zur Schatten-KI. Das Lagebild für Deutschland kommt vom Digitalverband Bitkom. Sechshundertvier Unternehmen ab zwanzig Beschäftigten, telefonisch befragt, repräsentativ. Acht Prozent sagen, private künstliche Intelligenz ist bei ihnen weit verbreitet. Siebzehn Prozent kennen Einzelfälle. Noch einmal siebzehn Prozent vermuten es. Zusammen sind das zweiundvierzig Prozent, die es wissen oder ahnen.

Und diese Erhebung wird Ihnen gerade überall als Bitkom-Studie zweitausendsechsundzwanzig verkauft. Sie stammt aus dem Sommer zweitausendfünfundzwanzig. Das ist exakt derselbe Fehler, den ich in der letzten Folge an einer anderen Bitkom-Zahl gezeigt habe. Er wiederholt sich, weil niemand mehr nachschlägt. Interessant ist an dieser Erhebung ohnehin eine andere Zahl. Neunundzwanzig Prozent der Unternehmen schließen sicher aus, dass bei ihnen jemand künstliche Intelligenz auf eigene Faust benutzt. Sicher, wohlgemerkt.

Dem stelle ich die zweite Quelle gegenüber, den Cost of a Data Breach Report von IBM, erhoben vom Ponemon Institute. Sechshundertzwei Organisationen, die tatsächlich eine Datenpanne hatten, sechzehn Länder, dreitausendfünfhundertachtundfünfzig Gespräche. Dort steht: Sicherheitsvorfälle mit Schatten-KI haben sich mehr als verdoppelt, von zwanzig Prozent im Vorjahr auf dreiundvierzig Prozent. In fast jedem zweiten Fall ging es um Datenverlust. Und in etwa jedem fünften Vorfall wurde am Ende ein Bußgeld gezahlt.

Und hier muss ich Sie bremsen, denn diese beiden Zahlen darf man nicht einfach übereinanderlegen. Die neunundzwanzig Prozent sind ein Anteil an allen befragten Unternehmen. Die dreiundvierzig Prozent sind ein Anteil an denen, die bereits eine Datenpanne hatten. Das ist kein Widerspruch, und wer daraus einen macht, rechnet unsauber. Es ist etwas anderes, und es ist unangenehmer. Die einen schließen für sich aus, was bei den anderen längst passiert ist. Nur: Wer sicher ausschließt, hat in aller Regel nicht gemessen. Er hat entschieden, dass es das bei ihm nicht gibt.

Bevor wir da hineingehen, noch eine Korrektur, die dir wichtig war. Wenn Sie in den letzten Wochen etwas über Schatten-KI gelesen haben, dann standen dort vermutlich sechshundertsiebzigtausend Dollar Mehrkosten und zwanzig Prozent. Beide Zahlen stehen so im Bericht des Vorjahres. Im aktuellen stehen dreiundvierzig Prozent und ein Schaden von gut fünf Millionen Dollar je Vorfall.

Damit haben wir in einer einzigen Folge drei Zahlen, die falsch durch die Gegend laufen, und eine davon habe ich selbst in Umlauf gebracht. Ich sage das so deutlich, weil das der Kern des heutigen Themas ist. Schatten-KI ist kein Technikproblem. Es ist ein Wahrnehmungsproblem. Und die entscheidende Zahl aus dem IBM-Bericht ist deshalb nicht der Schaden, sondern diese: Achtundsechzig Prozent der Unternehmen, die eine Datenpanne hatten, hatten keinerlei Regelwerk, um künstliche Intelligenz zu steuern oder Schatten-KI überhaupt zu erkennen. Im Vorjahr waren es dreiundsechzig. Es wird schlechter, nicht besser.

Dann die erste Frage, und die naheliegende. Warum machen Menschen das heimlich? Wer eine künstliche Intelligenz benutzt, um schneller fertig zu werden, tut ja erst einmal nichts Böses.

Genau deshalb. In fast allen Fällen, die ich kenne, steht am Anfang kein Regelbruch, sondern Ehrgeiz. Da sitzt jemand an einem Angebot, hat den halben Freitagnachmittag dafür, und weiß, dass es mit Hilfe in zwanzig Minuten fertig wäre. Diese Person überlegt nicht, ob sie gegen eine Richtlinie verstößt. Sie überlegt, ob sie ihre Arbeit gut macht. Und wenn Sie im Unternehmen keinen offiziellen Weg anbieten, dann bestrafen Sie mit Ihrer Regel nicht die Bequemen. Sie bestrafen die Engagierten.

Sechsundzwanzig Prozent der Unternehmen stellen ihren Leuten laut Bitkom einen offiziellen Zugang bereit. Bei den kleinen sind es dreiundzwanzig, bei den großen dreiundvierzig.

Und da haben Sie das ganze Bild in zwei Zahlen. Etwa ein Viertel bietet einen Weg an. Deutlich mehr wissen oder ahnen, dass ohne Weg gearbeitet wird. Die Lücke dazwischen ist keine Sicherheitslücke, das ist eine Führungslücke. Und sie schließt sich nicht dadurch, dass Sie ein Verbot aufschreiben. Sie schließt sich dadurch, dass es etwas gibt, das man stattdessen benutzen darf.

Zweite Frage. Angenommen, jemand hört uns jetzt zu und denkt: Bei mir gibt es das nicht. Woran würde er merken, dass er sich irrt?

Er würde es nicht merken, und das ist der Punkt. Deshalb funktioniert die Frage anders herum. Fragen Sie sich nicht, ob es das bei Ihnen gibt. Fragen Sie sich, woher Sie das wissen wollen. Haben Sie in den Netzwerkdaten nachgesehen, welche Dienste aus Ihrem Haus heraus angesprochen werden? Hat jemand die Abrechnungen der Firmenkarten daraufhin angeschaut? Haben Sie Ihre Leute jemals ohne Drohkulisse gefragt? Wenn die Antwort dreimal nein lautet, dann wissen Sie es nicht. Dann glauben Sie es nur.

Dritte Frage, und die ist die unbequeme. Was ist eigentlich der Unterschied zwischen einem Verbot und einer Regel? Für die meisten Führungskräfte klingt das nach demselben.

Ein Verbot beschreibt, was nicht sein soll. Eine Regel beschreibt, was gilt. Das Verbot verlagert das Problem nach unten, denn ab dem Moment, in dem es steht, ist jeder Einzelne allein mit der Frage, ob sein Fall vielleicht doch eine Ausnahme ist. Die Regel dagegen nimmt Ihnen diese Entscheidung ab. Sie sagt: Diese Werkzeuge sind freigegeben, diese Daten dürfen hinein, diese nicht, und wenn du unsicher bist, fragst du dort. Im IBM-Bericht steht dazu eine Zahl, die mich ehrlich erschreckt hat. Die häufigste Steuerung ist eine Freigabepflicht durch die eigene Technikabteilung. Achtunddreißig Prozent haben so etwas. Im Vorjahr waren es noch fünfundvierzig.

Das heißt, die Kontrolle nimmt ab, während sich die Vorfälle verdoppeln.

Genau das heißt es. Und es kommt noch eine dazu: Nur neunzehn Prozent der Unternehmen lassen die Leute, die für Regeln zuständig sind, und die Leute, die für Sicherheit zuständig sind, überhaupt zusammenarbeiten. Wenn Sie also wissen wollen, warum das im Moment aus dem Ruder läuft: Es läuft nicht aus dem Ruder, weil die Technik so schnell ist. Es läuft aus dem Ruder, weil an vier von fünf Stellen zwei Abteilungen nebeneinanderher arbeiten und beide annehmen, die andere kümmert sich.

Du wolltest heute keinen Gerichtsfall mitbringen, sondern ein Gespräch. Welches?

Das Gespräch, das in den allermeisten Unternehmen nie geführt wird. Ich spiele es Ihnen einmal vor, in beiden Fassungen. Eine Führungskraft merkt, dass eine Mitarbeiterin Texte abliefert, die deutlich besser sind als früher, und zwar schneller. Fassung eins, die übliche: Sie sagt nichts. Sie denkt sich ihren Teil, sie freut sich sogar ein bisschen, und sie fragt nicht nach, weil sie ahnt, dass ihr die Antwort nicht gefallen wird.

Und genau in diesem Moment fällt die Entscheidung. Nicht in der Geschäftsführung, nicht in einer Richtlinie, sondern an dieser Stelle, an einem Dienstagvormittag, wortlos. Die Führungskraft hat sich entschieden, es nicht zu wissen. Ab da ist es kein Versehen mehr. Und wenn ein halbes Jahr später Kundendaten in einem fremden System auftauchen, dann war die Ursache nicht das Werkzeug. Die Ursache war diese Nichtfrage.

Fassung zwei dauert zwei Minuten und geht so: Das ist gut geworden, und es ging schnell. Womit hast du gearbeitet? Diese Frage muss ohne Drohung gestellt werden, sonst bekommen Sie eine höfliche Lüge. Und wenn die Antwort kommt, dann lautet der nächste Satz nicht, das ist verboten. Er lautet: Gut, dann sorgen wir dafür, dass du das benutzen darfst, und wir klären, was da hinein darf und was nicht. Damit haben Sie aus einem Schatten einen Vorgang gemacht.

Was ist daran der Führungsanteil? Man könnte sagen, das ist eine Sache für die Technikabteilung.

Die Technikabteilung kann Werkzeuge freigeben und Datenflüsse sperren. Sie kann nicht dafür sorgen, dass Ihre Leute den Mut haben, es Ihnen zu sagen. Das ist der Führungsanteil, und der lässt sich nicht delegieren. Deshalb ist mein Satz für heute: Wegsehen ist eine Entscheidung. Nicht zu wissen, was im eigenen Haus benutzt wird, ist kein Zustand, der Ihnen zustößt. Es ist das Ergebnis von Fragen, die niemand gestellt hat.

Dann lass uns das konkret machen. Was tut jemand, der uns jetzt zuhört und merkt, dass er zu den neunundzwanzig Prozent gehört?

Drei Schritte, und alle drei können Sie in dieser Woche gehen. Erstens: Messen Sie, bevor Sie urteilen. Lassen Sie sich zeigen, welche Dienste aus Ihrem Netz heraus tatsächlich angesprochen werden, und sehen Sie in die Abrechnungen der Firmenkarten. Das ist ein Nachmittag Arbeit und beendet jede Vermutung.

Zweitens: Bieten Sie einen Weg an, bevor Sie einen verbieten. Ein freigegebenes Werkzeug, für alle erreichbar, mit einer klaren Ansage, welche Daten hinein dürfen. Drittens: Führen Sie das Gespräch von eben, einmal, mit einer Person, in dieser Woche. Ohne Drohung, mit echter Neugier. Sie werden überrascht sein, wie viel Sie in zwei Minuten erfahren, das seit Monaten in Ihrem Haus passiert.

Und wer heute nur einen Satz mitnehmen will, dann diesen: Neunundzwanzig Prozent schließen sicher aus, was bei dreiundvierzig Prozent der Betroffenen längst passiert ist.

Und weil ich heute mit einem eigenen Fehler angefangen habe, höre ich auch damit auf. Ich habe eine Zahl gesendet, die ich aus meiner eigenen Aufzeichnung übernommen hatte, ohne sie am Original zu prüfen. Genau so entsteht in Ihrem Unternehmen jede falsche Gewissheit: Jemand schreibt etwas auf, jemand anders übernimmt es, und irgendwann fragt niemand mehr, woher es kommt. Prüfen Sie Ihre eigenen Zahlen genauso streng wie die von anderen. Verändern und optimieren, wenn man kann, nicht erst, wenn man muss.