Die neue KI-Aufsicht und die entschärfte Kompetenzpflicht

Seit vergangenem Sonntag hat Deutschland eine KI-Aufsicht. Eine Behörde, bei der sich ab sofort jeder über Ihr Unternehmen beschweren kann, kostenlos und in fünf Minuten. Und mit am Feuer sitzt wie jede Woche Frank Wichert. Schön, dass du da bist, Frank.

Sehr gern, Tina. Ich fange allerdings mit einem Eingeständnis an. Am Ende der letzten Folge habe ich Ihnen für heute die KI-Kompetenzpflicht angekündigt. Wenige Tage später hat der europäische Gesetzgeber genau diese Pflicht entschärft. Ich könnte jetzt still das Thema wechseln. Ich mache das Gegenteil, denn dadurch ist es erst interessant geworden.

Dann das Lagebild, und es sind acht Tage, in denen sich mehr bewegt hat als in den zwei Jahren davor. Am siebenundzwanzigsten Juli ist die Digital-Omnibus-Verordnung in Kraft getreten, sie ändert über vierzig Artikel der KI-Verordnung. Am neunundzwanzigsten Juli folgte das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz. Seitdem ist die Bundesnetzagentur die zentrale KI-Aufsicht der Bundesrepublik. Und am zweiten August griffen die Transparenzpflichten aus der letzten Folge.

Im selben Zug wurde gelockert. Die großen Hochrisiko-Pflichten rutschen auf Dezember zweitausendsiebenundzwanzig, in regulierten Produkten sogar auf August zweitausendachtundzwanzig. Und Artikel vier wurde neu gefasst. Bisher mussten Anbieter und Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Jetzt müssen sie Maßnahmen ergreifen, um die Entwicklung dieser Kompetenz zu unterstützen.

Und jetzt der Punkt, bei dem ich widersprechen muss, wie schon in der letzten Folge. In sehr vielen Beiträgen steht, wer seine Leute nicht schult, riskiere ein Bußgeld. Das war schon vor dieser Änderung falsch. Artikel neunundneunzig zählt auf, welche Verstöße mit Bußgeldern belegt sind. Artikel vier steht dort nicht. Es gab nie ein Bußgeld dafür, dass Sie nicht schulen, und die neue Verordnung hat daran nichts geändert.

Bleibt die Frage, wie es um die Kompetenz tatsächlich steht. Und hier wird es unangenehm, denn die Zahl, die derzeit überall zitiert wird, gibt es so nicht. Sie lautet: einundzwanzig Prozent seien geschult, fein aufgeschlüsselt nach Unternehmensgröße, Erhebung zweitausendsechsundzwanzig. Ich habe nachgesehen. Diese einundzwanzig Prozent stammen aus einer Unternehmensbefragung vom Sommer zweitausendvierundzwanzig. Und die Aufschlüsselung nach Größe finde ich in keiner Veröffentlichung des Verbandes.

Die belastbare Zahl ist älter, und sie ist härter. Im Juli zweitausendfünfundzwanzig veröffentlichte der Digitalverband Bitkom eine repräsentative Befragung von eintausendfünf Personen, darunter fünfhundertdreizehn Erwerbstätige. Zwanzig Prozent wurden vom Arbeitgeber zu künstlicher Intelligenz geschult. Sechs Prozent hätten ein Angebot und nutzen es nicht. Und siebzig Prozent bekommen überhaupt kein Angebot. Die Nachricht ist nicht, dass ein Fünftel geschult wurde. Sieben von zehn wurden nie gefragt.

Und jetzt eine zweite Zahl, die ist frisch. Am fünfzehnten Juli hat SAP mit Oxford Economics zweitausendsechshundert Führungskräfte befragt, zweihundert davon in Deutschland. Siebenundsiebzig Prozent bezweifeln, dass ihre eigenen Schulungen mit der Entwicklung mithalten. Und nur achtundvierzig Prozent haben jemanden benannt, der für künstliche Intelligenz zuständig ist. Nicht einmal jedes zweite Unternehmen kann sagen, wer dafür geradesteht.

Und in dieser Neufassung steht ein Satz, den ich bewusst vorlese. Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren. Damit ist die Messlatte weg. Daneben die Zahlen: siebzig Prozent ohne jedes Angebot, siebenundsiebzig Prozent ohne Vertrauen ins eigene Angebot, die Mehrheit ohne Zuständigen. In einer Geschäftsführung klingt das nach: gut, ein Thema weniger. Das halte ich für den teuersten Irrtum dieses Sommers. Solange der Gesetzgeber entschied, musste bei Ihnen niemand führen. Jetzt entscheidet niemand mehr für Sie. Weniger Pflicht heißt mehr Führung.

Dann frage ich nach, und ich fange bei dem an, was jetzt viele denken. Wenn es kein Bußgeld gibt und die Pflicht nur noch Förderung verlangt, warum sollte eine Geschäftsführung noch etwas tun?

Weil Bußgeld und Risiko zwei verschiedene Dinge sind. Es gibt drei Wege, auf denen Sie das trotzdem trifft. Der erste: Entsteht durch unsachgemäße Nutzung ein Schaden, gilt die fehlende Schulung als Organisationsverschulden. Das ist kein neues KI-Recht, das ist altes Haftungsrecht. Der zweite: Die Aufsicht kann anordnen, dass Sie nachbessern. Das ignoriert man besser nicht. Der dritte Weg ist seit Sonntag offen, über den reden wir gleich.

Dann die Frage nach dem Maß. Was heißt Maßnahmen zur Förderung von Kompetenz eigentlich konkret? Reicht ein Lernprogramm, das alle einmal durchklicken?

Die Verordnung schreibt kein Format vor. Kein Zertifikat, keine Stundenzahl, keinen KI-Beauftragten. Sie sagt: Es muss zu Ihnen passen. Zu Ihrer Rolle, zu den Systemen, zur Risikolage und zu dem, was Ihre Leute können. Und jetzt der ehrliche Teil. Ein Lernprogramm, das alle einmal durchklicken, ist besser als nichts und als Nachweis verwertbar. Nur ändert es meistens wenig. Denn das Problem ist nicht, dass Ihre Leute zu wenig über künstliche Intelligenz wissen. Es ist, dass niemand weiß, wer sie wofür benutzt.

Dann die praktische Frage, die in jeder Geschäftsführung zuerst kommt. Was kostet das, und wer macht das?

Die erste Stunde kostet nichts, und mit der würde ich anfangen. Setzen Sie Ihre Leute zusammen und lassen Sie sie sagen, was sie tatsächlich benutzen. Nicht was erlaubt ist, sondern was läuft. Sie werden Werkzeuge hören, von denen Sie nicht wussten, dass sie im Haus sind. Danach kostet es ein bis zwei Tage, daraus eine Regel zu machen: Wer darf was, mit welchen Daten, und was geht dort niemals hinein.

Und jetzt die unbequeme Frage. Was passiert wirklich, wenn ein Unternehmen es einfach lässt? Der Sommer vergeht, und niemand kommt vorbei.

Von der Bundesnetzagentur kommt zunächst niemand vorbei, das ist wahr. Die Behörde hat gerade erst angefangen und wird keine Schulungsnachweise einsammeln. Nur ist das wieder die falsche Frage. Bisher mussten Sie darauf warten, dass ein Wettbewerber abmahnt oder ein Kunde klagt. Beides ist teuer, deshalb passierte es selten. Seit Sonntag gibt es einen dritten Weg, und der kostet den anderen nichts.

Seit dem zweiten August nimmt die Bundesnetzagentur Beschwerden über Verstöße gegen die KI-Verordnung entgegen. Die Bedingungen sagen in ihrer Nüchternheit einiges über die neue Lage. Beschweren darf sich jede natürliche und jede juristische Person. Betroffene ebenso wie Anbieter, Betreiber, Einführer und Händler. Es kostet nichts. Es gibt keine Frist und keine Formerfordernisse. Und es läuft ausschließlich über ein Onlineformular, nicht per E-Mail. Tiefer kann eine Schwelle nicht liegen.

Und jetzt die Frage, die ich mir als Geschäftsführer stellen würde: Wer füllt so ein Formular aus? Der Wettbewerber vielleicht. Aber der geht meistens den Weg, den er kennt, und der heißt Abmahnung. Wahrscheinlicher ist jemand anderes. Der Kunde, dem Ihr Chatbot etwas Falsches erzählt hat. Der Bewerber, der abgelehnt wurde und eine Software dahinter vermutet. Der Mitarbeiter, dem unwohl ist bei dem, was er tun soll. Menschen, die bisher keinen Adressaten hatten.

Und hier schließt sich der Kreis zu Artikel vier, denn diese drei haben etwas gemeinsam. Ihnen allen hat niemand erklärt, was die Maschine tut und was nicht. Der Bewerber vermutet, weil ihm keiner gesagt hat, wie entschieden wird. Dem Mitarbeiter ist unwohl, weil ihm keiner die Regeln erklärt hat. Schulung wird immer als Schutz vor Fehlern verkauft. Sie ist vor allem Schutz vor Misstrauen. Der ungeschulte Mitarbeiter ist nicht nur der, der Fehler macht. Er ist auch der, der Sie meldet.

Zur Fairness gehört die andere Hälfte. Diese Behörde ist nicht nur Aufsicht. Bei der Bundesnetzagentur sitzt jetzt auch ein Service-Desk für künstliche Intelligenz, mit einem Werkzeug zur Bestimmung der Risikoklasse. Und es gibt Reallabore, in denen kleinere Unternehmen ihre Anwendungen unter fachlicher Begleitung erproben können. Dieselbe Stelle, bei der man Sie melden kann, hilft Ihnen auch beim Einordnen. Ich würde dort zuerst fragen, bevor jemand anderes dort schreibt.

Wenn ich das zusammenziehe, Frank, dann war das eine seltsame Woche. Der Gesetzgeber nimmt eine Pflicht zurück und baut im selben Atemzug die Stelle, an der man sich beschweren kann.

Genau das ist der Kern, und ich finde es konsequent statt widersprüchlich. Brüssel hat aufgehört vorzuschreiben, wie kompetent Ihre Leute zu sein haben. Es hat stattdessen dafür gesorgt, dass sichtbar wird, wenn sie es nicht sind. Das ist kein Rückzug, das ist eine Verlagerung. Die Vorschrift wird weicher, die Öffentlichkeit wird härter. Der zweite Chef sitzt längst mit am Tisch. Diese Woche hat er gelernt, dass er sich beschweren kann.

Drei Schritte für diese Woche, wieder ohne einen Euro. Erster Schritt: zählen statt schätzen. Eine Seite, auf der steht, wer im Haus welche künstliche Intelligenz benutzt und mit welchen Daten. Nicht welche Werkzeuge eingekauft wurden, sondern welche benutzt werden. Das sind zwei Listen, und die zweite ist immer länger. Der erste Handgriff ist, die Frage in der nächsten Runde zu stellen.

Zweiter Schritt: einen Namen eintragen. Nicht eine Abteilung, nicht eine Rolle. Einen Menschen, der geradesteht, wenn die Maschine falsch liegt. Achtundvierzig Prozent haben das getan, die Mehrheit also nicht. Und solange dieser Name fehlt, bleibt jede Schulung Dekoration, weil niemand da ist, der aus einem Fehler etwas macht. Der erste Handgriff ist Ihre nächste Führungsrunde. Ein Name, ins Protokoll.

Dritter Schritt, und das ist der eigentliche: die erste Stunde ansetzen. Keine Plattform, kein Zertifikat, keine Beratung. Eine Stunde, in der Ihre Leute sagen dürfen, was sie längst benutzen, ohne dass es Ärger gibt. Das ist unangenehm, weil Sie Dinge hören werden, die Ihnen nicht gefallen. Genau deshalb ist es die Maßnahme, die Artikel vier jetzt meint. Die ersten beiden Schritte schaffen Ordnung. Dieser schafft Ehrlichkeit.

Ein letzter Gedanke, und der geht an mich selbst. Ich habe Ihnen vor einer Woche eine Pflicht angekündigt, und der Gesetzgeber hat sie mir unter den Händen weggenommen. Ich hätte das Thema still tauschen können, es wäre niemandem aufgefallen. Ich habe es gelassen, weil der eigentliche Test genau hier liegt. Es ist leicht, etwas zu tun, solange es vorgeschrieben ist. Ob Sie führen, zeigt sich danach.

Und eine Zahl nehme ich mit in die nächste Woche. Einundsiebzig Prozent der Unternehmen berichten von künstlicher Intelligenz, die im Haus benutzt wird, ohne dass jemand sie freigegeben hat. Wer nicht schult, bekommt nämlich nicht weniger künstliche Intelligenz. Er bekommt unsichtbare. Verändern und optimieren, wenn man kann, nicht erst, wenn man muss.