Zum Inhalt springen
caadoo
en

Schatten-KI im Unternehmen: erkennen und regeln

Viele Geschäftsführer glauben, in ihrer Firma werde keine KI genutzt, oder wollen sie verbieten. Tatsächlich tippen Mitarbeitende längst Kundendaten in private Konten, oft auf dem eigenen Handy. Hier steht, wie Sie herausfinden, was wirklich passiert, und es mit einem offiziellen Werkzeug, kurzen Regeln und dem Betriebsrat in geordnete Bahnen bringen.

Von T. Krause6 Min. Lesezeit

Eine Reklamation kommt per Mail, lang, wütend und schlecht gegliedert. Die Kollegin im Innendienst kopiert sie mit Kundennamen, Auftragsnummer und Rabattkonditionen in ChatGPT, auf ihrem privaten Konto, und lässt sich eine höfliche Antwort schreiben. Fünf Minuten statt einer halben Stunde. Die Antwort ist gut, der Kunde beruhigt sich. Niemand in der Geschäftsführung erfährt davon.

Das ist Schatten-KI. Sie entsteht nicht aus bösem Willen. Sie entsteht, weil die Leute ein Werkzeug gefunden haben, das ihnen Arbeit abnimmt, und weil ihnen niemand gesagt hat, wie sie es richtig benutzen. Die Kundendaten liegen jetzt bei einem Anbieter, mit dem Ihre Firma keinen Vertrag hat.

Der Reflex vieler Geschäftsführer ist ein Verbot. Eine Rundmail, vielleicht eine Sperre in der Firewall. Das fühlt sich nach Kontrolle an und ändert fast nichts.

Foto: Unsplash

Warum ein Verbot nicht funktioniert

Ein Verbot beantwortet die falsche Frage. Es fragt, wie Sie die Nutzung stoppen. Die richtige Frage ist, wie Sie sie in einen Rahmen bekommen, den Sie verantworten können.

Das Handy liegt neben der Tastatur. Die Firewall sperrt das Firmennetz. Das private Handy im Mobilfunknetz sperrt sie nicht. Wer ChatGPT einmal als Zeitersparnis erlebt hat, fotografiert die Mail eben ab oder tippt sie am Handy ab. Damit sind die Daten weiter draußen, und Sie sehen noch weniger davon als vorher.

Ein Verbot beendet das Gespräch. Solange die Nutzung geduldet ist, reden die Leute darüber. Sie erzählen in der Kaffeeküche, welcher Trick funktioniert hat. Nach einem Verbot erzählen sie es nicht mehr. Sie verlieren genau die Information, die Sie für eine vernünftige Regel brauchen.

Die Leute haben ein echtes Problem gelöst. Die Kollegin im Innendienst hat eine Aufgabe gefunden, bei der ein Sprachmodell hilft. Das ist wertvoll. Falsch war das Konto, nicht die Idee. Eine gute Regel behält die Zeitersparnis und tauscht das Konto aus.

Herausfinden, was wirklich benutzt wird

Bevor Sie eine Regel schreiben, müssen Sie wissen, wofür sie gelten soll. Das Bauchgefühl der Geschäftsführung liegt hier oft daneben, in beide Richtungen.

Fragen, nicht jagen. Werten Sie keine Browserverläufe aus und lassen Sie die IT keine Protokolle durchsuchen. Das zerstört Vertrauen, und in Deutschland kann es Sie mit dem Betriebsrat und dem Datenschutz in Schwierigkeiten bringen. Fragen Sie stattdessen offen. Welche KI-Werkzeuge nutzen Sie für die Arbeit? Wofür genau? Auf welchem Gerät und mit welchem Konto? Welche Daten geben Sie ein?

Eine Amnestie aussprechen. Schreiben Sie in die Umfrage, dass niemand für eine ehrliche Antwort Ärger bekommt, und halten Sie sich daran. Wer beim ersten Geständnis eine Abmahnung sieht, bekommt danach keine ehrlichen Antworten mehr.

Nach dem Nutzen fragen. Die wichtigste Frage steht am Ende der Umfrage. Welche Aufgabe erledigt das Werkzeug für Sie, und wie viel Zeit spart es? Aus den Antworten erfahren Sie, welche Funktionen Ihr offizielles Werkzeug können muss. Wenn es die Reklamationsantwort nicht genauso schnell schreibt wie das private Konto, wird das private Konto gewinnen.

Ein Werkzeug, ein Vertrag, kurze Regeln

Jetzt kommt der Teil, der die Schatten-KI tatsächlich beendet.

Ein offizielles Werkzeug mit Geschäftsvertrag. Wählen Sie ein Werkzeug aus, eines, nicht fünf. Entscheidend ist der Vertrag dahinter. Sobald Mitarbeitende personenbezogene Daten eingeben, verarbeitet der Anbieter diese Daten in Ihrem Auftrag, und dafür verlangt Artikel 28 der DSGVO einen Vertrag, den Auftragsverarbeitungsvertrag. Prüfen Sie außerdem, was der Vertrag zur Nutzung Ihrer Eingaben für das Training der Modelle sagt und wo die Daten gespeichert werden. Private Gratiskonten bieten Ihnen keinen solchen Vertrag. Welche ChatGPT-Tarife einen haben und was Ihre Firma danach noch selbst erledigt, steht im Artikel ChatGPT datenschutzkonform nutzen.

Die Regel bleibt kurz. Zwölf Seiten liest niemand. Den Kern bilden drei Abschnitte. Was darf hinein, zum Beispiel eigene Texte, öffentliche Informationen, anonymisierte Beispiele. Was darf nie hinein, zum Beispiel Passwörter, Gesundheitsdaten, Personalakten, Kundendaten auf privaten Konten. Und was muss man vorher fragen, zum Beispiel Verträge, Angebote mit Konditionen, Daten von Bewerbern. Nennen Sie in jedem Abschnitt Beispiele aus Ihrer Firma, keine abstrakten Kategorien. Ausformuliert stehen die drei Abschnitte in Klausel 4 des Musters für die KI-Richtlinie im Unternehmen. Mit den übrigen neun Klauseln passt das ganze Muster auf zwei Seiten.

Ein Name für alle Fragen. Unter die Regel gehört ein Mensch mit Telefonnummer. Bei 50 Leuten ist das oft die Person, die sich ohnehin am meisten für das Thema interessiert. Sie muss keine Juristin sein. Sie muss wissen, wen sie selbst fragen kann, wenn sie unsicher ist.

Besser als das Privatkonto. Das offizielle Werkzeug muss bequemer sein als das private, sonst verlieren Sie. Geben Sie Lizenzen an die Leute, die es wirklich nutzen, und lassen Sie sie nicht monatelang auf eine Freigabe warten. Richten Sie die Anmeldung mit dem Firmenkonto ein. Legen Sie für die häufigsten Aufgaben aus der Umfrage fertige Vorlagen an, etwa für die Antwort auf eine Reklamation oder die Zusammenfassung eines Lieferantenvertrags. Wer im Firmenwerkzeug schneller zum Ergebnis kommt, öffnet das private Konto nicht mehr.

Eine kurze Einführung in das Werkzeug ist nebenbei eine der Maßnahmen zur KI-Kompetenz, die Artikel 4 der europäischen KI-Verordnung verlangt. Das ist ein Grund mehr, sie ordentlich zu machen und aufzuschreiben, wer teilgenommen hat.

Den Betriebsrat früh holen

Dieser Abschnitt betrifft Firmen in Deutschland mit Betriebsrat. Für Österreich und die Schweiz gelten eigene Regeln. Er ist keine Rechtsberatung. Er zeigt, wo die Stolperstellen liegen.

Was das Gesetz sagt. Nach § 87 Abs. 1 Nr. 6 BetrVG hat der Betriebsrat mitzubestimmen bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Das Bundesarbeitsgericht legt das Wort bestimmt weit aus. In seinem Beschluss vom 8. März 2022 zu Microsoft Office 365 hat es festgehalten, dass es genügt, wenn eine Einrichtung objektiv geeignet ist, Verhaltens- oder Leistungsdaten zu erheben. Ob Sie überwachen wollen, spielt keine Rolle.

Was das für KI-Werkzeuge heißt. Das Arbeitsgericht Hamburg hat am 16. Januar 2024 in einem Eilverfahren entschieden, dass die bloße Erlaubnis, ChatGPT über private Konten im Browser zu nutzen, kein Mitbestimmungsrecht nach Nr. 6 auslöst. Der Arbeitgeber hatte keinen Zugriff auf die Nutzungsdaten. Genau das ändert sich, wenn Sie ein Firmenkonto mit Verwaltungsoberfläche einführen, in der Nutzung, Verläufe oder Auswertungen pro Person sichtbar sein können. Dann spricht vieles dafür, dass der Betriebsrat mitbestimmen muss. Die Hamburger Entscheidung ist eine einzelne Entscheidung aus der ersten Instanz, und auf sie allein würde ich keine Einführung stützen.

Früh reden statt spät verhandeln. Holen Sie den Betriebsrat an den Tisch, bevor Sie das Werkzeug kaufen, und zeigen Sie ihm die Ergebnisse der Umfrage. Klären Sie gemeinsam, welche Daten das Werkzeug über die Nutzung speichert, wer sie sehen darf und dass sie nicht zur Leistungsbewertung verwendet werden. Das gehört in eine Betriebsvereinbarung. Welche Rechte der Betriebsrat dabei genau hat und was so eine Vereinbarung regelt, steht im Artikel über Rechte des Betriebsrats und Betriebsvereinbarung beim KI-Assistenten. Ein Betriebsrat, der von Anfang an dabei war, wird selten zum Bremser. Einer, der aus der Rundmail vom Rollout erfährt, kann eine mitbestimmungspflichtige Einführung stoppen, bis eine Einigung steht.

Schatten-KI zeigt, dass Ihre Leute schneller arbeiten wollen, als Ihre Werkzeuge es erlauben. Ein Verbot bestraft sie dafür und schiebt die Kundendaten weiter aufs Handy. Geben Sie ihnen ein Firmenwerkzeug, das besser ist als ihr privates Konto. Dann kommt die Nutzung von selbst dorthin zurück, wo Sie sie sehen und verantworten können.

Themen

  • Schatten-KI
  • KI-Richtlinie
  • Datenschutz
  • Betriebsrat
  • Mittelstand
Alle Artikel

Weiterlesen

  • 7 Min. Lesezeit

    KI-Kompetenz nach Art. 4: Was Ihre Firma tun muss

    Viele Mittelständler halten die KI-Verordnung für ein Thema der Softwarehersteller. Artikel 4 gilt aber für jede Firma, deren Leute ChatGPT oder Copilot bei der Arbeit benutzen. Hier steht, was die Pflicht verlangt, was sie nicht verlangt und wie Sie sie ohne Beraterprojekt erfüllen.

  • 7 Min. Lesezeit

    Excel ablösen: in Etappen zum internen Tool

    Viele Firmen haben eine Excel-Datei, die niemand anfassen will, weil zu viel an ihr hängt. Der Reflex ist, sie irgendwann komplett durch Software zu ersetzen. Dieser Artikel zeigt, woran Sie erkennen, dass eine Tabelle zum System geworden ist, was Sie vor jeder Änderung festhalten müssen und wie Sie sie Stück für Stück in ein kleines internes Tool überführen.

  • 16 Min. Lesezeit

    E-Rechnung automatisieren: XRechnung und ZUGFeRD

    Den Eingang von E-Rechnungen können Sie vom Postfach bis ins Archiv automatisieren, weil jeder Lieferant, der auf XRechnung oder ZUGFeRD umstellt, seine Rechnung als fertigen Datensatz schickt. Hier steht Schritt für Schritt, was die Software übernimmt, was ein Mensch entscheidet und was das Gesetz seit 2025 verlangt.

Ende des Anrufs

Sie dürfen jetzt auflegen.

Oder Sie buchen 15 Minuten. Ich stelle Ihnen die Fragen, die ich am Telefon stellen würde, und sage Ihnen am Ende, ob es passt. Wenn nicht, haben wir beide eine Viertelstunde verloren und keinen Monat.

Oder rufen Sie an. Gerne auch kalt. Meine KI-Assistentin nimmt ab, und ich rufe zurück. +49 5136 9414999

Statistik

Mit Ihrer Zustimmung messe ich mit Google Analytics, welche Seiten gelesen werden. Ohne Zustimmung lädt kein Analyse-Code. Ihre Antwort speichere ich lokal in Ihrem Browser.

Datenschutzerklärung