Schatten-KI: Risiken erkennen und richtig handeln

Künstliche Intelligenz ist für viele Menschen längst fester Bestandteil des Arbeitsalltags. Laut einer aktuellen Befragung des Instituts der deutschen Wirtschaft* nutzten knapp 30 Prozent der Beschäftigten, die KI beruflich einsetzen, KI-Tools, die von ihrem Arbeitgeber nicht freigegeben wurden. Genau hier beginnt das Phänomen der Schatten-KI.

Was ist Schatten-KI und wie macht sie sich bemerkbar?

Schatten-KI bezeichnet die Nutzung von KI-Anwendungen in einem Unternehmen, die vom Unternehmen weder bereitgestellt noch freigegeben wurden und damit außerhalb der betrieblichen Kontrolle liegen. Damit ist sie ein Teil der Schatten-IT, betrifft jedoch speziell den Bereich KI-Tools. Die Nutzer handeln dabei in aller Regel ohne böse Absicht – im Gegenteil: Oft werden die Anwendungen zur vermeintlichen Zeitersparnis und für mehr Effizienz genutzt.

Das Problem ist grundsätzlich nicht die Nutzung an sich, sondern die Preisgabe sensibler Unternehmensinformationen. Kritisch wird es insbesondere dann, wenn Mitarbeitende vertrauliche Inhalte in nicht freigegebene KI-Anwendungen eingeben oder KI-generierte Inhalte ohne ausreichende Prüfung für geschäftliche Zwecke verwenden. Beispiele dafür sind:

• Vertrauliche Informationen in KI-Tools E-Mails, Kundenanfragen oder interne Dokumente werden in frei zugängliche KI-Anwendungen eingegeben. Dadurch können sensible Informationen unkontrolliert nach außen gelangen und widerrechtlich verarbeitet werden – ohne dass das Unternehmen darauf Einfluss hat.
• Bild- und Videoerstellung für Marketingkampagnen Nicht freigegebene KI-Tools werden für Werbematerialien genutzt. Das kann zu Datenschutz-, Urheberrechts- oder Lizenzrisiken führen.
• Inoffizielle Schnittstellen und Automatisierungen Mitarbeitende verknüpfen KI-Dienste eigenständig mit Unternehmensanwendungen. Dadurch können Daten unbemerkt an externe Systeme übertragen werden.
• Ungeprüfte KI-Ergebnisse KI-generierte Texte, Analysen oder Empfehlungen werden direkt übernommen. So können fehlerhafte oder erfundene Inhalte in Geschäftsprozesse gelangen.

Abgrenzung zur Schatten-IT

Schatten-KI ist grundsätzlich nicht mit Schatten-IT gleichzusetzen, sondern kann als deren Teilbereich verstanden werden. Während der Begriff Schatten-IT sämtliche Technologien, Anwendungen oder Dienste umfasst, die ohne Wissen oder Freigabe der IT-Abteilung genutzt werden, bezieht sich Schatten-KI gezielt auf den Einsatz von KI-Anwendungen und KI-gestützten Prozessen.

Der entscheidende Unterschied liegt darin, dass KI-Systeme nicht nur Daten speichern oder übertragen, sondern diese aktiv verarbeiten, analysieren und neue Inhalte erzeugen. Dadurch entstehen zusätzliche Herausforderungen hinsichtlich Datenschutz und Sicherheit. Risiken ergeben sich somit nicht ausschließlich aus den eingegebenen Daten, sondern auch aus den Ergebnissen der KI-Systeme.

Was Unternehmen tun können

Ein pauschales Verbot von KI-Anwendungen ist in der Praxis meist wenig zielführend. Mitarbeitende nutzen KI-Tools in der Regel nicht aus böser Absicht, sondern um Aufgaben schneller zu erledigen und produktiver zu arbeiten. Umso wichtiger ist es, klare Rahmenbedingungen für den Einsatz von KI zu schaffen. Dazu gehören verständliche Richtlinien, die festlegen, welche Anwendungen genutzt werden dürfen und welche Arten von Daten verarbeitet werden können. Gleichzeitig sollten Unternehmen sichere und datenschutzkonforme Alternativen bereitstellen.

Eine Möglichkeit ist die Einführung einer unternehmensinternen KI-Lösung, die auf die Anforderungen des Unternehmens zugeschnitten ist und eine kontrollierte Verarbeitung sensibler Daten ermöglicht. Hierzu gehören ein geeignetes Sicherheitskonzept, festgelegte Zugriffsrechte und definierte Prozesse für Datenschutz, Wartung und Betrieb. Ergänzt durch regelmäßige Schulungen und Sensibilisierungsmaßnahmen können Unternehmen die Vorteile von KI nutzen und Risiken für die Sicherheit und Vertraulichkeit von Informationen minimieren.

Qualifizierung und Bereitstellung gehören zusammen: Wenn Kompetenz aufgebaut wird, ohne eine sichere Lösung anzubieten, kann dies dazu führen, dass die Nutzung auf Tools verlagert wird, die das Unternehmen nicht kontrolliert.

Fazit

Schatten-KI ist häufig Ausdruck eines wachsenden Bedarfs und kein Zeichen eines bewussten Regelbruchs. Wenn Unternehmen ihren Mitarbeitenden sichere, leistungsfähige und offiziell freigegebene KI-Lösungen zur Verfügung stellen, entsteht weniger Anreiz, auf unkontrollierte Alternativen auszuweichen.

Sie benötigen Unterstützung bei passenden Unternehmensrichtlinien zu dem Thema, möchten Ihre Mitarbeitenden sensibilisieren oder ihnen ein internes KI-Tool zur Verfügung stellen, das auf die Bedürfnisse ihres Arbeitsalltags zugeschnitten ist? Dann stehen wir Ihnen gerne zur Seite – sprechen Sie uns einfach an!