Dürfen Entwickler Kundendaten und Code in KI-Tools geben? Datenschutz- und IP-Risiken

Ein Entwickler hängt fest, kopiert die betreffende Funktion samt umliegendem Code in einen KI-Assistenten und fragt nach dem Fehler. Sekunden später kommt die Lösung. Was kaum jemandem in diesem Moment bewusst ist: Gerade hat proprietärer Kundencode das Unternehmen verlassen und liegt bei einem externen Dienst. Multipliziert mit einem ganzen Team und vielen solcher Momente pro Tag entsteht daraus ein echtes Datenschutz- und IP-Problem.

KI-Coding-Assistenten wie GitHub Copilot oder Cursor sind aus vielen Entwicklungsteams kaum mehr wegzudenken und das aus gutem Grund. Die entscheidende Frage im Unternehmenskontext lautet aber: Welche Daten und welcher Code dürfen überhaupt in diese Tools gelangen? Dieser Beitrag ordnet die Risiken ein und zeigt, wie sich der Nutzen sichern lässt. Er vertieft den Überblick aus KI in der Entwicklung sicher einsetzen.

Was bei der Eingabe wirklich passiert

Bei vielen Assistenten wird die Eingabe an einen externen Dienst gesendet und dort verarbeitet.

Das betrifft nicht nur den Text, den ein Entwickler bewusst eingibt, sondern oft auch umliegenden Code aus dem geöffneten Projekt, den das Tool als Kontext automatisch mitschickt. Damit können Geschäftslogik, Konfigurationen oder Kommentare mit sensiblen Hinweisen den kontrollierten Bereich verlassen, ohne dass es jemandem auffällt. Der Entwickler sieht nur ein Eingabefeld und eine hilfreiche Antwort, nicht den Datenfluss dahinter.

Die drei zentralen Risiken

Datenschutz, geistiges Eigentum und fremde Lizenzen sind die drei kritischen Punkte.

Besonders heikel sind versehentlich mitgegebene Zugangsdaten oder Schlüssel, die in einem kopierten Codeblock stecken und ungeprüft in einem Prompt landen. Sie gehören zu den häufigsten Ursachen für Sicherheitsvorfälle in diesem Umfeld, weil sie unbemerkt passieren.

Die Vertragsfrage: wird trainiert oder nicht?

Ob Eingaben gespeichert oder zum Training genutzt werden, entscheidet der konkrete Vertrag.

Manche Anbieter schließen die Trainingsnutzung in Geschäftstarifen ausdrücklich aus, andere nicht oder nur unklar. Ohne geprüfte Vereinbarung ist deshalb unklar, was mit dem eingegebenen Code tatsächlich geschieht. Für personenbezogene Daten verlangt die DSGVO ohnehin eine Auftragsverarbeitung, unabhängig vom Marketingversprechen des Anbieters. Diese Grundlage schaffen wir auch beim Umgang mit Kundendaten in Systemen, wie im Beitrag Datenschutz und LLMs beschrieben.

Wie Teams das Risiko senken

Mit klaren Regeln und der richtigen Umgebung lässt sich der Nutzen behalten und das Risiko begrenzen.

Hilfreich ist eine Kombination aus mehreren Maßnahmen: eine Liste geprüfter, freigegebener Tools mit klaren Verträgen, das konsequente Entfernen von Zugangsdaten und echten Daten aus Prompts, die Nutzung anonymisierter Beispieldaten statt Produktionsdaten und, für sensible Projekte, eine lokal betriebene Assistenzumgebung, in der schlicht nichts nach außen fließt. Wie eine solche Umgebung aussieht, zeigen wir in Die sichere KI-Entwicklungsumgebung.

Wenn der generierte Code selbst zum Risiko wird

Nicht nur die Eingabe ist heikel, auch das Ergebnis eines Assistenten kann rechtliche Fragen aufwerfen.

Ein Assistent lernt aus großen Mengen fremden Codes und kann Passagen vorschlagen, die einer lizenzpflichtigen oder restriktiv lizenzierten Vorlage stark ähneln. Landet ein solcher Block ungeprüft im Produkt, übernimmt das Unternehmen unbemerkt eine Lizenzverpflichtung, im schlechtesten Fall eine, die eine Offenlegung des eigenen Quellcodes verlangt. Dazu kommt die fachliche Seite: Generierter Code kann Sicherheitslücken oder veraltete Muster enthalten, die überzeugend aussehen, aber nicht zur eigenen Architektur passen. Beides spricht dafür, KI-Vorschläge wie den Beitrag eines externen Zulieferers zu behandeln, der eine Prüfung durchläuft, bevor er in die Codebasis wandert. Wie sich das in nachweisbare Abläufe übersetzt, ordnen wir in Compliance beim KI-Einsatz ein.

Woran ein Team ein geeignetes Tool erkennt

Ein freigegebenes Werkzeug lässt sich an wenigen, prüfbaren Eigenschaften festmachen.

Hilfreich sind konkrete Fragen vor der Freigabe: Gibt es einen Vertrag, der die Verarbeitung regelt und die Nutzung der Eingaben zum Training ausschließt? Ist bekannt, in welchem Land die Verarbeitung stattfindet und wie lange Eingaben gespeichert werden? Lässt sich der automatisch mitgesendete Projektkontext begrenzen, damit nicht das halbe Repository mitreist? Und gibt es für besonders sensible Projekte die Möglichkeit, den Assistenten lokal zu betreiben, sodass gar nichts nach außen fließt? Fehlt die Antwort auf eine dieser Fragen, gehört das Tool nicht auf sensible Projekte. Wo solche Regeln fehlen, weichen Mitarbeiter erfahrungsgemäß auf eigene, ungeprüfte Werkzeuge aus, ein Muster, das wir in Schatten-KI im Unternehmen beschreiben.

Wie Aliru unterstützt

Wir richten geprüfte oder lokale Assistenten ein und definieren die Regeln, die zu Ihren Projekten passen.

So können Ihre Entwickler die Geschwindigkeit von KI nutzen, während Kundencode und personenbezogene Daten geschützt bleiben und Sie gegenüber Ihren Kunden nachweisen können, dass deren geistiges Eigentum sicher ist. Sprechen Sie mit uns über einen sicheren Einsatz von Coding-Assistenten.