
Das Ergebnis im Meeting überzeugt. Dann erzählt die Mitarbeiterin, dass sie dafür ihre private KI genutzt hat. In Simons Beispiel entsteht genau dort die schwierige Führungsfrage: Initiative belohnen oder einen unkontrollierten Arbeitsweg stoppen? Simon Biela diskutiert mit Medienrechtler Rolf Schwartmann, Leiter der Kölner Forschungsstelle für Medienrecht an der TH Köln, über Kundendaten, Chatbot-Fehler und menschliche Kontrolle. Im Kern geht es nicht um ein pauschales Verbot. Es geht darum, wie Unternehmen KI produktiv nutzen können, ohne gute Ergebnisse mit verantwortbaren Prozessen zu verwechseln.
„Beim Einsatz von KI dürfen Sie den Kopf nicht in den Sand stecken.“
Private KI wird im Gespräch nicht als abstraktes Sicherheitsproblem verhandelt. Simon beschreibt Mitarbeitende, deren eigene Werkzeuge bessere Ergebnisse liefern als die freigegebene Unternehmenslösung. Das macht die Führungssituation unbequem: Ein Verbot kann sinnvolle Initiative ausbremsen, bloßes Wegschauen lässt den Arbeitsprozess ungeklärt. Schwartmann nennt deshalb nicht nur klare Anweisungen, sondern auch geeignete Arbeitsmittel und hinreichende Kontrollen. Seine Argumentation ist keine pauschale Zusage, dass ein Verbot allein vor Haftung schützt. Der unternehmerische Punkt dahinter ist ebenso wichtig: Wer einen sicheren Weg erwartet, muss ihn im Alltag auch nutzbar machen. Gute Regeln beschreiben deshalb mehr als das unerwünschte Werkzeug. Sie klären, welche Daten verarbeitet werden dürfen, welche Alternative bereitsteht und wie Beschäftigte mit Zweifeln umgehen können. So wird aus einer Verbotsfrage eine Frage der Arbeitsorganisation.
Ein Kundenservice-Chatbot verspricht einen Rabatt, den das Unternehmen nicht vorgesehen hat. Simon fragt, wer dafür einstehen muss. Schwartmann hält dem Gedanken, es sei lediglich die Maschine gewesen, die Verantwortung des Unternehmens für seinen Kundenkontakt entgegen. Das Beispiel ist kein allgemeingültiges Urteil über jedes Rabattversprechen. Es zeigt aber eine Verschiebung, die Unternehmen ernst nehmen müssen: Software formuliert nicht mehr nur interne Vorschläge, sondern tritt nach außen als Gesprächspartner auf. Ihre Antworten können Erwartungen schaffen und Konflikte auslösen. Damit wird die Qualität eines Bots nicht allein an schnellen Reaktionen oder zufriedenen Nutzern messbar. Ebenso relevant ist, welche Aussagen er machen darf, wie Fehler auffallen und wer auf Beschwerden reagiert. Automatisierter Kundenkontakt braucht nicht weniger organisatorische Verantwortung, sondern eine andere Form ihrer praktischen Umsetzung.
Ein KI-Entwurf kann überzeugend aussehen und trotzdem erheblichen Prüfaufwand verursachen. Im Gespräch über Beratung hinterfragt Simon deshalb, warum ein bereits vorbereiteter Text nicht automatisch eine entsprechend günstigere fachliche Leistung bedeutet. Schwartmann setzt dem die Verantwortung für das Ergebnis entgegen. Wer eine Empfehlung prüft und anschließend dafür einsteht, übernimmt mehr als die letzten Korrekturen an einem Dokument. Noch sensibler wird diese Unterscheidung bei Entscheidungen über Menschen, etwa im Personalbereich. Dort betont Schwartmann zusätzliche rechtliche Anforderungen, deren Anwendung vom konkreten Fall abhängt. Für Unternehmen entsteht daraus eine organisatorische Frage: Hat die prüfende Person genügend Fachwissen, Zeit und Spielraum, um dem System zu widersprechen? Ein menschlicher Name am Ende des Prozesses erklärt noch nicht, wie sorgfältig tatsächlich geprüft wurde. Diese Prüfung muss als Arbeit mitgedacht werden.
Nach der Diskussion über Risiken fragt Simon ausdrücklich nach einem Weg, der Unternehmen nicht zum Stillstand bringt. Schwartmann beginnt seine Orientierung beim konkreten Arbeitsvorgang und dessen Zweck. Anschließend unterscheidet er danach, ob Rechte von Menschen betroffen sind und welche besonderen Anforderungen für die Anwendung gelten. Diese Reihenfolge ist hilfreicher als eine pauschale Entscheidung für oder gegen KI: Derselbe allgemeine Assistent kann bei verschiedenen Aufgaben sehr unterschiedliche Fragen aufwerfen. Eine interne Formulierungshilfe ist nicht mit einer automatisierten Personalauswahl gleichzusetzen. Umgekehrt ist auch Kundenservice oder Marketing durch die Einordnung im Gespräch nicht grundsätzlich von rechtlichen Pflichten befreit. Der Spielraum liegt in der sorgfältigen Unterscheidung. Wer Anwendungen nach Zweck, Daten und Folgen betrachtet, kann gezielter prüfen, wo Nutzung möglich ist und wo zusätzliche Absicherung erforderlich wird.
KI senkt die Hürde, professionelle Ergebnisse herzustellen. Damit wird für Unternehmen weniger sichtbar, unter welchen Bedingungen diese Ergebnisse entstehen: mit welchem Werkzeug, auf welcher Datenbasis und mit welcher Prüfung. Genau diese Informationen gewinnen aber an Bedeutung, sobald ein Text Kunden erreicht oder eine Empfehlung Menschen betrifft. Die neue Führungsaufgabe besteht deshalb nicht darin, jede Antwort selbst zu kontrollieren. Sie besteht darin, verlässliche Arbeitswege zu organisieren und Verantwortlichkeiten nachvollziehbar zu machen. Schwartmann bringt dafür die juristische Perspektive ein, Simon den Druck, gute Anwendungen tatsächlich nutzen zu können. Zusammen ergibt sich kein Versprechen risikofreier KI. Es entsteht ein anderer Maßstab für produktive Arbeit: Nicht nur das Ergebnis muss überzeugen. Auch der Weg dorthin muss einer kritischen Nachfrage standhalten können, bevor daraus eine unternehmerische Entscheidung wird.
Ein Essay im Monat. Die unbequemen Fragen aus den Gesprächen bei AI & Why. Weitergedacht und eingeordnet. Bald in deinem Postfach.