Darf KI Entscheidungen treffen?

KI verspricht Produktivität, Effizienz und bessere Entscheidungen. Doch wer haftet eigentlich, wenn diese Entscheidungen falsch sind? Simon Biela spricht mit Prof. Dr. Rolf Schwartmann über die Grenzen von KI, die Verantwortung von Unternehmen und die Frage, warum Regulierung nicht Innovationsbremse, sondern Voraussetzung für einen sicheren KI-Einsatz sein kann.

„Die entscheidende Frage lautet nicht, was KI kann, sondern wer die Verantwortung übernimmt, wenn sie eingesetzt wird.“

KEY FACTS

Die EU-KI-Verordnung reguliert vor allem den Einsatz von KI, nicht jedes einzelne Ergebnis
Unternehmen tragen die Verantwortung, wenn sie KI für Hochrisiko-Entscheidungen einsetzen
KI-Kompetenz wird durch die EU-KI-Verordnung erstmals zur rechtlichen Pflicht
General-Purpose-KI wie ChatGPT ist nicht für Personalentscheidungen, Schulnoten oder medizinische Bewertungen entwickelt worden
Verantwortung lässt sich nicht an KI delegieren, sie bleibt immer beim Menschen

▶ Video abspielen

KI ist ein Werkzeug – kein Entscheidungsträger

Während viele Diskussionen rund um künstliche Intelligenz von Fähigkeiten, Automatisierung und technologischem Fortschritt geprägt sind, lenkt Rolf Schwartmann den Blick auf eine andere Dimension: Verantwortung. Für ihn bleibt KI unabhängig von ihrer Leistungsfähigkeit ein Werkzeug. Sie kann unterstützen, analysieren und Vorschläge machen, übernimmt jedoch niemals selbst Verantwortung. Wer KI einsetzt, bleibt für deren Auswirkungen verantwortlich, rechtlich ebenso wie gesellschaftlich.

Warum Unternehmen das Risiko oft unterschätzen

Viele Unternehmen setzen heute General-Purpose-KI-Systeme für Aufgaben ein, für die diese ursprünglich nicht entwickelt wurden. Ob Bewerberauswahl, Leistungsbewertungen oder sensible Entscheidungen im Gesundheitswesen scheint technisch vieles möglich. Schwartmann warnt jedoch davor, technische Machbarkeit mit rechtlicher Zulässigkeit zu verwechseln. Gerade dort, wo KI über Menschen urteilt oder deren Chancen beeinflusst, greifen bestehende Regelwerke wie Datenschutz-, Arbeits- und Haftungsrecht. Die Verantwortung wandert dabei nicht zum KI-Anbieter, sondern zum Unternehmen, das die Technologie einsetzt.

KI-Kompetenz wird zur Führungsaufgabe

Ein oft übersehener Teil der EU-KI-Verordnung ist die Verpflichtung zur KI-Kompetenz. Unternehmen müssen sicherstellen, dass Mitarbeiter die Chancen, Grenzen und Risiken der eingesetzten Systeme verstehen. Für Schwartmann ist das einer der wichtigsten Bestandteile der Regulierung. Denn wer KI nutzt, ohne ihre Funktionsweise und Schwächen zu kennen, handelt fahrlässig. Nicht Verbote, sondern Wissen und verantwortungsvoller Umgang werden damit zum entscheidenden Erfolgsfaktor.

Was verändert sich wirklich?

Die größte Veränderung durch KI ist für Schwartmann nicht technologischer, sondern organisatorischer Natur. Unternehmen müssen lernen, Verantwortung neu zu denken. Die Frage ist nicht mehr, ob KI eingesetzt wird, sondern unter welchen Bedingungen. Die EU-KI-Verordnung versteht er deshalb als ersten Versuch, Leitplanken für eine Technologie zu schaffen, die immer stärker in Entscheidungen eingreift. Wer KI erfolgreich nutzen möchte, muss Innovation und Verantwortung gemeinsam betrachten. Denn am Ende haftet nicht die Maschine, sondern der Mensch, der sie einsetzt.

‍