Müssen bestehende KI-Systeme nachgerüstet werden?

Der entscheidende Begriff

Systeme, die vor dem jeweiligen Anwendungsdatum in Verkehr gebracht oder in Betrieb genommen wurden, unterliegen den Hochrisiko-Pflichten grundsätzlich nur dann, wenn sie danach wesentlichen Änderungen unterliegen. Das klingt nach einer komfortablen Ausnahme und ist in der Praxis eine Falle, weil der Begriff weiter reicht, als er klingt.

Ein Modellwechsel, eine deutlich erweiterte Datenbasis, ein neuer Einsatzzweck oder eine geänderte Zielgruppe können die Schwelle überschreiten. Wer ein Bestandssystem laufend weiterentwickelt – und das ist bei KI der Normalfall – verliert den Bestandsschutz irgendwann unbemerkt.

Praktische Folge: Der Bestandsschutz ist kein Dauerzustand, sondern eine Momentaufnahme. Wer sich darauf beruft, sollte den Zustand des Systems zum Stichtag dokumentieren – sonst lässt sich später nicht belegen, was sich seitdem geändert hat und was nicht.