Chatbots, autonom fahrende Busse, KI-basierte Verwaltungssoftware, KI-generierte Videos: Die Gefährlichkeit der KI aus rechtlicher und tatsächlicher Sicht ist hochgradig problematisch.
Mit der noch weitestgehend unbekannten KI-VO ist ein komplexes Regelwerk in Kraft getreten, welches Beschaffung und Einsatz von KI-Systemen regelt. Nach der KI-VO wird der Einsatz von KI nach Risiko des Verwendungszwecks unterschieden.
KI-basierte Verwaltungssoftware oder autonom fahrende Busse sind beispielsweise als „Hochrisiko KI“ einzuordnen. In der Folge müssen strenge Anforderungen beachtet werden, z.B. darf die KI nicht eigenständig Entscheidungen treffen (Human-in-the-Loop-Prinzip).
Die KI-VO ist bereits in Kraft getreten, teilweise laufen aber noch Übergangsfristen. Die volle Wirksamkeit der Regelungen für Hochrisiko-KI steht unmittelbar bevor, daher wird gegenwärtig politisch noch über eine Verlängerung einzelner Übergangsregelungen nachgedacht. Spätestens im Dezember 2027 wird die KI-VO voll gelten.
Link zur KI-VO: KI-Verordnung
Die Auftragsberatungsstelle Sachsen-Anhalt bietet zu diesem Thema ein Seminar im Online-Format unter dem Titel „Datenschutz und KI im Vergabeverfahren – Chancen und neue Herausforderungen“ am 09. Juni 2026 an. Nähere Informationen finden Sie in unserem aktuellen Seminarplan.