Der risikobasierte Ansatz
Das Gesetz unterteilt KI-Anwendungen in vier eindeutige Risikokategorien. Systeme mit unannehmbarem Risiko, wie Social Scoring, sind europaweit strikt verboten. Für Hochrisiko-KI gelten strenge Anforderungen an Datenqualität, Dokumentation und menschliche Aufsicht. Systeme mit minimalem Risiko können weitgehend frei eingesetzt werden. Anbieter müssen ihre Lösungen selbstständig klassifizieren und entsprechende Nachweise erbringen.
Auswirkungen auf den Mittelstand
Die Verordnung betrifft sowohl Entwickler als auch Nutzer von KI-Systemen im industriellen Umfeld. Unternehmen müssen ein internes Qualitätsmanagementsystem für Hochrisiko-Anwendungen aufbauen. Die technische Dokumentation muss vor der Inbetriebnahme vollständig vorliegen. Bei Verstößen drohen hohe Geldbußen, ähnlich den Sanktionen der DSGVO.