Hochrisiko-KI

Hochrisiko-KI bezeichnet Systeme der Künstlichen Intelligenz, die ein erhebliches Risiko für die Gesundheit, Sicherheit oder die Grundrechte von Personen darstellen. Der Begriff stammt maßgeblich aus der KI-Verordnung der Europäischen Union, die für solche Anwendungen besonders strenge Sicherheitsvorgaben festlegt. Dazu zählen beispielsweise KI-Systeme in kritischen Infrastrukturen, im Bildungswesen oder bei der Bewertung der Kreditwürdigkeit. Bevor diese Systeme eingesetzt werden dürfen, müssen sie umfassende Anforderungen an die Transparenz, die Datenqualität und eine menschliche Aufsicht erfüllen.