Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Der Einsatz von KI-Systemen birgt ein großes Nutzenpotenzial in vielen Bereichen unseres Lebens. Gleichzeitig kann die Anwendung mancher KI-Systeme aber auch ein gewisses Risiko mit sich bringen. Ziel ist es, vertrauenswürdige KI-Systeme in die Anwendung zu bringen, und gleichzeitig Überregulierung zu vermeiden sowie Innovationen zu fördern. Die Europäische Kommission hat deshalb im April 2021 einen Vorschlag zur Regulierung von KI-Systemen vorgelegt. Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science der Plattform Lernende Systeme setzen sich im Whitepaper mit ausgewählten Inhalten des EU-Vorschlags auseinander: nämlich anhand welcher Kriterien festgelegt werden kann, in welchen Fällen der Einsatz von KI-Systemen von vornherein zu regulieren ist und wann dies nicht notwendig ist. Ziel ist es, diejenigen KI-Systeme zu identifizieren, welche vor dem Hintergrund ihres jeweiligen Anwendungskontextes einer Regulierung zur Sicherstellung der Sicherheit und Vertrauenswürdigkeit bedürfen.