Die EU-Kommission will die Anwendung von künstlicher Intelligenz (KI) regulieren. In einigen wenigen Bereichen soll die Verwendung von KI grundsätzlich verboten werden, wie aus einem Gesetzesentwurf der Brüsseler Behörde hervorgeht, welcher der Nachrichtenagentur AFP vorlag.
Andere Anwendungen sollen als „risikoreich“ eingestuft werden und brauchten demnach eine spezielle Zulassung. Laut dem Gesetzesentwurf, der heute vorgestellt werden soll, könnten etwa Möglichkeiten der „generalisierten Überwachung“ der Bevölkerung mit künstlicher Intelligenz verboten werden.
Keine Zulassung für „soziale Bewertung“
Auch Instrumente „zur Manipulation des Verhaltens, der Meinungen oder der Entscheidungen“ der Bürgerinnen und Bürger sowie Systeme zur „sozialen Bewertung“ von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit wären nicht zugelassen.
Als „risikoreich“ könnten dem Gesetzesentwurf zufolge die „biometrische Fernidentifizierung von Personen an öffentlichen Orten“ und „Sicherheitselemente in kritischen öffentlichen Infrastrukturen“ eingestuft werden. Für Instrumente der Gesichtserkennung in Videoüberwachungssystemen wären also Bewertung und Zulassung durch eine Kontrollbehörde nötig, bevor ein entsprechendes Produkt auf den Markt gebracht werden kann.
Ausnahmen für öffentliche Sicherheit
Ausnahmen sind für Fälle vorgesehen, in denen der entsprechende KI-Einsatz dem Schutz der öffentlichen Sicherheit dient. Die militärische Anwendung von KI decken die Vorschriften grundsätzlich nicht ab.
Eine zweite Risikokategorie umfasst beispielsweise Priorisierungssysteme in Notaufnahmen, Instrumente für die Personalsuche und zur Beurteilung der Kreditwürdigkeit. In diesen Fällen soll der jeweilige Anbieter die Regelkonformität seines Produkts garantieren. Für alle weiteren Anwendungen künstlicher Intelligenz sollen keine Anforderungen gelten, die über die üblichen Regeln zur Produktsicherheit hinausgehen.
Die EU-Kommission will nach eigenen Angaben einen klaren Rechtsrahmen für den Einsatz von KI schaffen, der auch die Innovation in diesem Bereich fördern soll. Als Vorreiter gelten hier bisher die USA und China.