Künstliche Intelligenz (KI) ist in der Zeit der Digitalisierung nicht mehr wegzudenken. Bislang waren der Einsatz und die Haftung von KI wegen fehlender gesetzlicher Regelungen rechtlich unbestimmt. Der EU-Ministerrat hat nun erstmals Regelungen für den Einsatz von KI beschlossen. Durch die Verordnung will der Gesetzgeber sicherstellen, dass KI-Systeme sicher sind und die Grundrechte einhalten.
Was ist künstliche Intelligenz?
In Art. 3 Nr. 1 des Verordnungsentwurfes ist ein KI-System definiert als
„ein System, das so konzipiert ist, dass es mit Elementen der Autonomie arbeitet, und das auf der Grundlage maschineller und/oder vom Menschen erzeugter Daten und Eingaben durch maschinelles Lernen und/oder logik-wissensgestützten Konzepte ableitet, wie eine Reihe von Zielen erreicht wird, und systemgenerierte Ergebnisse wie Inhalte (generative KI-Systeme), Vorhersagen, Empfehlungen oder Entscheidungen hervorbringt, die das Umfeld beeinflussen, mit dem die KI-Systeme interagieren“
Die Begriffsbestimmungen wurde bewusst auf Systeme eingegrenzt, deren Entwicklung auf Konzepten des maschinellen Lernens sowie logik- und wissensgestützten Konzepten basieren. Somit will man sicherstellen, dass die Definition eines KI-Systems ausreichend klare Kriterien für die Abgrenzung der KI von einfacheren Software-Systemen bietet.
KI ist bereits jetzt schon ein wichtiger Bestandteil unserer Gesellschaft und bereits in unserem Alltag präsent. Wir verwenden KI, ohne uns darüber bewusst zu sein.
So bedienen wir uns im Alltag oft an Übersetzungstools oder erzeugen mittels KI automatische Untertitel von Videoinhalten oder TV-Sendungen.
Autohersteller nutzen ebenfalls KI-Systeme für selbstfahrende Fahrzeuge, auch wenn diese noch nicht zum Standard gehören.
Verbotene Praktiken im Bereich der Künstlichen Intelligenz: Verhaltensmanipulationen und „Social Scoring“
Art. 5 des Verordnungsentwurfes regelt, welche Praktiken im Bereich der KI verboten sind.
Gemäß Art. 5 Abs. 1 lit. a und lit b sind bestimmte Verhaltensmanipulationen beim Einsatz von KI verboten. Dieses Verbot betrifft auch private Akteure.
Verboten sind demnach:
- „das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person mit dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person in einer Weise wesentlich zu beeinflussen, die dieser Person oder einer anderen Person einen physischen oder psychischen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird“ (lit. a)
- „das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Schwäche oder Schutzbedürftigkeit einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt, das Verhalten einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu beeinflussen, die dieser Person oder einer anderen Person einen physischen oder psychischen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird“ (lit. b)
Mehr dazu finden Sie bei unseren Kollegen unter: KI-Verordnung: EU-Ministerrat verständigt sich auf KI-Regulierung | Datenschutzrecht-Blog | BLOG (dury.de).
Bildquelle: Bild 507811 von geralt auf pixabay