Mit dem am 21.04.2021 ver\u00f6ffentlichten Beschluss f\u00fcr \u201evertrauensw\u00fcrdige k\u00fcnstliche Intelligenz\u201c soll der Einsatz dieser Systeme reguliert werden. Dabei wird ein objektiver Ma\u00dfstab der Risikobewertung angewendet, bei dem es vier unterschiedliche Risikostufen gibt. Wie diese gestaltet sind und welche praktischen Auswirkungen der Beschluss hat, erfahren Sie in diesem Beitrag von ZELLER & SEYFERT. Vorweg so viel: Unserer Einsch\u00e4tzung nach ist es wahrscheinlich, dass s\u00e4mtliche Ma\u00dfnahmen k\u00fcnstlicher Intelligenz mit Bezug zum deutschen Arbeitsrecht erheblicher Regulierung unterliegen werden.<\/p>\n\n\n\n
K\u00fcnstliche Intelligenz (KI) ist die Bezeichnung f\u00fcr eine Technologie, die sowohl erhebliches Nutzenpotenzial bietet als auch neue Gefahren und Bedrohungen f\u00fcr die Sicherheit von Menschen und Systemen darstellt. Um die Bedeutung m\u00f6glicher Risiken zu bewerten, werden diese in vier Stufen kategorisiert: 1. unannehmbar, 2. hoch, 3. gering, 4. minimal. F\u00fcr alle Stufen gibt es unterschiedliche Kontrollmechanismen.
<\/p>\n\n\n\n
Zuerst sollen KI-Systeme verboten werden, die als klare Bedrohung f\u00fcr die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten. Darunter werden zum einen solche erfasst, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen. Au\u00dferdem sind Anwendungen betroffen, die den Beh\u00f6rden eine Bewertung des sozialen Verhaltens erm\u00f6glichen (Stichwort: Social Scoring in China). Als Beispiel f\u00fcr KI-Systeme, die menschliches Verhalten manipulieren, kann dabei Spielzeug mit einem Sprachassistenten angef\u00fchrt werden, das Minderj\u00e4hrige zu gef\u00e4hrlichem Verhalten ermuntert.
<\/p>\n\n\n\n
F\u00fcr Systeme KI-Systeme mit einem hohen Risiko werden strenge Vorgaben gelten, die erf\u00fcllt sein m\u00fcssen, bevor die Anwendungen auf den Markt gebracht werden d\u00fcrfen. Dazu z\u00e4hlen:<\/p>\n\n\n\n
Dies gilt jedoch nur f\u00fcr solche Systeme, die w\u00e4hrend ihrer Verwendung erhebliche Sch\u00e4den anrichten k\u00f6nnten. Betroffen sind vielf\u00e4ltige Bereiche des t\u00e4glichen Lebens.<\/p>\n\n\n\n
Kritische Infrastrukturen<\/strong> Produkte und Dienstleistungen<\/strong> Grundrechte und Rechtspflege<\/strong> Einschr\u00e4nkungen bei Stufe 2<\/strong> Auch unter dem Gesichtspunkt des Datenschutzes ist diese Aufsicht angebracht und erforderlich. Dies gilt insbesondere f\u00fcr alle Arten der biometrischen Fernidentifizierungssysteme. Ihre Echtzeit-Nutzung im \u00f6ffentlichen Raum zu Strafverfolgungszwecken wird grunds\u00e4tzlich verboten. Der Einsatz wird nur erlaubt, wenn dies unbedingt erforderlich ist. Beispiele sind die Suche eines vermissten Kindes, die Abwehr einer konkreten und unmittelbaren terroristischen Bedrohung oder die Identifikation und Verfolgung von Tatverd\u00e4chtigen schwerer Straftaten.<\/p>\n\n\n\n Hervorzuheben ist, dass eine solche Nutzung von KI-Systemen durch eine Justizbeh\u00f6rde oder eine andere unabh\u00e4ngige Stelle genehmigt werden muss. Wie dies jedoch genau in europ\u00e4isches oder deutsches Recht umgesetzt wird, ist bisher nicht geregelt. Absehbar ist aber, dass eine erhebliche Regulierung s\u00e4mtlicher Ma\u00dfnahmen mit Bezug zu arbeitsrechtlichen Regelungen in Deutschland erfolgen wird. Beim Umgang mit KI-Systemen wie Chatbots sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben. Dies ist erforderlich, damit sie in voller Kenntnis der Sachlage entscheiden k\u00f6nnen, ob sie die Anwendung weiter nutzen wollen oder nicht. Deshalb gelten f\u00fcr solche Systeme umfangreichere Transparenzpflichten. Systeme, von denen nur ein minimales Risiko ausgeht, unterliegen keinen Einschr\u00e4nkungen der Nutzung. So soll beispielsweise bei KI-gest\u00fctzten Videospielen oder Spamfiltern der Verordnungsentwurf nicht eingreifen. Die Kontrolle dieser Vorschriften soll in der Praxis durch die zust\u00e4ndigen nationalen Markt\u00fcberwachungsbeh\u00f6rden erfolgen. Ferner wird die Schaffung eines europ\u00e4ischen Ausschusses f\u00fcr k\u00fcnstliche Intelligenz angeregt. Dieser soll die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben. F\u00fcr Arbeitgeber stellt sich die Frage, welche praktische Relevanz dieser regulatorische Vorschlag haben kann. Es ist zu erwarten, dass KI-Systeme in der Zukunft omnipr\u00e4sent sein werden. Die Digitalisierung wird mit zunehmender Geschwindigkeit voranschreiten und die meisten Lebens- und Arbeitsbereiche weiter durchdringen. Setzten Sie KI-Systeme ein und haben Fragen dazu? Dann stehen Ihnen unsere fachkundigen Anw\u00e4lte von ZELLER & SEYFERT gerne zur Verf\u00fcgung. Unser Arbeitsrechtsexperte Rechtsanwalt Dr. Christian Zeller verf\u00fcgt \u00fcber langj\u00e4hrige Erfahrung im Umgang mit vergleichbaren F\u00e4llen. Gerne ist er im Rahmen einer kostenfreien Ersteinsch\u00e4tzung bereit, die Besonderheiten Ihres Falles zu identifizieren. Sie erreichen ihn bequem \u00fcber unser Kontaktformular, direkt per E-Mail an mail@zellerseyfert.com oder einfach per Telefon (+49 (0) 30-40 36 785-80).<\/p>\n","protected":false},"excerpt":{"rendered":" Mit dem am 21.04.2021 ver\u00f6ffentlichten Beschluss f\u00fcr \u201evertrauensw\u00fcrdige k\u00fcnstliche Intelligenz\u201c soll der Einsatz dieser Systeme reguliert werden. Dabei wird ein objektiver Ma\u00dfstab der Risikobewertung angewendet, bei dem es vier unterschiedliche Risikostufen gibt. Wie diese gestaltet sind und welche praktischen Auswirkungen der Beschluss hat, erfahren Sie in diesem Beitrag von ZELLER & SEYFERT. Vorweg so viel: […]<\/p>\n","protected":false},"author":1,"featured_media":6770,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[55],"tags":[],"class_list":["post-5318","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-arbeitsrecht"],"acf":[],"_links":{"self":[{"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/posts\/5318","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/comments?post=5318"}],"version-history":[{"count":2,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/posts\/5318\/revisions"}],"predecessor-version":[{"id":5320,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/posts\/5318\/revisions\/5320"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/media\/6770"}],"wp:attachment":[{"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/media?parent=5318"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/categories?post=5318"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/zellerseyfert.com\/de\/wp-json\/wp\/v2\/tags?post=5318"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
Risiken der Stufe 2 entstehen u. a. bei der Benutzung in kritischen Infrastrukturen (Beispiel: Autopilot im Verkehr). Auch bei der Schul- oder Berufsausbildung findet diese Stufe Anwendung, wenn der Zugang einer Person zu Bildung und zum Berufsleben beeintr\u00e4chtigt werden k\u00f6nnte (Beispiel: Bewertung von Pr\u00fcfungen).<\/p>\n\n\n\n
Auch Sicherheitskomponenten von Produkten k\u00f6nnen betroffen sein, z. B. eine KI-Anwendung f\u00fcr die roboterassistierte Chirurgie. Im Bereich des deutschen Arbeitsrechts, der Besch\u00e4ftigung von Arbeitnehmern, dem Personalmanagement sowie beim Zugang zu selbstst\u00e4ndiger T\u00e4tigkeit kann der Einsatz von KI mit Risiken der Stufe 2 verbunden sein (Beispiel: Software zur Auswertung von Lebensl\u00e4ufen f\u00fcr Einstellungsverfahren). Bei wichtigen privaten oder \u00f6ffentlichen Dienstleistungen sollen ebenfalls erh\u00f6hte Sicherheitsanforderungen gelten (Beispiel: Pr\u00fcfung der Kreditw\u00fcrdigkeit).<\/p>\n\n\n\n
Bei der Strafverfolgung gilt Stufe 2, wenn in die Grundrechte der Menschen eingegriffen werden k\u00f6nnte (Beispiel: Bewertung der Verl\u00e4sslichkeit von Beweismitteln). F\u00fcr Anwendungen im Zusammenhang mit Migration, Asyl und Grenzkontrollen, z. B. bei der \u00dcberpr\u00fcfung der Echtheit von Reisedokumenten, gelten ebenfalls hohe Sicherheitsanforderungen. Schlie\u00dflich fallen auch KI-Anwendungen in der Rechtspflege und bei demokratischen Prozessen in diese Kategorie (Beispiel: Anwendung der Rechtsvorschriften auf konkrete Sachverhalte).<\/p>\n\n\n\n
In den genannten Bereichen der Risikostufe 2 ist die Nutzung der k\u00fcnstlichen Intelligenz nicht per se verboten, an die Verwendung werden jedoch (berechtigterweise) hohe Anforderungen gestellt. Ein Fehler bzw. sogar der Missbrauch dieser Systeme ist nie ganz auszuschlie\u00dfen. Deshalb m\u00fcssen stetige Kontrollen erfolgen und entsprechende Sicherheitsvorkehrungen zur Gefahrenabwehr gew\u00e4hrleistet sein. Dies kann f\u00fcr Regelungen zur k\u00fcnstlichen Intelligenz im Arbeitsrecht Bedeutung erlangen.<\/p>\n\n\n\n
<\/p>\n\n\n\nStufe 3: Geringes Risiko<\/h2>\n\n\n\n
<\/p>\n\n\n\nStufe 4: Minimales Risiko<\/h2>\n\n\n\n
<\/p>\n\n\n\nWie erfolgt die Kontrolle der Normen in der Praxis?<\/h2>\n\n\n\n
<\/p>\n\n\n\nWelche praktischen Auswirkungen hat die KI-Regulierung?<\/h2>\n\n\n\n
Daraus ergibt sich die Frage, ob Innovationen k\u00fcnstlicher Intelligenz politischer Regulierung bed\u00fcrfen und wenn ja, inwieweit. Die EU-Kommission hat diese grunds\u00e4tzliche Frage mit dem vorliegenden Beschluss bejaht \u2013 was nicht \u00fcberrascht, da der Kommission eine gewisse Neigung zur Regulierung s\u00e4mtlicher Lebensbereiche nachgesagt wird.
Sollte der vorliegende Beschluss in mittelbar oder unmittelbar geltendes Recht umgesetzt werden, wird aus Arbeitgebersicht darauf zu achten sein, dass die auferlegten Kontroll- und Sicherheitsmechanismen nicht auch Innovationen verhindern, die gesamtgesellschaftlich w\u00fcnschenswert w\u00e4ren, weil ihnen zahlreiche Chancen innewohnen. Denn nach dem bisherigen Stand ist eine erhebliche Regulierung s\u00e4mtlicher Ma\u00dfnahmen k\u00fcnstlicher Intelligenz mit Bezug zum deutschen Arbeitsrecht zu erwarten.
<\/p>\n\n\n\nIch nutze KI-Systeme \u2013 besteht f\u00fcr mich Handlungsbedarf?<\/h2>\n\n\n\n