Europäisches Parlament, Pressemitteilung REF: 20240308IPR19015 vom 13.03.2024

• Garantien für künstliche Intelligenz mit allgemeinem Verwendungszweck
• Beschränkung der Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden
• Verbot des Einsatzes von KI, um soziales Verhalten zu bewerten, Menschen zu beeinflussen oder ihre Schwächen auszunutzen
• Verbraucherrecht auf Einreichen von Beschwerden und auf aussagekräftige Erklärungen

Am Mittwoch gab das Parlament grünes Licht für das Gesetz über künstliche Intelligenz. Es soll für Sicherheit und die Achtung der Grundrechte sorgen und Innovationen fördern.

Die Abgeordneten nahmen die Verordnung mit 523 zu 46 Stimmen bei 49 Enthaltungen an. Auf den Text hatten sich Parlament und Rat im Dezember 2023 geeinigt.

Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen.

Verbotene Anwendungen

Die neuen Vorschriften verbieten bestimmte KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger bedrohen. Dazu zählen unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Auch vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht, und der Einsatz von künstlicher Intelligenz, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nach den neuen Regeln nicht erlaubt.

Ausnahmen für Strafverfolgungsbehörden

Grundsätzlich ist die Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden verboten. Es gibt jedoch bestimmte ausführlich beschriebene und eng abgegrenzte Ausnahmefälle. Fernidentifizierung in Echtzeit ist nur dann erlaubt, wenn strenge Sicherheitsbestimmungen eingehalten werden – unter anderem gibt es zeitliche und räumliche Beschränkungen, und es muss vorab eine spezielle behördliche oder gerichtliche Genehmigung eingeholt werden. Entsprechende Systeme dürfen beispielsweise genutzt werden, um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern. Der Einsatz von KI-Systemen zur nachträglichen Fernidentifizierung gilt als hochriskant. Hierfür ist eine gerichtliche Genehmigung nötig, die mit einer Straftat in Verbindung stehen muss.

Verpflichtungen für Hochrisikosysteme

Auch für andere Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen, denn sie können eine erhebliche Gefahr für Gesundheit, Sicherheit, Grundrechte, die Umwelt, Demokratie und den Rechtsstaat darstellen. Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden. Auch KI-Systeme, die für grundlegende private und öffentliche Dienstleistungen – etwa im Gesundheits- oder Bankwesen –, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen (zum Beispiel zur Beeinflussung von Wahlen) genutzt werden, gelten als hochriskant. Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. Die Bevölkerung hat künftig das Recht, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf der Grundlage hochriskanter KI-Systeme getroffen wurden und ihre Rechte beeinträchtigen.

Transparenzanforderungen

KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten, gelten künftig zusätzliche Anforderungen – etwa müssen Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und Vorfälle gemeldet werden.

Darüber hinaus müssen künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) in Zukunft eindeutig als solche gekennzeichnet werden.

Maßnahmen zur Förderung von Innovationen und KMU

In den Mitgliedstaaten müssen Reallabore eingerichtet und Tests unter realen Bedingungen durchgeführt werden. Diese müssen für kleine und mittlere Unternehmen sowie für Start-ups zugänglich sein, damit sie innovative KI-Systeme entwickeln und trainieren können, bevor sie auf den Markt kommen.

Zitate

Während der Plenardebatte am Dienstag sagte der Ko-Berichterstatter des Binnenmarktausschusses, Brando Benifei (S&D, IT): „Endlich haben wir das weltweit erste verbindliche Gesetz zur künstlichen Intelligenz, um Risiken zu reduzieren, Chancen zu schaffen, Diskriminierung zu bekämpfen und Transparenz zu gewährleisten. Dank des Parlaments werden inakzeptable KI-Praktiken in Europa verboten und die Rechte von Arbeitnehmern und Bürgern geschützt werden. Das Europäische Amt für künstliche Intelligenz wird nun eingerichtet, um Unternehmen bei der Einhaltung der Vorschriften zu unterstützen, bevor diese in Kraft treten Wir haben durchgesetzt, dass bei der Entwicklung künstlicher Intelligenz der Mensch sowie die europäischen Werte im Vordergrund stehen.“

Der Mitberichterstatter des Ausschusses für bürgerliche Freiheiten Dragos Tudorache (Renew, RO) sagte: „Die EU hat geliefert. Wir haben es geschafft, das Konzept der künstlichen Intelligenz mit den grundlegenden Werten zu verknüpfen, die das Fundament unserer Gesellschaften bilden. Allerdings steht uns noch ein langer Weg bevor, der weit über das KI-Gesetz hinausreicht. Künstliche Intelligenz wird uns zwingen, den Gesellschaftsvertrag neu zu denken – ein Vertrag, der im Kern unserer Demokratien, unserer Bildungssysteme, unserer Arbeitsmärkte und in der Art und Weise, wie wir Kriege führen, steht. Das KI-Gesetz ist ein Ausgangspunkt für ein neues Modell des Regierens, das auf Technologie aufbaut. Wir müssen uns jetzt darauf konzentrieren, dieses Gesetz in die Praxis umzusetzen“.

Nächste Schritte

Die Verordnung wird nun von Rechts- und Sprachsachverständigen abschließend überprüft. Sie dürfte noch vor Ende der Wahlperiode im Rahmen des sogenannten Berichtigungsverfahrens angenommen werden. Auch muss der Rat die neuen Vorschriften noch förmlich annehmen.

Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar. Die Ausnahmen sind Verbote sogenannter verbotener Praktiken, die bereits sechs Monate nach Inkrafttreten gelten, Verhaltenskodizes (sie gelten neun Monate nach Inkrafttreten), Regeln für künstliche Intelligenz mit allgemeinem Verwendungszweck, einschließlich Governance, (zwölf Monate nach Inkrafttreten) und Verpflichtungen für Hochrisikosysteme (36 Monate nach Inkrafttreten).

Hintergrund

Das Gesetz über künstliche Intelligenz ist eine direkte Antwort auf die Vorschläge der Bürgerinnen und Bürger der Konferenz zur Zukunft Europas (COFOE), insbesondere auf den Vorschlag 12(10) zur Stärkung der Wettbewerbsfähigkeit der EU in strategischen Sektoren, den Vorschlag 33(5) zu einer sicheren und vertrauenswürdigen Gesellschaft, einschließlich der Bekämpfung von Desinformation und der Gewährleistung, dass letztlich der Mensch die Kontrolle hat, Vorschlag 35 zur Förderung der digitalen Innovation (3) unter Gewährleistung der menschlichen Kontrolle und (8) vertrauenswürdige und verantwortungsvolle Nutzung von KI, Festlegung von Schutzmaßnahmen und Gewährleistung von Transparenz sowie Vorschlag 37 (3) zur Nutzung von KI und digitalen Werkzeugen zur Verbesserung des Zugangs der Bürgerinnen und Bürger zu Informationen, einschließlich Menschen mit Behinderungen.

Die Bundesregierung hat am 13.03.2024 den vom BMJ vorgelegte Entwurf eines „Vierten Gesetzes zur Entlastung der Bürgerinnen und Bürger, der Wirtschaft sowie der Verwaltung von Bürokratie“ (BEG IV) beschlossen.

Der Regierungsentwurf sieht insbesondere folgende Neuerungen vor:

• Aufbewahrungsfristen sollen verkürzt werden: Die handels- und steuerrechtlichen Aufbewahrungsfristen für Buchungsbelege wie z.B. Rechnungskopien, Kontoauszüge und Lohn- und Gehaltslisten sollen von zehn auf acht Jahre verkürzt werden. Die Unternehmen können die Belege daher früher als bisher entsorgen und sparen dadurch erhebliche Aufbewahrungskosten.
• Zentrale Vollmachtsdatenbank für steuerberatende Berufe: Steuerberater können künftig Generalvollmachten im Bereich der sozialen Sicherung zentral hinterlegen.
• Hotelmeldepflicht soll abgeschafft werden: Die Hotelmeldepflicht für deutsche Staatsangehörige wird abgeschafft.
• Schriftformerfordernisse sollen reduziert werden: Im BGB sollen Schriftformerfordernisse zu Textformerfordernissen herabgestuft werden, soweit dies angemessen und sachgerecht ist. Anders als die Schriftform setzt die Textform keine eigenhändige Unterschrift voraus: Beispielsweise reichen auch eine E-Mail, eine SMS oder eine Messenger-Nachricht aus. Entsprechende Herabstufungen sind unter anderem im Vereinsrecht und im Gesellschaftsrecht geplant. So sollen Vereinsmitglieder ihre Zustimmung zu einem Beschluss, der ohne Mitgliederversammlung gefasst wurde, künftig auch in Textform erklären können. Auch sollen GmbH-Gesellschafter – bei Beschlüssen außerhalb einer Versammlung – ihre Stimme in Textform abgeben können, wenn sämtliche Gesellschafter damit einverstanden sind. Zudem sollen Schriftformerfordernisse im Schuldverschreibungsgesetz sowie im Depotgesetz herabgestuft werden.
• Öffentliche Versteigerungen auch online möglich: Die Möglichkeiten, öffentliche Versteigerungen durchzuführen, sollen erweitert werden. Künftig sollen sie wahlweise auch online per Live-Stream oder in hybrider Form (vor Ort und online) stattfinden können.
• Die Fluggastabfertigung kann künftig auch digital erfolgen. Hierdurch werden die Abläufe am Flughafen beschleunigt. Zum Zweck der digitalen Fluggastabfertigung können mit ausdrücklicher Einwilligung des Reisenden, bestimmte Daten aus dem Reisepass ausgelesen werden.
• Die Äußerungsfirst bei Öffentlichkeitsbeteiligungen in Zulassungsverfahren mit Umweltverträglichkeitsprüfung, in denen aufgrund von Änderungen des Vorhabens eine erneute Beteiligung der Öffentlichkeit erforderlich ist, soll angemessen verkürzt werden können.

Hinweis:

Das Gesetz bedarf der Zustimmung von Bundestag und Bundesrat. Der Regierungsentwurf wird nun dem Bundesrat zur Stellungnahme zugeleitet und nach einer Gegenäußerung der Bundesregierung an den Deutschen Bundestag weitergeleitet und dort beraten.

Den Regierungsentwurf finden Sie auf der Homepage des BMJ.

Das BVerfG hat am 13.03.2024 seinen Jahresbericht 2023 veröffentlicht. Darin informiert das Gericht u. a. über die im Jahr 2024 zu erwartenden Entscheidungen von besonderem Interesse.

Nachfolgend eine Auflistung der Verfahren mit steuerrechtlichem Bezug:

• Tübinger Verpackungssteuer: Verfassungsbeschwerde gegen ein Urteil des BVerwG Urteil v. 24.05.2023 – 9 CN 1/22 sowie gegen eine Satzung der Universitätsstadt Tübingen über die Erhebung einer Steuer auf nicht wiederverwertbare Verpackungen (Einwegverpackungen) und nicht wiederverwendbares Geschirr (Einweggeschirr) sowie auf nicht wiederverwendbares Besteck (Einwegbesteck); Az. beim BVerfG: 1 BvR 1726/23 (zum Thema s. Wienbracke, NWB 2/2024 S. 97 sowie unsere Online-Nachricht v. 25.05.2023).
• Erbschaftsteuer auf Privatvermögen: Verfassungsbeschwerde zu der Frage, ob die erbschaft- und schenkungsteuerlichen Begünstigungen beim Übergang betrieblichen Vermögens gem. §§ 13a, 13b, 13c, 19, 19a, 28a des ErbStG 2016 und § 203 BewG mit dem Grundgesetz vereinbar sind oder ob sie Erwerberinnen und Erwerber, für die genannte Normen keine Anwendung finden, in verfassungsrechtlich zu beanstandender Weise benachteiligen; Az. beim BVerfG: 1 BvR 804/22 (s. zum Thema unsere Online-Nachricht v. 12.04.2023).
• Normenkontrollverfahren zur Bewertung: Verfahren zur verfassungsrechtlichen Prüfung, ob § 12 Abs. 3, § 16 Abs. 1 und § 19 Abs. 1 ErbStG, zuletzt geändert durch Art. 8 des Gesetzes vom 16. Juli 2021 (BGBl I S. 2947), mit dem Grundgesetz unvereinbar ist; Az. beim BVerfG: 1 BvF 1/23.
• Normenkontrollverfahren zur Mindestbesteuerung: Aussetzungs- und Vorlagebeschluss des BFH zur Frage, ob die sog. Mindestbesteuerung im Körperschaft- und Gewerbesteuerrecht (§ 8 Abs. 1 KStG 2002 i.V.m. § 10d Abs. 2 Satz 1 EStG 2002 sowie § 10a Satz 2 GewStG 2002) dann gegen den allgemeinen Gleichheitssatz verstößt, wenn ein sogenannter Definitiveffekt eintritt, das heißt wenn es zu einer vollständigen Beseitigung der Verlustabzugsmöglichkeit oder zu einem Ausschluss des Verlustausgleichs kommt; Az. beim BVerfG: 2 BvL 19/14 (s. hierzu Meyer, NWB 38/2014 S. 2824).
• Solidaritätszuschlag: Verfassungsbeschwerde von sechs Mitgliedern des Deutschen Bundestages aus der Fraktion der FDP gegen die Fortführung des Solidaritätszuschlagsgesetzes 1995 (SolZG 1995) in der Fassung der Bekanntmachung vom 15. Oktober 2002 (BGBl I S. 4130), geändert durch Artikel 1 des Gesetzes zur Rückführung des Solidaritätszuschlags 1995 vom 10. Dezember 2019 (BGBl I S. 2115); Az. beim BVerfG: 2 BvR 1505/20 (s. hierzu Rätke, kommentierte Nachricht, BBK 22/2023 S. 990 sowie unsere Online-Nachricht v. 06.03.2024).

Aufwendungsüberschüsse aus der selbständigen Tätigkeit als Steuerberater können ausgleichsfähig sein, sofern eine enge Verzahnung mit seinen Einkünften aus nichtselbständiger Tätigkeit besteht (FG Köln, Urteil v. 19.01.2022 – 5 K 1311/20; Revision anhängig).

Die Befreiung von der Kfz- Steuer kommt auch dann zum Tragen, wenn ein Unternehmer für Gemeinden und Kommunen forstwirtschaftliche Lohnarbeiten ausführt und dafür ein Fahrzeug anschafft, welches ausschließlich zu diesem Zweck genutzt wird (Hessisches FG, Urteil v. 31.10.2023 – 5 K 1499/20; rechtskräftig).

Hintergrund: Nach § 3 Nr. 7 Satz 1 KraftStG ist u.a. das Halten von Zugmaschinen von der Steuer befreit, solange diese Fahrzeuge ausschließlich zur Durchführung von Lohnarbeiten für land- bzw. forstwirtschaftliche Betriebe oder von Land- oder Forstwirten zur Pflege von öffentlichen Grünflächen oder zur Straßenreinigung im Auftrag von Gemeinden oder Gemeindeverbänden verwendet werden.