Der EU AI Act tritt in Kraft. Das bedeutet das EU KI-Gesetz für Sie

Hier erfahren Sie, was Sie wissen müssen.

Das EU-KI-Gesetz unterteilt die Nutzung von KI in vier Risikostufen, die die rechtliche Behandlung bestimmen.

1 Unannehmbares Risiko

Die erste - und wohl wichtigste - Stufe ist ein inakzeptables Risiko. Dies bedeutet, dass ein KI-System eine Bedrohung für die Menschen und ihre Grundrechte darstellt und gegen die Werte der EU verstößt. Es überrascht nicht, dass KI-Systeme, die als “inakzeptabel” eingestuft werden, verboten sind. Beispiele hierfür sind KI-Systeme, die Social Scoring ermöglichen. Diese kategorisieren Menschen anhand persönlicher Merkmale oder sozioökonomischer Faktoren. Andere Beispiele nutzen die biometrische Identifizierung. Einige Ausnahmen gibt es nur für Strafverfolgungszwecke.

2 Hohes Risiko

Systeme, die sich negativ auf die Grundrechte auswirken können, werden als hochriskant eingestuft und in zwei Kategorien unterteilt: Systeme, die in Produkten verwendet werden, die unter die EU-Rechtsvorschriften zur Produktsicherheit fallen (z. B. Luftfahrt oder Medizinprodukte), und Systeme, die in einer Datenbank registriert werden müssen (z. B. Systeme, die für die Strafverfolgung oder die Verwaltung von Migration, Asyl und Grenzkontrollen verwendet werden).

3 Begrenztes Risiko/Transparenzrisiko

Die Nutzer müssen wissen, wann sie mit KI interagieren. Daher müssen Anwendungen, die für Manipulationen anfällig sind, wie Chatbots oder Deepfakes, transparent sein und dem EU-Urheberrecht entsprechen.

4 Minimales Risiko

Anwendungen, die nicht unter die drei oben genannten Kategorien fallen, werden als “minimales” Risiko eingestuft und können auf der Grundlage der bestehenden Rechtsvorschriften ohne zusätzliche rechtliche Anforderungen entwickelt und verwendet werden. Wichtig zu beachten: Nur weil etwas jetzt als minimales Risiko eingestuft ist, bedeutet das nicht, dass sich die Einstufung in Zukunft nicht ändern kann.

Die Verordnung umreißt zwei spezifische risikoreiche Anwendungsfälle für den Finanzdienstleistungssektor. Der erste ist der Einsatz von KI zur Bewertung der Kreditwürdigkeit einer Person. Der zweite ist der Einsatz von KI bei der Preisgestaltung von Lebens- oder Krankenversicherungen.

Für wen gilt das EU-KI-Gesetz?

Natürlich wird die Verordnung für alle 27 Mitgliedstaaten der Europäischen Union gelten. Entscheidend ist, dass die Verordnung auch für Unternehmen mit Sitz außerhalb der EU gilt, wenn das KI-System in der EU angeboten wird oder sich auf Menschen in der EU auswirkt.

Das führt zu einer zusätzlichen Ebene der Komplexität, wie Andrew Ye, Anlagestratege bei Global X ETFs, anmerkt.

“Außereuropäische Unternehmen könnten vor erheblichen Anpassungsproblemen stehen, weil die extraterritorialen Bestimmungen des Gesetzes von jedem Unternehmen, das auf EU-Märkten tätig ist, die Einhaltung der Vorschriften verlangen”, sagt er. “Jüngste Durchsetzungsmaßnahmen gegen neuere KI-Akteure aus verschiedenen EU-Ländern, einschließlich App-Verboten und Datenschutzuntersuchungen, zeigen eine strenge grenzüberschreitende Durchsetzung. Diese Fälle verdeutlichen die Besorgnis der Aufsichtsbehörden über undurchsichtige KI-Trainingsdatenpraktiken und die Einhaltung der Rechtsprechung, was möglicherweise zu strengeren internationalen Datentransferregeln führen wird.”

Was sagen die professionellen Anleger?

Auch wenn die Entwicklung noch in den Kinderschuhen steckt, weisen europäische Fondsmanager auf drei wichtige Aspekte hin, die es zu beachten gilt: die Gesetzgebung in der Praxis, die Auswirkungen auf die Innovation und die potenziellen Chancen.

Dan Smith, leitender Aktienanalyst bei Canaccord Wealth, sieht zwei wesentliche Herausforderungen für Mega-Cap-Tech-Unternehmen. “Beschränkungen für den Einsatz von KI könnten die Nachfrage nach KI-Chips, Cloud Computing und KI-gesteuerter Software dämpfen, was das künftige Umsatzwachstum möglicherweise einschränken könnte. Zweitens werden die Kosten für die Einhaltung von Vorschriften im Zusammenhang mit der Dokumentation und Prüfung Druck auf die Margen ausüben, was die Gewinnaussichten in diesem Sektor weiter erschwert. Die sind ohnehin schon schwierig angesichts höherer Abschreibungskosten im Zusammenhang mit den beträchtlichen Kapitalinvestitionen, die für die KI-Infrastruktur erforderlich sind”, stellt er fest.

“Kurzfristig ist das größte Hindernis für die KI-Expansion jedoch nicht die Regulierung, sondern die Kapazitätsbeschränkungen, insbesondere die begrenzte Verfügbarkeit von GPUs und Rechenleistung. Da die KI-Nachfrage derzeit das Angebot übersteigt, dürfte jede Verlangsamung bei der Einführung in der EU durch eine stärkere Nachfrage aus anderen Regionen ausgeglichen werden, zumindest kurzfristig.

David Winborne, Co-Portfoliomanager des Impax Global Equity Opportunities Fund, sagt, dass nicht nur Unternehmen mit großer Marktkapitalisierung vor Herausforderungen stehen.

“Die Auswirkungen des EU-KI-Gesetzes sind für kleinere europäische KI-Entwickler am größten. Das liegt zum Teil daran, dass größere Unternehmen wie Microsoft MSFT bereits über gründliche Kontrollen ihrer KI-Lösungen verfügen, so dass nur minimale zusätzliche Betriebskosten anfallen würden, zumal sich US-Firmen einfach dafür entscheiden könnten, in der EU ansässigen Unternehmen keine “nicht konformen” Lösungen anzubieten. Unternehmen wie das französische Start-up-Unternehmen Mistral AI werden wahrscheinlich stärker von den Anforderungen betroffen sein, was das Wachstum bremsen könnte."

Martin Hermann, leitender Portfoliomanager für globale Aktien bei Berenberg Asset Management, merkt an, dass die Beschränkungen zwar die KI-Entwicklung in der EU bremsen könnten, vor allem in einer Zeit, in der US-Unternehmen wie OpenAI, Google und Anthropic hochmoderne KI-Modelle entwickeln, es aber auch einen Silberstreifen am Horizont gibt.

“Das EU-KI-Gesetz schafft Chancen für Unternehmen, die sich auf vertrauenswürdige KI, Erklärbarkeit und KI-Sicherheit spezialisiert haben. Außerdem verbietet das Gesetz KI-Modelle, die die Sicherheit, den Lebensunterhalt und die Rechte der Menschen bedrohen”, sagt er. “Große Unternehmen mit Ressourcen wie SAP, Siemens und europäische KI-Labore könnten von einer frühzeitigen Einhaltung der Vorschriften und aufsichtsrechtlichen KI-Lösungen profitieren.”

Gilt das EU-Gesetz über künstliche Intelligenz auch für das Vereinigte Königreich?

Ja. Britische Unternehmen, die ein KI-System entwickeln oder nutzen, das in der EU verwendet wird, unterliegen der Verordnung.

Im Vergleich zum risikobasierten Ansatz der EU bei der KI-Regulierung hat das Vereinigte Königreich einen so genannten "Pro-Innovationsansatz" zur Regulierung gewählt. Was bedeutet das? Im Wesentlichen gibt es derzeit keine Pläne zur Einführung neuer Vorschriften. Stattdessen werden die bestehenden Regulierungsbehörden berücksichtigen müssen, wie KI-Systeme geschaffen und genutzt werden.

Am 13. Januar 2025 kündigte die Labour-Regierung an, dass sie ihre Bemühungen um den Einsatz von KI zur Steigerung der Produktivität und des Wachstums des Bruttoinlandsprodukts durch einen 50-Punkte-Plan verstärken werde. Die Ankündigung beinhaltete eine Investition in Höhe von 14 Milliarden Pfund von drei großen Technologieunternehmen, um die notwendige Infrastruktur in Großbritannien zu entwickeln und 13.250 Arbeitsplätze in diesem Sektor zu schaffen. Dies kommt zu einer bereits angekündigten Investition von 25 Milliarden Pfund hinzu. Der Plan konzentriert sich zwar auf die KI-Infrastruktur und die Rolle der KI im öffentlichen Dienst, enthält aber keinen Plan für die Regulierung.

Wann tritt der EU AI Act in Kraft?

Die Einführung des EU-Gesetzes über künstliche Intelligenz aus vielen Schritten. Hier ist eine Zeitleiste mit den wichtigsten Daten:

• April 2021 - Die Europäische Kommission schlägt den ersten EU-Rechtsrahmen für KI vor.
• März 2024 -Das EU-Parlament verabschiedet das Gesetz über künstliche Intelligenz. 
• Mai 2024 - Der Europäische Rat billigt das KI-Gesetz. 
• Juni 2024 - Die Gesetzgeber der Europäischen Union unterzeichnen den Rechtsakt. 
• 1. August 2024 - Das EU-KI-Gesetz tritt in allen 27 EU-Mitgliedstaaten in Kraft.
• 1. August 2026 - Nach einer zweijährigen Umsetzungsfrist wird die Verordnung vollständig anwendbar sein.

Wie bei allen komplexen Rechtsvorschriften gibt es einige Ausnahmen, wobei einige Vorschriften früher in Kraft treten:

• 2. Februar 2025 - KI-Systeme, die als “inakzeptables Risiko” eingestuft werden, werden verboten.
• 2. Mai 2025 - Die Anbieter von KI-Systemen werden ihre Verhaltenskodizes bereithalten, um zu zeigen, dass sie die Compliance-Anforderungen erfüllen werden.
• 2. August 2027 - Systeme mit hohem Risiko haben mehr Zeit, um die Rechtsvorschriften zu erfüllen.

Die Rolle der KI bei Finanzdienstleistungen

Ende letzten Jahres führten die Bank of England und die Financial Conduct Authority eine Umfrage zu künstlicher Intelligenz und maschinellem Lernen in britischen Finanzdienstleistungen durch. Die Ergebnisse zeigten, dass 75% der Unternehmen bereits KI einsetzen, während weitere 10% planen, KI innerhalb der nächsten drei Jahre einzuführen.

KI ist heute allgegenwärtig, und sie wird nicht verschwinden. Während die Debatte über das Ausmaß weitergeht, in dem KI in unserem Leben eine Rolle spielen wird, gibt es potenzielle Vorteile für Finanzmarktteilnehmer, die bereit sind, KI auszuprobieren.

• Automatisierung - Wenn es um manuelle oder sich wiederholende Aufgaben geht, kann KI eine enorme Zeitersparnis bedeuten. Ein Beispiel ist die automatisierte Datenaggregation. Durch die Zusammenführung großer Datenmengen gewinnen Berater, Vermögensverwalter und Asset Manager mehr Zeit, um sich auf sinnvollere Aufgaben zu konzentrieren.
• Analyse - KI kann ein nützliches Analyseinstrument sein, um schnell Erkenntnisse zu gewinnen. Beispielsweise kann die Sentiment-Analyse dabei helfen, die Stimmung auf dem Markt zu beobachten, so dass Analysten Veränderungen im Voraus erkennen können.
• Erkennung von Anomalien - KI eignet sich hervorragend für die Suche nach Mustern und Ausreißern und könnte daher ein leistungsstarkes Instrument zur Betrugsbekämpfung sein.
• Personalisierung - Dank der Fortschritte bei der Verarbeitung natürlicher Sprache können Manager und Berater Tools wie Chatbots einsetzen, um die Kundenkommunikation zu verbessern, personalisierte Nachrichten zu übermitteln, mehr über die Ziele und die Risikotoleranz eines Kunden zu erfahren und möglicherweise die Abwanderung von Kunden zu verhindern.  
• Kostensenkung - Dank der oben genannten Faktoren hat KI das Potenzial, Kosten zu senken, den ROI zu erhöhen und die Produktivität zu steigern (wenn sie effektiv eingesetzt wird).

Was kommt als Nächstes?

Wie Alison Porter, Portfoliomanagerin im Global Technology Leaders Team bei Janus Henderson Investors, anmerkt, besteht noch immer Unsicherheit darüber, wie die Gesetzgebung angewendet und durchgesetzt wird.

“Der risikobasierte Ansatz des EU-KI-Gesetzes ist weltweit auf breite Zustimmung gestoßen. Aber er ist immer noch sehr theoretisch und hat keine richtigen Parameter um sich herum. Wir haben noch keinen Haftungsteil des Gesetzes, der vielleicht nicht zum Tragen kommt, und es gibt noch keinen Verhaltenskodex”, sagt sie. “Es wurden zwar Bereiche mit unterschiedlichen Risikoklassifizierungen festgelegt, aber wir haben noch keine wirklichen Richtlinien darüber, was genau dazu gehört oder wie verschiedene KI-Anwendungen zusammenwirken könnten. Es ist einfach noch zu früh und zu weit gefasst, um aus einer Investmentperspektive irgendwelche Schlüsse zu ziehen.”

Ein hoher Preis für die Nichteinhaltung von Vorschriften

Während wir auf die vollständige Einführung warten, sollte als erstes geprüft werden, ob alle KI-bezogenen Aktivitäten in die Kategorien “inakzeptabel” oder “hohes Risiko” fallen. Die Kosten für die Nichteinhaltung der Vorschriften sind atemberaubend - 35.000.000 EUR oder bis zu 7% des gesamten weltweiten Jahresumsatzes eines Unternehmens im vorangegangenen Geschäftsjahr, je nachdem, welcher Betrag höher ist. Ganz zu schweigen von dem potenziellen Reputationsrisiko.

Während das EU-KI-Gesetz schrittweise eingeführt wird, ist es auch wichtig zu verfolgen, wie außereuropäische Länder die KI-Regulierung angehen. In den USA - dem weltweit führenden Land im Bereich der KI-Technologien - signalisiert die neue Trump-Regierung mit ihrem Fokus auf Deregulierung eine grundlegende Abkehr vom Ansatz der früheren Biden-Regierung.

David Winborne kommentiert: “Die positiven Auswirkungen der Verordnung auf die KI-Sicherheit werden letztlich von der Durchsetzung in den EU-Mitgliedstaaten abhängen, die sich im Fall der DSGVO als ungleichmäßig erwiesen hat. Da das EU-KI-Gesetz ab diesem Monat schrittweise in Kraft tritt, wird es außerdem wahrscheinlich ein Thema in den amerikanisch-europäischen Handelsverhandlungen sein, da die Gesetzgebung über das Territorium hinausgeht.”

Möchten Sie mehr erfahren?

Laden Sie Morningstars kostenlosen Leitfaden zur Künstlichen Intelligenz herunter, um mehr über KI zu erfahren - von Anwendungsfällen und Schlüsselterminologie bis hin zu regionenspezifischen Vorschriften und KI-bezogenen Herausforderungen.

Christopher Johnson hat zu diesem Artikel beigetragen.

Der Autor/Autorin oder die Autoren besitzen keine Aktien der in diesem Artikel erwähnten Wertpapiere. Informieren Sie sich über die Redaktions-Richtlinien von Morningstar.