Mit dem EU AI Act wird die Nutzung von künstlicher Intelligenz (KI) in Europa erstmals umfassend reguliert. Daraus ergeben sich für Unternehmen neue Pflichten und Verantwortungsbereiche: Speziell das Management ist gefordert, die gesetzlichen Vorgaben für den rechtssicheren Einsatz von KI-Systemen frühzeitig zu berücksichtigen und in den Unternehmensalltag zu integrieren.
Die wichtigsten KI-relevanten Regularien im Überblick
Die Europäische Union verfolgt mit dem AI Act das Ziel, Innovation, Vertrauen und Sicherheit im Umgang mit künstlicher Intelligenz zu fördern. Neben dieser neuen Verordnung sind auch der Cyber Resilience Act (CRA), die Datenschutz-Grundverordnung (DSGVO), die aktualisierte NIS2-Richtlinie sowie die geplante Produkthaftungsrichtlinie für Unternehmen von Bedeutung. Sie alle adressieren unterschiedliche Facetten des Einsatzes von KI-Lösungen.
EU AI Act
Mit dieser KI-Verordnung hat die EU einen Meilenstein geschaffen, der einheitliche Standards für die Entwicklung, Einführung und Überwachung von KI-Anwendungen festlegt. Das Regelwerk differenziert zwischen verschiedenen Risikostufen – von «verbotenen» bis hin zu «minimalen» Risiken – und verlangt bei Hochrisiko-Anwendungen detaillierte Dokumentationen als Transparenzbasis.
Anbieter sowie Betreiber von Produkten im EU-Raum stehen in der Pflicht, eine KI-Konformitätserklärung abzugeben, die jederzeit die Einhaltung aller Vorgaben dokumentiert. Verstösse können nicht nur finanzielle Sanktionen, sondern auch rechtliche Konsequenzen nach sich ziehen. Unternehmen, die nur in der Schweiz agieren, sind vom AI Act nicht betroffen.
Cyber Resilience Act (CRA)
Mit dem CRA adressiert die EU die wachsenden Gefahren durch Cyberangriffe. Unternehmen müssen die digitale Resilienz ihrer Produkte, Services und damit auch ihrer KI-Anwendungen gewährleisten. Die IT-Sicherheitsverordnung der EU umfasst die technischen Schutzmassnahmen und die fortlaufende Überwachung und Behebung potenzieller Schwachstellen. Auch Softwarehersteller und -anbieter werden dadurch ausdrücklich in die Verantwortung für ihre Cybersecurity genommen.
Whitepaper
Was Hersteller von Connected Devices jetzt wissen müssen
Erfahren Sie, wie der neue EU Cyber Resilience Act die Anforderungen für Hersteller von vernetzten Geräten verändert.
DSGVO und KI
Auch weiterhin gilt: Wo personenbezogene Daten verarbeitet werden, hat der Datenschutz höchste Priorität. Automatisierte Entscheidungsfindung und Profiling sind nur unter strengen Auflagen zulässig. Unternehmen sind verpflichtet, umfassende Transparenz zu schaffen und die Rechte der betroffenen Personen konsequent zu wahren. Datenschutz-Folgenabschätzungen gehören bei der Einführung neuer KI-Projekte zum Standardrepertoire.
NIS2-Richtlinie
Mit der aktualisierten NIS2-Richtlinie werden die Vorgaben für Cybersicherheit in kritischen Infrastrukturen und bestimmten Wirtschaftsbereichen deutlich verschärft. Unternehmen in Sektoren wie Energie, Gesundheit oder Transport unterliegen erhöhten Anforderungen an Vorbeugung, Reaktion und Meldepflichten. KI-Systeme, die in diesen Umgebungen zum Einsatz kommen, müssen entsprechend robust und regelkonform gestaltet werden.
Produkthaftung und branchenspezifische Vorschriften
Die Überarbeitung der Produkthaftungsrichtlinie bezieht erstmals auch intelligente Systeme ein: Wer fehlerhafte KI-Lösungen vertreibt oder betreibt, kann künftig für daraus resultierende Schäden haftbar gemacht werden. Zusätzlich gelten je nach Branche – etwa im Finanzsektor oder bei Medizinprodukten – weitere spezifische Anforderungen, die Unternehmen beachten müssen.
bbv Academy zu EU-Regeln
Machen Sie Ihr Team fit für den CRA
Die EU erlässt verschiedene Gesetze zu Cybersecurity. Das betrifft besonders Produktentwickler:innen. Mit diesem Kurs erhalten sie den Durchblick.
Warum Führungskräfte jetzt aktiv werden müssen
Die neuen Vorschriften bedeuten eine erhebliche Ausweitung der Verantwortlichkeiten für das Management.
Typische Herausforderungen für Führungskräfte:
- Einhalten aller relevanten gesetzlichen Vorgaben beim Einsatz von KI-Technologien
- Überwachung und Bewertung neuer Haftungsrisiken sowie Ausbau interner Prüfmechanismen
- Anpassung von Prozessen, Verantwortlichkeiten und Kontrollsystemen
- Entwicklung und Umsetzung einer effektiven KI-Governance im Unternehmen
Handlungsfelder für eine nachhaltige KI-Compliance
Um die KI-Regulierung der EU effizient und zukunftssicher umzusetzen, empfiehlt es sich, die folgenden Bereiche besonders in den Blick zu nehmen:
1. KI-Governance gezielt etablieren
Ein strukturiertes Modell für die Steuerung von KI-Anwendungen ist elementar. Dazu zählen klar definierte Zuständigkeiten, verbindliche Freigabeprozesse und die Integration rechtlicher Vorgaben in interne Richtlinien.
2. Risiken erkennen und bewerten
Jede KI-Anwendung sollte nach ihrer Risikokategorie gemäss AI Act klassifiziert und regelmässig überprüft werden. Frühzeitige Risikoanalysen schaffen Transparenz und bilden die Grundlage für regelkonformes Handeln.
3. Technische und organisatorische Massnahmen festlegen
Datenschutz, IT-Sicherheit, Monitoring und umfassende Dokumentation sind unerlässlich. Sämtliche Vorkehrungen sollten kontinuierlich auf Aktualität und Wirksamkeit geprüft sowie an neue Anforderungen angepasst werden.
4. Lieferkette und Drittanbieter einbeziehen
Externe Partner, Lieferanten und verwendete Datenquellen sind in das KI-Compliance-Konzept einzubinden. Die Vertragsgestaltung und das Lieferantenmanagement müssen den gesetzlichen Regularien entsprechen, um Haftungsrisiken zu minimieren.
5. Kompetenzen und Bewusstsein fördern
Regelmässige Schulungen und interne Informationsmassnahmen sorgen dafür, dass alle Mitarbeitenden über die aktuellen regulatorischen Vorgaben und ihre Bedeutung informiert sind.
Workshop
Sichern Sie Ihre Compliance und minimieren Sie KI-Risiken
Compliance-Falle KI? Als CEO oder GL-Mitglied tragen Sie die Verantwortung. Dieser exklusive Kurs deckt Compliance-Anforderungen im Umgang mit KI auf.
Regulierung als strategischer Vorteil
Die KI-Regularien des AI Act bedeuten für Unternehmen nicht nur neue Herausforderungen, sondern auch neue Chancen:
- Möglichkeit, sich als verantwortungsvoller Marktteilnehmer zu positionieren
- Aufbau von Vertrauen bei Kunden und Geschäftspartnern
- Sicheres und skalierbares Innovationsmanagement
Handeln Sie jetzt mit bbv an Ihrer Seite
Bereiten Sie Ihr Unternehmen auf die Zukunft der künstlichen Intelligenz vor. bbv unterstützt Sie mit fundierter KI-Strategieberatung, zielgerichteter Risikobewertung, praxisorientierter Implementierung und spezialisierten KI-Workshops für CEOs.
Kontaktieren Sie uns und erfahren Sie, wie Sie mit passgenauen Lösungen und innovativen Methoden Ihr Unternehmen rechtssicher und nachhaltig in die Zukunft führen.
DAS KÖNNTE SIE AUCH INTERESSIEREN
Erfolgsfaktor Zeit: Freiräume für Innovationskraft schaffen
Die Ambitionslücke zwischen Führung und Mitarbeitenden: Strategien für eine gemeinsame KI-Vision
Wie Unternehmen mit einer fundierten Datenstrategie KI zum Gamechanger machen
