foto ki designer

Management Summary

Der EU AI Act schafft einen europaweit einheitlichen Rechtsrahmen für den verantwortungsvollen Einsatz von KI und orientiert sich am Risiko der jeweiligen Anwendung.
Seit Februar 2025 sind bestimmte KI-Praktiken mit inakzeptablem Risiko verboten; zugleich müssen Unternehmen KI-Kompetenz bei Mitarbeitenden aufbauen.
Ab August 2026 greifen Transparenzpflichten, etwa wenn Nutzerinnen und Nutzer mit Chatbots oder digitalen Sprachassistenten interagieren.
Für Hochrisiko-KI folgen ab Dezember 2027 strengere Anforderungen, darunter Protokollierung, menschliche Aufsicht, Robustheit, Cybersicherheit und Genauigkeit.
Unternehmen sollten jetzt KI-Systeme inventarisieren, Risikostufen bewerten, interne Richtlinien definieren und Mitarbeitende aktiv in Prüf- und Feedbackprozesse einbinden.

Der EU AI Act wird für Unternehmen zunehmend konkret: Seit August 2026 gelten neue Vorgaben für den Einsatz von KI. Wer beispielsweise Chatbots oder digitale Sprachassistenten einsetzt, muss Nutzerinnen und Nutzer darüber informieren, dass sie mit einer Maschine interagieren. Weitere Regeln, etwa für Hochrisiko-KI, folgen schrittweise. Unternehmen sollten daher frühzeitig ihre KI-Systeme prüfen und Maßnahmen für einen sicheren und vertrauensvollen Einsatz ergreifen.

Der bereits 2024 in Kraft getretene EU AI Act ist ein umfassendes Regelwerk für alle Akteure im Bereich der künstlichen Intelligenz. Dazu zählen Entwickler, Betreiber und Anwender von KI-Systemen. Ziel ist es, den Schutz von Grundrechten, Sicherheit und Vertrauen beim Einsatz von KI zu gewährleisten. Die Verordnung folgt dem Grundsatz »Je höher das Risiko, Grundrechte von Menschen zu verletzen, desto strenger die Regeln« und unterscheidet daher vier Risikoklassen [1].

Für KI-Systeme, die als minimal oder nicht risikobehaftet gelten, beinhaltet der EU AI Act keine verpflichtenden Auflagen oder strengen Regulierungen. Dazu gehören Anwendungen wie KI-fähige Videospiele oder Spamfilter. Jedoch sind Unternehmen ab August 2026 dazu verpflichtet, Menschen bei der Verwendung von KI-Systemen wie Chatbots oder digitalen Sprachassistenten darauf hinzuweisen, dass sie mit einer Maschine interagieren (Transparenzpflicht). KI-Anwendungsfälle, die erhebliche Risiken für die Gesundheit, die Sicherheit oder die Grundrechte von Menschen bergen können, werden als hochriskant eingestuft. Beispiele sind hier der Einsatz von KI bei der Bonitätsprüfung oder der Vorbereitung von Gerichtsurteilen. Entsprechende KI-Systeme unterliegen strengen Pflichten, zu denen die Protokollierung der Aktivitäten zur Gewährleistung der Rückverfolgbarkeit der Ergebnisse, angemessene Maßnahmen der menschlichen Aufsicht, hohe Robustheit, Cybersicherheit und Genauigkeit gehören. Die Regeln für Hochrisiko-KI treten schrittweise ab Dezember 2027 in Kraft. KI-Anwendungen, die die Sicherheit, die Lebensgrundlagen oder die Rechte von Menschen bedrohen, sind bereits seit Februar 2025 verboten (inakzeptables Risiko). Hierzu zählen Manipulation und Täuschung, die schädliche Ausnutzung menschlicher Schwachstellen, Social Scoring und eine individuelle Risikobewertung oder -vorhersage von Straftaten.

Maßnahmen zur Umsetzung

Mit dem EU AI Act wurde erstmals auf Verordnungsebene der Umgang mit KI europaweit einheitlich geregelt. Da einzelne Fristen und Detailregelungen zuletzt durch den sogenannten Digital Omnibus (Verordnung (EU) 2026/1744, seit 27. Juli 2026 in Kraft) angepasst wurden, lohnt sich vor jeder konkreten Umsetzungsmaßnahme ein Blick auf den aktuellen Stand.

Schulen Sie Ihre Mitarbeitenden, denn dazu sind Sie seit Februar 2025 gemäß Artikel 4 des EU AI Acts verpflichtet. müssen angemessene Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Demnach müssen sie sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenzen verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und Schulung der Personen sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen. Der Artikel beinhaltet keine Ausnahmen hinsichtlich der Unternehmensgröße oder der Risikoklasse der KI-Systeme. Um die zitierten Anforderungen umzusetzen, wird empfohlen, abteilungsweise zu schulen. Schließlich unterscheidet sich der Einsatz von KI etwa im Kundenservice (z. B. Chatbots) von dem im Vertrieb (z. B. Lead-Generierung oder Angebotserstellung).
Definieren Sie interne Richtlinien zur Nutzung von KI. Damit kennen Ihre Mitarbeitenden die Leitplanken von KI im Unternehmen. Hilfreich ist ebenso das Aufsetzen und Fortführen von FAQ, worin Vorgehens- und Verhaltensweisen sowie der Umgang mit Daten für die Nutzung durch KI-Systeme verständlich erläutert werden sollten.
Verschaffen Sie sich einen Überblick über die eingesetzten KI-Systeme und erfassen Sie deren Risikostufe. Wenn Sie dabei unsicher sind, lassen Sie sich von einem spezialisierten Unternehmen beraten. Dies ist zugleich eine gute Gelegenheit, den Einsatz von KI-Systemen aus wirtschaftlicher Sicht zu betrachten und ggf. zu optimieren.
Binden Sie Ihre Mitarbeitenden aktiv ein («Human in the Loop«). Wenn diese die Ergebnisse von KI-Systemen prüfen und bei Bedarf korrigieren können, steigt die Akzeptanz der Technologie. Zudem lernen KI-Systeme durch regelmäßiges Feedback dazu, sodass die Ergebnisqualität steigt. Konkret vereint »Human in the Loop« die Leistungsfähigkeit moderner KI mit menschlichem Sachverstand und ethischem Urteilsvermögen. Eine kleine, aber wichtige Randnotiz: Bei KI-Systemen der Klasse »hohes Risiko« sind ab Dezember 2027 Maßnahmen der menschlichen Aufsicht vorgeschrieben.
Wenn Sie ein KI-System aus einem nicht-europäischen Land nutzen, ist es empfehlenswert, einen externen Berater hinzuzuziehen mit Expertise für das jeweilige nationale Recht.

EU AI Act als Chance verstehen

Der EU AI Act ist ein umfassendes Regelwerk und ist, wie bei Verordnungen üblich, teilweise komplex formuliert. Viele Entscheiderinnen und Entscheider fürchten daher, etwas falsch zu machen. Zugleich bestehen generelle Ressentiments gegenüber dem Act. So gaben im Rahmen einer Studie des Digitalverbands Bitkom 56 Prozent der Teilnehmenden an, der europäische AI Act schaffe mehr Nachteile als Vorteile für deutsche Unternehmen [2]. Allerdings ist mit der Verordnung erstmals ein klarer Rechtsrahmen für KI verfügbar, der vorgibt, wie KI-Systeme sicher und verantwortungsvoll eingesetzt werden können. Daher sollte der EU AI Act als Chance betrachtet werden, der mit klaren Regeln Vertrauen schafft, Qualität fördert und gleichzeitig Innovationen langfristig stärkt.

Timur Nurdoğan, Geschäftsführer von Salesfive, www.salesfive.com

[1] https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai#1720699867912-0

[2] https://www.bitkom.org/Presse/Presseinformation/Durchbruch-Kuenstliche-Intelligenz

FAQ

Was ist das Ziel des EU AI Act?
Der EU AI Act soll Grundrechte, Sicherheit und Vertrauen beim Einsatz von KI schützen und gleichzeitig einen verlässlichen Rahmen für Innovation schaffen.

Welche Unternehmen sind betroffen?
Betroffen sind Anbieter, Betreiber und Anwender von KI-Systemen – unabhängig davon, ob KI intern genutzt oder gegenüber Kundinnen und Kunden eingesetzt wird.

Was sollten Unternehmen kurzfristig tun?
Sie sollten KI-Anwendungen erfassen, Risikoklassen prüfen, Mitarbeitende schulen, interne Leitlinien erstellen und Transparenzpflichten für Nutzerinteraktionen vorbereiten.

Warum ist menschliche Aufsicht wichtig?
Menschliche Kontrolle hilft, KI-Ergebnisse fachlich und ethisch einzuordnen, Fehler zu erkennen und die Akzeptanz der Technologie im Unternehmen zu erhöhen.

Welche Pflichten gelten für Chatbots und digitale Assistenten?
Unternehmen müssen Nutzerinnen und Nutzer transparent darüber informieren, wenn sie mit einem KI-System interagieren. Dies betrifft etwa Chatbots im Kundenservice oder digitale Sprachassistenten.

Warum sollten Unternehmen ein KI-Inventar erstellen?
Ein KI-Inventar schafft Transparenz darüber, welche Systeme im Unternehmen genutzt werden, welchem Zweck sie dienen und welcher Risikoklasse sie zuzuordnen sind. Es bildet damit die Grundlage für Compliance, Steuerung und Optimierung.

Was bedeutet »Human in the Loop« konkret?
Der Begriff beschreibt die Einbindung von Menschen in KI-Prozesse. Mitarbeitende prüfen, bewerten und korrigieren KI-Ergebnisse, sodass fachliche Qualität, Nachvollziehbarkeit und Verantwortung gewährleistet bleiben.

Welche Rolle spielt KI-Kompetenz im Unternehmen?
KI-Kompetenz ist zentral, damit Mitarbeitende Chancen, Grenzen und Risiken von KI-Systemen verstehen. Schulungen helfen, Tools sicher einzusetzen, sensible Daten angemessen zu behandeln und Fehlentscheidungen zu vermeiden.

Wie kann der EU AI Act Innovation fördern?
Klare Regeln schaffen Orientierung und Vertrauen. Dadurch können Unternehmen KI-Projekte verlässlicher planen, Risiken früher erkennen und verantwortungsvolle Innovationen schneller in die Praxis bringen.

Management Summary, FAQ und Bild wurden mit Hilfe von KI erstellt

5878 Artikel zu „EU AI Act“

News | IT-Security | Künstliche Intelligenz | Strategien

KI-Vorfälle rund um Anthropic und OpenAI: Warum die Regeln des EU AI Act genau zur richtigen Zeit kommen

2. August 2026

Mit dem zweiten August werden Teile der verbleibenden Elemente des EU AI Act, der ersten KI-Regulierung der EU, anwendbar und sollen für mehr Disziplin und Sicherheit sorgen. Die Reglementierungen kommen wohl zur richtigen Zeit, wie die jüngsten Vorfälle bei den beiden US-Entwickler OpenAI und Anthropic zeigen. KI reißt Sicherheitslücken und kann Daten kompromittieren. Was bedeuten die…