Die EU schafft klare Regeln für den Umgang mit Künstlicher Intelligenz (KI). Doch was bedeutet das konkret für Unternehmen und die Öffentlichkeit?
Seit dem 2. Februar 2025 gelten neue Bestimmungen des EU AI Acts, die den Einsatz von KI europaweit regulieren. Die Verordnung legt fest, welche KI-Systeme weiterhin erlaubt sind, welche strengen Auflagen unterliegen und welche vollständig verboten werden. Damit will die EU den verantwortungsvollen Umgang mit KI sicherstellen und die Rechte der Bürger schützen.
Was ist der EU AI Act?
Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Ziel ist es, Innovation und Sicherheit in Einklang zu bringen, indem KI-Anwendungen nach ihrem Risiko bewertet werden:
Minimales Risiko: Erlaubte KI-Systeme ohne besondere Regulierung (z. B. Spam-Filter).
Hohes Risiko: KI-Systeme mit strengen Auflagen, insbesondere in sicherheitskritischen Bereichen (z. B. Medizin, Justiz, Finanzwesen).
Unannehmbares Risiko: KI-Technologien, die erhebliche Gefahren bergen, sind ab sofort verboten.
Die neuen Regelungen betreffen sowohl Unternehmen als auch den öffentlichen Raum.
Was hat sich geändert?
Verbot bestimmter KI-Anwendungen in der Öffentlichkeit
Einige KI-Technologien dürfen nicht mehr im öffentlichen Raum eingesetzt werden, um Grundrechte zu schützen:
Gesichtserkennung durch Videoüberwachung ist grundsätzlich verboten, mit wenigen Ausnahmen für die Polizei, z. B. bei der Suche nach vermissten Personen oder zur Terrorabwehr.
Massenüberwachung mit KI zur systematischen Verhaltensanalyse in der Öffentlichkeit ist untersagt.
Diese Maßnahmen sollen verhindern, dass Bürger durch KI-Technologien unbemerkt überwacht oder kategorisiert werden.
Verbot manipulativer und betrügerischer KI-Technologien
KI-Systeme, die gezielt Menschen täuschen oder unbewusst beeinflussen, sind nicht mehr erlaubt. Dazu gehören:
Sprachgesteuertes Spielzeug mit gefährlichem Einfluss auf Kinder, das zu riskantem Verhalten animieren könnte.
KI-Systeme, die Menschen täuschen, indem sie sich als reale Personen ausgeben oder manipulative Informationen verbreiten.
Neue Schulungspflichten für Unternehmen
Unternehmen, die KI einsetzen, müssen sicherstellen, dass Mitarbeitende ausreichend geschult sind. Dazu gehört:
das Verständnis für eingesetzte KI-Modelle zu fördern,
für Risiken und ethische Aspekte zu sensibilisieren,
regelmäßige Weiterbildungen sicherzustellen.
Das Ziel: Ein verantwortungsvoller Umgang mit KI und ein Bewusstsein für mögliche Risiken.
Was bedeutet das für Unternehmen?
Unternehmen, die KI-Technologien nutzen, müssen sich jetzt mit den neuen Vorschriften auseinandersetzen. Neben der Prüfung bestehender Systeme sollten sie auch sicherstellen, dass Mitarbeitende ausreichend geschult sind.
Als Digital-Agentur unterstützen wir unsere Kunden dabei, ihre digitalen Strategien rechtskonform und zukunftssicher zu gestalten. Hast Du Fragen zur Umsetzung des EU AI Acts in Deinem Unternehmen?
Spreche uns an!
Seit mehr als 10 Jahren beraten wir bereits international agierende Kunden mit Herz & Köpfchen. Nimm gerne direkt mit uns Kontakt auf unter 0821 455 289 11 oder per E-Mail: alexander.geissenberger@mai-group.com
