Limburg a.d. Lahn, 5. April 2024 – Das Europ?ische Parlament hat k?rzlich mit dem “AI-Act” die weltweit erste staatliche Regulierung von KI verabschiedet. Die Verordnung soll die Entwicklung und den Einsatz von KI-Technologien ma?geblich regeln, indem sie Transparenz, Rechenschaftspflichten und Sicherheitsstandards vorschreibt. Ziel ist es, die Grundrechte der B?rgerinnen und B?rger zu sch?tzen und ethisch vertretbare KI-Modelle zu f?rdern. CARMAO, Spezialist f?r organisationale Resilienz, zeigt auf, vor welchen Aufgaben Unternehmen jetzt stehen und wie sie dem AI-Act Rechnung tragen k?nnen.
Der AI-Act gilt in erster Linie f?r alle Anbieter von KI-Systemen, welche auf dem europ?ischen Markt angeboten werden. Der Begriff “Anbieter” umfasst Personen oder Einrichtungen, die ein KI-System entwickeln und in Verkehr bringen. Auch Importeure, H?ndler und Nutzer unterliegen dem Gesetz, m?ssen in den meisten F?llen jedoch lediglich die erforderlichen Dokumentationsnachweise des Anbieters beschaffen.
Sicherheit, Transparenz und Ethik f?r KI-Technologien ein Muss
Die neue Verordnung unterteilt KI-Systeme in verschiedene Risikoklassen, abh?ngig von ihrem potenziellen Schadensrisiko: 1. Inakzeptables Risiko, 2. Hohes Risiko (Hochrisiko-KI-Systeme), 3. Begrenztes Risiko und 4. Niedriges Risiko. KI-Systeme mit einem hohen Risiko f?r die Demokratie, die Gesundheit oder die Sicherheit unterliegen besonders strengen Vorschriften und einer intensiven ?berwachung.
Je nach Risikoklasse gelten unterschiedliche Auflagen und Vorschriften f?r die Entwicklung, Bereitstellung und Nutzung der KI-Systeme. Dies erm?glicht eine differenzierte Regulierung, um sicherzustellen, dass KI-Technologien sicher, transparent und ethisch verantwortlich eingesetzt werden. Diskriminierende KI-Modelle beispielsweise sollen damit vereitelt werden.
Ulrich Heun, Gesch?ftsf?hrer bei CARMAO, sagt: “Je h?her das potenzielle Risiko eines KI-Systems, desto strenger sind die Auflagen wie beispielsweise Risikobewertungen, Dokumentationspflichten, EU-Konformit?tserkl?rungen oder Monitoring auf Unternehmensseite. Das schlie?t auch Verbote f?r KI-Systeme mit besonders hohem Risiko ein. Dazu z?hlen unter anderem Systeme, die im gro?en Stil Gesichtserkennung mit ?ffentlich verf?gbaren Bildern nutzen. Systeme mit erheblichem Schadenspotenzial werden ebenfalls streng reguliert, w?hrend andere, wie Chatbots, weniger Auflagen haben.”
ISO-Norm als Schl?ssel zu Konformit?t
Der AI-Act f?hrt zu Chancen, aber auch Herausforderungen, zum Beispiel f?r Anbieter von KI-Systemen. Diese sind verpflichtet, ein Risikomanagement-System einzuf?hren und die Anforderungen in puncto Datenqualit?t und -integrit?t zu erf?llen. Dabei kommen zahlreiche administrative Anforderungen auf die Anbieter zu, wie zum Beispiel die Sicherstellung von Qualit?t, (technischer) Dokumentation und proaktiver Information. Dabei gilt es, den EU-AI-Act inklusive der ISO 42001 durch den Einsatz eines geeigneten Managementsystems zu gew?hrleisten.
F?r die Konformit?t mit dem AI-Act spielt die ISO 42001 eine ma?gebliche Rolle. “Die Norm bietet sowohl Anbietern als auch Anwendenden einen umfassenden Rahmen f?r die Entwicklung, Bereitstellung und verantwortungsvolle Nutzung von KI-Systemen. Die Implementierung eines KI-Managementsystems nach ISO 42001 erm?glicht es Unternehmen, mit dem EU-KI-Gesetz und anderen relevanten Vorschriften in Einklang zu sein und potenzielle schwerwiegende Strafen zu vermeiden. Als Experte f?r organisationale Resilienz bieten wir entsprechende Beratung, um wesentliche Aspekte des AI-Acts umzusetzen”, erkl?rt Ulrich Heun.
Regelverletzungen haben finanzielle Konsequenzen
Verst??e gegen das KI-Gesetz k?nnen zu hohen Geldstrafen f?hren, teilweise in Millionenh?he. Ein Beispiel: Unternehmen, die falsche Informationen ?ber ihre KI-Modelle liefern, k?nnten mit Strafen von 1,5 Prozent ihres Umsatzes oder mindestens 7,5 Millionen Euro belegt werden. Mittelst?ndische Unternehmen und Start-Ups k?nnen gem?? den aktuellen Gesetzesbestimmungen mit geringeren Strafen rechnen.
“Das KI-Gesetz zielt darauf ab, die Sicherheit aller zu gew?hrleisten. Da die neue Regelung mit einem gewissen Grad an Aufwand verbunden ist, gilt eine ?bergangsfrist. Diese erm?glicht Unternehmen die Umsetzung und das Testen von Anwendungen ?hnlich wie bei der EU-Datenschutz-Grundverordnung. Trotz der damit verbundenen Herausforderungen bietet das Gesetz eine wichtige Sicherheitsgrundlage f?r alle B?rgerinnen und B?rger”, sagt Ulrich Heun.
Keywords:AI-Act, CARMAO GmbH, KI