Menü
Seit über zwei Jahren bemüht sich die Europäische Union um eine Regulation von künstlicher Intelligenz (KI). Mit der Billigung des „AI Act“ im Europaparlament rückt dieses Ziel in greifbare Nähe. Die Parlamentsmitglieder verlangen unter anderem eine Ausweitung der von der EU-Kommission vorgeschlagenen Verbotsliste, einschließlich biometrischer Klassifizierungssysteme basierend auf sensiblen Eigenschaften und präventiven Polizeisystemen. Nach Erreichen einer Übereinkunft können Gespräche mit den EU-Ländern eingeleitet werden.
Für eine KI-Verordnung der EU wird es höchste Zeit, denn: „KI ist bereits omnipräsent in unserem Alltag“, sagt Carina Zehetmaier, Präsidentin von Woman in AI Austria, im Rahmen des Deep Dive Meet-ups des INDUSTRIEMAGAZIN. Sie sieht in der Anwendung von KI ein riesiges Potenzial und glaubt, dass daraus ein erheblicher Mehrwert entstehen wird.
Sie weist jedoch auch auf mögliche Missbrauchsrisiken hin, die durch Regulierung eingedämmt werden sollten. Ein aktueller Fall aus China zeigt, was passieren kann, wenn KI in die falschen Hände gerät. Ein Unternehmen hat dort ein Patent angemeldet, um mittels KI und Gesichtserkennung gezielt die uigurische Minderheit zu identifizieren. „Wir können nur spekulieren, was das Ziel war“, so Zehetmaier.
Sie fügt hinzu, dass es inzwischen häufiger zu problematischem KI-Einsatz komme, wie das Beispiel von Amazon, das eine KI für die Personalbeschaffung nutzte. Aufgrund der vorhandenen Daten schloss das System, dass ein überproportionaler Anteil an männlichen Mitarbeitern im Unternehmen positiv wäre. Infolgedessen wurde keine einzige Frau zu einem Vorstellungsgespräch eingeladen.
Daher sieht Zehetmaier KI als Reflektion der Gesellschaft: „KI ist nicht objektiv oder neutral. Wir neigen dazu, Maschinen toleranter gegenüberzustehen als Menschen. KI reflektiert letztlich unsere Überzeugungen und Ansichten.“
Bis 2026 soll die KI-Verordnung (AI Act) in Kraft treten. Das Gesetz hat im Europäischen Parlament in Brüssel die erste große Hürde genommen, und die Einzelheiten werden nun im Trilog weiter diskutiert. Zehetmaier hebt hervor, wie sich das Gesetz auf die Wirtschaft auswirken wird: „Das Gesetz betrifft nicht nur die Unternehmen, die KI-Systeme herstellen, sondern jedes Unternehmen, das KI nutzt.“
Die EU zielt darauf ab, die Anwendung und nicht die Technologie zu regulieren. Ein weiteres Ziel ist es, weltweite ethische Standards zu setzen, wie es bereits mit der Datenschutzgrundverordnung erreicht wurde. Doch selbst strenge Regulierungen von KI werden den Missbrauch nicht vollständig verhindern können.
Welche Eckpunkte umfasst nun das neue Gesetz zur Regulierung von KI? Der vorgesehene Gesetzesentwurf folgt einem risikobasierten Modell, bei dem die Regulierung vom Risiko abhängt, das durch die KI entsteht. Er verbietet KI-Systeme mit inakzeptablen Risiken, wie solche, die für das Social Scoring genutzt werden könnten. Alle KI-Anwendungen sollen gemäß ihrem Risiko in Kategorien eingeteilt werden. Abhängig von ihrer Klassifizierung müssen Anbieter:innen bestimmte Sicherheits- und Transparenzstandards erfüllen.
Die Abgeordneten möchten, dass auch KI-Systeme, die Wahlen oder Wahlergebnisse beeinflussen können oder eine erhebliche Bedrohung für die menschliche Gesundheit, Sicherheit, Grundrechte oder Umwelt darstellen, auf die Hochrisiko-Liste gesetzt werden. Im Kommissionsentwurf sind speziell angepasste Regeln für die vernünftige Nutzung von generativer KI, wie ChatGPT, vorgesehen.
Um die Innovation in der KI zu fördern, schlagen die Parlamentarier Ausnahmeregelungen für Forschungsaktivitäten und die Nutzung von sogenannten KI-Reallaboren vor. Florian Tursky (ÖVP), Staatssekretär für Digitalisierung, äußerte seine Zufriedenheit über das Ergebnis und betonte die Dringlichkeit einer schnellen Regulierung von KI.
Der AI Act soll einheitliche europaweite Standards schaffen, die die zukünftige Entwicklung von KI-Systemen maßgeblich beeinflussen werden. Nachdem die EU-Länder und das Europaparlament ihre Positionen festgelegt haben, können die Verhandlungen über den endgültigen Gesetzestext aufgenommen werden. Der Beginn dieser Gespräche ist noch unbestimmt.
Bereits im März 2018 wurde laut einer Pressemitteilung eine KI-Expertengruppe und eine europäische KI-Allianz gegründet. Eine erste Versammlung dieser beiden Gruppen fand im Juni 2019 statt. Ein entsprechendes KI-Paket von der Kommission liegt allerdings seit April 2021 auf dem Tisch.
Die neu eingeführte KI-Verordnung der EU wird weltweit Relevanz besitzen, da sie sich auf Unternehmen erstreckt, die AI-Systeme innerhalb der EU bereitstellen oder verwenden. Selbst wenn Anbieter:innen ihren Sitz außerhalb der EU haben, wie im Vereinigten Königreich oder in den USA, würde das Gesetz greifen, wenn ihre Dienstleistungen in der EU zum Einsatz kommen.
Ein kritischer Punkt in den Diskussionen war die Bestimmung, welche KI-Anwendungen aufgrund ihres unvertretbaren Risikos verboten sein sollten. Anfänglich wurde über ein Verbot von KI-gestützten Instrumenten zur Überwachung zwischenmenschlicher Kommunikation nachgedacht, dieser Vorschlag wurde jedoch verworfen. Stattdessen wurde der Gebrauch von Software zur biometrischen Identifikation eingeschränkt.
Diese Identifizierungssoftware, die ursprünglich nur für Echtzeitanwendungen verboten war, darf nun nur noch bei schweren Straftaten und mit vorheriger gerichtlicher Zustimmung genutzt werden. Darüber hinaus wurde der Einsatz von KI-unterstützter Software zur Emotionserkennung in den Bereichen Strafverfolgung, Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen untersagt.
Der derzeitige Gesetzesentwurf enthält noch keine Richtlinien für Anforderungen an die Entwickler:innen von generativer KI wie GPAIS (General Purpose AI Systems) – eine Einstufung als hochriskant wird derzeit in der Politik diskutiert. Bei Gesetzesverstößen drohen Strafen von bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Gewinns, je nachdem, welcher Betrag höher ist.
Vertreter des Thinktanks AI Austria äußern Bedenken bezüglich der Wettbewerbsfähigkeit Europas und betonen, „dass das KI-Gesetz auch die Innovationsfähigkeit Europas im Bereich der künstlichen Intelligenz fördern muss“.
Laut einer von AI Austria mitinitiierten Studie unter europäischen KI-Unternehmen glauben 50 Prozent der KI-Start-ups, dass das kommende Gesetz die KI-Innovation in Europa behindern wird. Weitere 16 Prozent erwägen, die KI-Entwicklung einzustellen oder in Länder außerhalb der EU zu verlagern. Diese Bedenken rühren auch daher, dass Europa bei den Investitionen bereits jetzt deutlich zurückliegt. Etwa 53 Prozent der weltweiten privaten Investitionen in KI-Entwicklungen werden laut den Studien, auf die sich der Thinktank bezieht, in den USA und 23 Prozent in China getätigt. Europa hinkt mit nur sechs Prozent deutlich hinterher.
Der VDMA befürwortet die Intention, die Nutzung von Daten im Binnenmarkt zu stärken. „Allerdings betrachten wir die konkrete Umsetzung des Data Acts mit Sorge, da wir darin viele potenzielle Gefahren für die datengetriebenen Geschäftsmodelle der Firmen im Maschinen- und Anlagenbau sehen. Die vom EU-Parlament verabschiedete Version zeigt zwar geringfügige Verbesserungen, doch die Anliegen des Industriesektors werden weiterhin nicht ausreichend berücksichtigt“, äußert Hartmut Rauen, stellvertretender Hauptgeschäftsführer des VDMA.
Rauen kritisiert, dass der Data Act die Unterschiede zwischen Geschäftsbeziehungen von Unternehmen zu Verbraucher:innen (B2C) und zwischen Industrieunternehmen (B2B) nicht ausreichend beachte. In B2B-Beziehungen könnten die beteiligten Firmen die Bedingungen für beide Seiten optimieren.
„Wir benötigen diese Flexibilität in der Industrie, um die vielfältigen Situationen in unseren Wertschöpfungsketten darzustellen und auszubalancieren. Der Data Act begrenzt diese Freiheit und erschwert die individuelle Gestaltung – sowohl in einzelnen Vertragsverhältnissen als auch in industriellen Dateninitiativen wie beispielsweise Manufacturing-X“, so Rauen weiter.
Der VDMA fordert für die Trilog-Verhandlungen, dass der Data Act unbedingt die benötigten vertraglichen Spielräume für den B2B-Datenaustausch berücksichtigt und nicht unnötig in Geschäftsbeziehungen eingreift. Außerdem muss der Schutz von Betriebs- und Geschäftsgeheimnissen weiterhin effektiv sichergestellt sein. Neben inhaltlichen Fragen muss auch für praxisnahe Übergangsfristen gesorgt werden.
Der Data Act stellt für viele Unternehmen nicht nur eine bürokratische Herausforderung dar, sondern erfordert eine Neubewertung von Geschäftsmodellen sowie die Überarbeitung von Verträgen und Produkten. Wenn der Data Act richtig umgesetzt wird, kann er das Fundament für ein führendes europäisches Ökosystem einer intelligent vernetzten Produktion legen. Insbesondere der Maschinenbau könnte hier eine Schlüsselrolle spielen. Es wäre bedauerlich, wenn diese Gelegenheit ungenutzt bliebe.
Ebenfalls von Interesse
Multimedia
Blog
Lesen Sie hier über Strategien, Einsatzmöglichkeiten und Technologien in der produzierenden Wirtschaft.
Videos
Wir bringen Expert*innen und Persönlichkeiten aus Wissenschaft, Forschung und Industrie gemeinsam an einen Tisch und diskutieren …
Deutsch 
English