Social Scoring verboten – Deutschland stützt EU-Gesetz für KI
Philip Hopf | 01.02.2024 11:11
„Der aktuelle Entwurf eines EU-Gesetzes zur Kontrolle von Künstlicher Intelligenz ist überzogen“, sagte Samuel Altman, Geschäftsführer des KI-Pioniers OpenAI im vergangenen Sommer, „aber wir haben gehört, dass es noch angepasst wird“. Man gebe sich alle Mühe, „die Regeln einzuhalten“, zu strenge Auflagen lasse man sich aber nicht gefallen: „Dann müssen wir unsere Arbeit hier in Europa einstellen“. Seit Monaten basteln die Entscheidungsträger der Europäischen Union an einem Regelwerk für die Entwicklung und Anwendung von Künstlicher Intelligenz in Europa. Darin werden autonome Algorithmen in verschiedene Gefahrenstufen eingeordnet, die teils stark reguliert, teils sogar verboten werden sollen. Auf EU-Ebene ist man stolz auf das weltweit erste Gesetz dieser Art, laut Kommissionspräsidentin Ursula von der Leyen könne man Künstlicher Intelligenz nun „vertrauen“. Deutschland war lange nicht so begeistert von der Idee, warnte vor der Abwanderung von Innovationsträgern. Jetzt lenkt die Bundesregierung doch ein – zum Leidwesen von Kritikern, die der Union vorwerfen, Pläne zur Massenüberwachung zu schmieden.h2 Wie gefährlich ist Künstliche Intelligenz?/h2
Ziel des KI-Gesetzes ist laut EU, den Menschen ins Zentrum zu stellen, Grundrechte zu wahren und eine „ethische Entwicklung von Künstlicher Intelligenz“ zu gewährleisten. Dazu sollen KI-Modelle künftig in vier Kategorien eingeteilt werden, je nach Risiko, das von ihnen ausgeht. Minimales Risiko gehe demnach von den meisten gebräuchlichen Programmen aus, darunter fallen KI-gestütztes Gaming oder autonome Spam-Filter, die „keine Intervention benötigen“. In der zweiten Kategorie, dem begrenzten Risiko, finden sich audiovisuelle Imitationen von Menschen in den Medien, sogenannte Deepfakes wieder. Diese Technologie war erst kürzlich in den Schlagzeilen, als nach fingierten Anrufen mit Joe Bidens manipulierter Stimme Sorgen um Wahlmanipulation in den Vereinigten Staaten aufgekommen waren. Ebenso wie Deepfakes werden künftig auch Chatbots, die menschenähnliche Gespräche führen können, in diese zweite Kategorie fallen. Hier sind schärfere Transparenzauflagen zu erwarten, um Nutzer darüber zu informieren, wenn sie mit einer Maschine interagieren, die humanoide Züge besitzen oder Menschen imitieren.
Jetzt die App holen
Hochrisiko-Anwendungen wiederum umfassen autonome Algorithmen, die in selbstfahrenden Autos und anderen automatisierten Transportvehikeln, dem Bildungswesen oder auch der Medizintechnik zur Anwendung kommen. Derartige Modelle müssen künftig nachweisen, mit hochwertigen Daten trainiert zu werden, sollen interne Prozesse lückenlos dokumentieren und menschlicher Kontrolle zugänglich machen. Am interessantesten ist jedoch die vierte und letzte Kategorie des neuen Regulationsrahmens, von den EU-Gremien unter der Kategorie inakzeptables Risiko geführt. Hiervon betroffen sind etwa Systeme des Social Scorings, also die dauerhafte Überwachung von Bürgern und automatisierte Sanktionierung von Fehlverhalten. Bekannt ist die Technologie aus China, wo der öffentliche Raum flächendeckend von Kameras überwacht und Menschen aufgrund ihres Verhaltens eine Punktzahl zugeordnet bekommen. Dieser Sozialkredit entscheidet etwa darüber, ob man einen bestimmten Job ausüben oder auf digitale Dienste wie Social Media zugreifen darf.
h2 Willkürliche Überwachung nach chinesischem Vorbild?/h2Das System steht international in der Kritik, Gegner befürchteten auch in Europa eine indirekte Einführung mithilfe von digitalen Zentralbankwährungen (engl.: Central Bank Digital Currencies; kurz: CBDC), die private Konten und Vermögensbestände zentral kontrollierbar und sanktionierbar machen würden. Diese Sorgen will die Europäische Union nun ausräumen, Social Scoring soll kategorisch verboten werden. Ebenso wie „Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, biometrische Kategorisierung, die auf sensible Daten wie die sexuelle Orientierung oder religiöse Überzeugungen schließen lässt, sowie bestimmte Fälle vorausschauender Polizeiarbeit“ – zumindest für all jene, die nicht polizeilich gesucht werden. Hier überlässt es die Gesetzgebung nämlich den Behörden der Strafverfolgung, trotzdem „im öffentlichen Raum biometrische Fernidentifizierung einzusetzen“. Ebenjene Technik zur automatisierten Erkennung oder Einschätzung von Menschen ist allerdings höchst umstritten und gilt weithin als gravierender Eingriff in den Datenschutz und die intimste Privatsphäre. Menschen von Künstlicher Intelligenz taxieren zu lassen, um Entscheidungen über deren kriminelles Potenzial, deren Kreditwürdigkeit oder auch deren Eignung für bestimmte Jobs und Positionen zu treffen, wird sehr kritisch beäugt und teils vehement abgelehnt.
So protestierte Patrick Breyer, Europaabgeordneter der Piratenpartei: „Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden“. Denn Richterbeschlüsse über die Freigabe einzelner Personen zur Überwachung seien schnell ausgesprochen. Die EU wiederum versichert, dass man klar die „Ziele präzisiert, für die eine solche Verwendung zu Strafverfolgungszwecken unbedingt notwendig ist, und zu denen den Behörden die Verwendung solcher Systeme daher ausnahmsweise gestattet werden sollte“. Konkret soll es „um die Verhütung echter, gegenwärtiger beziehungsweise vorhersehbarer Bedrohungen wie Terroranschläge oder um die Suche nach Personen“ gehen, „die schwerster Straftaten verdächtigt werden“. Wie streng oder großzügig diese Schablone angelegt wird, ließ die EU offen – das stieß auch der deutschen Bundesregierung sauer auf, lange stellte man sich auf europäischer Ebene quer.
h2 Deutschland protestiert – und stimmt dann doch zu/h2Schon im Dezember erklärte die FDP-Europaabgeordnete Svenja Hahn, die für ihre Fraktion das KI-Gesetz verhandelt hat: „Ursprünglich hatten wir vom Parlament sogar ein vollständiges Verbot der biometrischen Echtzeit-Identifizierung gefordert“. Nun sei es zumindest „gelungen, entscheidende rechtsstaatliche Hürden einzubeziehen. Danach darf die Technologie nur eingesetzt werden zur gezielten Identifizierung von explizit wegen der Ausübung sehr schwerer Verbrechen konkret gesuchter Personen. Dazu gehört etwa Entführung oder Vergewaltigung.“ Auch „Opfer schwerer Straftaten und Vermisste“ dürften mithilfe KI-gestützter Überwachsungstechnik „gezielt gesucht werden“. Allen Bedenken zum Trotz hat die Bundesregierung gestern mitgeteilt, dem KI-Gesetz zuzustimmen – und das hat offenbar wirtschaftliche Gründe. Volker Wissing, Bundesminister für Digitales und Verkehr, betonte, dass man sich bis zuletzt für innovationsfreundlichere Regeln eingesetzt und Verbesserungen für kleine und mittlere Unternehmen erzielt habe. Überzogene Auflagen seien widerrufen worden.
Künftig sei Europa ein vertrauenswürdiger und sicherer Standort für die Entwicklung und Anwendung von Künstlicher Intelligenz, Wissing resümierte: „Europa soll ein bedeutender KI-Standort sein“. Ob dieses Kalkül aufgeht, bleibt abzuwarten. Einerseits bietet ein klarer regulatorischer Rahmen günstige Bedingungen für kleine und mittelständische Unternehmen, die auf den Wirtschaftsstandort angewiesen und ihre Arbeit im Einklang mit der Gesetzgebung gestalten wollen. Große deutsche Unternehmen mit globaler Marktausrichtung wie Europas größter Software-Produzent SAP (ETR:SAPG) arbeiten zunehmend an verbot OpenAI kurzerhand die Nutzung seiner Programme für Kampagnen im Wahlkampf um die nordamerikanische Präsidentschaft, der dieses Jahr ansteht. Eine Reihe von Tech-Giganten, darunter Microsoft (NASDAQ:MSFT), die Google-Mutter Alphabet (NASDAQ:GOOGL) und der Facebook-Konzern Meta (NASDAQ:META) kündigte an, umfangreiche Sicherheitsvorkehrungen gegen Wahlmanipulation mithilfe von KI zu treffen.
Während in anderen Teilen der Welt also auf Selbstregulierung der großen Unternehmen mit weitreichendem Einfluss im KI-Sektor gesetzt wird, will die EU vorpreschen und eine ganzheitliche Gesetzgebung von oben herab verabschieden. Durch die Zustimmung Deutschlands, die in den letzten Wochen als wichtige Hürde für die Umsetzung betrachtet wurde, nimmt dieser Plan nun konkrete Formen an. Wie sehr Künstliche Intelligenz die globale Wirtschaft in den vergangenen Monaten geprägt hat und auch in der nahen und fernen Zukunft mitgestalten wird, beleuchten wir ausführlich in unserem diesjährigen Sonderbericht über den Technologie-Sektor, der kommenden Sonntag erscheint. Enthalten sind für alle unsere Abonnenten neben exklusiven Einblicken in unsere technische Analyse auch mittel- und langfristige Preisprognosen sowie umfangreich recherchierte fundamentale Berichte über die wichtigsten Player im Markt. Und dazu zählen längst nicht mehr nur die großen Tech-Unternehmen aus den Vereinigten Staaten, die wir in unserem Tech33-Paket regelmäßig analysieren. Auch die Unternehmen am Heimatmarkt holen auf, wie SAP und Infineon eindrucksvoll unter Beweis stellen. Wer hier die lukrativsten Möglichkeiten für Investitionen nicht verpassen will, ist mit unserem DAX40-Paket bestens beraten.
Der Handel mit Finanzinstrumenten und/oder Kryptowährungen birgt hohe Risiken. Sie können Ihren Kapitaleinsatz vollständig oder teilweise verlieren. Die Kurse von Kryptowährungen sind extrem volatil und können von externen Faktoren wie finanziellen, regulatorischen oder politischen Ereignissen beeinflusst werden. Der Handel auf Margin erhöht das finanzielle Risiko.
Stellen Sie unbedingt sicher, dass Sie die mit dem Handel der Finanzinstrumente und/oder Kryptowährungen verbundenen Risiken vollständig verstanden haben und lassen Sie sich gegebenenfalls von einer unabhängigen und sachkundigen Person oder Institution beraten, bevor Sie den Handel aufnehmen.
Fusion Media möchte Sie daran erinnern, dass die auf dieser Internetseite enthaltenen Kurse/Daten nicht unbedingt in Realtime oder genau sind. Alle Daten und Kurse werden nicht notwendigerweise von Börsen, sondern von Market-Makern bereitgestellt, so dass die Kurse möglicherweise nicht genau sind und vom tatsächlichen Marktpreis abweichen können, was bedeutet, dass die Kurse indikativ und nicht für Handelszwecke geeignet sind. Fusion Media und andere Datenanbieter übernehmen daher keine Verantwortung für etwaige Handelsverluste, die Ihnen durch die Verwendung dieser Daten entstehen könnten.
Es ist verboten, die auf dieser Website enthaltenen Daten ohne die vorherige schriftliche Zustimmung von Fusion Media und/oder des Datenanbieters zu verwenden, zu speichern, zu reproduzieren, anzuzeigen, zu ändern, zu übertragen oder zu verteilen. Alle Rechte am geistigen Eigentum sind den Anbietern und/oder der Börse vorbehalten, die auf dieser Website enthaltenen Daten bereitstellen.
Fusion Media kann von den Werbetreibenden, die sich auf der Website befinden, anhand Ihrer Interaktion mit den Werbeanzeigen oder Werbetreibenden vergütet werden.