Über zwei Jahre haben die Verhandlungen über ein Gesetz zu Künstlicher Intelligenz (KI) für Europa gedauert. Nun stimmt das EU-Parlament über den Entwurf ab. Denn obwohl KI schon in vielen Bereichen eingesetzt wird, gibt es bislang noch kein verbindliches europäisches Regelwerk. Einer der Knackpunkte dabei: Die Balance zwischen Innovation und Regulierung.
Zivilrechtlerin Christiane Wendehorst, die als Expertin zu Themen wie digitale Inhalte, Internet der Dinge, künstliche Intelligenz und Datenökonomie u.a. für die Europäische Kommission, das Europäische Parlament, die deutsche Bundesregierung, das European Law Institute und das American Law Institute gearbeitet hat, erklärt die Bedeutung des Gesetzes und dessen Auswirkungen.
GESETZ MIT VORBILDFUNKTION
Das EU-Parlament stimmt über ein europäisches KI-Gesetz ab. Dabei unterscheidet der Gesetzesvorschlag stufenweise von risikoarmen bis zu verbotenen KI-Technologien. Was ist von dem Entwurf zu halten?
Christiane Wendehorst: Der Entwurf ist ganz klar ein Kompromiss. Schon die Europäische Kommission, die den ursprünglichen Entwurf für ein KI-Gesetz im April 2021 vorgelegt hat, wollte einerseits Vertrauen in KI stärken und Gefahren durch KI hintanhalten, andererseits aber Europa als Standort für Entwicklung und Einsatz innovativer Technologien nicht gefährden.
Das EU-Gesetz ist enorm wichtig, auch weil es international Vorbildwirkung entfalten wird.
Nach vielen Diskussionen ist die Entscheidung dann zugunsten klassischer Produktsicherheitsgesetzgebung gefallen, die in Stil und Aufbau den Regelungen ähnelt, welche für eine breite Palette von Produkten – von Medizinprodukten bis hin zu Kinderspielzeug – heute schon gelten. Ähnlich wie auch bei Medizinprodukten wurde ein risikobasierter Ansatz gewählt, heißt: Hohes Risiko – strenge Vorgaben; geringes Risiko – geringe oder gar keine Vorgaben. „Risiko“ ist dabei in einem umfassenden Sinn zu verstehen, das heißt es geht nicht nur um klassische Sicherheitsrisiken, etwa Risiken für Leib und Leben, sondern auch um Risiken für unsere Grundrechte, wie etwa durch Diskriminierung.
Die Positionen im EU-Parlament sind nicht einheitlich. Manche Abgeordnete sehen KI-Systeme als Bedrohung, andere als Chance. Wie ist der österreichische Standpunkt?
Wendehorst: Auch in Österreich gibt es natürlich gegensätzliche Positionen, die dann letztlich in einen demokratischen Entscheidungsprozess eingebracht werden. Wichtig ist, zu betonen: Bei all dieser EU-Gesetzgebung geht es um nichts, was gleichsam vom Himmel fällt, beziehungsweise einfach aus Brüssel und Straßburg kommt. Vielmehr ist Österreich natürlich mit seinen Abgeordneten im Europäischen Parlament und auch in den Rats-Arbeitsgruppen vertreten und meldet sich zu Wort.
Inwieweit werden auch Expertinnen wie Sie gehört?
Wendehorst: Auch als Wissenschaftlerin kann man durch seine Forschungsarbeit Einfluss nehmen. Viele Grundstrukturen des KI-Gesetzes gehen auf die Arbeit der Datenethikkommission der deutschen Bundesregierung zurück, die ich gemeinsam mit einer Kollegin geleitet habe. Verschiedene Punkte, die ich in formellen wie in informellen Konsultationen der Europäischen Kommission oder auch in Forschungsgutachten für das Europäische Parlament und für unser Sozialministerium ausgearbeitet habe, finden sich in verschiedenen Dokumenten im Gesetzgebungsprozess wieder. Aber natürlich weicht das, was bei einem politischen Prozess herauskommt, meist sehr von den ursprünglichen Forschungsergebnissen ab – daran muss man sich als Wissenschaftlerin gewöhnen.
Nach vielen Diskussionen ist die Entscheidung in der EU zugunsten klassischer Produktsicherheitsgesetzgebung gefallen.
Was am Ende genau im KI-Gesetz stehen wird, wissen wir übrigens noch gar nicht – nach dem heutigen Votum zur Position des Parlaments geht die Sache erst einmal in den Trilog, also in Verhandlungen zwischen den drei großen EU-Institutionen, Parlament, Rat und Kommission.
Wie wichtig ist dieses Gesetz?
Wendehorst: Das Gesetz ist enorm wichtig, auch weil es international Vorbildwirkung entfalten wird. Daher ist es auch so wichtig, dass es ein gutes Gesetz wird. Ob es die rasanten Entwicklungen ausreichend berücksichtigt, ist eine gute Frage, die schwer zu beantworten ist. Als 2022 ChatGPT aufkam, war man sicherlich überrascht und hat hektisch reagiert. Jedenfalls bemüht man sich, das Gesetz flexibel zu halten und es der Kommission an verschiedenen Stellen zu ermöglichen, Anpassungen vorzunehmen, ohne dass man ein volles Gesetzgebungsverfahren durchlaufen muss.
Wir werden zum „gläsernen Menschen“
Welche Auswirkungen hat der digitale Wandel auf unsere Gesellschaft?
Wendehorst: Enorme Auswirkungen, die ich mit der Erfindung des Buchdruckes vergleichen würde. Diese Technologien krempeln unser ganzes Leben um, sowie die Art und Weise, wie unsere Gesellschaft funktioniert. Ich glaube auch, dass wir uns die ganze Dimension noch nicht voll vor Augen führen und die Auswirkungen noch gar nicht genau umreißen können. Denn die Geschwindigkeit, mit der sich die digitalen Technologien entwickeln, wird noch zunehmen. Deshalb ist es wichtig, dass wir mit Hilfe digitaler Ethik-Parameter für eine gute digitale Zukunft definieren.
Die Digitalisierung hat enorme Auswirkungen, vergleichbar mit der Erfindung des Buchdruckes.
Vor welchen Herausforderungen stehen wir durch die rasante Dynamik der Digitalisierung?
Wendehorst: Herausforderungen bestehen etwa in der Überwachung des Individuums, in individuellem, aber auch kollektivem Kompetenzverlust, in Gefahren für unsere Demokratie, Gefahren der Diskriminierung und Marginalisierung bestimmter Gruppen durch Technologie. Das ist allerdings typisch europäisch bzw. österreichisch gedacht. Unsere Haltung besteht darin, bei neuen Technologien zuerst an mögliche Gefahren zu denken.
Stimmt, es gibt eine Vielzahl konkreter Ängste. Wie sieht es etwa mit der Befürchtung aus, im Job ersetzt zu werden?
Wendehorst: Hier hat sich in den letzten Jahren ein Perspektivenwandel vollzogen. Noch vor fünf Jahren war die Hauptsorge der Arbeitsplatzverlust. Momentan klagt die ganze Welt aber über Fachkräftemangel, der sich, wenn man die demographische Entwicklung betrachtet, gar nicht so schnell beheben lässt. Es wird im Gegenteil eher schlimmer werden. Ich glaube also, wir können momentan eher froh sein, wenn ein Teil des Fachkräftemangels von der KI übernommen wird.
Was es sicherlich bedarf ist, dass viel mehr Flexibilität als bisher – vor allem in der österreichischen Gesellschaft – an den Tag gelegt wird. Bei uns ist sehr stark der Anspruch verankert, dass man in jungen Jahren eine Ausbildung macht, nun ein fixes Tätigkeitsprofil hat und dieses bis zur Pension ohne größere Veränderung beibehalten kann. Ich glaube, von dieser Einstellung müssen wir uns lösen. Aber unter dem Strich werden nicht viel weniger Jobs da sein.
Wie sieht es mit Datenschutz aus? Werden wir „gläserne Menschen“?
Wendehorst: Das ist ein sehr umfangreiches Thema, aber ja, natürlich werden wir zum „gläsernen Menschen“. Man kann schon mit ganz wenigen Daten, die man von einer Person hat, sehr tiefgreifende Rückschlüsse ziehen, kann sie auch nutzen, um die Persönlichkeit zu manipulieren.
Lässt sich das verhindern?
Wendehorst: Man kann natürlich etwas unternehmen. Etwa immer dann, wenn Cookiebanner aufleuchten, diese abzulehnen. Oder vermeiden allzu datenhungrige Apps herunterzuladen und überall „Okay“ zu klicken. Aber mögliche Maßnahmen halten sich in Grenzen, denn bei vielen Technologien ist man eigentlich gezwungen, sie zu nutzen. Verzichtet man beispielsweise auf WhatsApp, erfährt man nichts mehr von der Elterngruppe in der Schule oder dem Hort. Hier geht es also um Entscheidungen, die man kaum treffen kann, weil man sonst mehr oder weniger vom sozialen Leben abgetrennt ist.
CHATGPT IST ERST DER ANFANG KÜNSTLICHER INTELLIGENZ
ChatGPT bereitet ebenfalls Sorgen. Speziell im Beispiel Schule und Universität. Zu Recht?
Wendehorst: In Schulen und Unis haben wir natürlich ein Problem, wenn wir weiter den Anspruch stellen, dass wir so prüfen, wie in den letzten 30 oder 40 Jahren. Wenn wir uns allerdings flexibel darauf einstellen, dass sich die Bedingungen geändert haben, und die Prüfungsmodalitäten umstellen, dann ist das Problem nicht so groß. Es gibt technologische Entwicklungen, die wir nicht einfach wegwischen können, sondern wir müssen die Realität so akzeptieren, wie sie ist und uns darauf einstellen. Schon das Internet und das Smartphone hat unser Prüfungswesen vor gigantische Herausforderungen gestellt.
Ist der Hype um ChatGPT überhaupt gerechtfertigt?
Wendehorst: Ja, ich halte den Hype um ChatGPT schon für gerechtfertigt. Weil ChatGPT wieder vor Augen geführt hat, in welcher Geschwindigkeit die Entwicklung voranschreitet. Noch vor zwei Jahren hat man auf jeder KI-Konferenz gesagt, dass wir von der Artificial General Intelligence noch Jahrzehnte entfernt sind, da hat ChatGPT die weltweite Gemeinschaft wachgerüttelt. Durch ChatGPT stellen sich jetzt Fragen ganz neu, wie Wissen generiert und transportiert wird, wie wir Wahrheit noch von beliebig generierten Inhalten unterscheiden können.
ChatGPT hat uns vor Augen geführt hat, in welcher Geschwindigkeit die KI-Entwicklung voranschreitet.
Ich denke, dass wir ChatGPT sehr ernst nehmen müssen, weil die Gefahr besteht, dass in zehn Jahren die Fähigkeit vieler Menschen Inhalte zu generieren, die sie selbst recherchiert haben und wahr von falsch zu unterscheiden, nochmal massiv abgenommen haben wird. Wenn man sich daran gewohnt hat, dass man einfach Texte schreiben lässt und diese übernimmt, ohne zu überprüfen, von welchen Quellen das kommt, wird das gravierende Auswirkungen auf unsere Gesellschaft haben.
Wie können wir gegensteuern?
Wendehorst: Durch Ausbildung. Wir müssen sie anpassen und darauf achten, dass wir weiterhin Kindern und Jugendlichen gewisse Grundfertigkeiten beibringen und uns nicht der Versuchung hingeben, dass alles nur noch durch die KI passiert.
Wir müssen Einzelne dazu befähigen, im Internet „Wahr“ von „Falsch“ zu unterscheiden und den Menschen Kriterien in die Hand geben, wie sie mit digitalen Quellen umgehen.
