Künstliche Intelligenz – eine Datenperspektive
Sollte der Staat Anwendungen künstlicher Intelligenz regulieren – und wenn ja, auf welche Weise? Diese Frage stand im Zentrum eines Breakfast Events der Swiss Data Alliance am 30. August 2023.
Breakfast Event mit Jonas Bärtschi (Moderation), Judith Bellaiche und Abraham Bernstein (v.l.)
Auf dem Podium diskutierten Judith Bellaiche, Geschäftsführerin der Swico und Nationalrätin (GLP/Zürich), sowie Abraham Bernstein, Professor für Informatik an der Universität Zürich.
Die wichtigsten Take-Aways:
Künstliche Intelligenz kommt bei Aufgaben zum Einsatz, die bisher menschliche Intelligenz forderten. Das schürt Ängste – auch angesichts der rasanten Entwicklung der Technologie.
Anwendungen von künstlicher Intelligenz machen in ihrer Skalierung gesellschaftliche Neigungen sichtbar ("Bias"). Das kann helfen, diese Missstände anzugehen (z.B. Lohnungleichheit zwischen den Geschlechtern).
Man sollte nie vergessen, dass jeder Algorithmus Fehler hat, alle Daten Qualitätslücken haben und einen Bias aufweisen.
Die Europäische Union beabsichtigt mit dem "AI Act" eine Einteilung von KI-Technologien in "Risikoklassen". Das bedeutet, dass eine Behörde einzelne Anwendungen prüfen und einstufen müsste.
Der AI Act hat eine breite Diskussion über das Thema angefacht. Das ist zu begrüssen.
Die Schweiz kennt bisher keine Technologie-spezifischen Gesetze. Es ist sinnvoll, weiterhin diesem Grundsatz treu zu bleiben.
Ein wichtiges Thema ist die Haftung. Das bedingt, dass bei Lieferketten die jeweilige Haftung geklärt ist. Andererseits sollen auch nicht die Endnutzer bevormundet werden, sondern sollten einen sinnvollen Umgang mit der Anwendung erlernen.
Ein wichtiger Schritt wäre die Rückverfolgbarkeit ("Tracing") sowie mehr Transparenz bei der Herkunft (Provenienz) der Trainingsdaten, die für Anwendungen künstlicher Intelligenz verwendet wurden. Eine Untersuchung der Universität Zürich hat beispielsweise gezeigt, dass ein zweistelliger Prozentbereich der Bilddateien, die für das Training einer KI verwendet wurden, nicht mehr online war. Es lässt sich auch nicht überprüfen, ob unter dem gleichen Dateinamen ein anderes Bild abgespeichert ist.
Die Diskussion um das Urheberrecht darf nicht zu einem "geschlossenen" Internet führen. Open Data und Open Knowledge sind aus Sicht der Swiss Data Alliance weiterhin zentrale Anliegen, die der ganzen Gesellschaft zugute kommen.
