NÜRNBERG. Der neue Themen-Talk am Donnerstag von kda und EFB diskutierte im Juli 2023 die Herausforderungen moderner KI-Systeme mit Bezug auf private und öffentlich-rechtliche Medien.
Der Hype um Anwendungen künstlicher Intelligenz (KI) währt noch nicht lange. Dass die Debatten um künstliche Intelligenz (KI) schon längst über die einschlägigen Fachkreise hinausreichen, liegt an dem nahezu kometenhaften Aufstieg KI-getriebener Anwendungspraxis. KI-Tools schreiben Texte, generieren Bilder, komponieren Musik und vieles mehr. Im Internet kursieren mittlerweile etliche Selbsttests mit diversen KI-Tools, die die Bandbreite der Fähigkeiten künstlicher Intelligenz vor Augen führen.
Diese rasanten Entwicklungen haben den kda Bayern und die EFB veranlasst, in ihrer gemeinsamen Kooperationsreihe „Auf den Kopf stellen“ das Thema aufzugreifen und zur Veranstaltung „KI kann immer. Segen oder Fluch? Chancen und Herausforderungen moderner KI-Systeme“ einzuladen.
Moderatorin und Veranstalterin Nina Golf vom kda Bayern gab die drei wesentlichen Aspekte an, die den Fokus bilden bei der Anwendungspraxis künstlicher Intelligenz:
Erkennbarkeit: Wie kann sichergestellt sein, dass Ergebnisse von KI-Tools als solche auch erkannt werden?
Unabhängigkeit: Anwendungen künstlicher Intelligenz arbeiten mit sogenannten Trainingsdaten, die aus der Entwicklung von Algorithmen stammen. Wie kann in dieser Entwicklungsstufe Autonomie und Transparenz sichergestellt werden?
Gerechtigkeit: KI-Anwendungen können nachweislich bestimmte geschlechtsspezifische Vorurteile oder Verzerrungen aufweisen und verstärken. Wie kann die Qualität und Ausgewogenheit der Trainingsdaten verbessert und gewährleistet werden?
Die Teilnehmenden der Veranstaltung gaben an, KI-Systeme im weitesten Sinn zumindest zu kennen. Bereits 45 % nutzten diese auch bereits aktiv. Lediglich 5 % konnten sich gar nicht vorstellen, KI-Tools in Zukunft zu verwenden. Eine überwiegende Anzahl der Teilnehmenden zeigte sich dahingehend aufgeschlossen, privat (33 %), beruflich (28 %) und/oder ehrenamtlich (33 %) KI zu nutzen.
Für den fachlichen Austausch im moderierten Gespräch waren Dr. Johanna Beyer, Rundfunkrätin beim Bayerischen Rundfunk und EFB-Vorstandsmitglied, sowie Katharina Geiger, Medienrätin bei der Bayerischen Landeszentrale für neue Medien und ebenfalls EFB-Vorstandsmitglied, dabei.
In ihrer thematischen Einführung betonte Katharina Geiger die Besonderheit von generativer, also selbst produzierender, künstlicher Intelligenz:
KI lernt fortwährend dazu, in nur kurzer Zeit können Ergebnisse von KI-Tools schon wieder ganz anders aussehen.
In einer Live-Demonstration wurde ein bildgenerierendes KI-Tool vorgestellt und die Anwendung erklärt, wie mit einem „prompt“, sinngemäß in etwa Befehl oder Anweisung, ein Bild erzeugt wird. Über den Link https://www.bing.com/create wurde hierfür die Anweisung „Zeige mir das Bild einer Frau“ eingegeben.
Probieren Sie es aus!
Was sehen Sie? (z.B. vier schlanke Frauen) und Was sehen Sie nicht? (z.B Black people and people of color; Frauen Ü 50) Und woran ist zu erkennen, dass es sich um ein KI-Bildergebnis handelt? (z.B. unrealer schräger Blick und Perspektive der Augenstellung).
Die KI-Bildergebnisse wiesen alle ein gewisses Muster an Stereotypisierung auf. In Kleingruppen diskutierten die Teilnehmenden darüber und wie wenig divers und unausgewogen diese KI-generierten Bildergebnisse waren.
„Medienbildung und Medienkompetenz sind auch in Zukunft von ganz enormer Bedeutung“,
betonte Katharina Geiger. Weiter stellte sie fest, dass Frauen in der technologischen Entwicklung nach wie vor unterrepräsentiert sind und appellierte: „Da müssen wir uns mehr einbringen“.
„Jetzt ist also die Zeit, frühzeitig die Stimme zu erheben in den entsprechenden EFB-Gremien wie dem Bayerischen Landesfrauenrat oder auch dem Deutschen Frauenrat, um dieser gesellschaftlichen Schieflage entgegenzuwirken“,
machte Moderatorin Nina Golf ganz deutlich. Der Bayerische Landesfrauenrat hat dazu in seinem Positionspapier „Künstliche Intelligenz – eine Männerdomäne!?“ Forderungen formuliert. 2024 hat sich der Bayerische Landesfrauenrat zudem in allen Gremien und Hauptausschüssen „Künstliche Intelligenz und weibliche Perspektive“ als Jahresthema gesetzt.
Wie fehleranfällig KI-Systeme sein können, stellte Dr. Johanna Beyer unter den Stichworten „BlackBox“ und „Halluzination“ auch dar. Ersteres beschreibt den Umstand, dass KI-Entscheidungsprozesse nicht immer nachvollziehbar sind. Wenn KI nicht mehr weiter weiß, nimmt sie die nächst gelegene Lösung. Das wird im Bereich der KI-Forschung dann als „Halluzination“ bezeichnet.
Hunde werden zum Beispiel von KI-Systemen sehr gut erkannt, Pferde hingegen eher nicht. Das führe dazu, dass beim Bild eines Schimmels KI-Anwendungen dieses als einen Dalmatiner ausweisen, also als einen Hund.
„Beim Bayerischen Rundfunk kommen KI-Anwendungen schon längst zum Einsatz“,
berichtete Dr. Johanna Beyer. Der BR habe eigens eine Abteilung eingerichtet und sei dabei, entsprechend Fachpersonal zu akquirieren. Unter https://www.br.de/extra/ai-automation-lab/index.html ist nachzulesen, wie der BR im Bereich Journalismus, Informatik und Produktentwicklung arbeitet.
Bei allen kritischen Anfragen wurde auch der positive Nutzen von KI-Systemen diskutiert. Dazu zählte z.B. die Bewältigung großer Datenvolumen, im Kinder- und Jugendmedienschutz bei der Meldung von Verdachtsfällen oder im medizinischen Bereich von Diagnostikverfahren.
„Wer nichts weiß, muss alles glauben“ sagt die Schriftstellerin Marie von Ebner-Eschenbach. In der Tat bleibt festzustellen, je klüger die Fragen und Aufgaben, die wir KI-Systemen stellen, desto klüger sind die Antworten, die wir erhalten.
Es ist entscheidend, dass die Entwicklung und Anwendung von KI-Systemen geschlechtergerecht und inklusiv erfolgt, um gesellschaftliche Probleme weder zu reproduzieren noch zu verstärken. Medienbildung und Medienkompetenz können hier gezielt aufklären und einen verantwortungsvollen Umgang garantieren.
Mit der abgebildeten Wort-Wolke der Teilnehmenden schloss die Veranstaltung:
Vormerken!
„Auf den Kopf stellen“ Der Themen-Talk geht weiter:
Am Donnerstag, 12. Oktober 2023 zum Thema „Geschlechtersensible Medizin“.
kda und EFB für ein nachhaltiges Networking digital und kompakt – protestantisch, politisch und partizipativ.
Bild: fguignard /Getty Images Signature via Canva
Grafiken: EFB
