Generative KI-Technologien werden die Medienbranche verändern. Über die Chancen, Herausforderungen und Grenzen beriet die Medienkommission des SPD-Parteivorstandes in ihrer Sitzung am 24.04.23 im Willy-Brandt-Haus. Nach der Sitzung erklärten die beiden Vorsitzenden der Medienkommission, Heike Raab und Carsten Brosda dazu:

„KI verändert gegenwärtig jede größere Branche und zieht auch in die Newsrooms und Redaktionen ein. Generative KI-Systeme besitzen bislang erst teilweise erschlossene Fähigkeiten, Inhalte wie Texte, Bilder und Videos zu erschaffen. Dies eröffnet Medienunternehmen zahlreiche Möglichkeiten, ihre Produkte und Prozesse effizienter zu gestalten und personalisierte Inhalte für ihre Zielgruppen bereitzustellen. In den vergangenen Wochen verging kaum ein Tag, an dem nicht über neue KI-Inhalte diskutiert wurde.

Es gibt daher auch berechtige Bedenken hinsichtlich der ungeregelten und unreflektierten Nutzung dieser Systeme z.B. im Journalismus. So kann die Qualität der Inhalte leiden und die Authentizität verloren gehen. Auch besteht die Gefahr, dass generative KI-Systeme zur Verbreitung von Desinformation, z.B. in Form von gefälschten Bildern oder Propaganda, missbraucht werden. Die Folge wäre ein gefährlicher genereller Vertrauensverlust in journalistische Inhalte. Deshalb müssen wir auch medienpolitisch klären, wie ein verantwortungsvoller Umgang mit generativen KI-Systemen in der Öffentlichkeit aussehen kann. Transparenz ist ein wichtiges Kriterium. Das deutsche Medienrecht ist hier seit 2020 auch im globalen Maßstab Vorreiter, beispielsweise mit den Transparenzvorgaben für digitale Intermediäre und mit einer Verpflichtung zur Kennzeichnung sogenannter Social Bots.

Wir müssen aber weiterdenken. Denn wir brauchen europaweite Maßstäbe: Hohe Qualitätsstandards, Transparenz bei Entwicklung und Training sowie eine Kennzeichnungspflicht in bestimmten Anwendungskontexten sind für uns die Grundlage für den Einsatz von generativer KI in der Medienbranche. Wir setzen uns dafür ein, dass sich dieser Anspruch in der KI-Verordnung der EU-Kommission widerspiegeln wird, die derzeit erarbeitet wird. Auch urheberrechtliche Fragen hinsichtlich der Nutzung kreativer Inhalte durch KI einerseits und des Schutzes der kreativen Prompting-Leistung andererseits müssen beantwortet werden.

Bis solche Regelungen rechtssicher erarbeitet und beschlossen werden, wird jedoch noch einige Zeit vergehen. Um den Einsatz von KI-Systemen in dieser Zeit nicht unkontrolliert geschehen zu lassen, spricht sich die SPD-Medienkommission für die brancheninterne Entwicklung eines Ethikkodex zum Umgang mit KI in den Medien aus. Ein solcher Kodex sollte Fragen der Entwicklung von KI-Systemen genauso umfassen, wie die Reflexion ihres Einsatzes in der Berichterstattung.“