Ergebnisse

Zusammenfassung

Im Folgenden werden die Ergebnisse der Focus Groups dargestellt. Dazu wird zunächst ein zusammenfassender Überblick über die jeweiligen Focus Groups und ihre Teilnehmenden vermittelt. Danach wird das jeweilige Verständnis der Lesenden von interpersonalem Vertrauen und Vertrauen in Journalismus als Grundlage dieser Arbeit thematisiert. Anschließend folgen die Erläuterungen zur Wahrnehmung des automatisierten Journalismus und die Darstellung der positiven und negativen Erwartungen an Veränderungen im Journalismus. Zudem werden Forderungen der Lesenden an den Technologieeinsatz im Journalismus diskutiert. Weiterhin werden die Aufarbeitung der Vertrauensbewertung der Lesenden zum aktuellen Einsatz der automatisierten Berichterstattung, die Darstellung der Vertrauensurteile und wesentlicher Einflussfaktoren auf die Bewertungen erläutert. Abschließend werden – den Forschungsfragen folgend – ausgewählte Merkmale hinsichtlich ihres Einflusses auf die Vertrauensbewertung des automatisierten Journalismus thematisiert: solche der Personen, des automatisierten Journalismus, der Texte und der Publikation sowie weitere explorativ generierte Merkmale.

Im Folgenden werden die Ergebnisse der Focus Groups dargestellt. Dazu wird zunächst ein zusammenfassender Überblick über die jeweiligen Focus Groups und ihre Teilnehmenden vermittelt. Danach wird das jeweilige Verständnis der Lesenden von interpersonalem Vertrauen und Vertrauen in Journalismus als Grundlage dieser Arbeit thematisiert. Anschließend folgen die Erläuterungen zur Wahrnehmung des automatisierten Journalismus und die Darstellung der positiven und negativen Erwartungen an Veränderungen im Journalismus. Zudem werden Forderungen der Lesenden an den Technologieeinsatz im Journalismus diskutiert. Weiterhin werden die Aufarbeitung der Vertrauensbewertung der Lesenden zum aktuellen Einsatz der automatisierten Berichterstattung, die Darstellung der Vertrauensurteile und wesentlicher Einflussfaktoren auf die Bewertungen erläutert. Abschließend werden – den Forschungsfragen folgend – ausgewählte Merkmale hinsichtlich ihres Einflusses auf die Vertrauensbewertung des automatisierten Journalismus thematisiert: solche der Personen, des automatisierten Journalismus, der Texte und der Publikation sowie weitere explorativ generierte Merkmale.

Bei direkten Zitaten der Befragten werden jeweils der Name, das Alter und die Focus Group (Durchschnitt = Focus Group I, Technologie = Focus Group II, Medien = Focus Group III) angegeben. Die Namen der Teilnehmenden wurden pseudonymisiert. Die Transkripte werden zur Wahrung der Anonymität der Teilnehmenden nicht im Appendix abgedruckt, sind aber auf Nachfrage erhältlich. Das Kategoriensystem ist vollständig veröffentlicht (vgl. Appendix Kategoriensystem).

8.1 Zusammenfassende Darstellung der Focus Groups

Die Samplebildung und die grobe Zusammensetzung der Focus Groups wird in Abschnitt 7.3 besprochen¹ und in Tabelle 7.1 aufgeführt. Im Folgenden sollen die Focus Groups mit den jeweiligen Teilnehmenden genauer dargestellt und Schwerpunkte herausgearbeitet werden. Neben den Hinweisen zur Rekrutierung und Auswahl der Teilnehmenden sei auf den Unterschied zwischen Focus Group I sowie Focus Group II und III hingewiesen: Focus Group I (Durchschnitt) soll eine möglichst heterogene Zusammensetzung der Teilnehmenden erzielen, während für Focus Group II (Technologie) und III (Medien) zielgerichtet technologieaffine Personen sowie Personen mit einer hohen Medienkompetenz ausgewählt wurden und beide Focus Groups damit einen themenspezifischen Fokus aufweisen (vgl. Rekrutierung und Zusammensetzung Focus Groups in Abschnitt 7.3).

8.1.1 Focus Group I – Durchschnitt

Die Focus Group I besteht aus fünf Personen. Die Teilnehmenden sind zwischen 29 und 72 Jahre alt. Es nehmen zwei Männer und drei Frauen teil. Vier Personen sind als Angestellte oder Angestellter tätig, eine Person ist in Rente. Drei Personen geben ein Studium als höchsten Bildungsabschluss an, eine Person einen mittleren und eine Person einen Volksschulabschluss. Die Informationsnutzung der Teilnehmenden ist unterschiedlich: So geben drei Personen an, täglich Nachrichten zu konsumieren, eine Person liest nach eigenen Angaben mehrfach in der Woche Zeitung, eine nutzt selten Nachrichtenangebote. Vier Personen geben ein mittleres Vertrauen, eine ein hohes Vertrauen in Journalismus an. Der Mittelwert der gemessenen Technologieaufgeschlossenheit ist deutlich niedriger als der Wert in den beiden anderen Focus Groups. Weiterhin haben vier Personen noch nie oder wenig von automatisierten Journalismus gehört. Eine Teilnehmerin gibt dagegen an, automatisierten Journalismus schon genutzt zu haben, aber selten Nachrichten zu konsumieren².

8.1.2 Focus Group II – Technologiereflektierte

Focus Group II besteht aus fünf Personen, die im hohen Maße als technologieaffin beziehungsweise technologiereflektiert bezeichnet werden können. Es nehmen drei Männer und zwei Frauen teil, die zwischen 35 und 53 Jahre alt sind. Als höchsten Bildungsabschluss gibt eine Person einen Realschulabschluss, zwei Personen Abitur und zwei weitere Personen ein abgeschlossenes Studium an. Vier Personen arbeiten aktuell als Angestellte, eine ist Hausfrau. Drei Teilnehmende lesen mehrfach pro Woche und zwei mehrfach täglich Nachrichten. Insgesamt ist das Vertrauen in Journalismus mehrheitlich hoch.

In Focus Group II ist der Mittelwert der Technologieaufgeschlossenheit gemessen an allen Teilnehmenden am höchsten. Auch das Vorwissen zu automatisierten Journalismus ist höher als in den beiden anderen Focus Groups: Drei Personen haben bisher viel und zwei Personen wenig von computergenerierter Berichterstattung gehört. Die hohe Technologieaufgeschlossenheit ist für die Zuordnung zu dieser Gruppe vorausgesetzt und im Sampling gezielt beeinflusst. Der gemeinsame Erzählgegenstand der Teilnehmenden ist ein früheres ehrenamtliches politisches Engagement in der Piratenpartei Deutschland. Dieses Engagement liegt rund zehn Jahre zurück und die Teilnehmenden haben sich in dieser Konstellation seither nicht mehr getroffen (vgl. Rekrutierung in Abschnitt 7.3). Im Gespräch wird auf das gemeinsame Engagement verwiesen, zum Beispiel im Zusammenhang mit Kenntnissen über Journalismus und Pressearbeit oder dem wahrgenommenen Vertrauen in Journalismus. Aktuell arbeiten vier der fünf Teilnehmenden in der IT-Branche, zum Beispiel als IT-Security Consultant oder Softwareentwickler:in. Zudem sind einige Teilnehmende in ihrer Freizeit digitalpolitisch organisiert oder an netzpolitischen Themen interessiert. So sprechen sie über die Mitgliedschaft in Vereinen wie dem Chaos Computer Club, Hackerspaces oder ihr Interesse an Initiativen zum Einsatz von Künstlichen Intelligenzen. In Bezug auf automatisierten Journalismus und den Einsatz von Künstlicher Intelligenz in gesellschaftlich relevanten Bereichen bezeichnen sich die Teilnehmenden als technologiereflektiert oder technologiekritisch:

Paul (35, Technologie): Ich glaube, dass die Gruppe, die hier zusammen ist, sowieso schon eher skeptisch dem Ganzen gegenübersteht, was sowas [Anm.: Einsatz automatisierter Journalismus] angeht als jetzt der Otto Normalbürger oder Bürgerin. 01:17:20

Alle: Hm, ja [Zustimmung]

Wilfried (45, Technologie): Ich würde nicht skeptisch sagen, sondern eher kritisch. 01:17:23

Paul (35, Technologie): Ja, das stimmt, kritisch trifft es besser. [...] 01:17:29

(Focus Group II, Pos. 359–362)

8.1.3 Focus Group III – Medienkompetente

In Focus Group III nehmen sechs Personen teil, die zwischen 30 und 34 Jahre alt sind. Es sind zwei männliche und vier weibliche Teilnehmende. Eine Person ist selbstständig, fünf sind angestellt. Die Teilnehmenden dieser Focus Group lesen insgesamt am häufigsten Nachrichten: Die eine Hälfte konsumiert mehrfach pro Woche und die andere Hälfte täglich bis mehrfach täglich Nachrichten. Alle Personen geben ein hohes Vertrauen in Journalismus an. Ihre angegebene Technologieaufgeschlossenheit liegt höher als der Wert in Focus Group I (Durchschnitt), aber weniger hoch als der Wert der Technologieaufgeschlossenen. Alle Teilnehmenden geben an, von automatisiertem Journalismus bisher wenig gehört zu haben.

Der gemeinsame Erzählgegenstand dieser Focus Group ist das Studium der Kommunikationswissenschaft, bei dem sich die Teilnehmenden kennengelernt haben. Die meisten hatten in den letzten fünf Jahren keinen Kontakt mit allen Teilnehmenden und unterschiedlich intensiven Kontakt zu einzelnen Teilnehmenden (vgl. Rekrutierung in Abschnitt 7.3). Auf die hohe Medienkompetenz oder Medienreflexion wird im Gespräch selten direkt eingegangen, sondern man bezieht sich auf gemeinsam zugrundeliegendes Wissen über Medien und Journalismus.

Jan (32, Medien): Gerade wenn man Medien einigermaßen kritisch betrachtet [...] 01:08:46

(Focus Group III, Pos. 207)

In der Rekrutierung und in der Durchführung der Focus Group kann ein hohes Maß an Medienkritik für die gesamte Gruppe nicht bestätigt werden. Zudem ist die direkte Aussage des Teilnehmers auf weniger breite Zustimmung gestoßen als die technologiekritische Aussage in Focus Group II (Technologie). Deshalb wird die Gruppe der Teilnehmenden in Focus Group III (Medien) im Folgenden auch weiterhin eher als medienkompetent denn als medienkritisch bezeichnet.

8.2 Verständnis von Vertrauen

Im folgenden Abschnitt wird zunächst die Verständigung der Teilnehmenden auf einen allgemeinen Vertrauensbegriff erläutert. Danach geht es um die Definition von Vertrauen in Journalismus als Grundlage der weiteren Ausführungen zu Vertrauen in automatisierten Journalismus.

8.2.1 Interpersonales Vertrauen

Der interpersonale Vertrauensbegriff, den die Teilnehmenden in der empirischen Erhebung beschreiben, entspricht den theoretischen Ausführungen der Vertrauensforschung. Die Teilnehmenden definieren interpersonales Vertrauen als die individuelle Bereitschaft, sich als Grundlage ihres zukünftigen Handelns auf Informationen eines (menschlichen) Gegenübers verlassen zu können, ohne eine weitere Überprüfung des Gesagten vornehmen zu müssen. In der Regel beziehen sich die Teilnehmenden bei einer allgemeinen Vertrauensfrage auf interpersonale Vertrauensobjekte, teilweise werden auch abstrakte Bezugsobjekte genannt.

Daria (32, Medien): [...] dass ich mich auf das was ich höre oder wahrnehme verlassen kann. Dass es einen Wahrheitsgehalt hat ohne, dass ich es überprüfen muss. Ich vertraue der Person einfach, dass es stimmt. 00:12:40

(Focus Group III, Pos. 54)

Sandra (53, Technologie): [...], dass mir sozusagen der Glaube an etwas nicht zum Nachteil wird. 00:10:30

(Focus Group II, Pos. 48)

Eine Vertrauensbeziehung beruht auf der Grundannahme, dass das jeweilige Vertrauensobjekt mit einer positiven und gegenüber dem Subjekt wohlwollenden Intention handelt. Dabei muss der Inhalt der Aussage nicht notwendigerweise wahr sein und damit auch nicht zwingend die Meinung der Subjekte bestätigt werden, relevant ist die wohlwollende Intention, mit der die Information übermittelt wird.

Tom (32, Durchschnitt): Dass der Gegenüber [sic!] im besten Interesse von einem selber für einen handelt [...] 00:07:03

(Focus Group I, Pos. 22)

Noah (34, Medien): [...] ich [kann] selbst dann großes Vertrauen in eine Person haben [...], wenn jemand nicht immer die Wahrheit sagt oder nicht immer aufrichtig zu mir ist. [...] ich sage, das ist schon ok und es steckt aber eine gute Intention dahinter. Die Person will mir nichts Böses. 00:14:35

(Focus Group III, Pos. 58)

Im weiteren Gespräch vertiefen zwei Teilnehmende außerdem die Frage, ob Vertrauen entstehen kann, wenn die Aussagen den Vertrauensobjekts nicht mit der eigenen Meinung übereinstimmen.

Wilfried (45, Technologie): Ja, ich würde das sogar entkoppeln von dem ‚ich-bin-deren-Meinung‘ oder ‚es bestätigt meine Meinung‘. Ich würde sogar sagen, dass es durchaus Leute gibt, denen ich vertrauen kann, aber deren Meinung ich überhaupt nicht teile. Oder die anderer Meinung sind, trotzdem glaubwürdig deswegen sind. Also das hat mit dem Inhalt selbst oder meiner Bewertung des Inhalts erstmal wenig zu tun. 00:11:09

Wilfried (45, Technologie): Eher, dass ich einfach tatsächlich ein Vertrauensverhältnis habe, im Sinne von ich glaube, dass das, was derjenige sagt, auch dem entspricht, was derjenige wirklich überzeugt denkt. [...] Dass mich die Person einfach nicht bewusst anlügen will. 00:11:43

(Focus Group II, Pos. 53, 55)

Vertrauen beruht auf bisherigen Erfahrungen, die die Teilnehmenden im Umgang mit den jeweiligen Vertrauensobjekten oder in ähnlichen Situationen gesammelt und wahrgenommen haben. Angesprochen wird eine ‚Ur-Gelassenheit‘ oder ein Vertrauensvorschuss, der mit einer Vertrauensbewertung einhergeht.

Maxim (30, Medien): [...] Zusätzlich [...] gehört für mich noch eine Ur-Gelassenheit dazu. Also das Gefühl, dass alles gut werden wird. [...] Ein Vertrauensvorschuss, den man aus bisherigen Erfahrungen gemacht hat. Man hat mehrfach die Erfahrung gemacht, dass etwa für einen gut oder positiv ist. [...] 00:13:57

(Focus Group III, Pos. 57)

Insgesamt entsprechen die Ergebnisse zum interpersonalen Vertrauen den bisherigen Erkenntnissen zur Definition des allgemeinen Vertrauensbegriffs: Vertrauen ist eine Beziehung aus mindestens zwei beteiligten Akteur:innen. Eine Vertrauensentscheidung beruht auf einer aktiven Handlung, die mit Unsicherheit verbunden und auf zukünftiges Handeln gerichtet ist. Vertrauen ist ein langfristiges Konstrukt und beruht unter anderem auf den Erfahrungen des Vertrauenssubjekts im Umgang mit dem Vertrauensobjekt. Vertrauen und Glaubwürdigkeit sind eng verknüpfte Konzepte und werden – in der Theorie und in der Empirie – häufig synonym verwendet.

8.2.2 Vertrauen in Journalismus

Grundsätzlich schreiben die Teilnehmenden Journalismus in Deutschland – auch im internationalen Vergleich – mittlere bis hohe Vertrauenswerte zu. Dazu beziehen sich Einzelne auch auf externe Beurteilungskriterien, wie z. B. weltweite Rankings zur Pressefreiheit.

Maxim (30, Medien): [...] Ich habe auch das Gefühl, dass man Journalismus in Deutschland schon recht gut vertrauen kann. Dazu gibt es auch diese Rankings von angeblich unabhängiger Stelle, wie ‚Reporter ohne Grenzen‘  die das feststellen [...] 00:20:58

(Focus Group III, Pos. 72)

Die hohen Vertrauenswerte führen aber nicht dazu, dass Journalismus unreflektiert oder wenig kritisch betrachtet wird.

Tom (32, Durchschnitt): Also früher hieß es ja seriöse Quellen und Belege und möglichst unvoreingenommen einen Sachverhalt möglichst komplett beleuchten. Das ist mittlerweile [...], zumindest für mich, in weite Ferne gerückt, dieser Ursprung des Journalismus. 00:11:27

Max (29, Durchschnitt): Auch weil sich viele Artikel, also von Zeitung zu Zeitung zum selben Thema einfach unterscheiden und jeder was anderes schreibt. Das macht es natürlich schwierig, das zu glauben. 00:11:36

(Focus Group I, Pos. 36–37)

Die Teilnehmenden sprechen von einer Idealvorstellung des Journalismus, die sie prägt. Diese Vorstellung bezieht sich auf die Funktionsweise des Journalismus als Ganzes oder die Arbeitsweise journalistischer Akteur:innen und häufig wird auf die Integrität der Journalist:innen verwiesen, die wahrheitsgemäß und ohne Beeinflussung berichten.

Jan (32, Medien): [...] Dass sich die Leute [journalistische Akteur:innen] [...] nicht beeinflussen lassen und die wirkliche unverfälschte Nachricht bringen. Dass sie integer sind und das berichten, was Wahrheit ist, was sie wahrnehmen. Und dass keine Lobbyaspekte oder derartiges mit in die Berichterstattung einfließen. 00:15:35

(Focus Group III, Pos. 66)

Elfriede (72, Durchschnitt): [...] Dass man sich einfach darauf verlassen kann, dass das, was berichtet, wird auch stimmt. 00:07:47

Christine (49, Durchschnitt): [...] vielleicht eine naive Vorstellung von diesem unglaublich integeren, recherchierenden Journalisten, der vor nichts mehr Angst hat und nur die Wahrheit herausfinden will. Dass da wirklich ein Mensch dahintersteht, der es genau wissen wollte. Und das, was er oder sie in Erfahrung gebracht hat, [...] dann so berichtet, wie es sich zugetragen hat. 00:08:59

(Focus Group I, Pos. 27, 31)

Als Konsequenz von Vertrauen hinterfragen die Lesenden journalistische Produkte seltener und sind weniger kritisch in der Rezeption.

Noah (34, Medien): [...] In anderen Ländern hinterfrage ich die Berichterstattung viel häufiger und deutlich schneller als in Deutschland. 00:17:36

(Focus Group III, Pos. 69)

Außerdem beschreiben die Teilnehmenden verschiedene journalistische Objekte, auf die sich das Vertrauen der Lesenden bezieht. Genannt werden sowohl spezifische Vertrauensobjekte, wie journalistische Akteur:innen, einzelne Medien und deren Publikationen sowie Online-Publikationen und Bloggerjournalist:innen. Zudem thematisierten die Teilnehmenden ‚Journalismus als Ganzes‘ und ‚die etablierten Medien‘ als generalisierte Bezugsobjekte des Journalismusvertrauens.

Als Kriterien für die konkrete Prüfung der Vertrauenswürdigkeit von Journalismus werden eine Reihe verschiedener Merkmale genannt. Am häufigsten genannt und mit dem größten Einfluss auf die Vertrauensbewertung beschrieben wird die wahrgenommene bewusste Manipulation der Lesenden. Wenn Lesende eine gezielte Manipulation wahrnehmen, dann sinkt die Vertrauenswürdigkeit von Journalismus im Allgemeinen beziehungsweise das Vertrauen in die einzelne Nachricht und die jeweilige Medienorganisation, und zudem wird das Ansehen von Journalist:innen nachhaltig geschädigt. Als bewusste Manipulationsstrategien beschreiben die Teilnehmenden unwahre Tatsachenbehauptungen, die Verzerrung von Informationen, die einseitige Darstellung von Meinungen oder Sachinformationen sowie das Weglassen relevanter Aspekte oder Akteur:innen.

Viktoria (42, Technologie): [...] Ich habe das Gefühl, dass es [...] keine neutrale Berichterstattung [gibt]. Du bringst ganz schnell, einfach allein durch die Tatsache, wie du einen Satz formulierst, wen du nach vorne stellst, wer auf dem Foto drauf ist, ob die lächeln oder nicht, ecetera. Du transportierst da schon so viel Inhalt, dass du gar nicht mehr sagen kannst, dass das irgendwie neutral berichtet ist. [...] das senkt [...] das Vertrauen ein Stück weit, weil du dich immer fragst, was sie denn jetzt gerade vorhaben, in welche Richtung versuchen sie mich vielleicht gerade irgendwo hin zu schubsen [...] 00:21:41

Sandra (53, Technologie): Ich hätte dazu noch einen anderen Blickwinkel auf unsere Vergangenheit [Anm.: ehrenamtliches politisches Engagement in der Piratenpartei], und zwar so Themen, die wir selbst miterlebt haben [...] Parteitage, Demonstrationen [...]. Ich meine klar, du hast halt immer deine subjektive Sicht auf irgendwelche Ereignisse, über die potentiell berichtet wird. Wenn du aber siehst, was davon in den Medien ankommt, und du denkst, das muss eine andere Veranstaltung gewesen sein und nicht die, auf der ich war (Pause). Oder der Moment, wo uns zum ersten Mal bewusst aufgefallen ist, bei irgendwelchen Demonstrationen, wo wir genau wussten, dass wahnsinnig viele Piraten-Flaggen in der Menschenmenge waren und in der Tagesschau hast du keine einzige gesehen. [...] Ich halte die Tagesschau für ein durchaus seriöses Medium, aber das waren die Momente, wo ich mir dachte: Irgendwas läuft hier schief. 00:16:33

Sandra (53, Technologie): Nein, das hat mein Vertrauen nicht unbedingt geändert [...] Aber es hat meinen Blick geändert, auf, wie ich Medien wahrnehme [...] ich frage mich dann immer, was ist denn die Intention von denen in der Redaktion, die entscheiden, dass das die jetzt so viel Sendezeit bekommen oder halt eben null Sendezeit oder dass bewusst Sachen rausgestrichen werden. 00:19:23

(Focus Group II, Pos. 79, 67, 74)

Neben der, das Vertrauen schwächenden bewussten, Manipulation werden auch Kriterien ausgemacht, die das Vertrauen in Journalismus stärken. Sie können nach ihrem jeweiligen Bezugsobjekt gruppiert werden: Vertrauen in Journalismus machen die Teilnehmenden an der Einhaltung normativer journalistischer Standards fest, wie z. B. eine ausgewogene und sorgfältige Recherche, die berufsethische Verpflichtung zur wahrheitsgemäßen Berichterstattung, die differenzierte Darstellung unterschiedlicher gesellschaftspolitischer Standpunkte und Meinungen, ein faires Abwägen verschiedener Standpunkte in einem Text und die Aufbereitung von Informationen in der Art, dass Lesende eine eigene Meinungsbildung vollziehen können. Journalismus gilt unter den Teilnehmenden als glaub- und vertrauenswürdig, wenn die Intention und der Standpunkt der beteiligten journalistischen Akteure transparent sind. Damit ist gemeint, dass beispielsweise politische Standpunkte nachvollziehbar sind.

Michael (39, Technologie): [...] Für mich ist es die offene Absicht. Also wenn ich weiß, bestimmte Personen, bestimmte Seite, bestimmter Verlag [...] berichtet tendenziös und man weiß es, dann kann man sich darauf einstellen. [...] Und abwägen was kann da vielleicht passen, was auch nicht. Wie immer liegt die Wahrheit irgendwo dazwischen. Das ist für mich dann Vertrauen, also eine offene Absicht. 00:13:37

Wilfried (45, Technologie): [...] Man muss es halt bewerten können, wo es herkommt. Ich finde ja auch auf der linken Seite nicht alles objektiv berichtet, auch da sind ja durchaus Kolorierung drin, die das färben wollen, aber das muss nicht unbedingt mein Vertrauen mindern, wenn ich es weiß. [...] 00:15:20

(Focus Group II, Pos. 60, 63)

Außerdem genießen Nachrichten einen Vertrauensvorschuss, wenn die Publikation bei den Lesenden als glaubwürdig angesehen wird. Werden Sachverhalte in verschiedenen Zeitungen, zwar mit einer unterschiedlichen Tonalität, aber doch ähnlich beschrieben, dann steigt das Vertrauen in die jeweilige Nachricht.

Noah (34, Medien): [...] Aber solange sich die Tatsachen einigermaßen decken über das gesamte Spektrum, kann ich drauf vertrauen. 00:19:04

(Focus Group III, Pos. 71)

Max (29, Durchschnitt): Auch weil sich viele Artikel also von Zeitung zu Zeitung zum selben Thema einfach unterscheiden und jeder was anderes schreibt. Das macht es natürlich auch schwierig, das zu glauben. 00:11:36

(Focus Group I, Pos. 37)

Außerdem werden im Text angegebene weiterführende Quellen und Hintergrundinformationen als vertrauensbildend beschrieben. Negativ beeinflusst wird die wahrgenommene Vertrauenswürdigkeit eines Nachrichtentextes, wenn grammatikalische oder orthografische Fehler und inhaltliche Widersprüche im Text auffallen.

Christine (49, Durchschnitt): [...] wenn ich das Gefühl habe, dass in dem Geschriebenen meine Meinung manipuliert werden soll, dann höre ich auf zu lesen. Also Widersprüche, schlechter Satzbau und Manipulation das sind die drei Kriterien [Anm.: für sinkendes Vertrauen]. 00:10:49

(Focus Group I, Pos. 34)

Eine Teilnehmerin spricht zudem die Vertrauenswürdigkeit des Mediensystems an. Für sie ist ein Mediensystem vertrauenswürdig, wenn gesellschaftliche Minderheiten und unterrepräsentierte Gruppen in der Berichterstattung Gehör finden, eine offene Fehlerkultur herrscht und Kontrollinstanzen zur Wahrung der Ausgewogenheit existieren.

Maxim (30, Medien): [...] Ich glaube, dass eine Demokratie davon lebt, dass es bei Medien auch gewisse Kontrollinstanzen gibt, die dafür sorgen, dass eine Ausgewogenheit da sein soll. Instanzen beispielsweise, die Mahnungen oder Rügen und Ähnliches verteilen. Das gehört für mich zum Vertrauensverhältnis in Journalismus auch dazu. 00:20:58

(Focus Group III, Pos. 72)

Damit bestätigen die empirischen Ergebnisse die in theoretischen Auseinandersetzungen mit der Vertrauensforschung beschriebenen Grundannahmen: Lesende haben eine geteilte Vorstellung über die Aufgaben und Funktionen von Journalismus und der beteiligten Akteur:innen, wenngleich sie nicht im Detail jeden Schritt der Nachrichtenproduktion kennen. Zusätzlich haben Teilnehmende neben dem spezifischen Medienvertrauen auch einen generalisierten Vertrauensbegriff beschrieben. Deutlich wird außerdem, dass die Begriffe Vertrauen, Glaubwürdigkeit und Qualität überlappend und teilweise synonym verwendet werden.

Zudem führen die mittleren bis hohen Vertrauensniveaus, die die Teilnehmenden in der Rekrutierung und in den Focus Groups angeben, nicht dazu, dass Journalismus unkritisch und unreflektiert betrachtet wird. Im Gegenteil, für Probleme im Journalismus, die die Lesenden wahrnehmen, suchen sie neue Handlungsoptionen auf individueller Ebene: Einige Teilnehmende berichten beispielsweise, dass die Berichterstattung rund um die Verbreitung des Coronavirus und solche über die Demonstrationen gegen politische Maßnahmen Zweifel an einer neutralen Berichterstattung erzeugt haben. Infolgedessen suchen sie aktiv nach Informationen aus unterschiedlichen Quellen und Publikationen und fordern verstärkt, dass Kommunikator:innen Hintergrundinformationen zu ihrer Person und zu den verwendeten Informationen angeben.

Abschließend sprechen einige Teilnehmende bereits in der Definition von Vertrauen in Journalismus die Frage an, ob und wenn ja welche journalistischen Funktionen unbedingt durch menschliche Akteure und menschliche Fähigkeiten erfüllt werden müssen.

Christine (49, Durchschnitt): [...] Dass da wirklich ein Mensch dahintersteht, der es genau wissen wollte. [...] Also es ist schon in erster Linie ein Mensch, der das [Anm.: Journalismus] macht. 00:08:59

(Focus Group I, Pos. 31)

8.3 Wahrnehmung des automatisierten Journalismus

Im folgenden Abschnitt wird die Wahrnehmung des automatisierten Journalismus durch das Publikum thematisiert. Dazu wird zunächst aufgeführt, wie die Teilnehmenden den Gegenstand und die Funktionsweise beschreiben, welche Vorstellungen sie von der Technologie und den Einsatzmöglichkeiten haben und wie sie Chancen und Grenzen der automatisierten Berichterstattung wahrnehmen. Außerdem wird im zweiten Abschnitt aufgeschlüsselt, wie die Teilnehmenden die Veränderungen des Journalismus insgesamt durch die Existenz der automatisierten Berichterstattung bewerten. Dazu wird erhoben, wie sie die Relevanz und Auswirkungen des automatisierten Journalismus beschreiben und bewerten und welche Gefühle – sowohl positive als auch negative – gegenüber dem Untersuchungsgegenstand artikuliert werden.

8.3.1 Beschreibung des Untersuchungsgegenstand

Automatisierten Journalismus beschreiben die Teilnehmenden im Laufe der Gespräche der Focus Groups als Möglichkeit, mit regelbasierten oder KI-Algorithmen einfache standardisierte Texte im Journalismus zu erzeugen. Zur Benennung der Verfahren verwenden sie Begriffe wie Roboternews, Bots, Textgeneratoren oder Künstliche Intelligenzen³. Beim Vergleich zwischen klassischem Journalismus und automatisiertem Journalismus schreiben die Teilnehmenden beiden Textquellen unterschiedliche Eigenschaften zu, zum Beispiel:

Paul (35, Technologie): [...] die Maschine präsentiert die Fakten. Und der Mensch bringt dann noch eine witzige Note mit rein, um den Artikel für einen Menschen interessanter zu machen. [...] 01:11:15

(Focus Group II, Pos. 323)

Ein bekanntes Einsatzgebiet des automatisierten Journalismus ist die Sportberichterstattung. Die Teilnehmenden vermuten, dass weitere einfache Routinetexte wie Wetterberichte automatisiert erzeugt werden können. Insbesondere hinsichtlich der Verbreitung sowie der technologischen Funktionsweise und der tatsächlichen Nutzung von Algorithmen, die mit Künstlicher Intelligenz arbeiten, äußern die Teilnehmenden ein hohes Informationsbedürfnis (vgl. ausführlich Abschnitt 8.4.4).

Max (29, Durchschnitt): Ich kenne so Texte aus Sportberichten, wie Fußballspiele zum Beispiel. Und wenn das automatisch geschrieben worden ist, dann sind immer die gleichen Phrasen drin. So, 2:1 das Ende und das knappste aller Ergebnisse steht dann immer dort. 00:15:54

(Focus Group I, Pos. 52)

Sandra (53, Technologie): Ja, da [Anm.: Sportberichte] könnte ich mir tatsächlich vorstellen, dass das gut funktioniert. Weil es eine Aufbereitung von Zahlen zu einem Text ist. Das Gleiche kannst du wahrscheinlich auch mit Wetterdaten und anderen Sachen machen. Also da, wo man einen Text um Zahlen rumstricken muss und es soll einigermaßen nett klingen und das Lesen erleichtern – im Gegensatz zu einer Tabelle mit Zahlen. 00:26:03

(Focus Group II, Pos. 93)

Zur Beschreibung der Verfahren werden immer wieder Formulierungen wie ‚ein wenig Text um Zahlen herum‘, ‚einfache Aufbereitung von Zahlen‘, ‚ausformulierte Excelliste‘ oder ‚Zahlenprosa‘ verwendet.

Wilfried (45, Technologie): [...] Ein wenig Text um Zahlen herum gebaut. 00:48:20

Sandra (53, Technologie): Ja, oder auch mit den Fußballergebnissen. Also eine Aufbereitung von Zahlen. 00:48:25

(Focus Group II, Pos. 201–202)

Mehrheitlich geben die Teilnehmenden an, dass sie zwar grundsätzlich von der Existenz der automatisierten Berichterstattung gehört, aber noch nicht bewusst automatisiert generierte Nachrichten rezipiert haben.

Wilfried (45, Technologie): [...] Ich bilde mir ein, dass ich noch nie bewusst selber eine bekommen hätte, aber vielleicht war sie auch nur zu gut [...] 00:02:10

(Focus Group II, Pos. 15)

Drei Teilnehmende berichten über konkrete Erfahrungen mit automatisiertem Journalismus: Zwei Teilnehmer sprechen über automatisierte Fußballberichte und eine Teilnehmerin beschreibt personalisierte Newsfeeds, bei denen sie Roboternews vermutet, da die Texte häufig gleich strukturiert sind.

Anne (32, Durchschnitt): [...] wenn ich aus Versehen nach links in meinem Handy wische und dann kommen Google News. [...] Dann klickt man eins an und dann wird einem zu dem Thema immer wieder was angezeigt, das sind verschiedene Zeitschriften oder Online-Magazine und die schreiben (...) das Gleiche. [...] Das wird ja auch oft von Robotern schon geschrieben. 00:01:28

(Focus Group I, Pos. 8)

Im Anschluss an die Besprechung der Praxisbeispiele (vgl. Leitfaden in Abschnitt 7.2) weist zudem ein Teilnehmer darauf hin, bereits automatisiert generierte Texte gelesen zu haben, was ihm bis dato nicht bewusst war.

Noah (34, Medien): [...] jetzt, wo ich diesen Artikel [Anm.: Praxisbeispiel] sehe, weiß ich, dass ich solche Artikel schon relativ häufig gelesen habe. [...] 00:43:51

(Focus Group III, Pos. 128)

Über die Funktionsweise des automatisierten Journalismus und die technologischen Hintergründe ist mehrheitlich kaum Konkretes bekannt. Die Teilnehmenden sprechen daher insgesamt ein hohes Informationsbedürfnis an (vgl. ausführlich Abschnitt 8.4.4). Die Vorstellung über die Funktionsweise dominieren zwei unterschiedliche Perspektiven zu den vermuteten technologischen Möglichkeiten der Textgenerierung: Zunächst sprechen die Teilnehmenden von einfachen und standardisierten Routinetexten. Diese basieren, so die Vorstellung, zum Beispiel auf menschlich verfassten Lückentexten, wobei tagesaktuell ausgewählte Datensätze aktualisiert werden. Bei einigen Teilnehmenden sind gleichzeitig vage Vorstellungen über Algorithmen oder Künstliche Intelligenzen präsent, die auch elaborierte journalistische Texte generieren können. Wiederholt haben einige Teilnehmende beide Perspektiven geäußert:

Anne (32, Durchschnitt): [...] Also ich stelle mir [...] eine Exceltabelle vor, da kann man Zahlen auswechseln oder das macht der Computer selber und dann wird der Text danach verfasst. [...] 00:26:57

Anne (32, Durchschnitt): [...] Ich glaube, dass die [Anm.: Algorithmen] da [...] Stichpunkte kriegen oder sich das irgendwo herziehen und die formulieren das dann selber. Die können das. Bei meinem Firmencomputer [...] wenn ich da anfange, eine Nachricht zu tippen, wird die automatisch vervollständigt. [...] letztendlich könnte der ja den Text irgendwie doch selber schreiben. Keine Ahnung, wie genau das funktioniert, aber ich glaube, die ziehen nur bestimmte Infos und schreiben dann wirklich selber. Die müssen einen Schreibstil haben oder so. 00:21:35

(Focus Group I, Pos. 95, 74)

Bis auf zwei Ausnahmen sprechen die Teilnehmenden keine genaueren Vorstellungen der technologischen Funktionsweise der Textgenerierungsalgorithmen, den Daten- oder Modellgrundlagen an. Die Vorstellung, dass automatisierter Journalismus mit Künstlichen Intelligenzen arbeitet, wird insbesondere in der Gruppe der Technologie- und Medienreflektierten thematisiert.

Michael (39, Technologie): Wo ich weiß, dass es bereits zum Einsatz kommt, sind Fußballergebnisse [...]. Da wird aufgezeichnet, was während des Turniers passiert ist, und hinterher kommt eine KI oder ein Textgenerator, also etwas echt Programmiertes, und baut daraus einfach einen Text. Da sind vielleicht ein paar Adjektive drin, so wunderbares Tor [...] ich mein’ der Mensch macht es nicht anders. Oder du kannst das Ding so trainieren, dass es [...] die Adjektive weglässt und das Ding ist sehr neutral [...] So 3 zu 1 ging es aus, und A, B und C sind die Torschützen. Tolles Spiel und 5000 Zuschauer Ende. 00:25:39

Michael (39, Technologie): [...] ich kenne die verschiedenen Varianten, die es da gibt [...], so Reinforcements Learning und so [...]. Wenn du [...] eine Story haben willst über irgendein bestimmtes Thema, dann schreibt dir die KI einfach das Teil. Das ist kein Hexenwerk in dem Sinne. [...] 00:06:56

(Focus Group II, Pos. 92, 32)

Als Vorteile der automatisierten Berichterstattung beschreiben die Teilnehmenden die Schnelligkeit, die Aktualität und die Genauigkeit der Berichte und möglicherweise eine höhere Objektivität der Texte.

Anne (32, Durchschnitt): Geschwindigkeit. Es ist ja so viel schneller. [...] der Artikel [ist] innerhalb von wahrscheinlich ein paar Sekunden fertig, weil ihn keiner schreiben muss, sondern dieser Roboter den hinklatscht [...] da kann ja viel mehr erreicht werden und viel schneller. 00:05:12

Tom (32, Durchschnitt): Aber [...] ist es [...] nicht sogar ein Vorteil, wenn man den von Maschinen geschriebenen Journalismus nimmt? Dass der von Grund auf weniger biased oder positionsbezogen ist, weil der Mensch immer irgendwie trotzdem nie hundert Prozent objektiv sein kann. 00:14:03

(Focus Group I, Pos. 16, 42)

Im Gespräch befürworteten sie die automatisierten Texte zudem in weniger hochwertig wahrgenommenen Ressorts, zum Beispiel in der Boulevardberichterstattung. Bei diesen Themen sei es sinnvoll keine menschlichen Ressourcen aufzuwenden.

Alina (30, Medien): Sinnvoll auf jeden Fall (-) 01:06:30

Jan (32, Medien): Da [Anm.: Boulevardberichterstattung] nicht mehr Ressourcen darauf zu verwenden [...] 01:06:32

(Focus Group III, Pos. 201–202)

Die Grenzen der automatisierten Berichterstattung liegen nach Wahrnehmung der Teilnehmenden in der Einordnung von Fakten und Hintergründen sowie dem Abwägen von Argumenten in einem Text. Für komplexere Zusammenhänge, wie etwa wissenschaftlich fundierte Nachrichten oder hochspezialisierte Texte, sind computergenerierte Nachrichten mutmaßlich nicht geeignet. Insbesondere, wenn Verfahren der Künstlichen Intelligenz verwendet werden, können sich die Teilnehmenden vorstellen, dass automatisiert generierte Texte zwar eine schöne Sprache, aber denkbar fragwürdige Inhalte haben. Außerdem sehen die Teilnehmenden automatisierten Journalismus als nicht geeignet für sensible und werteorientierte Berichterstattung an und nennen dazu als Beispiel Kriegsberichterstattung. Abschließend weisen insbesondere medienkompetente Teilnehmende auf mögliche Probleme im Journalismus hin, wenn Nachrichten automatisiert veröffentlicht werden und keine Folgeabschätzung von Veröffentlichungen erfolgt (vgl. ausführliche Darstellung von positiven und negativen Erwartungen in Abschnitt 8.4).

Daria (32, Medien): [...] Ich kann es mir auch nur bei einfachen Sachen vorstellen, wie etwa Spielberichten. [...] Nicht vorstellen kann ich es mir zum Beispiel bei einer Reportage, bei der die Sprache nicht festgelegt ist. 00:11:51

(Focus Group III, Pos. 48)

Sandra (53, Technologie): Problematisch wird es dann wahrscheinlich bei einem Text, wo es nicht um Zahlen geht. Also nicht unbedingt Lyrik, weil da hast du viel kreative Freiheit. Sondern einen Zeitungsartikel, wo du keine objektiven Kriterien hast, an denen sich der Bot langhangeln kann, um den Text zu bauen, sondern der einfach Wörter aus dem Kontext irgendwie (...). Du gibst dem 73 Wörter und Begriffe und [...] dann kannst du vielleicht noch sagen, du willst einen fröhlichen Text oder einen traurigen Text und dann fängt das Gerät an, vor sich hin zu rattern. Und ich glaube da liegt das Risiko, dass du Texte bekommst, die vielleicht gut klingen, aber vielleicht inhaltlich fragwürdig sind. 00:27:02

(Focus Group II, Pos. 95)

Insgesamt verändern sich die Beschreibung der Teilnehmenden über die Verfahren des automatisierten Journalismus und die Vermutungen über die Technologie und die Einsatzmöglichkeiten im Laufe der Gespräche der Focus Groups wenig. Die Vorstellungen und Wahrnehmungen der Teilnehmenden über automatisierten Journalismus bleiben nahezu gleich. Allerdings gibt die große Mehrheit der Teilnehmenden am Ende der Gespräche und nach dem intensiven Austausch an, dass sich ihre Erwartungen an eine werteorientierte Verwendung des automatisierten Journalismus erhöht und zudem ihr Informationsbedürfnis steigt. Dies wird im Folgeabschnitt besprochen.

8.3.2 Bewertung der Veränderungen im Journalismus

Die Teilnehmenden sehen automatisierten Journalismus als relevante Medieninnovation im Journalismus an. Mit automatisierter Kommunikation verbinden sie zunächst negativ konnotierte Begriffe. Insbesondere die Einordnung und Bewertung von Sachverhalten durch Algorithmen ohne weitere menschliche Kontrolle und Prüfung bewerten die Teilnehmenden als kritisch. Insgesamt werden Neugierde und Faszination, aber auch Angst und Skepsis gegenüber dem Technologieeinsatz im Journalismus angesprochen. Diese Punkte werden im Folgenden ausführlich dargelegt.

In den Gesprächseinstiegen der Focus Groups und in den initialen Äußerungen der Teilnehmenden zum automatisierten Journalismus wird die Medieninnovation zunächst eng mit negativ konnotierten Begriffen verbunden: Die Teilnehmenden sprechen bei automatisierter Kommunikation im Journalismus zunächst über Wahlbeeinflussung und Manipulation von öffentlicher Meinung und nennen als Beispiel ihre Wahrnehmung des Präsidentschaftswahlkampfs von Donald Trump 2020⁴.

Im weiteren Gesprächsverlauf bewerten die Teilnehmenden automatisierten Journalismus als ein interessantes neues technologisches Phänomen im Journalismus. Als relevante Medieninnovation wird automatisierter Journalismus insbesondere dann bezeichnet, wenn die Teilnehmenden vor der Erhebung keine oder sehr wenig Kenntnis über die Existenz des automatisierten Journalismus angeben haben.

Maxim (30, Medien): [...] für mich ist das [Anm.: automatisierter Journalismus] eine krasse Neuerung [...] 00:42:40

(Focus Group III, Pos. 127)

Tom (32, Durchschnitt): [...] Ich finde das Thema, jetzt wo wir darüber gequatscht haben, sehr wichtig und schon interessant. 01:16:44

I: [...] warum wichtig? 01:16:46

Tom (32, Durchschnitt): Weil es weiß eben [...] große Auswirkungen haben kann auf die komplette Gesellschaft, je nachdem wie es eingesetzt wird. 01:16:57

(Focus Group I, Pos. 243–245)

Die in den Focus Groups vorgelegten Anwendungs- und Praxisbeispiele der automatisierten Berichterstattung beschreiben die Teilnehmenden insgesamt als eher langweilig und verweisen für mögliche interessantere Entwicklungen auf den künftigen Einsatz von Verfahren der Künstlichen Intelligenz. Besonders enttäuscht über die mangelnde Finesse und Komplexität der vorgelegten Praxisbeispiele äußern sich technologieaffine Teilnehmende und solche, die Erfahrungen mit automatisiertem Journalismus angeben, die sie vor der Erhebung gemacht haben.

Sowohl im Umgang mit Anwendungsbeispielen als auch in der Reflexion der Auswirkungen der Medieninnovation bewerten alle Teilnehmenden die wahrgenommene Qualität automatisiert generierter Nachrichten kritisch und können sich nicht vorstellen, dass die Verfahren geeignet sind, um hochwertige Texte, komplexe Themen oder meinungsbildende Darstellungsformen zu generieren.

Wilfried (45, Technologie): Keine qualitativ hochwertigen [Anm.: Texte] hätte ich bis jetzt mitbekommen (Pause) 00:02:23

(Focus Group II, Pos. 19)

Als negativ beschreiben die Teilnehmenden die Tatsache, dass automatisiert generierte Texte insgesamt wenig oder wenig deutlich als solche gekennzeichnet sind, sie wenig über die zugrundeliegenden technologischen Verfahren und Entstehung automatisierter Berichte sowie mögliche Kontrollmechanismen im automatisierten Journalismus wissen (vgl. Abschnitte 8.4.4 und 8.4.5). Gegenüber den gesellschaftlichen Auswirkungen von automatisiertem Journalismus äußern die Teilnehmenden sowohl positive als auch negative Erwartungen. Diese werden ausführlich in Abschnitt 8.4 thematisiert.

In den Focus Groups werden wiederkehrend zwei gegensätzliche Gefühle geäußert: Zum Einen sprechen die Lesenden von einer großen Faszination, Neugierde und hohem Interesse gegenüber dem automatisierten Journalismus als technologischer Neuerung. Zum anderen werden wiederholt Skepsis, Angst oder vereinzelt auch Wut angesprochen, die sich auf den Einsatz der Technologie im Journalismus beziehen.

Eine große allgemeine Neugierde äußern vor allem Teilnehmende, die bisher keine oder sehr wenig Erfahrung mit automatisiertem Journalismus gemacht haben. Faszination entsteht bei ihnen vor allem aufgrund der Tatsache, dass ein Algorithmus oder eine Maschine überhaupt in der Lage ist, journalistische Texte zu produzieren.

Maxim (30, Medien): [...] jetzt [Anm.: Vorlage Praxisbeispiel] bin ich gespannt. 00:39:15

Noah (34, Medien): Ja, erstmal nur faszinierend. 01:16:41

(Focus Group III, Pos. 119, 246)

Im intensiven Austausch äußern die Teilnehmenden Neugierde und Faszination insbesondere bei nicht-standardisierten Texten, wie meinungsbildenden Darstellungsformen und emotionalen Themen. Die Teilnehmenden versuchen hier, die Grenzen des Technologieeinsatzes auszuloten und untersuchen maschinengeschriebene Texte beispielsweise hinsichtlich der da sich zeigenden Kreativität und Emotionalität, Eigenschaften, die sie primär den Menschen zuschreiben. Die Teilnehmenden überlegen außerdem, in welchen Bereichen sie sich eine computergenerierte Berichterstattung vorstellen können und wo ihrer Meinung nach keine Einsatzmöglichkeit für Textautomatisierungen im Journalismus besteht: Sie äußern dazu beispielsweise den Wunsch auszuprobieren, ob sie nicht-gekennzeichnete computergenerierte Texte als solche identifizieren können. Zudem fragen sie nach einem Vergleich zwischen menschlich verfassten und computergenerierten Texten zu komplexen Themen. Insgesamt dominiert bei Teilnehmenden, die wenig oder keine Vorkenntnisse haben Interesse und Neugierde auf einen konkreten Umgang mit den Ergebnissen der Textgenerierung.

Noah (34, Medien): Ich fände es sehr spannend [Anm.: zu sehen], wie eine Boulevard oder Klatschpresse so automatisierte Texte macht. [...] Das würde mich interessieren, gibt es das? 01:06:09

(Focus Group III, Pos. 198)

Sandra (53, Technologie): Ja, das wäre interessant bei einem komplexen Thema einen Vergleich zu haben zwischen zwei Texten. Den einen macht die KI und den anderen ein menschlicher Journalist und dann kann man sehen, wie es am Ende aussieht. 01:08:08

(Focus Group II, Pos. 306)

Zur Einordnung der geäußerten großen Neugierde sei auch auf das Phänomen der sozialen Erwünschtheit bei der gewählten Interviewsituation und der Anwesenheit der Interviewerin hingewiesen (vgl. dazu Abschnitt 7.1). Insbesondere die heterogene Focus Group hat die Projektionsfrage, ob ihre Mitmenschen ihrer Meinung nach Interesse an computergenerierter Berichterstattung haben, eher verhalten beantwortet; nach einigem Überlegen wird die Frage schlussendlich in allen Focus Groups verneint. Hier deutet sich an, dass die Lesenden zwar ein starkes Interesse an einer transparenten Kennzeichnung computergenerierter Texte (vgl. Abschnitt 8.4.5) haben und eine anfängliche Faszination an einer neuen Technologie besteht, aber mittel- und langfristig insgesamt mit einem Gewöhnungseffekt und sinkendem Interesse der Lesenden zu rechnen ist.

Wilfried (45, Technologie): Ja, vielleicht für die ersten 20 Minuten und dann vergessen sie es. 00:35:34

Paul (35, Technologie): Ja, stimmt der Mensch ist ein Gewöhnungstier [...] 00:35:37

(Focus Group II, 123, 124)

Neben Faszination und Interesse für die technologischen Möglichkeiten äußern die Teilnehmenden aber auch Skepsis und Angst, wenn sie über Textautomatisierungen im Journalismus intensiv reflektieren. Angst und Skepsis begleitet die Vorstellung der Lesenden, dass von Menschen verfasste Texte verschwinden und sich dadurch aktuell wahrgenommene Probleme im Journalismus – wie fehlende Empathie, mangelnde Genauigkeit oder eine nicht-wahrheitsgemäße Berichterstattung – verstärken. Große Skepsis begleitet auch die Frage nach der Transparenz und Kontrolle der Algorithmen zur Textgenerierungen (vgl. dazu die ausführliche Darstellung im Abschnitt 8.4.4). Diese negativen Gefühle beruhen zum Teil auf der Angst, durch Textautomatisierung manipuliert zu werden. Konkret äußert eine Teilnehmerin Wut über mögliche Manipulationen. Die Skepsis wird zudem verstärkt durch das Unverständnis der Lesenden über fehlenden Kennzeichnungen und den intransparenten Umgang mit automatisiertem Journalismus.

Tom (32, Durchschnitt): [...] wenn das immer mehr am Markt gewinnt und der klassische menschliche Journalismus zunehmend verschwindet. 01:11:21

Christine (49, Durchschnitt): Hm. 01:11:22

Tom (32, Durchschnitt): Also die Angst könnte man haben. Ich weiß jetzt nicht, ob ich sie [Anm.: die Angst] hier habe oder haben sollte. 01:11:28 (Focus Group I, Pos. 228–230)

Werden in den Focus Groups mögliche Zukunftsvisionen wie eine steigende Personalisierung von Nachrichten oder eine insgesamt steigende Anzahl von Nachrichten durch eine kostengünstige Produktion besprochen, dann verstärkt sich die Skepsis gegenüber der Technologie und Forderungen nach einem ethischen und werteorientierten Einsatz werden deutlicher artikuliert (vgl. Abschnitt 8.4.1).

8.4 Erwartungen an automatisierten Journalismus und Forderungen zum Technologieeinsatz

Insgesamt begegnen die Teilnehmenden automatisiertem Journalismus in allen drei Focus Groups mit großer Neugierde und Offenheit und in keiner Gruppe haben sich Personen komplett ablehnend gegenüber dem Untersuchungsgegenstand geäußert. Im Gegenteil: Sie offenbaren ein hohes Informationsbedürfnis und stellen eine Reihe von Forderungen, die sie als Grundlage eines transparenten und verantwortungsvollen Einsatzes des automatisierten Journalismus erachten.

Im Folgenden werden die Erwartungen an automatisierten Journalismus aufgeführt, die sich mehrheitlich auf einen mittel- und langfristigen Einsatz der computergenerierten Berichterstattung beziehen. Da das Vorwissen über die Existenz des automatisierten Journalismus und der Kontakt der Teilnehmenden mit computergenerierten Texten bisher sehr gering sind wären initiale Erwartungen an automatisierten Journalismus vor Vorlage von konkreten Anwendungsbeispielen wenig aussagekräftig⁵.

Insgesamt äußern die Teilnehmenden keinen Zweifel daran, dass automatisierte Berichterstattung die Zukunft des Journalismus beeinflussen wird. Sie sind teilweise unsicher über mögliche Konsequenzen für die Gesellschaft, zeigen eine differenzierte Sichtweise auf mittel- und langfristige Perspektiven und thematisieren sowohl positive als auch negative Erwartungen an den Technologieeinsatz. Zudem fordern sie konkrete Kennzeichnungs- und Kontrollmaßnahmen beim Einsatz von automatisiertem Journalismus.

Paul (35, Technologie): Eine Sache hat das Gespräch hier auf jeden Fall geschafft: Ich werde heute Nacht nicht gut schlafen. 01:13:07

(Focus Group II, Pos. 338)

Elfriede (72, Durchschnitt): [...] Und trotzdem muss ein Grundvertrauen da sein, dass doch irgendwo immer etwas Positives rauskommt, weil einfach genug Menschen da sind, die daran interessiert sind. Ich hoffe, das stimmt. 01:13:30

(Focus Group I, Pos. 235)

8.4.1 Befürchtungen und negative Erwartungen

Neben den positiven Erwartungen, die die Teilnehmenden mit automatisierter Berichterstattung verbinden, äußern sie auch eine Reihe negativer Erwartungen und Befürchtungen. Teilweise werden diese als diffuses, nicht-zielgerichtetes allgemeines Gefühl beschrieben, andererseits äußern sie auch spezifische und detailliert ausformulierte negative Erwartungen gegenüber automatisiertem Journalismus.

Sandra (53, Technologie): Ja, aber die Auswirkungen von dem, was heute schon geht, sind ja schlimm. 00:47:46

(Focus Group II, Pos. 198)

Die technologische Möglichkeit, Nachrichtentexte automatisiert, mit hoher Geschwindigkeit, auf einem professionellen Niveau und über viele Kanäle hinweg gleichzeitig veröffentlichen zu können, löst bei den Teilnehmenden die Befürchtung aus, dass es für Lesende schwieriger wird Falschmeldungen, Fake News oder Deepfakes erkennen und Nachrichten verifizieren zu können. Sie sprechen die Befürchtung an, dass sich Echochamber- und Filterbubble-Effekte, die sie bereits jetzt im Journalismus wahrnehmen, in Zukunft weiter verstärken werden, wenn personalisierte Nachrichten in hoher Anzahl zur Verfügung stehen, die bezogen auf die politische Meinung, das Leseniveau oder individuelle Präferenzen vorausgewählt und im Inhalt an diese angepasst werden.

Christine (49, Durchschnitt): [...] das [kann] auf unsere Gesellschaft ziemlich gefährlich einwirken [...]. Und klar [...] es können auch fünf [...] Journalisten [...] aus unterschiedlicher Perspektive berichten. Aber [...] dadurch, dass [...] mit dem automatisierten Journalismus Informationen unheimlich schnell und über ganz viele Kanäle unheimlich weit verbreitet werden, können [...] unterschiedliche Realitäten [entstehen]. Und je mehr ich an eine glaube und eine Maschine erkennt, dass ich genau die Dinge lesen will, dann wird meine Realität immer mehr gefestigt und ich werde immer weniger [...] mit Toleranz auf eine andere Perspektive einzugehen. [...] 00:57:58

(Focus Group I, Pos. 181)

Maxim (30, Medien): [...] Was hat es für einen Mehrwert, wenn es [...] keine [...] möglichst objektive Berichterstattung [...] keine Wirklichkeit gibt, auf die wir uns einigen, sondern jeder nur noch seine Wahrnehmung weiter verstärkt? 00:57:30

(Focus Group III, Pos. 173)

Die möglicherweise steigende Personalisierung ist für die Teilnehmenden eine Chance der zielgruppengenauen Nachrichtenproduktion (vgl. Abschnitt 8.4.2), löst gleichzeitig aber die Befürchtung aus, dass einigen Lesenden Informationen vorenthalten werden, beispielsweise indem die Algorithmen kein Interesse an oder zu wenig Vorbildung einzelner Lesender bei einem Nachrichtenthema annehmen.

Die Teilnehmenden äußern außerdem mehrfach die Befürchtung, dass automatisierte Berichterstattung verwendet wird, um die Lesenden und die Öffentlichkeit gezielt zu manipulieren.

Christine (49, Durchschnitt): [...] In Worten steckt unheimlich viel Macht drin und mit den richtigen Botschaften können Menschenmassen in Bewegung gesetzt werden. Richtig im Sinne von, dass es gerade den Punkt trifft. Und wenn dann diese Botschaften [...], wenn keiner mehr so weiß (-). Wahrscheinlich regiert schon längst eine künstliche Intelligenz unseren Planeten [...] 00:39:51

(Focus Group I, Pos. 128)

Eine weitere Befürchtung der Teilnehmenden ist, dass sich die Berichterstattung durch die Automatisierung und eine fehlende menschliche Kontrolle nicht mehr an den normativen Werten, Zielen und Aufgaben orientiert, an denen sich Journalismus in einer freiheitlich-demokratischen Gesellschaft – im Idealfall – orientiert.

Max (29, Durchschnitt): [...] Wenn zum Beispiel Firma Y das Programm programmiert und der Chef dort ist der Meinung, dass Corona halb so wild ist. Und deshalb werden alle Texte locker geschrieben und man liest, dass man Corona vernachlässigen kann. Oder genau das Gegenteil, man weiß es dann überhaupt nicht. Wenn eine Firma, die das programmiert, entscheiden kann, was die allgemeine Meinung ist. Ich meine, Zahlen kann man sich immer drehen, wie man es braucht. 00:41:04

(Focus Group I, Pos. 132)

Dieser Bezug zu den normativen Werten deckt sich mit der beschriebenen Vorstellung von der Integrität des Journalismus (vgl. Abschnitt 8.2.2). Die Aussage verdeutlicht die Angst einiger Teilnehmender, dass durch den automatisierten Journalismus dessen Integrität beschädigt werden könnte, und zwar durch Autor:innen, die sich den Zielen der wahrheitsgemäßen Berichterstattung, der objektiven Meinungsbildung oder der klar als solcher erkennbaren politischen Willensbildung nicht verpflichtet fühlen, für die vielmehr Motive wie Reichweite, Zahl der Klicks und Interaktionen sowie der Verkauf von Emotionen oder das Erzeugen von Angst im Hinblick auf das Erreichen politischer oder ökonomischer Ziele im Mittelpunkt stehen.

Jan (32, Medien): [...] die Tools an sich, die können ja von jedem angewandt werden in jederlei Kontext. [...] 00:36:51

Maxim (30, Medien): [...] ich denke mir gerade, dass es dann komplett willkürlich wird, was [Anm.: welches Thema] eine sehr große Reichweite bekommt. Und dann ist auch nichts mehr gewonnen, dann werden wir alle überflutet mit Informationen und Tweets. [...] 00:06:42

(Focus Group III, Pos. 108, 30)

Sandra (53, Technologie): [...] aber natürlich kann man Emotionen steuern. Und wenn man Emotionen steuert, dann kann man diese, vielleicht jetzt nicht im Fußballkontext, aber auch in anderen Bereichen Meinungen steuern. 01:12:21

Wilfried (45, Technologie): [...] da habe ich Angst davor, wenn es um Personalisierung geht. Dann wird es nämlich plötzlich hässlich, weil ich dann tatsächlich eher Schiss hätte. Jetzt wird mir nach dem Mund geredet oder jetzt wird es so getwistet, dass man mich bewusst beeinflussen will [...] 00:40:31

(Focus Group II, Pos. 328, 148)

Zudem haben Teilnehmende die Befürchtung angesprochen, dass sich insbesondere Algorithmen der Künstlichen Intelligenz nicht an dem gesellschaftlich definierten Wertekanon orientieren oder sich – aufgrund der verwendeten Daten oder Modelle – nicht orientieren können. Hier sprechen Lesende konkret die Angst vor rassistischer oder sexistischer Berichterstattung an.

Paul (35, Technologie): Ja, und ich habe Angst davor [Anm.: maschinengeschriebene Meinungstexte]. Wie gesagt die Annika [Anm.: Tay-Bot von Microsoft] hat nach drei Tagen den Holocaust geleugnet und fand Hitler cool. 00:28:51

(Focus Group II, Pos. 98)

Noah (34, Medien): [...] Einer KI müsste man erst einmal beibringen, dass es so Aspekte wie Rassismus, Feminismus und so [...] gibt und dass diese berücksichtigt werden müssen. [...] Möglicherweise wird sich die KI viele Statistiken zu Gemüte führen und aus Sicht der KI könnten dabei sehr reflektierte und sehr gut darstellbare Aussagen rauskommen, die aber rassistisches Gedankengut enthalten, weil die Quellen ein Übermaß an ähnlichen oder alten Statistiken sind. [...] 00:25:26

(Focus Group III, Pos. 79)

Am Rande thematisiert eine Teilnehmerin zudem die negative Erwartung, dass Lesende Nachrichten möglicherweise nur noch dann nutzen können, wenn sie persönliche Informationen weitergeben, aus denen der Algorithmus personalisierte Nachrichten entwickelt.

Viktoria (34, Technologie): [...] es ist immer die Frage, ob das Daten sind, die du über dich auch weitergeben willst. Also erzähle ich beispielsweise meiner Zeitung wie hoch mein IQ ist (Pause). 00:42:26

(Focus Group II, Pos. 159)

8.4.2 Hoffnungen und positive Erwartungen

Mit automatisiertem Journalismus verbinden die Teilnehmenden eine Reihe positiver Erwartungen, Wünsche und Hoffnungen, die sich auf den Servicecharakter automatisierter Texte, neue Möglichkeiten der Berichterstattung und freiwerdenden Ressourcen für Journalist:innen beziehen. Die positiven Erwartungen werden insbesondere dann angesprochen, wenn automatisierte Berichterstattung bei faktenbasierten Routinetexten verwendet wird. Deutlich zurückhaltender werden sie bei meinungsbildenden Darstellungsformen – bei Texten, die Wertungen und eine Form der Einordnung enthalten – oder bei Verwendung von Künstlicher Intelligenz geäußert (vgl. Abschnitte 8.6.3 und 8.6.4).

Konkret wird bei den positiven Erwartungen mehrfach der Servicecharakter von Journalismus angesprochen, der durch automatisierte Berichterstattung erhöht werden kann. Hier erwarten die Teilnehmenden – insbesondere bei kurzen faktenbasierten Routinetexten – eine Steigerung in der Aktualität, Schnelligkeit und Zuverlässigkeit der Berichterstattung. Außerdem können sich die Teilnehmenden vorstellen, dass einige Lesende Informationen besser aufnehmen und verstehen können, wenn diese statt in Tabellenform in beschreibenden Texten veröffentlicht werden. Dies könnte insbesondere für Börsen- und Spielergebnisse im Sport relevant sein.

Anne (32, Durchschnitt): Das wäre dann eigentlich voll cool. 00:26:22

Anne (32, Durchschnitt): [...] da wären wir wieder bei der Technik, die das ungemein vereinfacht und einfacher macht. Also das immer Up-to-date zu halten. 00:26:34

(Focus Group I, Pos. 89, 93)

Bezogen auf künftige Entwicklungen des automatisierten Journalismus verbinden einige Teilnehmende die positive Erwartung, beispielsweise durch die Möglichkeit der Auswertung von sehr hohen Datenmengen, neue Formen der Berichterstattung zu entwickeln, die mit einer rein menschlichen Informationsverarbeitung nicht möglich wären. Hier werden zum Teil positive Erwartungen formuliert, ohne eine konkrete Vorstellung zu verbalisieren, wie diese neuen Formen der Berichterstattung konzipiert sein sollten. Konkret benannt wird die Möglichkeit, durch die Verarbeitung großer Datenmengen – beispielsweise mit Verfahren der Künstlichen Intelligenz – mehr und vielfältigere Informationsquellen in die Berichterstattung aufzunehmen, als dies bisher möglich ist. Hier sprechen die Teilnehmenden an, dass Berichterstattung aus ihrer Wahrnehmung oft zu vielen Teilen aus gleichen Quellen und damit ähnlichen und beschränkten Perspektiven besteht. Durch Einsatz von Algorithmen in der Textgenerierung – insbesondere solcher, die mit Verfahren der Künstlichen Intelligenz arbeiten – könnten, so die Teilnehmenden, neue Blickwinkel aufgenommen werden, die bisher nicht berücksichtigt werden können.

Christine (49, Durchschnitt): [...] dann sehe ich da auch eine ziemliche Chance, also wenn ein gut gefütterter Roboter [...] innerhalb kürzester Zeit Informationen abgleichen [kann], was uns als Menschen mit unserem Gehirn und unseren Sinnesfertigkeiten nicht möglich wäre. Wenn innerhalb von einem Bruchteil einer Minute tausende von Quellen miteinander abgeglichen sind [...] da könnte natürlich auch etwas extrem Wertvolles dabei rauskommen. [...] 00:20:21

(Focus Group I, Pos. 68)

Wilfried (45, Technologie): [...] das ist ein interessanter Punkt. Wenn die KI, die neue Blickwinkel schafft, die eben nicht nur DPA, Reuters und die bekannten Dienste aufnimmt, dann könnte das sogar interessant wirken. Oder am Ende sogar, je nachdem wie es gemacht ist, zu mehr Vertrauen führen. Nach dem Motto: die quatschen nicht nur aus einer Quelle alles nach, die recherchieren selbst. (Pause) 00:38:33

(Focus Group II, Pos. 142)

In den Focus Groups wird als mögliches Zukunftsszenario des automatisierten Journalismus eine steigende Personalisierung von Nachrichtenartikeln diskutiert (vgl. Abschnitt 7.4). Hier sprechen Teilnehmende eine zielgruppenorientierte Nachrichtenproduktion oder eine verbesserte Barrierefreiheit von personalisierten Nachrichtentexten durch Leichte Sprache als Chance des automatisierten Journalismus an.

Christine (49, Durchschnitt): [...] wenn ich unterhalten will, dann schickt mir bitte nur die Sachen, die mich wirklich interessieren und auch in der Einfärbung und mit dem Humor und Sarkasmus oder was auch immer gerade zu meiner Tagesstimmung oder Hormonlage passt [...]. 00:57:58

(Focus Group I, Pos. 181)

Maxim (30, Medien): [...] Was ich [...] gerade ganz spannend fand [...] [, dass] so ein Text [...] dann auch in verschiedenen Schwierigkeitsstufen abgebildet werden [kann]. Hier denke ich wieder an das Thema Barrierefreiheit und ich fände es ziemlich gut, wenn man zumindest die Option – das wäre wichtig – hätte, das zu nutzen. [...] Das wäre super für Menschen mit einer leichten Lernschwierigkeit oder mit Schwierigkeiten in der deutschen Sprache. Wenn man [...] bei Nachrichten wählen könnte, den Text in leichter Sprache angezeigt zu bekommen. Dann wäre es wieder eine Chance. 00:56:06

(Focus Group III, Pos. 168)

In der Gruppe der Medienkompetenten wird zudem auf die Möglichkeit hingewiesen, dass mit der automatisierten Erstellung von Routinetexten Ressourcen von Journalist:innen für komplexere journalistische Aufgaben freiwerden.

Alina (30, Medien): [...] auf dem Stand [...] auf dem das [Anm.: automatisierter Journalismus] momentan noch ist, würde ich sagen, dass es den Redaktionen wahrscheinlich eher hilft, sich auf die Themen zu konzentrieren, die mehr menschlichen Input brauchen [...] 00:36:18

(Focus Group III, Pos. 106)

8.4.3 Erfüllung der Erwartung an vertrauensbildende Maßnahmen

Wie thematisiert, beginnen die Lesenden mehrheitlich erst in den Focus Groups mit der Reflexion über automatisierten Journalismus; sie geben überwiegend an, bisher keinen bewussten Kontakt mit computergenerierten Texten gehabt zu haben. Daher werden die Erwartungen an vertrauensbildende Maßnahmen in den Focus Groups nicht initial, zum Beispiel durch eine vorab stattgefundene Befragung, erhoben, sondern mehrheitlich im Gespräch und in der Reflexion der vorgelegten Praxisbeispiele entwickelt. Demzufolge stellt die wahrgenommene Erfüllung von vertrauensbildenden Maßnahmen an den Einsatz des automatisierten Journalismus nur bedingt eine fundierte und reflektierte Position der Lesenden dar. Dennoch können erste Meinungsäußerungen zur Erfüllung der Erwartung hinsichtlich vertrauensbildender Maßnahmen diskutiert werden. Diese werden außerdem über die geäußerten Forderungen zum transparenten Umgang der Medienorganisationen mit automatisiertem Journalismus sichtbar (vgl. Abschnitt 8.4.5).

Insgesamt sehen die Lesenden ihre Erwartungen hinsichtlich vertrauensbildender Maßnahmen der Medienorganisationen nicht erfüllt. Sie erwarteten eine deutlich sichtbare Kennzeichnung von automatisiert generierten oder hybrid erzeugten Nachrichtentexten und sind enttäuscht über die Art der Kennzeichnung der automatisiert generierten Texte in den Praxisbeispielen.

Wilfried (45, Technologie): [...] ehrlich gesagt, die Aufbereitung gefällt mir nicht. Der Text selbst liest sich gar nicht schlecht, aber die Art und Weise, wie der präsentiert wurde, gefällt mir nicht. 00:52:56

(Focus Group II, Pos. 233)

Tom (32, Durchschnitt): Das [Anm.: Kennzeichnung im Praxisbeispiel] finde ich schon teilweise irreführend, aber andererseits dann vielleicht auch clever gemacht von denen. Aber es wird nie so richtig aufgeklärt, es kann also sein, dass der Autor diesen Artikel verfasst hat und dass es verschiedene Templates wahrscheinlich gibt und einfach nur die Zahlen aktualisiert werden. [...] 00:27:59

Christine (49, Durchschnitt): Wenn sie statt einem Bild von dem Clemens [Anm.: Autorenangabe im Praxisbeispiel] einen kleinen Roboter zeigen, also wenn das gekennzeichnet wird. Dann weiß ich, da habe ich es mit Informationen zu tun, die automatisch generiert wurden und dann hätte ich von vornherein das Gefühl, hier wird offen kommuniziert. [...] 00:32:35

(Focus Group I, Pos. 99, 114)

Außerdem erwarten die Teilnehmenden deutlich mehr Informationen der Medienverantwortlichen über die Funktionsweise, die zugrundeliegenden Technologien, das Ausmaß der computergenerierten Berichterstattung im deutschen Journalismus allgemein und Informationen über den konkreten Einsatz von Algorithmen, die mit Verfahren der Künstlichen Intelligenz arbeiten.

8.4.4 Informationsbedürfnis und offene Fragen der Lesenden

In allen drei Focus Groups wird ein hohes Informationsbedürfnis gegenüber automatisierten Journalismus geäußert. Der Wunsch nach weiteren Informationen bezieht sich entweder auf den individuellen Umgang mit automatisiertem Journalismus, die konkrete Ausgestaltung und Verwendung der Technologie, insbesondere auf einen möglichen Einsatz von Verfahren, die mit Künstlicher Intelligenz arbeiten oder auf Veränderungen, die sich im System Journalismus auf der Makroebene ergeben. Teilweise entstehen aus den geäußerten Informationsbedürfnissen konkrete Forderungen an den Einsatz der Technologie, diese werden im Folgeabschnitt (vgl. 8.4.5) besprochen.

In Bezug zur individuellen Ebene wird in allen Focus Groups mehrfach angesprochen, ob und wie Lesende automatisiert generierte Texte erkennen können. Die Teilnehmenden wollen wissen, ob es Kennzeichnungsregeln oder Merkmale gibt, anhand derer man computergenerierte Texte erkennen kann. Zudem fragte eine Teilnehmerin nach, ob es die Möglichkeit eines Vergleichs zwischen einem computergenerierten und menschlich verfassten Text zu einem Thema gibt. Insbesondere die medienkompetenten Teilnehmenden äußern Unverständnis über fehlende Kennzeichnungsregelungen im Journalismus.

Wilfried (45, Technologie): [...] Ich glaube, ich würde das Erkennen der maschinengeschriebenen Texte schon fast als Sport betrachten: Also mich würde das reizen, herauszufinden, wie lange ich das noch erkennen kann. [...] 00:34:37

(Focus Group II, Pos. 117)

Jan (32, Medien): Warum nicht oder? 01:09:12

Alina (30, Medien): Ja, das ist die Frage. Warum werden die Texte nicht gekennzeichnet? Eigentlich soll man ja immer so transparent wie möglich (–) 01:09:23

(Focus Group III, Pos. 209–210)

Ein hohes Informationsbedürfnis besteht zudem in der Ausgestaltung und Verwendung des automatisierten Journalismus: Hier wollen die Teilnehmenden mehr über die Datengrundlage, die Funktionsweise der Modelle, die Verwendung von Verfahren, die mit Künstlichen Intelligenzen arbeiten, wissen. Außerdem wird nach der Anbindung der Algorithmen in redaktionelle Prozesse gefragt. Lesende äußern ein Informationsbedürfnis hinsichtlich der Programmierung, Kontrolle und Freigabe der computergenerierten Texte. Vielfach angesprochen werden auch die hybriden Verfahren und die Ausgestaltung der Mensch-Maschine-Interaktion durch Journalist:innen sowie die Umsetzung einer Kontroll- oder Redigierfunktion in Redaktionen. Zudem fragen Teilnehmende nach möglichen inhaltlichen Vorgaben für Algorithmen und nach Regelungen hinsichtlich der Verantwortung für automatisierte Nachrichten.

I: Was würdest du denn gerne noch darüber wissen wollen? 00:40:14

Max (29, Durchschnitt): Wer es programmiert hat und ob der mit seiner Meinung einen Einfluss hat auf das, was geschrieben wird [...] 00:41:04

(Focus Group I, Pos. 131–132)

Sandra (53, Technologie): [...] Aber was heißt automatisiert generiert überhaupt? Heißt das, da sitzt ein Apparat, der den Text erfasst? [...] 00:52:21

Wilfried (45, Technologie): Dahinter stehen ja viele weitere offene Fragen. [...] Und die andere Frage ist noch, wie maschinengeschrieben sind die Texte? Sind sie komplett maschinengeschrieben und werden sie nicht mehr gegengelesen? Oder werden sie von der Maschine vorgeschrieben und es wird noch feingeschliffen oder macht nur noch jemand einen Sanity-Check? [...] 00:34:37

(Focus Group II, Pos. 230, 117)

Daria (32, Medien): Mich würde interessieren, [...] wie das aufgebaut wird. [...] wenn ich die Datengrundlage habe, wie komme ich dann zu meinem Text? Es gibt ja die Beispiele mit Natural Language Processing, wo man Texte oder Wörter extrahieren kann. Oder es gibt Sentiment Scores, das bedeutet man kann Wörter mit Stimmungen belegen. Hier würde es mich interessieren, wie das grundsätzlich im Journalismus funktioniert und ob das angewendet wird? [...] So etwas finde ich einfach wichtig, wenn am Ende ein Text rauskommt, der nicht ein Fußballberichterstattung ist oder Coronazahlen darstellt. 01:23:01

(Focus Group III, Pos. 269)

Bezogen auf das System Journalismus als Ganzes haben Lesende zudem ein Informationsbedürfnis über das Ausmaß automatisiert generierter Texte im deutschen Journalismus. Dies ist, so einige Teilnehmende, insbesondere als Grundlage der individuellen Vertrauensbewertung relevant und begründet die mehrfach geäußerte Forderung nach einer Kennzeichnung oder Markierung computergenerierter Texte, die im Folgenden weiter ausgeführt wird.

8.4.5 Forderungen zum Technologieeinsatz im Journalismus

Die Teilnehmenden fordern eine Kennzeichnung automatisiert generierter Nachrichtentexte, klare Verantwortlichkeitsregelungen sowie weitere Maßnahmen zur Herstellung einer ‘algorithmic accountability’⁶. In allen Focus Groups fordern die Teilnehmenden eine Kennzeichnung oder Markierung für automatisiert oder hybrid erzeugte Nachrichtentexte. Bei einigen wird die Forderung nach einer nachvollziehbaren Kennzeichnung mit fortschreitendem Gesprächsverlauf noch deutlicher.

Wilfried (45, Technologie): Also sind wir uns auf alle Fälle ziemlich einig, dass wir eine Markierung der [Anm.: maschinengeschriebenen] Texte gerne hätten. 01:08:14

(Focus Group II, Pos. 307)

Christine (49, Durchschnitt): [...] Ich habe jetzt im Laufe unserer Unterhaltung für mich festgestellt, dass mir das tatsächlich immer wichtiger wird, dass es eine klare Kennzeichnung geben wird. So wie auf den Zigaretten draufstehen darf und mit Bildern untermauert sein darf, was Nikotin mit einem anstellt. [...] 01:18:36

(Focus Group I, Pos. 246)

Am vorgelegten Fallbeispiel zur automatisierten Corona-Berichterstattung (vgl. Praxisbeispiel in Abschnitt 3.3.3) diskutieren die Lesenden die Art der Kennzeichnung und äußern zunächst Missfallen gegenüber der Darstellung. Sie fordern eine unmissverständliche Kennzeichnung der Texte, die im Inhalt und in der Aufmachung prominent über die Art der Textgenerierung aufklärt. Für die Teilnehmenden ist eine deutliche Markierung direkt in der Autor:innenzeile wichtig und geht über eine kurze Information eines seitlich oder am Textende platzierten Informationskasten hinaus.

Sandra (53, Technologie): [...] dass es prominenter präsentiert ist. Dass man [...] den Hinweis auch bewusst liest und zwar am Anfang und nicht erst irgendwo am Ende. [...] 00:50:51

(Focus Group II, Pos. 219)

Maxim (30, Medien): [...] [ich würde] einen Text rechts unten, auch gar nicht wahrnehmen [...] Da müsste es eher ein roter Hinweis noch über dem Artikel sein. 00:41:42

(Focus Group III, Pos. 123)

Begründet wird die Forderung nach einer deutlichen Kennzeichnung mit der Idealvorstellung eines transparent agierenden journalistischen Systems und dem aktuell hohen Informationsbedürfnis der Teilnehmenden gegenüber der technologischen Neuerung (vgl. Abschnitt 8.4.4).

Noah (34, Medien): [...] Ich würde es [Anm.: eine Kennzeichnung] schon erwarten, aber es hat auch nichts geändert, es ist einfach ein neutraler Text, der auch neutral dastehen kann wie eine Statistik und deshalb brauche ich in dem Fall auch diesen Hinweis nicht [...] 00:46:01

Maxim (30, Medien): [...] ich finde es wichtig, vor allem so lange das in einer Übergangszeit ist [...] Dass man weiß, womit man es zu tun hat und dass man auch die Möglichkeit hat, das zu hinterfragen. 01:10:21

(Focus Group III, Pos. 135, 215)

Unterschiedlich bewerten die Teilnehmenden dabei, ob einfache Routinetexte und kurze Sachinformationen, die automatisiert generiert erzeugt wurden, gekennzeichnet werden sollen. Hier meinen einige, dass in diesen Fällen eine Kennzeichnung für sie nicht notwendig ist, die Mehrheit fordert dagegen eine Kennzeichnung für alle automatisiert und hybrid erzeugten Texte. Außerdem erwarten Einzelne zudem Informationen, die über die Kennzeichnung hinausgehen.

I: Und würdest du von der Zeitung erwarten, dass sie das transparent machen? Oder wer soll das kommunizieren? 01:23:24

Daria (32, Medien): Das hängt davon ab, welcher Text am Ende dabei rauskommt. Bei der Coronaberichterstattung zum Beispiel ist es relativ einfach und neutral. Aber wenn es in Richtung Meinungsbildung und Kommentar geht, dann würde ich schon gerne wissen, wie diese Texte zustandekommen und wie die Texte bewertet wurden, die veröffentlicht werden. 01:23:45

I: Das Wissen wünscht du dir von der Zeitung, die das einsetzt? 01:23:49

Daria (32, Medien): Ja. 01:23:50

(Focus Group III, Pos. 272–275)

Angemerkt wurde weiterhin, dass eine Markierung in der Praxis möglicherweise schwer umzusetzen sei, da auch über Nachrichtenagenturen Textbausteine geliefert werden und somit nicht alle Textteile eindeutig zugeordnet werden könnten. Hier fragen Teilnehmende nach der realistischen Umsetzung von Kennzeichnungen.

Die Forderung nach der Kennzeichnung wird unter allen Teilnehmenden einstimmig geteilt und eindringlicher wiederholt, wenn auf automatisierte Textgenerierung verwiesen wird, die mit Hilfe von Algorithmen der Künstlichen Intelligenz erzeugt wird.

Im Zuge der Verständigung auf eine eindeutige Kennzeichnung automatisiert generierter Nachrichtentexte fordern die Lesenden zudem Informationen von den Medienorganisationen über die Zusammenarbeit von Mensch und Maschine im Zuge der Texterstellung. Die Lesenden unterscheiden in ihrer Bewertung der Vertrauenswürdigkeit, ob automatisiert generierte Texte mit oder ohne menschliche Kontroll- und Freigabeprozesse veröffentlicht werden und fordern mehrheitlich auch darüber eine klare Information. Außerdem erwarten einige Teilnehmende Informationen zu verantwortlichen Personen, die beispielsweise für etwaige Fehler und ihre Korrekturen in der Berichterstattung zuständig sind.

Maxim (30, Medien): [...] da frage ich mich, ob dieser Text rein KI generiert ist oder wurde von denen allen doch ein [Anm.: menschlicher] Teil eingespeist oder haben die Autoren noch einmal drüber gelesen? Das finde ich jetzt nicht ganz klar formuliert. [...] 00:41:42

Maxim (30, Medien): [...] dass man heute [Anm.: Journalismus ohne Automatisierung] auch einen Journalisten dafür verantwortlich machen kann, wenn doch mal ein Fehler passiert. Man möchte auch jemanden haben, dem man das zuordnen kann. Wo man zum Beispiel eine Rüge aussprechen kann oder Ähnliches. [...] 01:18:02

(Focus Group III, Pos. 124, 248)

Daneben entwickeln die Teilnehmenden in allen Focus Groups Forderungen einer ‘algorithmic accountability’, um einen verantwortungsvollen Einsatz der automatisierten Berichterstattung durch geeignete Kontrollinstanzen regulieren, begleiten und bei Verstoß gegen ethische Vereinbarungen sanktionieren zu können. Diese Forderungen gelten insbesondere für den Einsatz von Algorithmen, die mit Verfahren der Künstlichen Intelligenz arbeiten. Die Teilnehmenden diskutieren mit unterschiedlichem Nachdruck ethische (Selbst-)Verpflichtungen, politische Regulierung und die Einführung und Durchsetzung von organisationsinternen oder -externen Kontrollinstanzen.

Viktoria (42, Technologie): Ja, das muss man halt irgendwie von politischer Seite her regulieren. 01:00:20

(Focus Group II, Pos. 269)

Maxim (30, Medien): Da müsste es im besten Fall eine ethische Vereinbarung darüber [Anm.: die Verwendung von Automatisierung und die Datenherkunft] geben. [...] 01:20:38

(Focus Group III, Pos. 261)

Mehrheitlich fordern die Lesenden Accountability-Maßnahmen, ohne dass ihre Umsetzung und Ausgestaltung deutlich und konkret formuliert werden kann. Dies zeigt, dass sich Lesende bisher nicht oder wenig intensiv mit den Auswirkungen des automatisierten Journalismus auseinandergesetzt haben und die Reflexion über den Einsatz und Forderungen zu dessen Gestaltung mehrheitlich erst im Gespräch der Focus Groups entwickelt werden.

Noah (34, Medien): [...] eine Automatisierung-Kontroll-Instanz wäre auch ganz nett. 01:24:04

I: Was soll die machen? 01:24:08

Noah (34, Medien): Eben solche Fragen (Pause), also wenn ein Medium automatisierte Texte anwendet, dass diese Kontrollinstanz solche Dinge gegenprüft. Wie wird es angewendet, welche Quellen bezieht diese Automatisierung mit ein? [...] 01:24:35

Maxim (30, Medien): Beim Spiegel gibt es [...] so eine Kontrollinstanz. So etwas müsste es vielleicht auch in einem kleineren Ausmaß für solche Artikel geben. Aber das wäre echt schwer, glaube ich. 01:24:56

(Focus Group III, Pos. 277–280)

8.5 Vertrauen in automatisierten Journalismus

Vertrauen in automatisierten Journalismus wird in den Focus Groups zum einen durch eine intuitive direkte Abfrage ermittelt und zum anderen in den Gesprächen über indirekte Äußerungen zur Wahrnehmung computergenerierter Berichterstattung und in Einschätzungen der Lesenden zu möglichen Veränderungen im Journalismus besprochen. Die intuitive Abfrage spiegelt dabei den Umgang in der Praxis wider, den die Mehrheit der Lesenden haben, indem sie wenig oder nichts von der Existenz des automatisierten Journalismus wissen, keinen bewussten Kontakt und daher wenig Gelegenheit zur intensiven Reflexion und Meinungsbildung haben. Dies zeigen auch das hohe Informationsbedürfnis und die Forderungen der Teilnehmenden nach einem transparentem Einsatz des automatisierten Journalismus (vgl. Abschnitte 8.4.4 und 8.4.5). Die Reflexion über automatisierten Journalismus in längeren Gesprächen in den Focus Groups hingegen zeigt eine gesellschaftspolitische Debatte und Einflussfaktoren auf die Vertrauensurteile, die den Lesenden wichtig sind, um eine fundierte Bewertung des automatisierten Journalismus nachvollziehen zu können.

Dabei zeigen sich deutliche Unterschiede in den Vertrauensbewertungen der einzelnen Focus Groups. Besonders die Komplexität der Vertrauensbewertung in Journalismus wird sichtbar, indem Vertrauensurteile keine monokausalen Zusammenhänge aufweisen und von einer Reihe von Einflussfaktoren abhängig sind. Insgesamt dient die Vertrauensfrage als Grundlage für die Aufarbeitung ausgewählter Einflussfaktoren auf die Vertrauensbewertung, die im Einzelnen im folgenden Abschnitt 8.6 erläutert werden.

In Focus Group I (Durchschnitt) überwiegt zunächst die Skepsis gegenüber automatisiertem Journalismus; die Teilnehmenden geben mehrheitlich an, dass die Kenntnis über automatisiert generierte Nachrichten ihr Vertrauen in Journalismus im Allgemeinen schwächt. Eine Person steht dem Einsatz der Textautomatisierung dagegen neutral gegenüber und betont die Verantwortung der Lesenden, sowohl menschlich verfasste als auch computergenerierte Texte kritisch zu rezipieren. In dieser Focus Group sind insgesamt vier Personen beteiligt, die noch nie oder bisher wenig von automatisiertem Journalismus gehört haben. Die Antworten können als erste Reaktionen auf die Kenntnis der Existenz von automatisiertem Journalismus g ewertet werden. In der Begründung ihrer Vertrauensurteile beziehen sich die Teilnehmenden auf ein subjektives, diffuses Gefühl, wenig Wissen zur Technologie, offene Fragen zum konkreten Einsatz der Anwendung und zudem die Frage nach der Kontrolle computergenerierter Texte und ihrer konkrete Einbindung in Redaktionen.

Max (29, Durchschnitt): [...] Solange keine Person irgendwie dahintersteht, ist das nicht so richtig glaubwürdig, wenn man es einfach nur vorgeschrieben bekommt. Das Gefühl hat man zumindest. 00:18:10

Christine (49, Durchschnitt): [...] [Ich] bin [...] auch bei dir Max, wenn gar kein Mensch mehr drüber guckt oder das völlig unsupervised abläuft, dann gewinnt doch wieder die Skepsis. 00:20:21

(Focus Group I, Pos. 66, 68)

Die Teilnehmenden in Focus Group I (Durchschnitt) haben im Vergleich zu den anderen am wenigsten Vorwissen zur automatisierten Textgenerierung und äußern zudem das geringste Vertrauen in automatisierten Journalismus. Nach etwa einer Stunde Gesprächsdauer werden die Teilnehmenden erneut zum Vertrauen in automatisierten Journalismus und dem Vertrauen in Journalismus, der mit computergenerierten Nachrichten arbeitet, gefragt. Hier ist eine Verstärkung der intuitiven ersten Antworten zu beobachten: Die drei Personen, die anfangs eher Skepsis gegenüber Vertrauen in automatisierten Journalismus äußerten, berichten, dass ihr Vertrauen nun entweder nicht größer geworden oder deutlich gesunken ist. Die anfangs neutral eingestellte Person sowie die Teilnehmerin, die zu Beginn ein differenziertes Urteil abgab – und sich sowohl skeptisch äußerte als auch mögliche positive Konsequenzen bedacht hat – berichten, dass sich ihr Urteil nicht verändert habe. Insgesamt verändert keine Person in den drei Focus Groups am Ende der Gespräche ihr Vertrauensurteil wesentlich. Allerdings scheinen die Teilnehmenden in ihren Urteilen deutlich sicherer zu sein; die Tonalität der Bewertungen fällt entschiedener aus. Zudem betonen die Teilnehmenden in den Abschlussstatements einzelne Punkte, die ihnen in ihren Vertrauensurteilen besonders wichtig sind. Diese werden im Detail in Abschnitt 8.6 aufgegriffen.

I: [...] Wenn ihr – nach dieser Stunde – das Thema automatisierter Journalismus hört, wie es euch jetzt in Bezug auf Vertrauen? 01:12:46

Elfriede (72, Durchschnitt): Das Vertrauen ist nicht größer geworden, weil man sich ein bisschen damit beschäftigt und insgesamt zu wenig Einblick hat. Und trotzdem muss ein Grundvertrauen da sein, dass doch irgendwo immer etwas Positives rauskommt, weil einfach genug Menschen da sind, die daran interessiert sind. Ich hoffe, das stimmt. 01:13:30

Anne (32, Durchschnitt): [...] ich muss sagen, mein Vertrauen hast du [Anm.: mit der Focus Group] auch deutlich verringert [...]. 01:14:08

(Focus Group I, Pos. 234–236)

Dagegen bewerten die Teilnehmenden mit hohem Technologiewissen in Focus Group II das intuitive Vertrauen in automatisierten Journalismus weniger skeptisch und die Mehrheit nimmt eine neutrale Position ein: Nur eine Person äußert sich direkt deutlich negativ, eine weitere sieht keine Auswirkungen der automatisierten Berichterstattung auf ihr allgemeines Vertrauensurteil in Journalismus und zwei Personen sind unschlüssig und beschreiben sowohl mögliche positive als auch negative Möglichkeiten des automatisierten Journalismus. Die fünfte Person äußert sich nicht. Die Vertrauensurteile werden mit den wahrgenommenen technologischen Limitationen und dem fehlenden Wissen über den konkreten Einsatz von Künstlicher Intelligenz im Journalismus begründet. Zudem werden in den Urteilen erste Einflussfaktoren auf die Wahrnehmung der Grenzen des Einsatzes von automatisierter Berichterstattung angesprochen (vgl. Abschnitt 8.6). Deutlich negativ äußern sich die Teilnehmenden hinsichtlich eines Vertrauensurteils, wenn automatisierter Journalismus mit Hilfe von Algorithmen der Künstlichen Intelligenz umgesetzt wird.

I: Und was macht das [Anm.: Existenz automatisierter Journalismus] mit eurem Vertrauen in Journalismus? 00:28:59

Paul (35, Technologie): Nichts Gutes. 00:29:02

I: Inwiefern? 00:29:05

Sandra (53, Technologie): Naja, ich weiß nicht, ob das Vertrauen tatsächlich so darunter leidet. [...] Eine KI kann genauso einen hanebüchenen Blödsinn schreiben wie ein Journalist, der sich einfach keine Mühe gibt und einfach nur etwas hinrotzt und nicht recherchiert und nicht nachdenkt. Dann würde ich der KI, zumindest was die Fakten und die Recherche mit Such-Algorithmen betrifft, vielleicht noch mehr zutrauen als einem Journalisten. [...] 00:29:48

Paul (35, Technologie): Es kommt wahrscheinlich immer drauf an, was die KI an Vorinformationen hatte, um daraus zu lernen und daraus dann etwas Neues zu machen. [...] 00:30:10

Wilfried (45, Technologie): Ja, ich glaube, da ist wieder die genau diese Informationen, die man auch bei normalen Journalisten hat. Welche Intention, welche Quellen hat der, welche Motivation steckt dahinter? Das ist ja bei automatisiertem Texten nicht anders: auf welcher Basis schreibt diese KI ist ja genau die gleiche Frage. Wenn das transparent wird und wenn klar ist, auf welcher Datenbasis ein Text generiert wird, dann glaube ich, muss das Vertrauen nicht unbedingt leiden. Ganz im Gegenteil vielleicht kann man dann sogar ein höheres Vertrauen entwickeln, weil man dann vielleicht glauben könnte, dass das Ergebnis relativ objektiv sein könnte. Da sind aber jetzt ein paar Fragezeichen dabei. Ein paar sehr große Fragezeichen. 00:30:56

(Focus Group II, Pos. 102–106)

Für die Teilnehmenden mit hoher Medienkompetenz in Focus Group III hat die Existenz des automatisierten Journalismus dagegen mehrheitlich keine Auswirkung auf ihre Vertrauensurteile in Journalismus: Fünf Teilnehmende geben an, dass sich ihr Vertrauen nicht ändert, die sechste Teilnehmerin äußert sich nicht. Im Gespräch spricht eine Teilnehmerin zudem von der möglichen positiven Auswirkung des Einsatzes von Künstlicher Intelligenz im automatisierten Journalismus und ändert damit ihre neutrale Haltung. Die neutrale Bewertung der Vertrauenswürdigkeit begründen die Teilnehmenden mit ihrem Wissen über die aktuell begrenzten technologischen Möglichkeiten der automatisierten Textgenerierung und die Einbindung der Technologie in vertrauenswürdige professionelle Medienorganisationen und deren Kontroll- und Korrektursysteme. Ein Teilnehmer merkt aber an, dass sich sein neutrales Vertrauensurteil nur auf professionellen Qualitätsjournalismus bezieht, nicht auf Medien und Journalismus im Allgemeinen.

Alina (30, Medien): Bei mir auch nicht [Anm.: keinen Einfluss], nein. Also auf dem Stand, soweit ich das weiß, auf dem das momentan noch ist, würde ich sagen, dass es den Redaktionen wahrscheinlich eher hilft, sich auf die Themen zu konzentrieren, die mehr menschlichen Input brauchen also (...)? 00:36:18

Jan (32, Medien): Journalismus ist ja das ganze System, das würde ich einschränken. Aber wenn es weiterhin um Vertrauen in Qualitätsjournalismus geht und dort das [Anm.: die automatisierte Textgenerierung] verwendet wird, dann habe ich da immer recht hohes Vertrauen. [...] 00:36:51

Daria (32, Medien): [...] wenn das ein Standardtext ist [...] und das basiert auf KI, dann ist meine Vertrauenswürdigkeit höher, weil ich weiß, dass das neutrale Zahlen sind, die aufgearbeitet und ausgespuckt werden. [...] 01:12:37

(Focus Group III, Pos. 106, 108, 223)

Zu Vertrauen in automatisierten Journalismus ist keine eindeutige Position erkennbar, auf die sich alle Teilnehmenden verständigen können. Einfluss auf die Vertrauensbewertung haben das Vorwissen zur Technologie, die Vorstellung über Algorithmen und Künstlichen Intelligenzen, das Wissen über journalistische Routinen und Kontrollmechanismen, die verwendeten Themen und Darstellungsformen, eine mögliche Einordnung und Kontingenz der Nachrichtentexte. Insgesamt spiegelt die Diskussion eine Abwägung verschiedener Argumente wider; die Bewertung der tatsächlichen Praxisbeispiele ist eher neutral bis skeptisch. Die Teilnehmenden reflektieren unter anderem auch Szenarien, in denen sie den Einsatz der computergenerierten Berichterstattung befürworten würden und unter welchen Umständen sie eine positive Vertrauensentscheidung treffen würden (vgl. Abschnitte 8.4.2 und 8.4.5). Größere Vorbehalte gegen den Einsatz der Technologie beziehen sich vor allem auf mögliche künftige Weiterentwicklungen und gesellschaftliche Veränderungen im Journalismus als Ganzes (vgl. Abschnitte 8.4.1).

Zur Beschreibung des wahrgenommenen allgemeinen Vertrauens in automatisierten Journalismus nehmen die Teilnehmenden in allen drei Focus Groups zunächst an, dass die Mehrheit der Bevölkerung über die Existenz des automatisierten Journalismus aufgeklärt werden will. Weiterhin wird in allen drei Gruppen ausgeführt, dass aus Sicht der meisten Teilnehmenden vermutlich wenig oder kein weiterführendes Interesse der Bevölkerung am Gegenstand besteht. Es wird ein erstes anfängliches Interesse der Bevölkerung beschrieben, welches mittelfristig keine Relevanz mehr haben wird. Zusätzlich sprechen einige Teilnehmende von einem vermutlich sinkenden Vertrauen der allgemeinen Bevölkerung in automatisierten Journalismus.

Michael (39, Technologie): Denen ist das egal. 00:35:19

Paul (35, Technologie): Ich glaube eher, dass es ein bisschen schwächt. So zu 10 bis 20 Prozent ungefähr. Nicht besonders viel, aber schon ein wenig. 00:35:19

Wilfried (35, Technologie): Ja, vielleicht für die ersten 20 Minuten und dann vergessen sie es. 00:35:34

Paul (35, Technologie): Ja, stimmt. Der Mensch ist ein Gewöhnungstier. [...] 00:35:37

Viktoria (42, Technologie): [...] so insgesamt, wenn du das abfragen würdest, dann glaube ich schon, dass ein großer Teil sagen würde, dem vertraue ich weniger. [...] 00:35:37

(Focus Group I, Pos. 120–125)

Maxim (32, Medien): Nein, ich glaube nicht, dass es die Leute Stand heute gut fänden. [...] 01:18:02

(Focus Group III, Pos. 35)

8.6 Einflussfaktoren der Vertrauensbewertung

Als Einflussfaktoren für die Vertrauensbewertung werden spezifische Merkmale ausgewählt, die insbesondere in Verbindung mit der Wahrnehmung von Medieninnovationen stehen. Dazu werden Personenmerkmale, Spezifika des automatisierten Journalismus sowie betreffende Publikations- und Textmerkmale der computergenerierten Berichterstattung aufgenommen und auf ihren Einfluss hinsichtlich der Vertrauensbewertung des Untersuchungsgegenstands durch Lesende untersucht. Die vorliegende Arbeit hat zudem das Ziel, explorativ weitere Einflussfaktoren auf die Vertrauensbewertung des automatisierten Journalismus zu prüfen. Auch darauf wird im Folgenden eingegangen.

8.6.1 Ausgewählte Personenmerkmale

Als für die Vertrauensbewertung des automatisierten Journalismus relevante Personenmerkmale werden die Technologieaufgeschlossenheit, die Medienkompetenz und die Rezeption von Roboterdarstellungen in den Medien erhoben.

Technologieaufgeschlossenheit

Die Teilnehmenden aus Focus Group II (Technologie) sind gegenüber dem automatisierten Journalismus deutlich neutraler eingestellt als beispielsweise die heterogenen Teilnehmenden aus Focus Group I (Durchschnitt). Die technologieaufgeschlossenen Teilnehmenden treffen ihre Vertrauensurteile mit hoher Kontingenz und einer Reihe unterschiedlicher Bedingungen. Zusätzlich erwarten und fordern sie weitere Informationen zum konkreten Einsatz und der Funktionsweise des Einsatzes der automatisierten Textgenerierung im Journalismus. Die neutralen Vertrauensurteile beziehen sich vor allem auf den aktuell vermuteten Stand der Technik und des Technologieeinsatzes.

Für Routinetexte und einfache Serviceanwendungen halten die technologieaufgeschlossenen Teilnehmenden den automatisierten Journalismus für vertrauenswürdig und gut geeignet, sobald die Kontingenz der Nachrichtentexte steigt und ein Algorithmus – oder noch deutlicher eine Künstliche Intelligenz – eine Bewertung vornehmen soll, äußern die Teilnehmenden eine sehr deutliche Ablehnung und negative Vertrauensurteile. Diese sehr großen Vorbehalte und deutlich negativen Gefühle nennen die Teilnehmenden insbesondere auch in Bezug auf künftige Weiterentwicklung der bisherigen Anwendung. Hier äußern sich die technologieaffinen Teilnehmenden auch deutlich entschiedener als die Teilnehmenden der anderen beiden Focus Groups.

Medienkompetenz

Teilnehmender mit hohem Vorwissen zu Journalismus und dem journalistischen Produktionsprozess schätzen die technologischen Möglichkeiten der automatisierten Berichterstattung aktuell noch als sehr beschränkt ein. Die Kenntnis über die Existenz des automatisierten Journalismus hat keine Auswirkungen auf ihr Vertrauen in Qualitätsjournalismus, da sie eine hohe Anbindung an professionelle Medienorganisationen annehmen.

Bezogen auf die Zukunft des automatisierten Journalismus beschreiben die Teilnehmenden Chancen für die Berichterstattung, beispielsweise durch freiwerdende menschliche Ressourcen oder durch die Auslagerung von Routinetexten an die Softwaresysteme der Textautomatisierung. Die Teilnehmenden vermuten aber auch eine künftig steigende Anzahl an Kommunikator:innen, die die technologischen Möglichkeiten der automatisierten Berichterstattung nutzen werden. Dazu befürchten sie, dass sich Filterbubble und Echochamber-Phänomene verstärken werden, da nicht-journalistische Akteur:innen nicht an journalistische Grundsätze und ethische Verpflichtungen gebunden sind. Bezogen auf mögliche Zukunftsszenarien bewerten medienkompetente Teilnehmende die Entwicklungen und Veränderungen des Journalismus durch Textautomatisierungen und insbesondere durch den Einsatz von Verfahren der Künstlichen Intelligenz als sehr kritisch:

Maxim (30, Medien): [...] Ich könnte noch nicht einmal sagen, ob sich die Beziehung [zwischen Lesenden und Journalismus] absolut negativ oder positiv verändern würde, aber ich habe das Gefühl es würde eine komplett andere Beziehung werden. Das ist irgendwie kein Journalismus mehr, sondern ja wirklich einfach eine Datenzusammenfassung. Ich weiß jetzt auch nicht, was sich da wieder unterscheiden würde, wenn du mich danach fragst. Ich weiß es nicht. [...] Das [Anm.: automatisierter Journalismus] würde sich vielleicht so kalt anfühlen, wenn man sich vorstellt, dass [...] das alles nur noch auf irgendwelchen Datenauswertungen beruht. 01:18:02

(Focus Group III, Pos. 248)

Medienrezeption von Robotern und Künstlichen Intelligenzen

Die Teilnehmenden sind sich einig, dass die Medienrezeption der Lesenden von Roboterdarstellungen oder Erzählungen über Künstliche Intelligenzen einen großen Einfluss auf ihre Wahrnehmung und Vertrauensbewertung des automatisierten Journalismus haben. Diese Wirkung würde in beide Richtungen funktionieren und könnte sowohl eine positive als auch eine negative Wahrnehmung des automatisierten Journalismus zur Folge haben. Aktuell berichten die Teilnehmenden aber einhellig davon, dass sie vor allem Mediendarstellungen von starken Robotern, übermächtigen Künstlichen Intelligenzen und Maschinen in dystopischen Kontexten wahrnehmen und daher vor allem negative Bilder hinsichtlich Automatisierungen, Roboterdarstellungen und Künstlichen Intelligenzen, insbesondere in gesellschaftlich relevanten Kontexten wie Journalismus, in ihren Vorstellungen dominieren.

Christine (49, Durchschnitt): [...] da [Anm.: in Filmen] hat man es ja hautnah erlebt, wie mächtig diese Dinger werden können. Also ich könnte mich da nicht befreien davon. 01:10:43

I: Und welchen Gedanken nimmst du dann mit, wenn du an die Textroboter und an Journalismus denkst? 01:11:03

Christine (49, Durchschnitt): Die beherrschen uns alle. (lacht) 01:11:04

Tom (32, Durchschnitt): Ja, genau. Die werden viel zu mächtig für uns. (lacht) [...] 01:11:21

(Focus Group I, Pos. 221, 226–228)

Insgesamt, so formulieren es die Teilnehmenden, gehen sie davon aus, dass Mediendarstellungen von Robotern nicht nur sie persönlich, sondern vielmehr die Vorstellungen der Öffentlichkeit prägen. Insbesondere in Deutschland, so nehmen es die Teilnehmenden weiter wahr, sind große Teile der Bevölkerung sehr skeptisch gegenüber technologischen Neuerungen eingestellt. Damit treffen dystopische Mediendarstellungen auf eine technologieskeptische Bevölkerung und dies, so die Annahme der Teilnehmenden, wird die Wahrnehmung des automatisierten Journalismus bei der Mehrheit der Deutschen vor allem negativ beeinflussen.

Sandra (53, Technologie): Ich glaube, da gibt es auch sehr viel Skepsis gegenüber technischen Neuerungen. [...] Gerade in Deutschland gibt es sehr viel Skepsis gegenüber Technik. [...] Und dass es in den USA oder so zum Beispiel komplett anders aussieht, weil die auch ganz anders an Technik und an Digitalisierung rangehen. [...] 00:36:48

(Focus Group II, Pos. 131)

Die Auswirkungen der Mediendarstellungen beschreiben die Teilnehmenden als so wirkmächtig, weil diese für die Lesenden die Möglichkeit ist, mit fehlenden Informationen umzugehen: Es gibt zu wenig Wissen in der Bevölkerung über automatisierten Journalismus und daher nutzen die Menschen insbesondere Mediendarstellungen, um sich eine Meinung über Automatisierungen im Allgemeinen und computergenerierte Berichterstattung im Speziellen zu bilden. Roboter und Künstliche Intelligenzen werden häufig in dystopischen Kontexten dargestellt und es überwiegen Darstellungen mächtiger und starker Künstlicher Intelligenzen, die mittelfristig die Welt beherrschen und die Menschen in verschiedenen gesellschaftlichen Bereichen dominieren. Diese Darstellungen beeinflussen – nach Wahrnehmung der Teilnehmenden – schlussendlich auch die Vertrauensbewertung des automatisierten Journalismus.

Maxim (30, Medien): Ich glaube auch, dass das Wissen dazu [Anm.: automatisierter Journalismus] noch nicht richtig da ist. Selbst wir hier sind [...] auch nicht tief in dem Thema drin. Otto-Normalverbraucher ist das noch weniger. Ich glaube, dass man allein aus Filmen und Büchern oder auch zum Thema Bots gerade eher negativ konnotierte Meinungen dazu bekommt. [...] Das sind dann oft dystopische Kontexte, in denen das verwendet wird. 00:39:07

(Focus Group III, Pos. 117)

Zudem spricht eine Teilnehmerin an, dass die Verwendung des Begriffs „Roboter“ ihr Bild über automatisierten Journalismus und die Möglichkeiten und Grenzen der Technologie beeinflusst.

Alina (30, Medien): [...] Ich finde vor allem auch das Wort „Roboter“ total abgespaced, weil man sich da immer einen Roboter vorstellt. [...] 01:15:48

(Focus Group III, Pos. 237)

8.6.2 Merkmale des automatisierten Journalismus

Zu den spezifischen Merkmalen der computergenerierten Berichterstattung als mögliche Einflussfaktoren auf die Vertrauensbewertung des automatisierten Journalismus zählen die allgemein fehlenden Kennzeichnungsregelungen im Journalismus sowie wenig Wissen der Lesenden über die Technologie, den Einsatz und die Verbreitung der computergenerierten Berichterstattung. Außerdem werden der Einfluss der gestiegenen Komplexität der Nachrichtenproduktion (’Blackboxism’) sowie der Einsatz von Algorithmen, die mit Verfahren der Künstlichen Intelligenz arbeiten und eine steigende Personalisierung von Nachrichtenartikeln auf die Vertrauensbewertung diskutiert.

Fehlende Kennzeichnungsregelungen automatisiert generierter Nachrichten

Der Einfluss der fehlenden Kennzeichnung automatisiert generierter Nachrichtentexte auf das Vertrauen der Lesenden wird im Abschnitt zu den Publikations- und Textmerkmalen beschrieben (vgl. 8.6.3). Die Kennzeichnung ist für die Lesenden ein wesentliches Merkmal, um einen transparenten und informierten Umgang mit automatisiert generierten Texten herstellen zu können.

Die häufig fehlenden Kennzeichnungsregelungen im Allgemeinen und über das System Journalismus hinweg führen daher zu insgesamt sinkendem Vertrauen in Journalismus, da die Teilnehmenden den Medienverantwortlichen eine Absicht zur Täuschung hinsichtlich des journalistischen Produktionsprozesses und zur Täuschung hinsichtlich der Textverantwortlichen unterstellen.

Christine (49, Durchschnitt): Ja, also ganz unbedingt. [...] Wenn man sich dabei ertappt, wie man das hinterfragt, dann ist quasi das blinde Vertrauen schon mal weg. [...] 00:35:34

(Focus Group I, Pos. 119)

Die überwiegende Mehrheit der Teilnehmenden berichtet von insgesamt sinkendem Journalismusvertrauen durch fehlende Kennzeichungsvereinbarungen oder verbindliche Kennzeichungsregeln für automatisiert generierte oder hybrid erzeugte Texte im deutschen Journalismus.

I: Das heißt, eine Kennzeichnung der automatisiert generierten Texte würde euch mehr oder weniger Vertrauen in Journalismus entwickeln lassen? 01:10:44

Alina (30, Medien): Ja [...] natürlich. [...] vor allem jetzt vor dem Hintergrund, dass man weiß, dass es öfter eingesetzt wird, als es gekennzeichnet wird. 01:10:57

(Focus Group III, Pos. 216–217)

Wilfried (45, Technologie): Ich würde sagen, dass die fehlende Markierung da [Vertrauen der Lesenden in Journalismus] mit reinspielt. Ohne Markierung ist das schon ein Problem, weil das die Frage aufwirft, wo der Text eigentlich herkommt. Also: Hat den ein Computer ausgespuckt oder hat sich ein Mensch Gedanken gemacht und hat der Text genau den Prozess [Anm.: den journalistischen Produktionsprozess] durchlaufen oder nicht. [...] 01:14:25

(Focus Group II, Pos. 343)

Lediglich eine Person hat beschrieben, dass eine Markierung von automatisiert generierten Texten keinen Einfluss auf ihre Wahrnehmung des Journalismus als Ganzes hat. Sie führt dazu an, dass sie vor der Erhebung bereits unbewusst Kontakt mit automatisiertem Journalismus hatte und die nachträgliche Erkenntnis darüber keine Änderung in ihrer Vertrauensbewertung hervorruft. Aus Gründen der Transparenz wünsche sie sich aber dennoch eine Kennzeichnung der automatisiert generierten Nachrichten.

Noah (34, Medien): Also offensichtlich hat es keinen Einfluss, sonst hätte ich meine Medien bisher schon anders bewertet. Insofern würde ich sagen, wahrscheinlich hat es bisher keinen Einfluss darauf gehabt, wie ich Medien bewerte. Ich würde mir schon eine Kennzeichnungspflicht in irgendeiner Art und Weise wünschen. 01:09:10

(Focus Group III, Pos. 208)

Insgesamt reagieren die Teilnehmenden mit Unverständnis auf die häufig fehlende Kennzeichnung und fordern eine Markierung automatisiert generierter oder hybrid erzeugter Texte (vgl. Abschnitt 8.4.5).

Wenig Wissen über automatisierte journalistische Berichterstattung

Sowohl unter den einzelnen Lesenden, als auch in der öffentlichen Debatte und in der Kommunikationswissenschaft gibt es wenig Wissen über die Funktionsweise und den konkreten Einsatz des automatisierten Journalismus. Auch über das Ausmaß der Verbreitung automatisiert generierter Texte und die Anbindung an Redaktionen und Medienorganisation ist insgesamt wenig bekannt. Zum Einfluss des fehlenden Wissens über automatisierten Journalismus – sowohl auf individueller als auch auf gesellschaftlicher Ebene – äußern die Teilnehmenden ein hohes Informationsbedürfnis zu den Hintergründen und zum konkreten Einsatz der automatisierten Berichterstattung und fordern klare Kennzeichnungen, Verantwortlichkeitsregelungen und Kontrollmechanismen (vgl. ausführlich in Abschnitt 8.4.5). Einige Teilnehmende argumentieren, dass es ihnen schwerfällt, überhaupt eine Vertrauensbewertung des automatisierten Journalismus vorzunehmen, da ihnen zu viele Informationen über die Technologie und den Einsatz fehlen.

I: Das heißt, du bräuchtest mehr Infos, um bewerten zu können, ob du dem Text vertraust oder nicht? 01:23:06

Daria (32, Medien): Genau. Mir würde es nicht nur um die Datengrundlage gehen, sondern auch darum, wie das Modell gebaut ist. 01:23:15

(Focus Group III, Pos. 270–271)

Weiterhin beschreiben Einige, dass ihr Vertrauen in Journalismus beziehungsweise ihr Vertrauen in automatisierten Journalismus sinkt, wenn ihnen bewusst ist, dass es, sowohl individuell als auch gesellschaftlich zu wenig Wissen über Hintergründe und den tatsächlichen Einsatz der automatisierten Berichterstattung gibt.

I: Hat dieses fehlende Hintergrundwissen Auswirkungen auf euer Vertrauen in automatisierte Texte? 00:57:37

Paul (35, Technologie): Natürlich. 00:57:37

I: Inwiefern, Paul? 00:57:38

Paul (35, Technologie): Ich werde jetzt einfach allgemein Artikel noch kritischer betrachten, als ich es wahrscheinlich eh schon tue. Und manchmal werde ich vielleicht sogar – bevor ich einen zehn Minuten Artikel lese – nach unten scrollen und nach Hinweisen suchen, wer den Text entwickelt oder verfasst hat. Und wenn ich dann sehe, dass der in welcher Form auch immer automatisiert generiert wurde, dann weiß ich nicht, ob ich den Artikel noch so ernst nehmen kann, wie wenn der von einem Menschen geschrieben worden wäre. [...] 00:58:11

(Focus Group II, Pos. 259–262)

Die Teilnehmenden thematisieren beispielsweise den Einfluss der Softwareunternehmen, die die Textalgorithmen programmieren und fragen, ob sich diese an journalistische Codizes oder Selbstverpflichtungen halten müssen.

Max (29, Durchschnitt): Ja, auf jeden Fall ist mein Vertrauen noch weniger. Und bei mir kommt die Frage auf, warum wissen das nur die Softwarefirmen, die wahrscheinlich nicht unbedingt Journalisten sind. 00:40:09

Christine (49, Durchschnitt): Haben denn Journalisten einen Ehrenkodex sowie die Ärzte? Gibt es den Eid des Journalisten oder so etwas, dass sie sich beispielsweise an der Wahrheit orientieren? 00:41:32

(Focus Group I, Pos. 130, 137)

Insgesamt äußern sich die Teilnehmenden kritisch hinsichtlich der Vertrauensbewertung des automatisierten Journalismus, wenn explizit fehlendes Hintergrundwissen thematisiert wird. Sie bekräftigen die Forderungen nach einem transparenten Einsatz des automatisierten Journalismus und geben an, dass sie künftig insgesamt kritischer Nachrichten rezipieren und auf Hinweise möglicher Automatisierung achten werden. Deutlich wird auch, dass die Vertrauensbewertung des automatisierten Journalismus insbesondere in Verbindung mit fehlendem Wissen über die Existenz, Funktionsweise und Verbreitung der computergenerierten Berichterstattung keine abgeschlossene Meinungsbildung der Lesenden darstellt, von weiteren Informationen abhängt und eine stabile Vertrauensbeziehung mittel- und langfristig erst aufgebaut werden muss.

Blackboxism über journalistischen Nachrichtenproduktionsprozess

Durch automatisierten Journalismus beziehungsweise durch Journalismus, der regelmäßig mit automatisierter Berichterstattung arbeitet, steigen die Anforderungen an die Media Literacy der Lesenden, um Journalismus kritisch begleiten zu können. Angenommen wird, dass es durch Automatisierungen für Lesende schwieriger wird, den journalistischen Nachrichtenprozess nachvollziehen zu können. Mit sinkender Nachvollziehbarkeit, fehlendem Wissen und intransparenten Verfahren sinkt das Vertrauen in automatisierten Journalismus. Die Teilnehmenden haben den Einfluss eines steigenden Blackboxism, also die steigende Komplexität und Nicht-Nachvollziehbarkeit der Nachrichtenproduktion, diskutiert und dazu unterschiedliche Perspektiven angesprochen, die sich je nach individuellem Wissen über Journalismus und Medien unterscheiden.

Grundsätzlich stimmen die Teilnehmenden in allen Focus Groups der Aussage zu, dass es für Lesende durch automatisierten Journalismus schwieriger wird, den journalistischen Nachrichtenprozess nachvollziehen zu können.

I: [...] dass durch den Einsatz dieser Textautomatisierungen es für Menschen vielleicht – vielleicht auch nicht – noch schwieriger wird zu verstehen, wie Journalismus funktioniert. Wie zum Beispiel eine Nachricht zustandekommt. Würdet ihr dem zustimmen, dass es noch komplizierter wird? 00:42:22

Tom (32, Durchschnitt): Das sehen wir ja bei uns jetzt gut. Also ja, ich denke das auf jeden Fall. 00:42:26

Max (29, Durchschnitt): Ja. 00:42:27

Elfriede (72, Durchschnitt): Ja. 00:42:28

Christine (49, Durchschnitt): Ja.00:42:30

Anne (32, Durchschnitt): Ja. 00:42:31

(Focus Group I, Pos. 140–145)

Michael (39, Technologie): Ich verstehe jetzt schon nicht, wie ein Artikel aus journalistischer Sicht entsteht. [...] 01:14:39

(Focus Group II, Pos. 345)

Unter den medienkompetenten Teilnehmenden aus Focus Group III wird ebenso besprochen, dass ein hochkomplexer und für die Lesenden schwer nachvollziehbarer Nachrichtenproduktionsprozess zu sinkendem Vertrauen der Lesenden führen kann. Gleichzeitig könnte der Einsatz des automatisierten Journalismus aber, so die Teilnehmenden, auch dazu führen, dass Lesende eine Vereinfachung des Nachrichtenproduktionsprozesses wahrnehmen: Möglicherweise teilen die Lesenden die Vorstellung, dass Textalgorithmen und Automatisierungen eine Ordnung, Strukturierung und Vereinfachung der Nachrichtenproduktion erzielen, indem sie mögliche Bewertungsspielräume verringern, Eindeutigkeit in der Berichterstattung steigern und neutral und faktenbasiert berichten. Damit würde die Vorstellung einer Blackbox als komplexen Nachrichtenproduktion aufgebrochen, indem Maschinen eine Ordnung- und Vereinfachungsfunktion zugeschrieben wird. Grundlage dieser Perspektive ist aber erneut die Forderung eines aufgeklärten und informierten Umgangs der Lesenden mit automatisiertem Journalismus.

Daria (32, Medien): [...] Vielleicht kann es auch sein, dass es das Vertrauen tatsächlich stärkt, weil es dann neutral und faktenbasiert wiedergegeben wird. [...] 01:12:37

Alina (30, Medien): Ich meine, das ist auch eine Möglichkeit, dass man die Leute an das Thema ranführt. Es gibt in so vielen Bereichen schon Automatisierung und warum sollte man das dann den Leuten vorenthalten? 01:14:09

(Focus Group III, Pos. 223, 229)

Insgesamt zeigen die Äußerungen der Teilnehmenden zur steigenden Komplexität der journalistischen Nachrichtenproduktion, dass der Einfluss auf die Vertrauensbewertung des Journalismus ein Faktor unter mehreren ist, der von den Teilnehmenden im Gespräch durchaus Berücksichtigung findet. Zusätzlich bekräftigen die Teilnehmenden die Forderung nach einem transparenten Umgang mit automatisiertem Journalismus, um eine nachhaltig fundierte Vertrauensbewertung vornehmen zu können.

Personalisierte Nachrichtentexte und Einsatz von Verfahren der Künstlichen Intelligenz

Mit automatisiertem Journalismus können in Zukunft möglicherweise personalisierte Nachrichtentexte in hoher Anzahl veröffentlicht werden und auch der Einsatz von Verfahren der Künstlichen Intelligenz wird weitere Veränderungen in der journalistischen Textproduktion ergeben. Beides sind wichtige Veränderungen im Journalismus durch automatisierte Textgenerierung, deren tatsächliche Umsetzung im Wesentlichen erst in der Zukunft erwartet wird und aktuell wenig bis keine Anwendung in der Praxis findet. Daher werden sowohl die steigende Personalisierung von Nachrichtentexten als auch der Einsatz von Verfahren der Künstlichen Intelligenz als Merkmale des automatisierten Journalismus und als Einflussfaktoren auf eine Vertrauensbewertung des Journalismus im Abschnitt Erwartungen (vgl. Abschnitt 8.4) thematisiert.

8.6.3 Publikations- und Textmerkmale

Im Folgenden werden die Kennzeichnung, das Nachrichtenthema, die Darstellungsform und der Einfluss der Medienorganisation als relevante Publikations- und Textmerkmale für die Vertrauensbewertung der Lesenden in automatisierten Journalismus besprochen.

Kennzeichnung

Automatisiert generiert oder hybrid verfasste Texte mit entsprechender Kennzeichnung gelten unter den Teilnehmenden grundsätzlich als ebenso glaub- und vertrauenswürdig wie menschlich verfasst Texte. Die Unterschiede in den Vertrauensbewertungen zwischen diesen beiden Textformen ergeben sich aus einer Kombination verschiedener Merkmale, worunter die Kennzeichnung ein relevanter Faktor ist.

Wilfried (45, Technologie): [...] Aber wenn das [Anm.: computergenerierte Texte] ordentlich markiert ist – warum sollte das ein Problem sein? 01:14:25

(Focus Group II, Pos. 343)

Einige Teilnehmende weisen darauf hin, dass sie bei bestimmten Gelegenheiten sogar gezielt automatisiert generierte Texte zur Rezeption auswählen würden, wenn diese gekennzeichnet wären. Je nach Intention des Nachrichtenkonsums würden sie bevorzugt auf automatisiert generierte Texte zugreifen, wenn sie beispielsweise eine schnelle, aktuelle und personalisierte Berichterstattung suchen. Dagegen würden sie bei einigen Themen oder Meinungstexten (vgl. Abschnitt zur Intention als weiterer Einflussfaktor 8.6.4) automatisiert generiert gekennzeichnete Texte nicht konsumieren wollen.

Christine (49, Durchschnitt): [...] wenn ich es weiß [Anm.: eine Kennzeichnung] und eine Statistik brauche oder wenn ich Informationen will, wo möglichst viele Daten in kurzer Zeit zusammengefasst sind, dann ist mir vielleicht sogar der kleine Roboter lieber [...] 00:35:34

(Focus Group I, Pos. 119)

Damit wird deutlich, dass eine Kennzeichnung automatisiert generierter Nachrichten nicht dazu führt, dass Lesende diese Texte weniger häufig zur Rezeption auswählen, weil sie automatisiert generierte Nachrichten als nicht glaubwürdig ansehen. Im Gegensatz dazu führen aber die häufig fehlenden Kennzeichnungsregelungen zu insgesamt sinkendem Vertrauen in Journalismus, da die Teilnehmenden den Medienverantwortlichen eine Absicht zur Täuschung hinsichtlich des journalistischen Produktionsprozesses und der Textverantwortlichen unterstellen (vgl. ausführlich in Abschnitt 8.6.2 und Abschnitt 8.4.5).

In Bezug auf die Kennzeichnung und die Auswirkung auf die wahrgenommene Vertrauenswürdigkeit ist bereits angesprochen worden, dass mittel- und langfristig durch Gewöhnungseffekte möglicherweise keine Auswirkungen der Kennzeichnung auf die Vertrauenswürdigkeit des automatisierten Journalismus mehr feststellbar sind. In der aktuellen Übergangs- und Einführungsphase der Technologie ist die Kennzeichnung automatisiert generierter Texte für Lesende aber sehr wichtig, um Erfahrungen im Umgang mit automatisiertem Journalismus zu sammeln. Die Teilnehmenden haben ein hohes Bedürfnis an Informationen zur Technologie und zum Einsatz der automatisiert generierten Nachrichten, um eine fundierte Meinungsbildung und Vertrauensbewertung vornehmen zu können. Zur Vertrauensbewertung prüfen sie unter anderem Nachrichtenthemen, Meinungsformen und Intentionen der Nachrichtenauswahl, die im Folgenden dargestellt werden. Grundlage dieser Bewertung ist ein informierter und transparenter Umgang mit automatisiertem Journalismus, der unter anderem auf gekennzeichneten automatisiert generierten Texten beruht.

Nachrichtenthema

Das Thema der automatisiert generierten Nachrichten ist für die Vertrauensbewertung des automatisierten Journalismus vor allem in den ersten spontanen Äußerungen sehr relevant. Über das Nachrichtenthema schließen die Teilnehmenden Themenbereiche aus, bei denen sie sich keine vertrauenswürdigen automatisiert generierten Nachrichten vorstellen können. Hier nennen die Teilnehmenden sensible Nachrichtenthemen und Berichte, die einer hohen Einordnung und Abwägung von Argumenten bedürfen, wie beispielsweise Politik- und Kriegsberichterstattung.

I: Gibt es Themen, wo ihr sagt, da ist automatisiert generiert ok? [...] 01:01:16

Christine (49, Durchschnitt): [...] Niederschlagsmengen, Sonnenstunden oder Feinstaub oder Pollen [...] wo irgendwo Messstationen stehen, die Daten generieren, die man gut auch von einem Roboter auswerten lassen kann, das wäre für mich völlig in Ordnung. 01:01:46

I: Und was ist ein No-Go-Thema für dich? 01:01:49

(Pause)

Christine (49, Durchschnitt): Politische Themen finde ich schon schwierig. Das ist sowieso so komplex, weil Emotion und Rationalität sich da auch nicht so gut im Gleichgewicht halten können. 01:02:18

Max (29, Durchschnitt): Da bin ich auch der Meinung. [...] politische Texte sind eher selten allgemein gehalten; in irgendeine Richtung gehen sie meistens. Ich finde auch, da sollte ein Journalist dahinter sitzen und (-) [...] aber wenn es keine Zahlen sind und es einfach nur runtergeschrieben wird, das ist schon komisch. 01:02:44

(Focus Group I, Pos. 191–196)

Im Laufe der Focus Groups und der intensiveren Beschäftigung mit dem Einfluss des Nachrichtenthemas kommen letztlich aber alle drei Gruppen zu dem Schluss, dass weniger das Thema, sondern vielmehr eine, im Text enthaltene, Einordnung oder Bewertung relevant ist. Es kommt nicht auf das Nachrichtenthema, sondern auf die Kontingenz des Textes an (vgl. 8.6.4). Die Teilnehmenden argumentieren beispielsweise, dass auch bei der Auswertung von Feinstaubdaten im vorgelegten Fallbeispiel des Feinstaubmonitors eine Wertung enthalten sein kann. Die Mehrheit kann sich keine vertrauenswürdigen automatisiert generierten Texte vorstellen, wenn bei der Erstellung Algorithmen eigenständig und ohne menschliche Kontrolle Wertungen oder Kontingenzentscheidungen treffen.

Viktoria (42, Technologie): Zum Beispiel dieser Feinstaubartikel. Wenn es dort nur um die reine Faktenerzählung gehen würde, wäre es für mich in Ordnung. Aber da steht, dass irgendetwas schlechter war, irgendetwas ist gut und das ist für mich ein Vergleich, eine Einschätzung. Wie will denn die KI Feinstaub einschätzen können? Klar, tut sie das auf Basis von den Zahlen und ein Wert war höher und ein Wert war niedriger und daher kommt die Bewertung gut und schlecht. Aber ich finde das schwierig, sobald eine Einordnung und Bewertung stattfindet, weil das ist ja Auslegungssache. 01:07:04

(Focus Group II, Pos. 303)

I: Dann ist auch das Thema nicht mehr relevant, sondern es geht darum, ob eine Einordnung dabei ist? 01:04:04

Jan (32, Medien): Ja. 01:04:05

(Focus Group III, Pos. 190–191)

Journalistische Stil- und Darstellungsform

Im Journalismus gilt das Gebot der Trennung zwischen Information und Meinung. Dieser Trennung folgend, werden journalistische Inhalte in informierende und kommentierende Stil- und Darstellungsformen eingeteilt. Informierende Texte wie Nachrichten oder Berichte enthalten Sachinformationen über ein Ereignis und keine Meinungsäußerung oder Bewertung der Journalist:innen. Meinungsäußerung, Einordnungen und Bewertungen sind dagegen explizit Kennzeichen der kommentierenden Darstellungsformen wie Kommentare, Glossen oder Kolumnen. Im Folgenden wird der Einfluss beider Stil- und Darstellungsformen auf die Vertrauensbewertung des automatisierten Journalismus thematisiert.

Die Mehrheit der Teilnehmenden kann sich grundsätzlich vorstellen, Vertrauen in informierende Darstellungsformen zu entwickeln. Hier beziehen sich die Teilnehmenden vor allem auf die in den Gesprächen thematisierten Sport- und Wetterberichte oder das vorgelegte Praxisbeispiel der Feinstaubmessung.

Alina (30, Medien): [...] ein Sportbericht [...]. Zum Beispiel Verein A hat das Spiel so hoch gewonnen und so weiter. [...] da würde ich auch einen automatisierten Text vertrauenswürdig finden. [...] 00:31:00

(Focus Group III, Pos. 92)

Tom (32, Durchschnitt): Sachtext [...] finde ich ok im ersten Moment. 01:05:51

(Focus Group I, Pos. 208)

Dagegen können sich die Teilnehmenden – bis auf eine Ausnahme – nicht vorstellen, Vertrauen in kommentierende Texte zu entwickeln, die von Algorithmen ohne weitere menschliche Bearbeitung oder Kontrolle generiert worden sind. Eine Teilnehmerin ergänzt, dass sie computergenerierte kommentierende Darstellungsformen möglicherweise vertrauenswürdig finden würde, aber nur, wenn die Textquelle deutlich und transparent gekennzeichnet ist (vgl. auch Abschnitt 8.4.2).

Alina (30, Medien): [...] ich kann es mir nicht vorstellen, einen automatisiert generierten Kommentar zu lesen und den als vertrauenswürdig zu sehen. 01:04:43

(Focus Group III, Pos. 193)

In der Diskussion über den Einfluss der Darstellungsform wird deutlich, dass die Bewertung der Vertrauenswürdigkeit für die Teilnehmenden – ebenso wie beim Einfluss des Themas – nicht primär an der Stil- und Darstellungsform, sondern an einer möglichen Einordnung oder Bewertung von Fakten im Text liegt. Immer dann, wenn ein Algorithmus Sachverhalte bewerten, abwägen oder einordnen müsste, sinkt das Vertrauen in automatisiert generierte Texte beziehungsweise die Teilnehmenden können sich kein positives Vertrauensurteil vorstellen.

Sandra (53, Technologie): [...] Wobei beim Wetterbericht wäre es schon wieder interessant, weil wenn geschrieben steht, dass in München heute 28 Grad sind und übermorgen sind es 37 Grad. Dann könnte natürlich die KI sagen, dass sich ganz München über das schöne Wetter freut und das Thema Klimawandel außen vor zu lassen. Je nachdem wie tendenziös das geschrieben wird. 01:05:44

Viktoria (42, Technologie): Das macht ja ein Mensch auch. 01:05:45

Sandra (53, Technologie): Ja, das hast du da auch, stimmt. Aber da wäre die Frage, wie ich einen Artikel, der von einer KI geschrieben wird, wo es um Dinge geht, die zwar Zahlenartikel sind, aber schon eine ideologische Konnotation haben können (Pause). Was dann passiert (–) 01:06:06

(Focus Group II, Pos. 298–300)

Erneut wird im Gesprächsverlauf die Neugierde einiger Teilnehmenden auf die technologischen Möglichkeiten und Grenzen der automatisiert genierten Berichterstattung sichtbar: Die Lesenden können sich nicht vorstellen, dass Algorithmen in der Lage sind, vertrauenswürdige kommentierende Darstellungsformen zu produzieren und sind neugierig, ob sie mit dieser Einschätzung richtig liegen. Kommentierende Darstellungsformen oder freiere komplexere informierende Texte wie Reportagen erfordern Kreativität, Bewertung, Abwägung – Fähigkeiten und Kompetenzen, die die Teilnehmenden Maschinen, Algorithmen und Künstlichen Intelligenzen absprechen. Dennoch würden einige Teilnehmende automatisiert generierte kommentierende und komplexe informierende Darstellungsformen gerne testen. Auch aus diesem Grund fordern sie eine deutliche Kennzeichnung der Textquelle insbesondere für computergenerierte kommentierende Darstellungsformen.

Christine (49, Durchschnitt): [...] ich [fände] es eigentlich auch echt interessant, wie mir ein Roboter seine oder ihre Meinung vermittelt [...] 01:06:52

I: Ja, ob du einen Unterschied in deiner Bewertung zwischen Sach- und Meinungstext machst, liegt an der Kennzeichnung? 01:06:57

Christine (49, Durchschnitt): Ja, wirklich nur an der Kennzeichnung. Und wenn ich dann ein paar Roboter-Meinungstexte gelesen habe und mir gedacht habe: Ne, das ist dann nicht so, dann würde ich gern meine Abstimmung revidieren und sage, die sollen bitte nur Sachtexte schreiben. (lacht) 01:07:14

(Focus Group I, Pos. 209–211)

Medienorganisation und Ort der Publikation

Zum Einfluss der Publikation beziehungsweise der Medienorganisation gibt es unter den Teilnehmenden eine einheitliche Position, die sich in der Regel erst im Laufe des Gesprächs entwickelt. Mehrheitlich überwiegt die Position einer positiven wie negativen Kollektivhaftung: Wenn ein automatisiert generierter Texte in einem von den Lesenden als vertrauenswürdig angesehenen Medium erscheint, dann gilt auch der Text grundsätzlich als vertrauenswürdig. Die Lesenden gehen davon aus, dass hochwertige und vertrauenswürdige Medien einen verantwortungsvollen Umgang mit Textalgorithmen und automatisiertem Journalismus pflegen und glauben an Qualitätskontrollen, eine engmaschige Überwachung der automatisierten Systeme und eine Freigabe von automatisierten Inhalten durch Verantwortliche. Die Vorstellung gilt umgekehrt auch für nicht-vertrauenswürdige Publikationen: Hier gehen die Lesenden von einem weniger sorgfältigen Umgang mit automatisiertem Journalismus aus. Automatisiert generierte Nachrichten, die in nicht-vertrauenswürdigen Medien erscheinen, werden als weniger vertrauenswürdig wahrgenommen.

Christine (49, Durchschnitt): Ich glaube, das hat einfach was mit der gefühlten Integrität zu tun. Ja, bei der Süddeutschen oder bei der Zeit halte ich so an diesem Glauben fest, dass integer berichtigt wird. Und wenn die Journalisten dort einen Roboter mit einsetzen, dann würde ich den Roboter in positivem Sinne in Sippenhaft mitnehmen. Dass das Endresultat mit dem gleichen integeren Standard noch einmal betrachtet wird, bevor es in Druck geht oder bevor es online freigeschalten wird. Bei der anderen Presse, also wie Bild vielleicht, also Presse, die nicht zur Qualitätspresse gehört, die halte ich eh schon nicht für integer in ihrer Berichterstattung und da kommt der Roboter auch wieder mit in Sippenhaft, aber diesmal im negativen Sinne. 01:09:34

(Focus Group I, Pos. 218)

Daria (32, Medien): [...] wenn ich dem Qualitätsmedium Vertrauen zuspreche, dann würde ich auch davon ausgehen, dass sie die KI in einem vertrauenswürdigen Sinne nutzen. Also erstmal neutral. 00:37:13

(Focus Group III, Pos. 110)

Zusätzlich zur angesprochenen, einhelligen Wirkung der Publikation auf die Wahrnehmung computergenerierter Nachrichten spricht ein Teilnehmer von einem sinkenden Vertrauen in etablierte Zeitungen, wenn er von ihrem Einsatz computergenerierter Berichterstattung weiß.

Paul (35, Technologie): Ich wäre trotzdem skeptisch gegenüber dem Medium, auch wenn ich es vorher mehr gemocht hätte und mehr vertraut hätte. Dann habe ich immer den Hintergedanken, hat es jetzt ein Mensch geschrieben oder hat ein Mensch drüber gelesen oder ist das komplett nur von einer KI entwickelt? [...] 00:33:49

(Focus Group II, Pos. 115)

8.6.4 Exploration weiterer Einflüsse

Neben den besprochenen Einflussfaktoren auf die Wahrnehmung und Vertrauensbewertung des automatisierten Journalismus haben die Teilnehmenden in den Gesprächen weitere Faktoren genannt. Dazu zählt die Intention der Lesenden bei der Nachrichtenauswahl, die wahrgenommene Kontingenz der Nachricht und die Vorstellung der Lesenden von Verfahren der Künstlichen Intelligenz. Insbesondere für die Intention der Nachrichtenauswahl und die wahrgenommene Kontingenz der Texte ist erneut eine Kennzeichnung automatisiert generierter Texte notwendig, um beide Faktoren in einer Vertrauensbewertung mit einbeziehen zu können.

Intention bei der Textauswahl

Die Teilnehmenden betonen in allen Focus Groups an unterschiedlichen Stellen im Gespräch, dass sie computergenerierte Texte nicht grundsätzlich ablehnen und sich gute Einsatzmöglichkeiten für automatisierten Journalismus vorstellen können. Ein wichtiger Einflussfaktor auf die Frage, ob Lesende computergenerierte Texte als vertrauenswürdig bewerten, ist die Intention der Leser:innen bei der bewussten Auswahl automatisiert generierter Nachrichten. Teilnehmende berichten, dass sie zu bestimmten Anlässen oder Themen computergenerierte Texte klar den menschlich verfassten Texten vorziehen würden. Grundlage dafür ist eine transparente Kennzeichnung der Texte. Damit ist die Intention der Nachrichtenauswahl ein Faktor, der bei der Vertrauensbewertung des automatisierten Journalismus zu berücksichtigen ist.

Anne (32, Durchschnitt): Vielleicht wäre es auch wichtig, was man von dem Text erwartet. [...] Wenn ich mich nicht intensiv für das Thema interessiere, dann brauche ich nicht jeden Tag einen von einem Menschen verfassten Text, der klitzeklein erklärt, sondern es reicht wahrscheinlich ein automatisierter Text. Und wenn aber irgendwo Krieg ist und ich will wissen warum und man doch ein bisschen mehr dazu wissen will. Und vielleicht will ich auch wissen, was die Person, die darüber berichtet, davon hält. Dann will ich das auf keinen Fall von einem Computer wissen, sondern doch von jemandem, der mir tatsächlich dann so die Meinung ein bisschen veräußert. Ich glaube, da kommt es wirklich darauf an, was es ist. [...] 00:33:57

Christine (49, Durchschnitt): [...] Und wie Anne gesagt hat, wenn ich es weiß [eine Kennzeichnung] und eine Statistik brauche oder wenn ich Informationen will, wo möglichst viele Daten in kurzer Zeit zusammengefasst sind, dann ist mir vielleicht sogar der kleine Roboter lieber als möglicherweise der Praktikant, der in der Zeitung den Auftrag bekommen hat, da alles irgendwie zusammenzurechnen. [..] 00:35:34

Anne (32, Durchschnitt): [...] Es wäre es cool, wenn man sich das aussuchen kann: ‚Ich möchte gerne Nachrichten, die auf mich personalisiert sind‘ und ‚ich möchte neutrale Nachrichten‘ [...]. 00:55:09

(Focus Group I, Pos. 117, 119, 180)

Noah (34, Medien): [...] Bei der Feinstaubbelastung erwarte ich keine tiefergehende Einordnung eines Journalisten. Bei einer Wahl würde ich schon eine Einordnung erwarten. [...] 01:02:09

(Focus Group III, Pos. 184)

Kontingenz des Nachrichtentexts

Bei den Publikationsmerkmalen als Einflussfaktoren ist bereits beschrieben, dass primär nicht das Thema oder die Darstellungsform für die bewertete Vertrauenswürdigkeit des automatisierten Journalismus für die Lesenden relevant ist, sondern die Kontingenz der Nachricht. Sobald eine Einordnung, eine Bewertung, eine Abwägung, ein So-oder-auch-Anders, also Kontingenz vorliegt, können sich die meisten Teilnehmenden keine vertrauenswürdigen computergenerierten Texte vorstellen. Kontingenz kann, so die Teilnehmenden sowohl bei informierenden als auch bei kommentierenden Darstellungsformen und bei nahezu jedem Thema stattfinden. Allerdings gibt es Darstellungsformen und Themen, bei denen sowieso eine höhere Kontingenz erwartet wird und die computergenerierte Berichterstattung damit grundsätzlich als weniger vertrauenswürdig angesehen wird (vgl. Abschnitt 8.6.3).

Noah (34, Medien): Ich würde dem Algorithmus auch keine Kriegsberichterstattung zuschreiben [...] wie soll der eine Bewertung des Ganzen vornehmen? [...]. Das würde ich ausschließen, da würde mein Vertrauen tatsächlich dann von den automatisierten Texten weggehen. 00:50:42

(Focus Group III, Pos. 152)

Die Teilnehmenden berichten, dass sie in der Vertrauensbewertung des automatisierten Journalismus primär die Kontingenz und nur sekundär die Themen oder Darstellungsformen als entscheidende Faktoren berücksichtigen. Somit muss die Kontingenz einer Nachricht als relevanter Einflussfaktor auf die Vertrauensbewertung aufgenommen werden.

Sandra (53, Technologie): [...] Es könnte schon mal ein Punkt kommen, an dem ich es [Anm.: die automatisierte Berichterstattung] grenzwertig finde. Aber wenn sich das auf dem Niveau bewegt, bei dem wir das gerade gesehen haben, bei der Feinstaubmessung, den Coronazahlen oder dem Wetterbericht. [...] 01:05:44

Viktoria (42, Technologie): Also bei mir hört es [Anm.: das Vertrauen in maschinengeschriebene Artikel] auf. Sobald es um eine Einordnung geht oder irgendetwas in ein Verhältnis zu etwas anderem gestellt wird, dann wüsste ich gerne ob das eine KI gemacht hat oder ein Mensch und mit was für einem Hintergrund, also was ist die Ausrichtung, die irgendwie dahintersteckt. 01:06:28

(Focus Group II, Pos. 298, 301)

Vorstellung von Künstlicher Intelligenz

Die Vorstellung der Teilnehmenden über die Funktionsweise und die Verbreitung von Künstlichen Intelligenzen im Journalismus übersteigt mehrheitlich die tatsächlichen Anwendungsbeispiele und technologischen Möglichkeiten. Dies gilt in besonderem Maße für Focus Group II (Technologie) und III (Medien). Die Vorstellung des großflächigen Einsatzes von Künstlichen Intelligenzen zur Textproduktion im deutschen Journalismus ohne engmaschige menschliche Kontrolle übersteigt den tatsächlichen Einsatz: In der Regel wird automatisierter Journalismus mit regelbasierten Textalgorithmen umgesetzt (vgl. zum Einsatz in der Praxis Abschnitt 3.3). Deutlich wird aber, dass die Vorstellung von Künstlicher Intelligenz die Wahrnehmung von Automatisierungen der Teilnehmenden prägt.

Friedericke (32, Medien): Ich habe lustigerweise genau in die andere Richtung dazu etwas gehört. [...] man [denke] zwar immer [...], dass KI so weit sei, um Texte selbst zu schreiben oder morgen alleine Autos zu steuern. Aber die Entwicklung ist in der Realität bei weitem nicht so fortgeschritten. Da übertreiben die Medien gerne, wie weit die KI ist und in Wahrheit sind wir nicht so weit, sondern eher noch bei Adam und Eva. Also die KI ist noch nicht so weit und wir müssen keine Angst haben, es ist nicht wie bei Terminator. 00:09:49

(Focus Group III, Pos. 39)

Jan (32, Medien): Hm, an der Stelle fällt mir auf, dass nur wir alle von KI angefangen und gesprochen haben. Eigentlich fragt Theresa [Anm.: die Interviewerin] nur nach automatisiertem Journalismus. Vielleicht sind wir dann zu weit gesprungen. 00:44:03

(Focus Group III, Pos. 129)

Die Einflüsse der Vorstellung über Verfahren der Künstlichen Intelligenz sind in die Vertrauensbewertungen mit eingeflossen, da die Teilnehmenden in der Regel nicht zwischen regelbasierten Algorithmen und Algorithmen, die mit Verfahren der Künstlichen Intelligenz arbeiten, unterscheiden. An mehreren Stellen, wie etwa bei der Vorstellung über Medienrezeptionen von Robotern und Künstlichen Intelligenzen oder dem Versuch der Teilnehmenden, die Funktionsweise des automatisierten Journalismus zu erklären, wurden Einflüsse und Vorstellungen über Künstliche Intelligenzen diskutiert. Der Einfluss der Vorstellung und Wahrnehmung von Künstlicher Intelligenz und die individuellen Erfahrungen mit diesen Methoden müssen im Detail in Folgestudien aufgearbeitet werden. Aus den vorliegenden Ergebnissen kann die Vorstellung über Künstliche Intelligenz als weiterer Einflussfaktor auf die Wahrnehmung und Vertrauensbewertung des automatisierten Journalismus aufgenommen werden.