Halluzinierende KI-Chatbots und journalistische Standards

Bild: Pivat / KI generiert

Jan Eggers

Jan Eggers ist KI-Koordinator im Hessischen Rundfunk möchte vor allem eines erreichen:
Die Fehler vermeiden, die man jahrelang im Umgang mit den sogenannten Sozialen Medien gemacht hatte. Da er „nebenbei“ weiterhin als profilierter Digitaljournalist arbeitet, deckt er auch ab und an KI-Fails auf.

Christian Arndt, Host von "Klartext - Der Podcast" sprach mit Jan Eggers über über halluzinierende KI-Chatbots und journalistische Standards.

Ein Auszug aus dem Interview:

Christian Arndt: "Jan, was macht ein KI-Koordinator so beruflich?"

Jan Eggers: "Ich versuch gerade noch, das rauszufinden. Also letzten Endes speist sich das so ein bisschen daraus, dass wir es mit KI nicht wieder so machen wollen wie mit Social Media. Ich habe das als Social Media Berater auch schon mal erlebt. Also ich habe im HR mal eine Zeit lang den Job eines Social Media Managers haben wir es damals genannt. Er hatte aber auch nichts anderes. Der erst mal diese damals neue Technologie irgendwie in die Redaktionen tragen sollte und sagen, guckt mal die und die Möglichkeiten habt ihr jetzt und die Sachen müsst ihr dabei bedenken. Auf der anderen Seite aber auch versuchen sollte und das wollen wir dieses Mal stärker machen, dafür zu sorgen, dass nicht jeder seine Probleme selbst lösen muss. Es tauchen ja eine ganze Menge Fragen auf rund um KI. Angefangen schlicht bei dem darf ich das eigentlich? Was darf ich für was sollt ich es verwenden? Und wenn man da in den Austausch gehen kann mit anderen auch natürlich hören, was funktioniert schon gut? Was hat sich bewährt? Wo kann ich noch mal gucken? Was gibt es für Tools? Was gibt es für Möglichkeiten? Das sehe ich als mein Job, das auch zu befördern."

Christian Arndt: "Fangen wir doch mal an. Damit was eigentlich künstliche Intelligenz überhaupt ist und wie immer geht man natürlich zuerst mal zur Wikipedia und da steht Artificial Intelligence oder Artifizielle Intelligenz ist ein Teilgebiet der Informatik. Es umfasst alle Anstrengungen, deren Ziel es ist Maschinen intelligent zu machen. Dabei wird Intelligenz verstanden als die Eigenschaft, die ein Wesen befähigt, angemessen und vorausschauend in seiner Umgebung zu agieren. Dazu gehört die Fähigkeit, Sinneseindrücke wahrzunehmen und darauf zu reagieren, Informationen aufzunehmen, zu verarbeiten, als Wissen zu speichern, Sprache zu verstehen und zu erzeugen, Probleme zu lösen und Ziele zu erreichen. Welche Ziele können wir denn? Also erst mal gehst du damit?"

Jan Eggers: "Ich selber habe eine andere Definition von künstlicher Intelligenz. Ich sage immer erst mal dazu, dass das Jahr ein Werbebegriff aus dem Jahr 1956 ist, mit dem Wissenschaftler auch so ein bisschen Forschungsgelder einwerben wollten. Damals war das sehr anmaßend künstliche Intelligenz. Ich rede lieber von lernenden Maschinen, dafür kriege ich von den Informatikern immer so ein bisschen auf die Mütze, weil das nicht ganz korrekt ist. Aber letzten Endes, also eins ist daran wichtig. Erst mal KI ist auch tatsächlich nur Software. Also Maschinen, die etwas tun können, wofür sie eben durch eingerichtet werden. Nur eben sie werden nicht mehr programmiert oder nicht mehr so sehr programmiert, sie werden eher trainiert. Sie können also aus Daten, aus Beispielen lernen, wie man Aufgaben löst, wie man vorgeht und das ermöglicht diesen Maschinen Dinge aus dem vermeintlich starren Schema einer Programmierung auszubrechen und Dinge zu machen, die von denen wir gedacht haben, das können nur wir bisher. So, welche Ziele sind das? Was können wir mit KI anpeilen oder was kann man mit KI machen? Also ein KI-Vordenker hat noch, bevor wir ChatGPT hatten, also schon ein paar Jahre her gesagt, bei vielen KI Anwendungen entdecken wir nicht, dass wir so wahnsinnig tolle Technologien haben, sondern dass wir feststellen, dass Sachen, die wir für ganz fürchterlich schwer gehalten haben, eigentlich relativ leicht zu machen sind mit technischen Mitteln. Und das kommt für uns Menschen ja immer wieder auch so als ein kleiner Schock, dass wenn man denkt zum Beispiel, man muss mal konkret machen, die Arbeit eines Nachrichtenredakteurs. Ich sichte Nachrichten und gucke, was steht dann in den Agenturen und dann nehme ich mir drei, vier Texte und dann drehe ich aus denen eine Meldung nach einem bestimmten Format zusammen. Da gehört ja sehr viel auch Kontextwissen dazu, sehr viel, was ich gelernt haben muss darüber, wie man richtig einen Text formuliert oder was ich, wie ich Sachen einorte, bewerte und jetzt stellen wir fest, dass Maschinen das zwar noch nicht ganz können, aber einfach dadurch, dass sie Sprachen nachahmen, nichts anderes tut ChatGPT, es ahmt Spracherstellung nach, dass Maschinen da plötzlich eine ganz passable Imitation von abliefern können. Das ist tatsächlich, es ist ja nicht ganz das gleiche, also die Maschine denkt sich nichts dabei, aber das funktioniert auf einmal erstaunlich gut. Bei den Nachrichtenredakteuren sollten wir das vielleicht, können wir erst mal noch beruhigt sagen, das ist noch kein Ersatz, aber an anderen Stellen geraten wir so langsam ins Grübeln und denken ist das, was wir als Menschen machen, wirklich so unersetzlich."

Christian Arndt: "Ja, Stichwort Nachrichten, man sagt ja auch oft KI agiert hier als stochastischer Papagei, also es imitiert tatsächlich, aber es ist eben nicht wirklich intelligent und es interessiert sich auch nicht für Fakten. Ich halte dir jetzt deine eigene, deinen eigenen Artikel aus der Hessenschau vor, den du vor kurzem publiziert hast im Zug, im Kontext der Wahl. Da heißt die Frage, kann man sich mit KI-Unterstützung über die Wahl informieren? Eine Untersuchung der Organisation Algorithm Watch, in Zusammenhang mit dem HR und anderen Medien zeigt, Technologie ist unausgreift, irreführend und potentiell gefährlich für die Demokratie. Was ist da passiert?"

Jan Eggers: "Ja, also erst mal ist es gut, dass ich nicht nur KI-Koordinator bin, sondern auch noch Journalist, da konnte ich tatsächlich journalistisch arbeiten. Letzten Endes geht es da um Spezielles Tool und Bing Chat. Wer das nicht kennt, das ist eine Kombination der Suchmaschine Bing, die stammt von Microsoft mit letzten Endes dem Sprachmodell, also dem Motor gewissermaßen von ChatGPT. Die Grundidee ist eigentlich erst mal bestechen, dass ich sage, ich weiß nicht so genau, wie ich eine Google oder Bing Suchanfrage formulieren kann. Also setze ich da ein Sprachmodell ein, das hilft mir sozusagen schreiben, sucht dann die entsprechenden Informationen zusammen und fasst sie mir auch zusammen. Und dann kann ich zum Beispiel fragen, das haben wir gemacht mit Algorithm Watch zusammen, kann immer wieder fragen, worum geht es denn in der hessischen Landtagswahl? Wer sind da so die Spitzenkandidaten und was wollen die so? Dann kann ich mir das zusammenfassen lassen und dann gibt mir Bing Chat auch Antworten und die kommen auch immer mit einer Quellenangabe. Also dann wird immer gesagt, das ist aus dem und dem Artikel gezogen und das Fatale daran ist aber, dass man sich darauf echt nicht verlassen kann. Es ist also zum Beispiel so, dass relativ häufig war die Maschine der Überzeugung Volker Bouffier tritt noch für die CDU an und der ist ja nur wirklich schon ein paar Jährchen weg. Das ist so, weil dieses, es ist so, das Sprachmodell, das entwickelt eben ein Text, das kann aber eine Sache sehr schlecht bestimmen, nämlich das kann nicht sagen, ich weiß etwas nicht. Also da müsste ich mich jetzt sozusagen noch schlau machen, sondern es behauptet dann irgendwas und dann sucht es auch nicht danach. Oder wenn es sucht, manchmal erfasst es Dinge auch einfach falsch. Das kann auch Menschen passieren, muss man auch sagen. Aber es kommt halt mit diesem Anspruch daher, es hat eine Maschine sozusagen die Recherche übernommen und da entstehen zum Teil echt beunruhigende Geschichten. Die Sache, die ich wirklich am beunruhigendsten fand, wenn man Bing Chat fragte nach Nancy Faeser, der SPD-Spitzenkandidatin, dann tauchte da irgendwann mal die Behauptung auf, ja Nancy Faeser hat ein Wahlrecht für Asylbewerber gefordert. Das ist also so die die Meldungen, die dahinter stehen, das gehen ums Kommunalwahlrecht und zwar nicht Nancy Faeser, das war die SPD und das ging auch nur um Verlängerung oder Verkürzung von Anerkennungsfristen. Aber das war so übel verkürzt und das spielt natürlich einigen Leuten auch in die Hände, also der populistischen Abteilung. Und wenn man dann so was liest und dann ist dann einfach so noch ein Quellenhinweis dahinter und das ist auch deswegen fatal, weil natürlich der Hersteller dieser Tools, Microsoft, dann sagt als Antwort, ja wir machen das ja ständig besser und viele dieser Probleme, die ihr gefunden habt, sind inzwischen schon abgestellten. Na toll, was ist mit den anderen? Also das ist irgendwie auch so ein bisschen so eine organisierte Verantwortungslosigkeit. Das zeigt eben KI-Tools sind super, gerade dieses Suchen mit, also auch wenn das jetzt so klingt, als würde ich das in Bauschendbogen verdanken, ich finde eigentlich eine Suche mit KI-Unterstützung ist klasse, aber man muss halt alles nochmal nachprüfen, weil man sich eben auf diese Quellenhinweise nicht verlassen darf."

Christian Arndt: "Und da sind wir ja schon mitten drin in dem ethischen Dilemma, dass da mit drin steckt, wie du ja gerade richtig gesagt hast, das muss man immer noch mal überprüfen. Jetzt ist es aber ja oft so, so wie Leute die ersten drei Google-Resultate sehen, steht auch nicht auch zu Befürchten, dass manch einer sich dann mit so einer KI-Antwort, gerade wenn sie so schön klingt und sich gut liest, schon zufrieden gibt. Also wie beugt man da den der Gefahr von Fake-News-Verbreitung vor?"

Jan Eggers: "Ich glaube, das müssen wir einfach alle lernen. Das geht mal wieder unter dem Medienkompetenz-Ethikett, weil wir können ja noch gar nicht absehen, was Leute alles mit so einer KI machen. Also eine Sache, die mich zum Beispiel ziemlich überrascht hat, ist, dass es wohl schon relativ viele Leute gibt, die sagen, ich will mir jetzt eine neue Uhr oder ein neues Auto kaufen, so ChatGPT schlagt mir mal was vor. Das ist möglicherweise nicht ganz so aktuell, weil ChatGPT hat immer einen sogenannten Trainingsdatensatz, der geht je nach der Version, die man nutzt, entweder noch ein paar Monate bis ein paar Jahre veraltet, aber es ist ja nicht so schlimm. Und jetzt kriegt man da eine Antwort und die klingt erst mal so auch halbwegs plausibel. Und dann, ich glaube, dass vielen Leuten, die das machen, zwei Dinge nicht klar sind. Erstens, dass die Maschine da manchmal wirklich was zusammenfantasiert und zweitens, dass das sehr stark vom Zufall abhängig ist. Das wissen viele Leute auch nicht. Das ist nämlich einer der Tricks, die die Informatiker einsetzen, damit das menschlicher wirkt. Also diese Textvorhersagemaschine ChatGPT, wie du das vorhin genannt hast, dieser stochastische Papagei, also diese Textproduktionsmaschine, die Klänge ziemlich langweilig, wenn sie nicht diese menschliche Eigenschaft hätte, so ein bisschen unberechenbar zu sein, wie ich jetzt antworte. Das hängt ja auch davon ab, wie es gerade so mein Koffeinpegel oder meine Stimmung oder was habe ich so vorher gehört, gelesen, sonst was. Das alles hat die Maschine nicht. Also haben sie einen ganz einfachen Ersatz gesucht, die Ingenieure, nämlich den Zufall. Das heißt, der Zufall spielt eine Riesenrolle bei den Antworten, die ich kriege. Und das heißt, ich kriege, wenn ich zweimal die gleiche Fragestelle auch unterschiedliche Antworten. Und das ist einfach so Sachen, das muss man wissen. Ich glaube, wenn man das einmal gehört hat, dann ist einem auch klar, dass man sich da vielleicht nicht ganz so drauf verlässt und vielleicht dann doch irgendwie nochmal in den Heft der Stiftung Warentest guckt oder so. Aber so richtig eine Abhilfe dafür gibt es nicht, weil die Tools sind ja da."

Christian Arndt: "Umso wichtiger ist es ja, dass man dann eben mit, sagen wir mal, das mal ein Regelwerk aufstellt und das gehört ja auch zu deinen Aufgaben. Kannst du vielleicht mal ganz kurz sagen, was geht im HR mit KI und was geht keinesfalls? Wir haben, muss ich jetzt der Transparenz halber sagen, im Vorgespräch hast du dich schon so ein bisschen dagegen geweigert, irgendwas dauerhaft auszuschließen. Aber fangen wir doch mal da an, wo jetzt der HR steht. Was wird denn bereits gemacht und was wird auf gar keinen Fall gemacht?"

Jan Eggers: "Also im Augenblick sind wir sehr stark in der Experimentierfrage, wenn wir so was mit so was sind wir sehr stark in der Experimentierphase, wenn wir über so was wie ChatGPT reden, also über solche Sprachmodelle, über die wir eben auch geredet haben, die man ja zum Beispiel einsetzen könnte, damit die einem Überschriftenvorschläge machen. Online-Redakteure schreiben unheimlich, nicht ungern, aber sie schreiben, also sie stecken nicht das Maß an Arbeit in Überschriften, dass sie in den Rest des Textes schreiben, stecken und das ist eigentlich blöd, weil der die Überschrift verkauft den Text. Das kann ChatGPT super gut, kann also sagen, komm ich mach dem mal zehn Vorschläge zu dem Text, möglicherweise auch gleich SEO konzipiert, also mit einer Suchmaschinenoptimierung, wonach könnten Leute suchen und wenn ich da einen Vorschlag kriege, so was als Redakteur hilft mir das ja. Auch bestimmte Sachen umformatieren, Texte zum Beispiel kürzen, Transparenz, also so zu kürzen, dass sie in anderen Formen und Formaten einsetzbar sind. Das ist aber auch alles Sachen, die wir im Augenblick erst noch untersuchen, weiterer großer Punkt. Das kommt jetzt einfach über die Hersteller, über die Anbieter. Wir nutzen zum Beantworten oder zum Sichten von Social Media Kommentaren ein Tool. Das kriegt jetzt gerade das Feature eingebaut, dass es uns Antwortvorschläge machen kann. Das heißt, es kann sagen, also so könnte man vielleicht in einem Nutzer, der irgendwie zum Beispiel Kritik übt oder eine Frage hat, dem könnte man das auf die schnelle Antworten. Und da ja so ein Community Manager, also jemand, der zum Beispiel die Facebook-Kommentare bei hessenschau.de sichtet, die haben mehrere 100 Kommentare am Tag zu sichten. Das heißt, da ist so ein Tool echt eine Unterstützung, um den Kopf nicht zu verlieren. Was aber tatsächlich nicht geht und da sind wir im HR ziemlich rigoros ist, dass wir sagen, wir lassen nichts von der Maschine selbst tätig publizieren. Einfach, weil das die Frage natürlich nach der Verantwortung verbessern würde. Es steht oben drüber, eine Maschine kann keine Verantwortung übernehmen. Das wäre also nicht denkbar sozusagen, wir lassen das irgendwie zum Beispiel ein System laufen, das mehr oder weniger automatisiert ein Programm zusammenstellt oder eine Seite zusammenstellt. Wir würden immer noch mal sehen, dass also ein Mensch über diese Ergebnisse oder diese Vorschläge einer KI drüber guckt. Aber KI ist ja schon tatsächlich, also die lernenden Maschinen sind ja auch schon ein bisschen länger im Einsatz. Die hat es ja auch schon gegeben vor ChatGPT. Also wenn wir überlegen, die Vorschläge, die eine Mediathek macht, das ist ja letzten Endes auch KI basiert. Das ist so eine Mischung aus, was gibt es noch, ähnliche Inhalte und was könnte den Nutzer, die Nutzerin interessieren und das kennen wir ja auch schon seit Jahren. Und da sieht man dann, dass das mit dem Nichts soll automatisch voll automatisch passieren, dann schon wieder an der Grenze so ein bisschen schwierig wird, weil jede persönliche Empfehlung für Nutzer kann nicht mehr von dem Redakteur abgenommen werden. Es geht einfach massenmäßig nicht."

Christian Arndt: "Schuldigung, wenn ich hier mal einhaken darf, Stichwort Automatisierung. Ein großer Vorbehalt oder eine Sorge, die auch unter anderem auch der DJV in seinen KI-Prinzipien äußert ist. KI soll nicht dafür eingesetzt werden, redaktionelle Kompetenz zu ersetzen. Jetzt hast du zwar gesagt, es muss immer noch mal jemand drüber gucken, aber ist nicht die Versuchung groß bei bestimmten, nicht sagen wir mal so repetitiven Arbeiten dann zu sagen, kommen wir sparen uns den Mensch oder wir sparen uns vielleicht sogar noch den Sprecher. Das wird ja teilweise schon gemacht, dass Verkehrsnachrichten und Wetterberichte und so weiter von künstlichen Stimmen vorgelesen, wenn siehst du das hier auch kommen oder eher nicht?"

Jan Eggers: "Also ich glaube, dass, wenn wir, wo haben wir Sprecher vor allem im Einsatz? Wir haben die Bezugspersonen dahinter. Also wenn ich Radio, ist ja ein Produkt, was davon lebt, dass ich da einem bestimmten Menschen zuhöre, sehr stark auch personalisiert. Also dass wir Kanäle machen, letzten Endes, die von der KI moderiert würden. Ich glaube nicht, dass das ein besonders guter Salespitch ist. Ich habe sowas nicht zu entscheiden, letzten Endes, aber ich glaube, dass sich da eine Geschäftsleitung schon aus Gründen sehr schwer tun wird. Auf der anderen Seite, also wenn man denkt, wir haben zum Beispiel ja schon ein Stautelefon im HR und wenn man da anruft, dann sagt einem eben eine KI generierte Stimme, was für Staus man auf der Strecke hat. Andere Landesrundfunkanstalten, die haben zum Beispiel so einen Versuch gemacht mit Erfolg, die haben einfach Wetter- und Verkehrsnachrichten für online, also im Prinzip mit so einer PodChristin Arndt:st-Funktionalität haben sie auch von einer sehr gut gemachten, sehr gut geklonnten KI-Stimme sprechen lassen. Die Versuchung, wenn man sonst keinen hat, in der Spätschicht, in der Nachtschicht, da möglicherweise also mit einer Automatisierung zu arbeiten, die ist sicher da. Ich glaube, da müssen wir nicht drum herum reden, weil Konkurrenten machen das ja auch schon. Ob das dann wirklich immer so klug ist und ob man sich auf die Automatisierung wirklich dann auch verlassen will, das ist wieder eine völlig andere Geschichte. Ich glaube auch, dass man natürlich sehr aufpassen muss, damit man den Nutzerinnen und Nutzern klar macht, wo sie eben nur noch in Anführungszeichen, nein nur noch kann man nicht sagen, aber wo sie eben einer KI zuhören, weil diese Stimmen sind ja inzwischen so gut, dass man sie von den Originalen nicht unterscheiden kann. Ich brauche ein paar Minuten und dann kann ich fast jede beliebige Stimme klonen, die entsprechenden Dienste kann man für ein paar Cent einkaufen."

Christian Arndt: "Wärst du dafür eine Kennzeichnungspflicht, wie ist der DJV fordert?"

Jan Eggers: "Ich halte das für schwierig durchzuhalten. Wie soll das zum Beispiel im Radio aussehen? Also ich meine klar, dass ich, wenn ich längere Strecken, wenn ich so einzelne Sätze von der KI nachsprechen lasse, ja, ich finde die journalistische Redlichkeit gebietet, dass man das nicht tut, um vorzuspiegeln, dass da tatsächlich jemand spricht, der dessen Stimme das ist. Ja, also in Einzelfällen kann man das möglicherweise auch so richtig zum Running Gag machen. Es gibt ein PodChristin Arndt:st vom WDR, die haben den über Elon Musk und wir wissen, der hat sehr viel getwittert und sagt aber gerne nicht so viel in Mikrofone. Also haben die die Macher den den Musk-Bott erfunden, haben also seine Stimme geklont und haben dann immer so ein kleines Audio-Signé vorne und hinten dran und haben das so ein bisschen als ein Running Gag. Das wird man nicht immer so machen können, aber klar, dass man nicht so tut, als ob man jemandem Gespräch hätte, der gar nicht da ist. Das ist, finde ich, selbstverständlich. Das ist journalistische Ehrlichkeit, journalistische Aufrichtigkeit. Aber sonst mit der Kennzeichnung, da gibt es dann auch da wieder Graubereiche. Also wenn ich jetzt irgendwie mir von der KI habe eine Überschrift oder ein Text, ein Antwortvorschlag für eine Leserzuschrift habe schreiben lassen, schreibe ich das dann immer drunter, wurde mit Material von einer KI verfasst. Ich glaube, dass so ein bisschen das Kind mit dem Bade ausschütten, weil letzten Endes schreibt ja dann doch ich die Antwort. Und sicherlich wissen wir auf der anderen Seite, je mehr die KI dann da schreibt oder auch je mehr sie von einem Bild erzeugt, desto mehr müssen wir das klar und transparent machen. Auch das übrigens eine unserer Regeln. Das wir sagen, wir stellen Transparenz her und also wir haben uns im HR die Regel gegeben, wann immer Wirklichkeit droht verfälscht zu werden. Das ist ein bisschen analog zu der Diskussion. Ich habe irgendwo passiert was, sagen wir, ein Banküberfall und ich habe ein Foto von der Bank, das ist aber ein Symbolbild. Verwende ich das auf der Webseite. Wenn ich das ohne Kennzeichnung tue, denken Leute, wieso, man sieht doch gar nichts. Also man muss dann schon klar machen, das ist ein Symbolbild. Es geht da um Ähnlichkeit und zum Beispiel unsere Nachrichten haben ja dann eher die Policy zu sagen, nee, dann nehmen wir lieber so ein Bild von einem Blaulicht oder irgendwas, was nicht versucht, irgendwie diese Szene zu zeigen. Also wenn wir mit KI generierten synthetischen Inhalten, kann man natürlich ziemlich viel simulieren und kann auch ziemlich viel falsche Eindrücke vermitteln und das wollen wir ausschließen."

Christian Arndt: "Genau, wir hatten das glaube ich auch schon im Vorgespräch gesagt, dass es zum Beispiel absolut unredlich wäre und die Versuchung ist ja groß, weil Sportereignisse sind oft in fernen Ländern und auch teuer, dahin zu reisen und Studio aufzubauen und so weiter. Also theoretisch könnte ja auch der Sportreporter zu Hause am Fernseher sitzen und sich die Stadion Admo sozusagen von der KI zuspielen lassen. Da würdest du aber sagen, was würdest du sagen, ist das okay oder no go?"

Jan Eggers: "Ich würde dazu gar nichts sagen, weil das eine völlig andere Diskussion, die hängt gar nicht von KI ab. Ja, also das ist irgendwie, wir haben das ja auch schon bei Konkurrenten, die dann eben den Reporter zu Hause sitzen lassen. Wir legen dann doch noch Gewicht darauf, dass er im Stadium ist. Die, die auch, die Frage lassen wir zum Beispiel, wenn wir beim Sport sind, ich kann auch da wieder so sehr schnell Fälle konstruieren, wo wir dann schon in Fragen geraten, die wir mit unseren ganz einfachen klaren Regeln möglicherweise noch nicht beantworten können. Der WDR, die haben mal so ein Versuch gemacht, können wir von KI Spielberichte schreiben lassen. Nicht weil die, die jetzt automatisch raushauen wollten, sondern weil die Redakteure, die Reporter natürlich extrem unter Stress sind. So in dem Moment, wenn das Spiel abgepfiffen ist, das Fußballspiel, da muss der Spielbericht fertig sein. Und das ist eine Zeit, die die ja manchmal auch brauchen, um so ein bisschen, also nicht nur Sachen noch einzufangen, auf Sachen zu gucken, sondern möglicherweise auch zu reflektieren. Das, was einen guten Spielbericht dann am Ende ausmacht, das kommt dann erst noch drauf, wenn der Reporter vielleicht auch mal ein paar Minuten Zeit gab, hat drüber nachzudenken. Deswegen haben die gedacht, hej, super, lass uns doch was bauen, was irgendwie mehr oder weniger automatisch aus den Daten und Spielbericht verfasst. Und nach einigen hin und her und mit einem kleinen Umweg, nämlich, dass sie gar nicht mal die Daten genommen haben von diesen, diesen Datendienstleistern, sondern dass sie ihren eigenen Ticker genommen haben und denen sozusagen umarbeiten, haben sie das auch geschafft. Das ist eindeutig ein KI-generierter Inhalt. Im Augenblick sagen wir ja gut, das ist jetzt erstmal die Grundlage, um sie weiter zu verarbeiten. Wenn wir jetzt aber feststellen, es ist ein, also es ist ein Riesenmarkt dafür, dass Leute unbedingt in der gleichen Sekunde jetzt noch ein automatisiertem Spielbericht haben wollen, dann wäre schon auch die Frage, wie geht man denn mit so was jetzt um? Also wie stellt man da sicher, dass man nicht zu viel Zeit verliert, dass der Mensch das alles nochmal umarbeiten muss, aber man trotzdem eben mit diesem generierten Material arbeiten kann?"

Christian Arndt: "Wir haben ja auch aus traurigen Nachrichten der letzten Wochen auch wieder mal deutlich erfahren, dass es manchmal auch nicht gut ist, zu schnell zu sein, die Versuchung schnell zu sein, der erste zu sein, den Scoop zu bringen, ist ja wahnsinnig groß. Aber ein Beispiel war ja diese, diese schreckliche Explosion in Gaza, wo erstmal inklusive der New York Times, Ratzfatz alle gesagt haben, ja das waren die Israelis, hat sich dann später mit sehr hoher Wahrscheinlichkeit als Fake herausgestellt, aber ist da nicht auch die Versuchung durch den Einsatz, so wie du es gerade für den Sport geschildert hast, ich hoffe, dass wir über den Nachrichten da noch etwas vorsichtiger sind, ist denn da nicht auch sozusagen die Versuchung groß, mit dem KI generierten Schnellschuss vor der Konkurrenz sein zu wollen oder sind wir besonnen genug als öffentlich-rechtliche Medien da einfach nochmal die extra Meile zu gehen auf die Gefahr hin, dass wir zwei Stunden später dran sind?"

Jan Eggers: "Jetzt gebe ich mich sehr professionell, die alte Regel, get it first, but get it right first, das ist eigentlich Nachrichtenhandwerk, von dem ich jetzt nicht so viel Ahnung habe, darf ich nicht so tun, aber ich glaube da haben wir schon, also das ist eigentlich eine Diskussion, die hatten wir schon vor der, vor lang vor KI letzten Endes mit dem Live-Fernsehen, mit den 24 Stunden Live-Kanälen. Das ist natürlich auch deshalb eine gute Idee, weil KI ja auch das Leben der Faktenchecker durchaus, ich sag's mal, interessanter macht. Es ist total leicht geworden, gerade heute hat ein Kollege mir zugeschickt ein Fake, offensichtlich satirisches, aber nicht klar als Fake zu erkennendes Interview, wo jemand mit KI einfach eine andere Tonspur drauf gelegt hat auf seinem Gespräch mit einer Politikerin. Und das ist halt jetzt so im Handumdrehen gemacht, die Tool stehen im Netz, man kostet nicht viel, ja, das kann irgendwie jeder dressierte Affe kann. Das ist also wirklich kein technischer Aufwand mehr. Und natürlich, wir wissen, was gemacht werden kann, wird gemacht. Und je weniger, je geringer Aufwand der Aufwand ist, desto mehr wird dann auch so dieser synthetischen Inhalte, wird so in unsere Informations-Ökosysteme einsickern, macht das Google ein unangenehmer, also das Suchen im Netz, weil man da möglicherweise auch dann öfter mal auf nicht authentische Sachen stößt und macht den Aufwand höher, um nachzuprüfen könnte, dass das denn nun wirklich echt sein. Zumal wir haben da auch das gehört dazu, wir haben da auf technischer Seite nicht wirklich viel Hilfe zu erwarten. Es gibt stand jetzt keine sichere Möglichkeit, zum Beispiel einen von ChatGpt verfassten Text als KI generierten Text zu erkennen. Das sagen, es gibt zwar so verschiedene Leute, die am da Tools verkaufen wollen, aber das ist alles Schintluder. Es gibt kaum eine Möglichkeit, ein gutes KI generiertes Bild oder sogar bewegte Bild, das haben wir am nächsten Schritt, als solches zu erkennen. Das heißt, das einzige, was wir machen können, ist, dass wir uns wirklich auch so ganz alte Techniken besinnen und sagen, ja, wir versuchen mal denjenigen anzurufen, der das Bild gemacht hat und mit dem darüber zu sprechen. Quellenkritik, irgendwie versuchen, Dinge zu verorten, zweite Quellen und dergleichen mehr. Also das Handwerk, das Verifikationshandwerk wird aufwendiger, wird aber natürlich auch wichtiger. Und ich meine, das ist vielleicht der eine Silberstreif am Horizont, dass wir sagen, ja gut, wenigstens das haben wir ja mal gelernt und da haben wir ja noch doch einen gewissen Vorteil, wenn wir sagen, wir machen das."

Christian Arndt: "Kommt da dem öffentlich-rechtlichen Rundfunk auch eine ganz besondere Verantwortung zu, also ich war neulich auf der Freientagung, ARD/ZDF Freientagung in Köln und da sprach eine Professorin Claudia Löbecke, auch eine KI-Expertin und die meinte, die Glaubwürdigkeit ist doch unser Alleinstellungsmerkmal, also nicht, dass die anderen unglaubwürdig sind, aber dieses hohe Maß an Glaubwürdigkeit können wir sozusagen so eine Art Gütesiegel entwickeln. Das hier ist ein redaktioneller Inhalt, der ist von Profis gemacht und überprüft und wenn da eine KI mitgemacht hat, dann hat sie zumindest nicht das letzte Wort gehabt. Ist sowas vorstellbar oder widerspricht das dem Prinzip, das du gerade beschrieben hast?"

Jan Eggers: "Stand jetzt ist ja das, was wir vorhaben und machen. Ich habe so ein kleines Fragezeichen im Hinterkopf, weil es könnte sein, dass bestimmten Inhalten, also nicht bei allem, ja, aber es könnte bei bestimmten Inhalten, könntest den Nutzern am Ende des Tages ziemlich egal sein, ob das von einer KI oder von einem Menschen verfasst ist und da machen wir uns dann, wenn wir so eine Position einnehmen, bei uns arbeiten noch gute alte Menschen und nicht irgendwie die moderne KI, die dir genau das, was du willst individuell organisiert gibt und so weiter. Da macht man sich dann auch, also da stellt man sich jetzt nicht unbedingt als besonders fortschrittlich da. Ich glaube auch, dass das Risiko, dass wir uns jetzt hinstellen und leicht fertig mit unserem, also so viel im Experimentieren mit KI, dass wir unser eigenes Image beschädigen. Dafür kenne ich die ARD zu gut. Da glaube ich jetzt auch nicht so sehr dran, dass das eine große Gefahr ist, das ist aber auch vielleicht ja ganz gut so, dass wir bei manchen Dingen ein bisschen bedächtiger vorgehen. Wir sehen das ja schon zum Beispiel bei der privaten Konkurrenz nicht in Radio und Fernsehen, aber einige Printmedien setzen jetzt schon verstärkt gerade so auf Verbraucherartikel, so die klassischen Ratgeberstücke, die lassen die sich jetzt auch sehr stark mit ChatGPT schreiben und man kann jetzt also ein Verlag ist auf die schöne Idee gekommen, alles unter dem Namen „Klara in der Nacht” zu publizieren, KI. Also ich finde das nicht so sonderlich transparent, ich finde auch die Artikel nicht so sonderlich gut, die dabei rauskommen. Aber tatsächlich im Augenblick sagen wir, also das machen wir nicht mit und wir haben da gewisse Zweifel an der Qualität, auch da muss man so ein bisschen vorsichtig sein meiner Meinung nach, dass man sich auf nichts zu sehr versteift, also nicht, dass man die Standards aufweichen muss, aber es könnte sein, dass wir so gewisse Services eben in einer anderen Form anbieten können. Also das große Schiff, den wir ja schon lange vor ChatGPT hatten, ist, dass wir, die wir aus einer Welt kommen, die Massenmedien machen, also das möglichst beste Produkt für möglichst viele, jetzt spätestens seit Facebook und Co. in der Welt gelandet sind, wo es darum geht, das möglichst beste Produkt für eine sehr spitze Zielgruppe zu haben, also individualisiert auf den einzelnen oder auf die einzelne Gruppe zugeschnitten. Das ist eine Anpassung und nicht nur eine Auswahl von Inhalten, sondern auch möglicherweise eine Konfigurierung von Inhalten, für die man in der ein oder anderen Form KI einsetzen wird. Wir wissen noch nicht, wie das aussieht, deswegen, also ich glaube, Authentizität und auch Nachprüfbarkeit und Transparent, es werden unglaublich viel wichtiger, von daher ist dieser Gedanke Gütesiegel, finde ich ein sehr verlockender auch, zum Beispiel bis hin dahin können wir nicht irgendwelche Maßnahmen, technischen Maßnahmen einbauen, die zum Beispiel Kamerabilder nachvollziehen lassen und bar machen. Das war so die ganze Produktionskette von der Aufnahme in der Kamera digital signiert bis über die Schnittplätze, bis am Ende der Beitrag ausgespielt, damit man es nachvollziehen könnte. Wo kommen Bilder her? Das können Sachen sein, die für uns noch mal wirklich jetzt auch sehr viel wichtiger werden."

Christian Arndt: "Das heißt, so eine Art digitale Forensik schon bei der Produktion quasi mitdenken?"

Jan Eggers: "Ja, das ist im Augenblick noch eine Zukunftsvision, weil diese Technologie gibt es noch nicht wirklich, die entsteht gerade erst, aber das ist so eine Sache, ich glaube, da müssen wir sehr, sehr interessiert drauf schauen, weil das natürlich für uns einen echten Wert hat. Die Nachweisbarkeit, dass wir wirklich mit authentischem Material ehrlich umgegangen sind."

Christian Arndt: "Last but not least, bevor du zur Schokolade greifst, die hier auf dem Tisch liegt, so viel Transparenz muss sein, wird KI, gerade jetzt, das interessiert auch unsere Mitglieder und unsere Hörerinnen und Hörer bestimmt ganz besonders, eher Jobs kosten oder vielleicht, womöglich auch neue Jobs kreieren, die wir uns jetzt auch nur ansatzweise vorstellen können. Beispiel eben Factchecker, Forensiker, Authentizitätsgewehrleister. Ich wäre mein Vorschlag."

Jan Eggers: "Wenn ich jetzt in der alten Binsenweisheit das Prognosen immer dann besonders schwierig sind, wenn sie die Zukunft betreffen, ehrlich, ich trau mir da keinen Urteil zu. Wir haben bisher immer, wenn wir gedacht haben, naja, also die Jobs, die das an der einen Stelle kostet, sind an der anderen Stelle dann möglicherweise wieder entstanden. Das ist bei vielen technischen Revolutionen so gewesen, aber das nützt dann im Zweifelsfall, das hat dem Setzer nicht viel genutzt. Ja, das ist halt, wenn dein Berufsbild plötzlich schwindet und wir wissen, also viele Berufsbilder könnten da möglicherweise an einzigen Stellen, entweder unter Beschuss geraten oder deutlich anstrengender werden. So zwei Beispiele, das eine sind die Übersetzer, die arbeiten ja zunehmend alle mit Übersetzungssoftware, die ihnen so die grobe Arbeit macht und dann müssen sie fein drüber. Das hat aber nicht dazu geführt, dass die sich nachmittags hinsetzen und mit ihren Kindern spielen können, sondern das heißt, dass die in kürzerer Zeit mehr machen müssen. Also das Hamsterrad dreht sich jetzt maschinell unterstützt, aber es dreht sich schneller. Das andere ist dann zum Beispiel KI-generierte Bilder. Wir sehen ja schon Anbieter wie Adobe, die gehen jetzt her und sagen so, liebe Grafiker, ihr habt jetzt im Photoshop auch so eine Bilderzeugungski drin. Ja und wir haben alles geklärt, die das Trainingsmaterial, das in unserer eigenen Bilder habt, also auch keine rechten Probleme damit und ihr könnt es so im Photoshop einsetzen. Es ist schon ganz normal in der Software drin. Also es ist keine Zukunftsmusik, das ist jetzt eingebaut. Und wenn ich dann sage, ich habe jetzt ein Symbolbild und jetzt will ich auf die Torte noch mit Photoshop eine Kerze drauf machen, dann markiere ich das einfach, sag Kerze und dann ist die da. Was ich dafür nicht mehr brauche, ist den Fotografen, der das Bild von der Kerze macht. Das ist so eine Geschichte. Also natürlich wird das ordentlich Druck auf viele Berufsbilder ausüben und da kommen wir jetzt schon nicht mehr raus. Das zeichnet sich schon ab. Es ist wie immer, dass wahrscheinlich kurzfristig gar nicht so viel sich verändern wird, wie wir denken. Also die Menschenlehre Redaktion ist, glaube ich, auf absehbare Zeit kein realistisches Szenario, schon gar nicht bei uns. Aber dass sich dann auch diejenigen, die da arbeiten, daran gewöhnen müssen, dass sie mit der KI, ich sage es jetzt mal als Partner, das klingt so ein bisschen euphemistisch, so ein bisschen beschönigend, aber dass die KI sozusagen als Co-Pilot mit ihnen mitarbeitet, daran werden wir uns dann gewöhnen müssen, hoffentlich entstehen dabei dann auch noch ein paar neue Jobs."

Christian Arndt: "Das war doch jetzt ein schönes Schlusswort. Vielen Dank für dieses Gespräch." 

Das vollständige Interview anhören: Folge 006: Jan Eggers über halluzinierende KI-Chatbots und journalistische Standards