Was ist Was: "KI-Transparenz in Medienhäusern" (ft. Francesca Lehmann)

00:00:01:

00:00:23: Hallo und herzlich willkommen zu einer neuen Folge des Hype-Instituts hier im November, Bei mir ist, wie immer mein lieber Kollege Hans-Klinge Biel.

00:00:33: Ich bin Christian Simon und wir sind beide bei Medialab Bayern.

00:00:36: Und wir robben heute auch noch einen Gast dabei den wir euch gleich vorstellen.

00:00:39: zuerst muss ich aber fragen Johannes was macht der Hype?

00:00:44: Hat die Mitwärms verloren?

00:00:45: zumindest wenn man KI Influencern und Venture Capitalists auf Twitter zumindest glauben mag denn gibt's ja klare Verlierer.

00:00:54: Also würdest du sagen dass der Hyped eine politische Konstruktion der politischen Rechte in den USA ist.

00:01:00: Ich

00:01:02: würde sagen, dass die Tech-Industrie in den letzten zwei Jahren sehr nah an Trump rangerutscht ist und sehr...

00:01:10: Jeder Musk hat fünfhundert Millionen Dollar ausgegeben und fast alle Races, in denen er gespendet hat verloren.

00:01:16: In vierzig verschiedenen Wahlen waren auch Datencenterinitiativen auf dem Wahlzettel.

00:01:22: In mindestens achtunddreißig davon wurden die Datencenter abgelehnt.

00:01:26: Also ja, ich glaube man kann sagen der Hype hat die Wahlen verloren.

00:01:30: Schauen wir wie es weitergeht.

00:01:32: Welche Auswirkungen habt ihr auf den Enthropic-IPO?

00:01:37: What effect would it have on the trout population?

00:01:40: Aber ich glaube nicht sehr zu.

00:01:42: trotz reden wir heute trotzdem nochmal weiter über den Hype also über KI Und dazu haben wir eben den für mich eben schon angesprochenen Gast dabei bei uns, nämlich heute Francesca Lehmann.

00:01:53: Francesca ist Medienwissenschaftlerin.

00:01:56: Sie hat eine Masterarbeit zum Thema KI und KI Transparenz regeln Medienhäusern beschrieben.

00:02:01: sie hat dazu ein Forschungsprojekt gemacht Und war mit diesem Forschungsprojekt dann auch Teil bei uns im Strategie Sparring des Media Lab Bayern.

00:02:08: Das ist unser Programm, in dem wir mit Medienhäusern zusammen an strategischen Fragestellungen arbeiten.

00:02:13: Da waren natürlich KI und der Umgang mit KI immer ein Thema.

00:02:17: Und genau Francesca hat das quasi als Forscher begleitet und selber noch mal ihre Arbeit vorgestellt und vertieft.

00:02:25: Und ich würde vielleicht erstmal so anfangen Francesca, bevor wir in die inhaltliche Debatte gehen.

00:02:29: Erzähl uns doch mal ein bisschen das erst vielleicht nochmal von dir und dann tatsächlich auch so von deiner Arbeit.

00:02:33: Vielleicht ja sogar schon das eine oder andere Ergebnis?

00:02:36: Gerne!

00:02:37: Genau.

00:02:38: Ich bin Francesca.

00:02:42: Titel, ganz mein Name

00:02:43: K.I.,

00:02:44: kein Zeichen im Journalismus geschrieben.

00:02:46: und genau fand das Thema so spannend.

00:02:48: Und vor allem weil es auch viel mit der KI-Verordnung zu tun hatte die ja vor allem rund um den letzten achten nochmal zu vielen Diskussionen geführt hat.

00:02:56: Total spannend das Thema auch noch weiter zu überkeugen.

00:02:58: deshalb habe ich mich dann im Sommer auch noch damit befasst.

00:03:01: und vielleicht einmal zum Kontext wie bin ich eigentlich darauf gekommen?

00:03:05: Ich hab Medien- und Wirtschaftsfissenschaften studiert und dann sind irgendwie die ganzen technologischen Fragestellungen auch immer Genau in dieser Schnittstelle irgendwie superrelevant gewesen.

00:03:15: Dadurch bin ich dann irgendwann auf das Kali als Technologie, die natürlich auch gerade super präsent und interessant ist gekommen und dachte mir dann aber eigentlich interessiert mich auch noch mal so eine Ebene drunter oder darüber wie man es sehen will nämlich wie man den Umgang darüber vielleicht auch kommunizieren kann eben weil es ja hype ist für viel Aufregung sorgt usw.. Und genau, das bin ich ein bisschen auf das Thema grundsätzlich bekommen und habe dazu viel recherchiert.

00:03:44: Da kann ich die Erhebung gemacht und vor allem jetzt im Rahmen des Forschungsprojekts mit dem Strategiesberg auch viele Gespräche geführt, wo ich noch mal konkrete Einblicke auch bekommen hab, die mir so ein bisschen meine Erkenntnisse erweitert haben.

00:03:57: Jetzt spannen wir uns nicht auf die Folter.

00:03:59: Also gibt es so einen oder zwei Ergebnisse, wo du sagen würdest?

00:04:02: Das sind so ... die Ergebnisse.

00:04:04: Ich weiß schon, das ist bei Sozialwissenschaften nicht immer ganz so einfach, dass eine Ergebnis irgendwie rauszuholen.

00:04:09: aber gibt es da so die zwei drei wichtigsten Punkte, die du jetzt herausgefunden hast in deiner Arbeit?

00:04:14: Also einmal fand ich alles spannend rund um wie über die KI-Verordnung gesprochen würde und was da jetzt wie für wen relevant ist.

00:04:21: Das ist ja auch viel Unsicherheit grundsätzlich in der Branche gesorgt hat.

00:04:25: Ich glaube wenn ich mich richtig erinnere an euren Status Pro der Medienbericht, habt ihr auch ähnliches herausgefunden?

00:04:33: und andererseits... Verliege ich noch

00:04:34: mal den Show Notes.

00:04:34: Danke, dass du

00:04:37: da bist.

00:04:37: Genau!

00:04:38: Und wenn es dann um das Thema Transparenz und Kennzeichnung geht sagen alle ja wollen wir machen.

00:04:42: also dieses lassen sich irgendwie alle einig.

00:04:44: und dann ist eigentlich die spannende Frage wie?

00:04:48: Leider auch noch mehrere fragen, wer aufhört aber das eben dieses wie noch total unklar ist.

00:04:53: also super viele experimentieren gerade.

00:04:56: Es gibt ja beispielsweise von der EU auch einen Vorschlag wie man kennzeichnen kann in diesem Code of Practice oder Faltenscolex ob Deutsch übersetzt.

00:05:06: tatsächlich ist es aber jetzt nichts was alle schon so irgendwie etabliert haben oder sagen Das ist der Standard, den wir auch bei uns sehen.

00:05:13: Sondern jede Redaktion experimentiert da gerade noch super viel rum auf unterschiedlichen Ebenen.

00:05:20: Also an Produkten, je nachdem was man für Zuschauerne attizipiert, die die Produkte konsumieren letztendlich.

00:05:29: Eigentlich die weitere Frage rund um den Standard einerseits.

00:05:33: also es gibt grad keinen Standard brauchen wir allen?

00:05:36: wenn ja wer bestimmt den und warum sollt ihn haben?

00:05:39: Und damit verbunden die weitere Frage, warum machen wir das eigentlich?

00:05:43: Wie kommt das bei den Nutzungen an.

00:05:45: Also wie wirkt Kennzeichnung?

00:05:48: Da wird ja gerade auch teilweise viel darüber gesprochen.

00:05:49: so weg das jetzt wirklich vertrauen oder eben Abschreckung?

00:05:54: da habe ich nur die Einblicke aus den Redaktionen von den Leuten die das entscheiden sozusagen bekommen nicht von den Nutzen selber aber fand eben da die Erkenntnis spannend dass es eben genau die Frage ist die Leute gerade beschäftigt und wo viele eben auch dabei sind auf Verlagsebene beispielsweise zu experimentieren und um genau das herauszufinden.

00:06:14: Ich sehe, man muss für alle Hörerinnen jetzt da draußen, wir nehmen das hier mit Video auf und ich sehe, ich glaube zu sehen dass Johannes dazu was unter den Nägeln brennt.

00:06:23: Aber ich würde gerne kurz bevor wir in die tatsächliche Diskussion einsteigen einmal noch gerne noch ganz bisschen kurz an den Grundlagen arbeiten, dass wir alle wissen darüber wie sprechen.

00:06:31: du hast gerade diese EU-Verordnung erwähnt.

00:06:34: Manche Hörerinnen dieses Podcasts werden davon mitbekommen haben.

00:06:38: Trotzdem, du als Expertin vielleicht kannst du uns nochmal ganz kurz erklären was es genau damit aufsichert.

00:06:43: Weil zum Beispiel ich selber auch gemerkt habe... Ich glaube das war sogar ein Gespräch mit dir dass ich zb bisher dachte ja also ich habe diese Verordnung wahrgenommen und ich habe die Vorschläge von denen du schon angesprochen hattest gesehen wie man KI zeigen kann Und ich hatte das zum Beispiel schon so verstanden dass das in dieser Form verpflichtend ist Also dass da diese Labels gibt die man dann verwenden muss Was hier offenbar nicht stimmt.

00:07:03: deswegen vielleicht kannst Du da einfach gerade nochmal kurz ganz kurz erklären für Laien, was genau meinst du mit dieser EU-Verordnung und was beinhaltet die?

00:07:11: Ja es ist schwierig kurz zu fassen aber ich versuch's.

00:07:15: Genau also die Kalkverordnungen beschreibt ja nicht, du arbeitest in der Medienbranche, das musst du Y machen sondern das ist eine Verordnung, die die Technologie regelt.

00:07:22: Das heißt, wenn man in einer bestimmten Rolle ist muss man eben diesen Anweisung in der KI-Verordnung oder AI-Agg.

00:07:30: manche sagen AI-Agg Verordnungs ist das gleiche Folgen.

00:07:34: Und dann ist wiederum diese Frage auch nicht in der KI-Verordnung selber beantwortet, sondern das lagert die EU in einem Gesetzgebung quasi aus.

00:07:44: Einerseits in Empfehlungen wie dieser besagte Verhaltenskodex und dann gleichzeitig... Das ist aber wie gesagt nur eine Empfehlung und gleichzeitig gibt es eine nationale Ebene.

00:07:55: Da haben wir jetzt das Nationaldurchchungsgesetz was eben auf deutscher Ebene gerade dabei ist sich zu etablieren wo dann die entsprechenden Behörden uns so zugeordnet werden.

00:08:06: Das ist ein bisschen der Rahmen, wo sich das bewegt.

00:08:09: Die EU spricht nur diese Empfehlung aus und sagt quasi ihr könnt auf nationaler Ebene entscheiden dass ihr zum Beispiel des Verpflichten macht oder auch nicht.

00:08:17: aber so ähnliches ist jetzt eben noch nicht passiert.

00:08:20: es gibt sehr viele Empfehlungen von unterschiedlichen Institutionen aber das Ganze ist eben so nicht festgeschrieben.

00:08:26: man muss natürlich an was in der KI-Fordernung steht halten sehr high level also das steht nicht drin du musst so kennzeichnen und so nicht sondern da steht eben nur drinnen wenn es deepfakes gibt, wenn man die herstellt.

00:08:41: Also wenn man in der rolle des betreibers ist dann muss man sie kennzeichnend.

00:08:46: und wenn man eben text von öffentlichen interesse so wie es das steht herstelt muss man sich kennzeichnet außer jemand trägt die redaktive verantwortung und überprüftes dass es sozusagen das Einzige, was in der KI-Verordnung steht und alles Weitere sind quasi in den anderen Texten oder anderen Ebenen geregelt.

00:09:04: Die genau wie im Fall des Haltens Codex eben nicht verpflichtend ist, sondern eine Empfehlung.

00:09:10: Vielleicht können wir gleich mal darüber reden, was da in Deutschland vielleicht gerade passiert?

00:09:13: Oder vielleicht auch etwas andere Länder schon machen.

00:09:14: jetzt würde ich aber gerne kurz Johannes... Ich habe dich lächeln sehen!

00:09:17: Ich hab dich nicken sehen!

00:09:18: Was willst du uns

00:09:19: sagen?!

00:09:20: Ich finde es einfach interessant, weil wir haben jetzt ja auch meinen eigenen KI-Report und eine kleine Umfrage auch präsentiert auf Medientagen wo wir darüber auch geschrieben haben.

00:09:30: Und Franziska korrigiere mich an mein Eindruck ist sehr... Man muddelt sich da irgendwie gerade so ein bisschen durch Weiß selber auch nicht ganz, was man tut und guckt links und rechts.

00:09:43: Und hofft, dass jemand anders weiß, was er tut?

00:09:45: Also das ist so mein Eindruck der Medien Szene gerade dazu.

00:09:50: Ja.

00:09:50: Ich weiß nicht, ob das dir genau so ging.

00:09:52: Würde ich dir auf jeden Fall zustimmen.

00:09:54: Genau einerseits.

00:09:55: dass man sich auch mit Experimentieren meinte.

00:09:58: Und genau, sicherlich auch abgucken, weil letztendlich viel Unsicherheit da ist und es eben keine perfekte Anleitung gibt.

00:10:04: Das ist ja einerseits Freiheit, würden man hier sagen, andererseits auf diese große Unsicherkeit dann ... Genau.

00:10:11: Experimentieren ist ja euphorismus würde ich fast sogar sagen.

00:10:14: Aber was mich interessiert wird noch gab's irgendwas, das dich überrascht hat?

00:10:17: Also du sagst, du bist da mit anderen Erwartungen rangegangen, ist jetzt unabhängig von

00:10:23: wie

00:10:23: ... ... muddelt sich da irgendwie die Medienbranche gar, das war einfach ein ... ... irgendetwas, was gab es als Überraschstatt?

00:10:30: Wenn wir vorschlagen.

00:10:33: Ich fand's spannend dass total viel darüber geredet wird aber eben auf dieser High Level Ebene sag ich mal also dieses Wir wollen eigentlich alle Transparenz und vielleicht auch da der Punkt dass es in der Medienbranche so besonders viel diskutiert wird.

00:10:47: Also wenn wir quasi sagen, wir wissen aus der KI-Verordnung ist das nur sehr speziell fällenrelevant.

00:10:52: Warum reden wir dann alles?

00:10:55: Abgesehen von meiner beißt Situation natürlich, wenn man dazu ein Forschungsprojekt macht aber grundsätzlich vielleicht die Erkenntnis, dass Transparenz als Norm nicht so ist im Journalismus.

00:11:05: also es gibt allmögliche Transparensroutinen wie schreibt, woher eine Quelle ist.

00:11:10: Dass man etwas korrigiert wenn ein offensicher Fehler vorliegt oder ähnliches oder teilweise auch Transparenzblocks in Sinne von so arbeiten wir gibt es ja nicht erst als KI sozusagen.

00:11:21: also dass sich eigentlich vieles von diesen Überlegungen vielleicht gar nicht so neu ist sondern genau da andocken kann wo parallele Überlegung schon stattfinden.

00:11:30: das hat mich nochmal war eine große Erkenntnis eigentlich in Kombination aus der Forschung und was die Medienschappenden mit erzielt haben.

00:11:40: Ich wollte jetzt gerade schon ... sowas sagen von wegen, wo ist vielleicht das jetzt zu viel darüber geredet wird?

00:11:46: Dass auf einmal... dass tatsächlich so stark eingefordert wird also die Medien was zu verlieren hat an Vertrauen und so weiter wenn man KI nicht kennzeichnet.

00:11:57: aber bei den Beispielen wie genannt es war ja bei Fehler korrigieren oder sowas eigentlich auch schon so.

00:12:03: also da kann man genauso argumentieren Das ist es nicht so angenehm über Fehler zu sprechen.

00:12:07: Aber man kann Vertrauen verlieren, wenn man es nicht tut.

00:12:09: Man kann vielleicht sogar Vertrauen gewinnen, wenn mans tut.

00:12:12: Vielleicht ist das bei KI so ähnlich?

00:12:14: Man verliert Vertrauen, wenn wir KI nicht Transparenzeinsätze.

00:12:17: Vielleicht kann man mit der Transparens auch was gewinnen.

00:12:20: Aber dann finde ich eben schon spannend, warum jetzt darüber mehr gesprochen wird als es vielleicht bei anderen Transparemselementen der Fall war ... Ist dass der Hype fragt des Hype-Instituts!

00:12:32: Ja, vielleicht.

00:12:33: Ich glaube also ähnlich die Unsicherheit Echt lange rund um KI hängt ja auch primär damit zusammen, dass wir Unsicherheiten rund um KAI haben.

00:12:40: Also das ist ja auf ein viel zu allgemeiner Begriff sage ich mal was meint wer in welchem Moment?

00:12:45: wenn einfach nur KI sagt dann wirklich konkret damit und daraus lässt sich halt dann auch erst ableiten was das für rechtliche Konsequenzen haben sollte oder auch tatsächlich wie man es regulieren sollte.

00:12:55: genau deshalb ja

00:12:56: Ich meine da sieht man ja auch die ganze Zeit oder Barth das bei über manche KI anwenden es wäre über KI Transparenzregel redet ja in den seltensten Fällen darüber Deep L Nutzung zu kennzeichnen oder sondern es geht ja um sehr spezielle generative Fälle, wo Inhalte generiert werden.

00:13:13: Ich würde mal behaupten das ist jetzt amäknotisch Johannes du kannst immer die Studien aber ich würde einmal behaupte dass selbst so was wie Kanal und Grammatik Check oder KED im Hintergrund mit Journalistinnen an irgendwas arbeitet wahrscheinlich bei den meisten Nutzerinnen und Nutzern wenig Bauchschmerzen verursacht, solange Sie das Gefühl haben was sie am Ende vorgesetzt bekommen ist immer noch irgendwie ein menschliches Produkt oder?

00:13:36: Also definitiv.

00:13:37: Das ist auch etwas für heute das Studium und es gibt zwei andere Paper die das auch untersucht haben ich mal französisch künstliche Literatur.

00:13:43: wahrscheinlich hoffe ich denke ich auch so ja aber tatsächlich also dass es überraschend differenziert ist beim Publikum das auf der einen Seite also wie das Wien relativ große Rolle spielt.

00:13:56: nicht das ob Und trotzdem, sobald Texte generiert werden und auch das Offen gelegt wird, dass automatisch zu einem Vertrauensverlust führt.

00:14:06: Egal ob die Texte gut schlecht inhaltlich korrekt sind, inhaltliche falsch sind – das spielt dann überhaupt gar keine Rolle mehr!

00:14:13: Und denke ich, das ist halt auch so ein Dickrocks an der ganzen Sache.

00:14:17: Dass da Medienhäuser vielleicht ein Ticken optimistischer sind, was diesen Einsatz eingeht?

00:14:23: Das ist das eigene Publikum

00:14:25: Irgendwie auch eine interessante Incentivstruktur.

00:14:27: ja dann eigentlich zu sagen man will, aus welchem Grund auch immer vielleicht KI anwenden.

00:14:32: Man muss Transparenz sein weil es eine Richtlinie gibt aber es führt vielleicht aber dazu wenn man ist dann kennzeichnet dass man einen Nachteil davon hat klingt für mich wie ein Incentive.

00:14:43: diese Transparensregel so soweit zudänen wir es gerade noch rechtlich irgendwie möglich ist.

00:14:50: deswegen vielleicht mal Franziska.

00:14:51: ich hatte ihm schonmal gesagt gibt's denn schon Beispiele für nationale Regelungen in Europa, wo schon was entschieden wurde oder wo ein Staat eine Regierung schon gesagt hat.

00:15:02: So soll das bei uns genau aussehen?

00:15:05: Soweit ich weiß nicht wie gesagt.

00:15:08: also in Deutschland ist es jetzt quasi so dass grundsätzlich ist die Bundesnetzagentur zuständig aber es gibt auch schon Beschlüsse, dass jetzt die Landesmedien anstalten dann halt für alle Medienrelevanten KI-Dinge sozusagen zuständig sind was irgendwie auch logisch ist, weil die machen ja jetzt schon alles in dem Bereich.

00:15:24: Das heißt da ist jetzt spannend zu beobachten ob die da beispielsweise ein Standard oder ähnliches erarbeiten oder eben nicht.

00:15:32: und vor allem also für mich ist so'n bisschen die Frage, weil zum Beispiel auch dieser Empfeilniskodex der KI-Fordernung gibt es auch Entzählungen und Beispiele wo ein bisschen... erklärt wird dann in dem Fall und so, weil man das glaube ich schon teilweise ja auf ob es jetzt Bildton, Audio, Bildton-Schied um einigen natürlich ist oder über unterschiedliche Ausspielwege hinweg.

00:15:56: Dass man da eben gewährleisten muss dass es jeder immer irgendwie erkennt.

00:15:59: Und trotzdem reichen diese Beispiele in den Verhaltenskonexik AI fort und nicht aus weil's immer noch Grenzfälle gibt wo einfach auch noch nicht entschieden ist also beispielsweise Artikelvertonung.

00:16:09: Das gibt es schon sehr lange, da werden synthetische Stimmen eingesetzt.

00:16:15: In meinen Gesprächen hat sich Leute die gesagt haben naja wie kennst du das jetzt?

00:16:19: und andere die argumentiert haben na ja ne weil wir erwarten dass unser Publikum das ohne Hinweis und dann stört es eben nur.

00:16:26: oder bei Illustrationen hat man gerade auch viel die Diskussion.

00:16:31: wenn man im Rahmen der KI-Verordnung implementieren möchte muss man sich immer fragen ist es ein Deepfake?

00:16:37: Also, täuscht es jetzt gerade mein potenzielles Publikum oder nicht?

00:16:41: Und andere Richtlinien oder Normen gibt es aktuell eben noch nicht.

00:16:46: Die so festschreiben, woran man sich eben orientieren kann oder... Ja.

00:16:51: Versteht das aber richtig, dass man muss einen Deepfake markieren, aber die Definition eines Deepfakes ist, dass ich versuche damit Leute zu täuschen?

00:16:59: Genau also im EU AI Act, das muss man betonen, sie sagen, ist die Definitio von einem Deepfag Ein synthetischer Inhalt, mit dem man potenziell jemanden täuschen könnte.

00:17:09: Das ist quasi die Definition.

00:17:11: Okay,

00:17:11: also ich glaube potentiell dann wahrscheinlich das entscheidende Wort weil ansonsten kriegst du mich so ein bisschen okay wenn du vor hast es illegales zu tun, dann musst du's anmelden?

00:17:19: Ja, ich hab tatsächlich auch schon viel darüber nachgedacht ob es da nicht ein Anreizproblem gibt in der KI-Verordnung aber dass man... Also in diesem Dietfeld Thema, das ist natürlich nochmal eine größere Sache Aber letztendlich geht es eben darum um diese Definition halt entscheidet.

00:17:37: Und sich immer entscheiden soll nicht zu täuschen, weil man kann sich auch übersteigen ob jetzt eine Illustration jemand täuscht oder nicht.

00:17:43: und wenn ich sag na ja ich will nicht täusche dann sage ich okay ist es kein deepfake und dokumentiert das nach innen warum es kein Deepfake isst?

00:17:51: Oder ich kennzeichne es nach außen dass es ein Deepfak ist und bin dann auch auf der sicheren leite.

00:17:56: Ich verlege gerade mal so nach Beispielen ob ich's schonmal irgendwo gesehen hab das einzig was mir einfällt.

00:18:03: Ich hatte bis vor kurzem, hatte ich HBO Max abonniert.

00:18:06: Weil ich da eine Sendung gucken wollte und war aber zu geizig oder auch aus Prinzip wollte nicht den Betrag ohne Werbung bezahlen.

00:18:13: deswegen habe ich jetzt mal wieder Werbung gesehen was ja im Internet nur noch die sehen die armen und die Leute das nicht besser wissen.

00:18:21: in dem Fall wollte ich das Geld nicht ausgeben und habe Werbung gesehn Und da hatte ich tatsächlich mal den ein oder anderen werbe clip.

00:18:28: ich weiß schon nicht mehr welches war Also ein Zeichen dafür, was so Fernsehwerbungen vielleicht bringt.

00:18:32: Aber wo auf jeden Fall unten schon so ein kleines bisschen drin stand?

00:18:36: Ich glaube es war nicht generiert mit KI aber es war irgendwie so KI-Inhalt oder irgendwie so eine Phrase und ich gehe mal davon aus dass das eine Folge von der EU-Richtlinie ist, aber das würdest du dann sagen, das ist da noch eine Agentur oder einen Produzent, wer auch immer diese Werbung gemacht hat die gerade noch so ein bisschen am Ausprobieren sind wie sie das machen weil Es gibt es ja noch keine Regelungen, die sie dazu verpflichtet das genauso zu machen.

00:19:02: Habe ich das richtig verstanden?

00:19:04: Klar, tatsächlich im Bereich Werbung ist das auch gerade super spannend so.

00:19:07: Mir ist das da schon aufgefallen, dass sich das da natürlich eher mit visuellen Elementen arbeiten aber dass es da oft jetzt irgendeine Art von Kennzeichnung gibt.

00:19:16: Ich finde es schwierig da eine Einschätzung machen, weil ich ja keine Rechtsberatung mache.

00:19:19: Aber...

00:19:20: Ich glaube das können wir sicher sagen, also vielleicht sagen wir jetzt einmal in dieser Portresist keine Rechts- beratung auch keine Steuerberatungen und kein Nordfinanzschilderpreis.

00:19:26: Landlager Beratung machen wir auch nicht, ne?

00:19:29: Genau nur.

00:19:30: aber tatsächlich habe ich mir deshalb bei den Medientagen auch noch mal einen Vortrag beziehungsweise Diskussionsrunde dort angehört.

00:19:37: Da ging's quasi darum Wer ist verantwortlich für die Medienrelevante KI in Deutschlands Ministerst?

00:19:42: Und da wurde tatsächlich genau ein Beispiel aus der Werbebranche diskutiert.

00:19:45: Das war im Fall dann Radio, aber da war quasi genau die Frage... Naja, ist das jetzt ein Liebfake oder nicht?

00:19:51: Weil wir haben ja nur eine synthetische Stimme und in der Werbung machen wir doch schon immer alles irgendwie ein bisschen schöner.

00:19:56: Aber ist es dann gleich direkt ein Lieblfake-Täusch?

00:19:59: Ist das eine aktive Träuschung?

00:20:00: Oder ist es nicht eigentlich schon so wie immer also dass es tatsächlich gerade eine Sache liebt, die für viele noch sehr unklar ist.

00:20:07: Genau, da gibt's auch aktuell noch keine Regelungen.

00:20:09: Es gab Diskussionsteilnehmer, die gesagt haben, wir müssen das kennzeichnen und andere haben ihnen gesagt naja aber eigentlich ist das ja nichts Neues.

00:20:18: tatsächlich oder weil ich erinnere mich jetzt gerade bei Werbung gibt es ja auch in vielen Ländern also Ich bin ja aus Schweden zugeschaltet gibt es hier.

00:20:25: in vielen ländern gibt es schon Regelungen die zum Beispiel photoshop oder zu starke Photoshopte Körper auf werbeplakaten zb verbieten um junge Menschen nicht in die Essstörung zu treiben, um keine falschen Körperbilder zu vermitteln.

00:20:40: Klingt für mich sehr verwandt?

00:20:44: Die Frage ist dann wieder ... Ob es dann bringt da nur KI draufzuschreiben, sag ich mal.

00:20:48: Also ob's dann wiederum das transportiert, was es eigentlich kommunizieren soll...

00:20:54: Was soll es denn kommunizierend?

00:20:56: Das klingt ja jetzt sehr stark so und vielleicht ist das mein selective Allgeeing oder so.

00:21:01: aber es klingt schon sehr stark als Dass Leute ein bisschen davon abgehalten werden sollen, KI zu benutzen oder zumindest ist zu leichtfertig zu benutze.

00:21:11: Wäre es dann nicht vielleicht besser gewisse Anwendungsfelder einfach zu verbieten?

00:21:14: Das gibt das ja auch!

00:21:16: Also die Logik der KI-Verordnung ist in diesem Risiko klassen und immer wenn wir alles... oder alles, was wir über Transparenz sagen.

00:21:25: Das ist quasi im Bereich begrenztes Risiko.

00:21:26: also da hat die KI-Fordnungen quasi gesagt Wir schätzen in diesen Anwendungsfällen das Risiko als begrenztein und deshalb ist die Maßnahme Transparens.

00:21:35: D.h.,

00:21:36: es sind eben Anwendungspfelder wo man sagt Nee!

00:21:38: Die müssen nicht verboten werden weil sie sind okay aber wir wollen ja irgendwie ein bisschen mehr Transpurenz haben.

00:21:43: Und was ich auch noch ganz spannend finde so die KI.

00:21:44: Ordnung ist ja nicht entstanden Weil jetzt irgendwie alle Zugrufe auf den regenerativen KI Tools haben sondern die ist ja schon vorher war der Prozess ist natürlich dann mit eingeflossen noch.

00:21:54: Aber letztendlich geht es ja gar nicht darum, dass wir diese Tools jetzt so schnell und einfach nutzen können sondern so eine grundlegende Frage wie wir mit dieser Technologie umgehen wollen.

00:22:03: und deshalb ist eigentlich auch die Argumentation naja das war ja schon immer so kann man vielleicht mal hinterfragen weil er vielleicht war es ja auch vorher schon blöd, dass man's nicht gekält seichnet hat.

00:22:12: Das wollte ich auch gar nicht sagen.

00:22:14: Ich sehe da eine Verwandtschaft vielleicht mit anderen Themen.

00:22:17: auch das ein Gespräch, das wir ja schon einmal kurz hatten im Vorfeld Viele Transparenz-Debatten, das hattest du eben auch schon mal gesagt.

00:22:24: Hätte man in der selben Identität ja eigentlich auch schon bei anderen Dingen mal führen können?

00:22:29: Ein Beispiel dass ich da aus der Branche auch schon gehört habe ist das Thema als wir alle angefangen haben alles in irgendwie Clouds zu schicken.

00:22:37: Wo natürlich ein Transparens und Datensicherheitsaspekte genau eine große Rolle spielen wo damals niemand drüber geredet hat schon gar nicht so öffentlich wie jetzt bei KI.

00:22:46: Könnte man sehr gut da glaube ich auch argumentieren hätte drüber reden müssen oder vielleicht grundsätzlich ein anderes Verhältnis zu Transparenz da auch zu entwickeln, egal ob es jetzt um KI geht oder was anderes.

00:22:58: Aber vielleicht nochmal Johannes noch mal dich gefragt weil du eben diese Studie erwähnt hast mit wie gucken eigentlich Rezipienten darauf?

00:23:06: Wie würdest Du denn damit... also du warst jetzt kein Medienhaus aber ich würde mal interessieren wie Du das siehst und was Du machen würdest in einer hypothetischen Welt dieses Dilemma aufzulösen von Du musst das Kennzeichnen machen, du weißt aber dass es NutzerInnen nicht gefällt.

00:23:21: Dass sie vielleicht dadurch schlechter auf dein Medium blicken.

00:23:24: Gleichzeitig stehst du und als viele Medienmanagerinnen stehen glaube ich unter dem großen Druck KI einzusetzen auch das was wir irgendwie gesehen haben.

00:23:35: wie gehst du damit um?

00:23:36: Wie gehst mit diesem Dilemmaum?

00:23:38: Ja, es ist eigentlich ganz interessant.

00:23:40: Satirisch verspitzt gesagt bin ich als Manager im Medienhaus muss mich rechtfertigen meinem Chef gegenüber warum ich nicht KI einsetze und warum wir nichts mit KI machen.

00:23:48: und beim Publikum gegenüber muss ich mich recht fertigen warum ich eigentlich was mit KI mache.

00:23:53: also ich bin da in einem ganz blöden Dilemma eigentlich jetzt überspitzt gesagt drin Ich glaube der Punkt ist einfach der ich denke das ist einfach wichtig dass es am Ende ist ja Kommunikation wenn ... dazu schreibe dieser Text, wurde Teil KI generiert.

00:24:08: Dann ist die Kommunikation oder die Nachricht, die ich damit sehende so... Er hat ein bisschen Wegwerfprodukt und eigentlich habe ich mich da gar nicht so wirklich mit angestrengt.

00:24:16: Also es ist jetzt nicht das Premium-Produkt für dass sich irgendwie meine dreißig Euro Monat Paywall irgendwie gut rechtfertigen kann.

00:24:24: Ich hab auf der Pricing Ebene das Signal du wir sind eigentlich eine Luxusprodukte, ein Qualitätsprodukt.

00:24:31: Und dann aber auf der Titel-Ebene send ich im dümmsten Fall genau das gegenteilige Signal, in dem ich mich selbst und werte.

00:24:37: Ich glaube auch das hat ja sogar die Studien explizit gezeigt dass Menschen KI generierten Inhalten nicht nur weniger vertrauen sondern auch dass sie erwarten, dass sie billiger werden oder?

00:24:45: Genau, wir erwarten dass sie billiger werden.

00:24:47: Das ist im Reuters hat mir auch gefragt was sind die Erwartungen dann?

00:24:51: und auf der einen Seite war... ...die Erwartung das es die Produktion des Journalismus billiger wird, dass er weniger vertrauenswürdig wird.

00:24:58: also ne?

00:24:58: Es ist alles irgendwie nicht die Dinge die ich eigentlich signalisieren will über mein Produkt am Ende des Tages.

00:25:04: Das heißt ähm.. Ich muss in meiner Ansicht nach deutlich transparenter sein.

00:25:10: Nicht nur ich habe KI eingesetzt sondern hey!

00:25:14: Ich habe Karrier auf genau diese Art und Weise eingesetzt, um das zu erreichen.

00:25:19: Und da sehr viel offensiver sein... Also ich meine jetzt mal Rechtschreibung checken geschenkt, das muss sich ja noch nicht mehr wirklich markieren.

00:25:27: Aber wenn ich jetzt sage wir haben hier drei Überschriften die irgendwie AB-Testing automatisch laufen und es macht eben ein Sprachsystem automatisch dann sollte ich auch gut begründen gegenüber meinem Leser warum tue ich das eigentlich?

00:25:41: Wenn ich Bilder generiere oder weil ich sage ich will keine Stockfotos haben oder was auch immer sollte ich genauso gut begrünten.

00:25:46: warum tu ich das?

00:25:48: vielleicht auch dazu schreiben, welcher Prompt wurde eigentlich dafür verwendet?

00:25:51: also so maximale Transparenz fahren.

00:25:54: Und man merkt wahrscheinlich in einem Prozess selber ob die Sachen sinnvoll sind, die ich hier gerade tu oder nicht sinnvoll ist.

00:26:00: Ich glaube es ist ein Mindsetwechsel.

00:26:02: vorher musste man sich als Redaktion nie dafür rechtfertigen bestimmtes CMS zu nutzen... ...oder die Webseiten auf AWS zu posten und auf einmal muss sie mich für meine Technologie-Nutzung rechtfertigend.

00:26:13: das heißt da ist auch eine Lernkurve einfach da

00:26:16: Ist das auch was Francesca?

00:26:17: Was ich jetzt verstanden habe.

00:26:20: Ich glaube nicht, dass es in der U-Verordnung drin steht aber vielleicht ja trotzdem etwas, was du im Gespräch mit Medienhäusern rausgehört hast.

00:26:27: gibt's irgendwen bei der Transparenz vielleicht auch über... Also Johannes jetzt davon muss sich dafür rechtfertigen welches Tool man benutzt.

00:26:36: Bei der KI Nutzung sind hier auch eine riesen Handvoll ethischer Fragestellungen dabei ökologische Frageställungen die Datencenter, der Wasserverbrauch oder Energieverbraucht.

00:26:45: Wie kennen Sie alle?

00:26:47: Gibt es auch... Oder hast du ein Beispiel gesehen von Transparenzregeln, die das vielleicht auch mitbedenken?

00:26:53: Also die sich quasi nicht nur rechtfertigen bei sie's müssen dafür dass sie KI einsetzen sondern vielleicht auch diese Begründung, die Johannes jetzt gerade vorgeschlagen hat warum nutzt ihr das eigentlich?

00:27:04: Vielleicht sogar auch mit dem ethischen Aspekt noch verbinden

00:27:07: Regeln nicht direkt, glaube ich.

00:27:09: Aber vielleicht in der Umsetzung.

00:27:11: also dass quasi wir haben einmal die Kennzeichnung, die meistens irgendwie an einem Produkt stattfindet aber wir haben natürlich auch Leitlinien und Richtlinien werden veröffentlicht, die vielleicht vor allem nur noch in existiert haben.

00:27:22: Viele haben sowas wie... hab ich ihn schon sagt auf dem block in eigener sache oder ähnliches muss ich noch mal ausführlicher beschreiben wie sie es irgendwie machen.

00:27:30: Oder manche haben sich auch dafür entschieden tatsächlich im pressum einfach so ein klein hinweis hinzuschreiben.

00:27:34: also ich glaube, es gibt schon mehr.

00:27:37: Transparenz kommunikationswege sage ich mal die mittlerweile so in der praxis etabliert sind und die dann natürlich inhaltlich auch abdecken können als so einen aufkleber an einem produkt.

00:27:49: was ich tatsächlich aber nicht gesehen habe und was ich, also Johannes, wo ich dir total zustimmen würde.

00:27:54: Was glaube ich in Richtung wie wollen wir Transparenz in den Prozessen kommunizieren?

00:28:00: Was ich da selten oder noch gar nicht gesehen hab ist eigentlich sowas, wo wirklich viel Information drin steht.

00:28:06: Also muss natürlich dann immer trotzdem noch komprimiert sein.

00:28:08: aber zumindest was ist hier wirklich passiert?

00:28:11: Was hat man hier für ein Werkzeug genutzt?

00:28:13: Einfach so'n bisschen eigentlich erzählen, wie grundsätzlich läuft's ein Joelster-Prozess die dann mein wegen KI heißt, aber so eine grundsätzliche Offenheit über die Arbeit.

00:28:26: Ja, spannend!

00:28:27: Ich glaube, es ist eigentlich richtig, dass auch ja nicht KI und nicht die einzige Technologie mit ethischen Problemen sind, wenn man ehrlich, also auch AWS kann man über das Monopol reden, man kann um die Arbeitsbedingungen von Warehouse-Worker, von Amazon sprechen... Also da ist er tatsächlich KI einfach nicht das einzige Ding wo man vielleicht über die ethische Anwendung seiner Werkzeug gesprechen könnte.

00:28:47: Auch wenn ich interessant finde weiß nicht, ob ich so viel Vertrauen in die Transparenzwilligkeit eines Medienhauses habe oder dass das eine kleine Zepressung reinschreibt.

00:28:56: Ich fürchte selbst diese in eigener Sache Blocks finden unter relativem Ausschluss der Öffentlichkeit statt.

00:29:01: aber ich würde gerne jetzt weil wir auch mit Blick auf die Uhr vielleicht langsam zum Ende kommen würde ich gerne mal noch ein paar Minuten darauf verwenden über den normative Ebene zu sprechen.

00:29:13: also Was fänden wir eigentlich gut?

00:29:16: Und ich würde das gerne zuerst mal von dir, Francesca.

00:29:18: Du hast dich jetzt sehr intensiv damit auseinandergesetzt in deiner perfekten Welt.

00:29:22: Wie sieht es denn da aus?

00:29:24: Ich glaube ... dass wir keinen einheitlichen Standard haben können, den wir direkt überall wiedererkennen weil ich glaube Standardisierung und detaillereiche Erklärungen widerspricht sich dann an dem Punkt so ein bisschen.

00:29:39: Im Optimalfall ist es trotzdem irgendwie kombiniert meinetwegen durch Nimm ausklappen oder so.

00:29:45: Oder man eigentlich auf ne Farbe, oder keine Ahnung das Sparklesymbol, whatever.

00:29:50: also dass man vielleicht schon etwas hat wo man grundsätzlich deutschlandweit weltweit ja ein Informationssystem was keine Länder ganzen kennt und man irgendwie erkennt was damit gemeint ist.

00:30:01: aber dass wir trotzdem Details haben wo wirklich was erzählt wird.

00:30:05: und ich glaube auch dass es trotzdem irgendwie notwendig ist dass es an den Produkten selber erscheint und eben nicht, weil ich glaube auch vieles was so in irgendeinem Blog nochmal erklärt wird.

00:30:14: Das muss ja erst mal den Nutzerinnen auch erstmal finden.

00:30:20: Genau das heißt detailreich am Produkt und tatsächlich auch an die unterschiedlichen Ebenen angepasst also je nachdem wir jetzt ein Text, Audio oder Video haben Und vielleicht noch zwitzig, was ich auch ganz spannend fand.

00:30:33: Weil wir ... hab ich auch in einem Gespräch in der Diskussion, ob man sowas mal als Opt-out-Personalisierung irgendwann vielleicht technisch etablieren kann?

00:30:42: Einfach weil wenn ich jetzt jeden Tag die gleichen Podcast höre und quasi verpflichtend ist, dass da vorne gesagt wird dieser Podcast von einer synthetischen Stimme generiert, dann kann mich das ja nerven!

00:30:53: Also ob wir vielleicht dieses Nutzererfahrung und das, was trotzdem normativ notwendig ist irgendwie kombinieren können technisch, tatsächlich.

00:31:02: Das sind so meine Ideen.

00:31:03: Vielen Dank Johannes!

00:31:04: Wie siehst du es?

00:31:06: Ja ich denke sehr ähnlich.

00:31:07: Ich glaube was ich mir halt einfach wünschen würde ist ein stärkerer Fokus, weniger auf die Innensicht und Gott wir müssen das jetzt machen, sondern mehr die Außensicht, dass man bewusst mit dem eigenen Publikum, mit den eigenen Audiences einfach mal spricht und sagt hey was wünschst ihr euch denn eigentlich?

00:31:22: wenn man schon beschlossen hat, man nutzt das Und oft wird ja auch, was Francesca du ja auch meintest, argumentiert mit Personalisierungen.

00:31:31: Wo einmal rausgeht das Publikum, das gerne hätte.

00:31:34: Also man argumentiert Nutzerzentriert interessiert sich dann aber gar nicht so sehr darüber, was Nutzer tatsächlich über den Einsatz wirklich denken.

00:31:42: und ich glaube da ist halt eine relativ große Lücke die gefühlt werden muss weil diese Lücke wird mich weggehen solange ich entscheide KI zu nutzen

00:31:52: Dann würde ich mich vielleicht am Ende noch anschließen.

00:31:53: Ich finde grundsätzlich Also ich würde mich bei allem anschließen, was du gesagt hast von Chesker.

00:31:59: Ich würde es vielleicht noch einfach vom Format her... ...was ich cool finde wäre wenn es eben so wenig wie möglich oder nur in den Fällen wo's möglichst so ein Label ist und viel stärker vielleicht sogar im Format selber thematisiert wird sei es jetzt im Video oder sei es im Text das also nicht so ein kleiner Warnhinweis irgendwo ist Der den braucht's wahrscheinlich auch, also den braucht es ja wohl nach der EU-Richtlinie gerade bei Videos oder bei Sachen die wirklich für echt gehalten werden könnten.

00:32:31: Aber dass ein Artikel, der zum Beispiel ein generiertes Bild nutzt im Artikel selber vielleicht diese Transparenz herstellt und vielleicht sagt aus diesem Grunde im Grund haben wir uns hier entschieden dieses Bild zu benutzen.

00:32:44: ich könnte mir vorstellen das das vielleicht eben angelsächsischen Journalismus in sofern einfacher fällt, wo ja sowieso dass ich zum Beispiel auch des Reporters der Reporterin deutlich etablierter ist.

00:32:55: Wo das glaube ich ein bisschen gelernter ist vom Format auch in der Reportage

00:32:59: z.B.,

00:32:59: in der reportage selber über das entstehen der Reportagen zu sprechen?

00:33:03: Ich glaube in Deutschland ist es nicht so stark etabliert aber da könnte sich mehr aus einem KI umgang irgendwie wünschen und dann Das würde ich dann sagen, aber das auch so mit den Formaten.

00:33:14: Die müssen trotzdem immer noch gute Formate sein.

00:33:16: Also bitte nicht nur machen in ... Ich habe Chat-GPT zu seinen Mitterwahlen interviewt oder sowas?

00:33:22: Oder ich habe mich diesem Chatbot über Thema X unterhalten, über Religion und sonst was da erklären warum man KI genutzt hat sondern da glaube ich gerade diese normaleren Nutzungen auch direkt mitzuerklären.

00:33:36: Und wer weiß vielleicht wenn man sich als Medienschaffender so intensiv darüber Gedanken macht in der eigenen Arbeit, kommt man vielleicht auch öfter drauf, dass es vielleicht gar nicht so viel Sinn macht das hier jetzt einszusetzen.

00:33:48: Oder dass man vielleicht gar nichts dabei gewinnt dieses Bild zu generieren anstatt ein Stockfoto zu nehmen oder einen Fotografen zu bezahlen.

00:33:58: Francesca, du als Gast, das natürlich gerne das Schlusswort sprechen bzw.

00:34:03: das letzte inhaltliche Wort vor der Verabschiedung Wie geht es jetzt für dich weiter?

00:34:08: Wie möchtest du das Thema weiter verfolgen?

00:34:10: Kann man bald mal irgendwas öffentlich von dir lesen zu dem Thema?

00:34:13: oder ist das Thema jetzt für Dich abgeschlossen?

00:34:15: Das Thema ist nicht abgeschlossen einfach weil es ja auch irgendwie noch keine Antwort gibt und ich total spannend finde mich da weiter damit zu befassen.

00:34:21: also werde auf jeden Fall tun mein White Paper, was ich jetzt quasi im Rahmen des Forschungsprojekts geschrieben habe.

00:34:27: Das kommt auch bald online und ansonsten arbeite ich gerade in der IT-Branche und wechselt mich da die Grünspunkte konkret zu dem Thema hab', aber hab das auf jeden Fall immer weiter im Hinterkopf versucht da Acrylphosphunkte zu finden oder parallel alles Mögliche, was drumherum passiert, zu beobachten und vielleicht auch noch mal runterzuschreiben manchmal.

00:34:51: Wo finden wir das White Paper wenn's da ist?

00:34:53: Auf den Blog vom Media Lab

00:34:55: Bayern.

00:34:56: Sehr gut, dann verlinken wir das natürlich auch noch in den Show Notes wenn es schon da ist, wenn wir diese Folge veröffentlichen.

00:35:01: ansonsten jeder Hinweis für euch das auf unserer Webseite zu finden.

00:35:05: Vielen vielen Dank Francesca.

00:35:05: schön dass du da warst.

00:35:06: danke auch Johannes für das Gespräch und wir hören uns sobald wie möglich wieder mit einem anderen Thema seien wir ehrlich wahrscheinlich einen weiteren KI-Thema aber wir werden sehen!

00:35:18: Und bis dahin alles Gute und bleibt stabil.