"Proof of Human" im KI-Zeitalter – wie sich echte Stimmen technologisch verifizieren lassen (mit Jana Wuttke)

00:00:00: wenn halt auch die EI immer besser wird und wir das vielleicht nicht mehr unterscheiden können, werden wir das menschliche nicht mehr raushören.

00:00:08: Reicht uns das gut enough sozusagen?

00:00:12: Haben wir dann wirklich?

00:00:13: verlieren wir vielleicht die Spähigkeit auf Emotionen und Befindlichkeiten unseres Gegenübers zu lesen weil es sowieso eine synthetische Stimme ist?

00:00:20: also da habe ich ein bisschen Angst dass das so eine Art Abnutzung passiert wo wir nicht mehr in der Lage sind wirklich den Menschen gegenüber als Menschen zu identifizieren Die künstlichen Stimmen so stark menschlich klingen, dass wir das gar nicht mehr vom Hören auch können.

00:00:35: Das ist die Ausgangslage, mit der wir in diese Folge reinstarten.

00:00:39: Jana Wutke zeigt auf was passieren könnte wenn wir künstliche und menschliche Stimmen bald nicht mehr voneinander unterscheiden können.

00:00:46: teilweise können wir das ja heute schon nicht mehr bei den technologischen Möglichkeiten mit KI Und dass hat natürlich große Auswirkungen für den Journalismus und die Medien und darüber sprechen wir heute.

00:00:58: Wir sprechen aber vor allem auch über eine mögliche Lösung die Jana anbietet nämlich startup voice chain.

00:01:06: der ansatz da ist es echte stimmen technologisch zu erkennen und zu verifizieren.

00:01:12: kleine anmerkung noch wir hatten bei der aufnahme ein paar technische probleme.

00:01:17: in meinem fall kann ich sagen klassischer anwendungsfehler weil ich habe meine lokale aufnahme einfach überschrieben.

00:01:24: vielleicht hab ich in der sommerpause auch einfach verlernt wie man podcast aufnimmt.

00:01:28: Wir mussten in der Nachbearbeitung also ein bisschen mit KI nachhelfen, passend zum Thema heute eigentlich.

00:01:34: Ob es dann einigermaßen hörbar zu machen?

00:01:36: Vielleicht merkt man das an der einen oder anderen Stelle auch ein bisschen aber ich hoffe dass tut dem sehr interessanten Inhalt keinen Abbruch.

00:01:44: jetzt geht's los!

00:02:00: Mein Name ist Lukas Schöne und ich begrüße euch zu dieser Folge unseres Podcasts.

00:02:04: Wir sind zurück aus der Sommerpause und nähern uns in großen Schritten auch diesen Medientagen München, die vom XXI bis zum XXIII Oktober stattfinden.

00:02:14: Direkt vorneweg schaut doch gerne mal auf medientage.de vorbei.

00:02:17: das Programm Wächst und wächst und sichert euch vor allem schon eurer Ticket.

00:02:21: nicht dass dann hinterher ausverkauft ist und mir keine Klagen kommen.

00:02:24: also Ram da!

00:02:25: Das Motto in diesem Jahr ist ON IT.

00:02:29: Die Stoßrichtung ist also bei allen Herausforderungen, Krisen, Plattformdominanten politischen Angriffen auf freie Medien sind wir als Branche und Gesellschaft insgesamt nicht machtlos.

00:02:40: Auch wenn es sich manchmal so anfühlt – so viel darf ich zugeben an dieser Stelle für mich zumindest!

00:02:45: Aber on it.

00:02:46: das ist der Aufruf und die Einladung darüber nachzudenken wie wir als branche auch selbst die Zukunft gestalten können.

00:02:52: Auch hier im Podcast wollen wir dann darüber nachdenken in den nächsten Wochen, im Hinblick auf das Event und das zum Anlass nehmen um eben darüber zu reden wo wir Dinge selbst in die Hand nehmen können.

00:03:02: Nehmen wir zB mal das ganze, den ganzen Themenkomplex Deepfake.

00:03:07: Wir können uns davor schützen... wie können wir uns da vorschützen?

00:03:10: Ist ja immer die Frage Und Wie können wir sie auch erkennen und kennzeichnen?

00:03:14: Einmal gilt ja seit kurzem die KI-Kennzeichnungspflicht, die sagt dass Inhalte, die mit KI erstellt sind, kändlich gemacht werden müssen.

00:03:21: Man kann aber auch den umgekehrten Weg gehen nämlich echte Inhalts-, echte Stimmen, echte Sachen zu verifizieren und zu zertifizierend.

00:03:30: Und diesen Anspruch genau diesen Anspruch hat das Startup VoiceChain Das echte stimmen technologisch erkennen und verifilizieren möchte und wie das funktioniert welche Anwendungsfelder es da geben könnte und was das für Medienanbieter auch bringen könnte.

00:03:45: Darüber spreche ich heute mit der Gründerin von Voice Chain, ich freue mich sehr dass sie mir zugeschaltet ist Jana Wutke Hallo Jana schön das du da bist

00:03:53: Ja schön dass wir uns sozusagen auf dem Audio Kanal jetzt auch wieder treffen.

00:03:57: Passend

00:03:57: zum Thema Wir haben ja vor ein paar Wochen schon mal zu diesem Thema gecault Und dann irgendwie auch direkt kommittelt.

00:04:05: Lass uns doch mal im Podcast darüber sprechen weil ich das total spannend finde was ihr mit Voice Chain macht und was ihr davor habt Bevor wir aber Einsteigen.

00:04:14: Du bist ja Audio-Expertin, das darf man glaube ich so sagen.

00:04:17: Langjährige Radiojournalistinnen beim Deutschlandfunk zwischendurch auch mal bei der DPA als Produktmanagerin Audio und Voice gewesen.

00:04:26: Lass uns mal so anfangen.

00:04:27: was bedeutet dir in diesem professionellen Kontext eigentlich deine eigene Stimme?

00:04:32: Also...

00:04:32: Ich

00:04:33: habe mich sehr viel damit auseinandergesetzt weil ich auch davor eine kleine Station beim Hörspiel hatte wo ich natürlich darauf getrimmt bin sehr in Menschen hinein zu hören.

00:04:41: Und ich finde, das ist sozusagen die Chance und ich finde aber auch immer das was ich wo ich auch Respekt vor habe weil die Stimme ist ja nicht nur unser Werkzeug es ist ja wie unser Instrument wo gar nicht so viel Technik dazwischen geschaltet ist.

00:04:55: Und ich empfinde Stimme als etwas, was wir sozusagen wahrnehmen und woraus wir etwas lesen können bevor wir überhaupt darüber nachdenken.

00:05:04: Das ist sozusagen eigentlich etwas wo man ein Stück Kontrollverlust hat weil es wird so viel ausgedrückt über die Stimme, Emotionen, ob man krank ist oder aufgeregt ist.

00:05:14: Man kann das nicht richtig kontrollieren und trotzdem landet es bei dem anderen und der hat einen Gefühl für dich bevor er überhaupt darüber Nachgedacht hat Informationen, was die Information deiner Aussage war.

00:05:28: Und das ist sozusagen so ein zweischneidiges Schwert, was mich was einerseits total einen Potenzial bietet für Journalismus weil Stimme etwas immer was sehr emotionales und intimes ist.

00:05:41: Das wissen wir auch aus dem Podcast.

00:05:42: ne ich baue eine Beziehung zu demjenigen auf.

00:05:45: Andererseits ist es auch etwas, was jetzt vielleicht gerade in der heutigen Zeit dadurch auch ein ganz idealer Angriffsvektor ist.

00:05:52: Weil man eben einer Stimme vertraut.

00:05:54: und das ist so das, was mich immer begleitet hat – Was sagt Stimme aus?

00:06:00: Wo können wir Stimme oder Audio obtransferieren?

00:06:02: Welche Dinge kommen da zusammen?

00:06:05: Und wie macht uns das auch angreifbar und manipulierbar?

00:06:08: Ich glaube das ist sowas, was ich schon immer beschäftigt mich begleitet hat, sowohl bei VR als auch bei Games und so.

00:06:16: Stimme hat immer eine Möglichkeit dich ganz tief zu treffen im Innern und du dich dadurch auch sozusagen irgendwie zu kriegen was andere Ideen davon nicht können.

00:06:26: Ja, du hast ja jetzt auch schon angesprochen.

00:06:28: Podcasts auf der einen Seite seit ein paar Jahren genießen unglaublich großes Vertrauen beim Publikum.

00:06:33: für Radio kann man sicherlich das gleiche sagen.

00:06:36: Auch die Bindung zwischen den Menschen entsteht durch die Stimme.

00:06:39: Du hast jetzt von Potenzialen für den Journalismus gesprochen und zum Beispiel als du für die DPA gearbeitet hast viel ausprobiert in dem Feld bis ganz lange schon Radio-Journalistin, Audiojournalist im Deutschlandfunk.

00:06:51: Was ist denn das Potential von Stimme?

00:06:53: Für den Journalismus konkret Warum ist das ein gutes Medium für Journalismus?

00:06:58: Letztendlich geht es zu den Wurzeln von Journalismus zurück.

00:07:01: Ich gehe raus, ich bin dabei und berichte darüber.

00:07:05: Gleichzeitig spreche ich auch das Publikum an.

00:07:09: Ich baue sozusagen eine soziale Beziehung auf.

00:07:14: Ich trete in Beziehungen zu jemandem.

00:07:18: Durch eine Art von Charakter- oder Glaubwürdigkeit schon die Beziehung hergestellt hat, dann wird mir auch anders geglaubt als jemand der sozusagen neutral erst mal nur Informationen gibt.

00:07:26: Also das springt immer Persönlichkeit mit und ich glaube dass was natürlich ne Strategie war von Medienmarken gerade in den ganzen Plattformlogik war ja Medienmarkend aufzubauen also wirklich mit dem Charakter und der Stimme sichtbar zu sein wiedererkennmarkt zu sein.

00:07:42: Das hatte eigentlich jeder der in Okmedienhaus gearbeitet hat, versucht sozusagen eigene Persönlichkeiten zu schaffen.

00:07:51: Die dann wiedererkannt werden, die gleichen versuchen das jetzt als Creator, Creator in den Journalismus zu holen.

00:07:56: also das ist ja immer wieder ein ganz starker Drang zur Personalisierung.

00:07:59: und ich finde wenn Personalisierung ist Stimme und Audio natürlich der perfekte Weg dafür.

00:08:06: Und genau das kann aber sozusagen dann eben auch eine Gefahr sein.

00:08:09: Aber ich glaube dass das so ne Nahwarkheit in eine Art von Menschlichkeit, die sich über Stimme und Audio transkrutiert.

00:08:16: Natürlich ein ganz großer Chance bei Journalismus ist wenn sie dann sozusagen auch journalistisch agiert und objektiv bleibt

00:08:22: Und vielleicht ja auch so eine Art Mitgegenbewegung zu all dem Künstlichen, was uns da so begegnet.

00:08:30: Gerade auf den Social Media-Plattformen der berühmte AI Slop, der sehr stark zugenommen hat über die vergangenen Monate und Jahre natürlich.

00:08:39: Da halt diese Stimme als Identifikationsmerkmal... Auch da sind wir schnell wieder beim Erfolg von Podcasts natürlich.

00:08:46: Irgendwie eine große Rolle für Journalismus spielt.

00:08:48: man sieht es ja immer mehr auch gestandene Journalisten Journalisten, die irgendwie in den Podcastbereich gehen und da neue Geschäftsmodelle auch entwickeln.

00:08:57: Da neu reingehen und das Medium so nutzen eben als Stimme hinter einer Marke viel mehr höher und sichtbar zu werden.

00:09:04: Ich glaube es bestätigt all das was du gesagt hast!

00:09:07: Und dann hast du ja auch schon die Gefahr angesprochen, die da drin steckt.

00:09:11: Was passiert denn wenn man sich bei Stimmen nicht mehr sicher sein kann?

00:09:17: Ist es jetzt eine echte Stimme?

00:09:18: Ist das keine echte?

00:09:19: Weil technologisch ist es so viel einfacher geworden und technisch ist so viel technologischer.

00:09:26: besser in dem Sinne, dass man Stimmen so klonen kann, dass sie gar nicht mehr zu unterscheiden sind.

00:09:32: Beim ersten den Hören mal überhaupt nicht von den Originalstimmen das auch diese künstlichen neu erschaffenen Stimmen sehr menschlich inzwischen klingen.

00:09:40: wie groß ist denn da die Gefahr?

00:09:41: Dass Vertrauen untergraben wird wenn diese Mittel auch gezielt vielleicht eingesetzt werden um Journalismus zu diskreditieren.

00:09:49: Das ist ja schon passiert.

00:09:50: also man hat jetzt zum Beispiel Markus Lanz gefälscht.

00:09:54: Man hat Tagesschaumodervatoren genommen, um angeblich bei einer Demonstration eine Art von Fehler einzubestehen oder eine falsche Berichterstattung was nicht.

00:10:03: das war synthetisch und zwar sozusagen nicht real.

00:10:05: ich glaube die Gefahr ist momentan noch dass wir gelernt haben durch den EIS-Lob, wie du auch gesagt hast.

00:10:12: Bildern und Videos schon so ein bisschen zu misstrauen.

00:10:14: Da wissen wir... da gibt es bestimmte Merkmale auf die Kammern gucken.

00:10:18: Da ist aber auch manchmal ein bisschen Misstrauisch gerade in jetziger Zeit.

00:10:21: Ist das wirklich ein Video oder ist das EI?

00:10:24: Bei den Stimmen ist das noch nicht so stark.

00:10:26: Also Stimmen haben wir immer noch sehr verbunden mit etwas menschlichen, mit etwas glaubwürdigen.

00:10:31: Also da sind viele noch gar nicht soweit überhaupt Misstrausch zu werden.

00:10:35: Das sehe ich sozusagen als Gefahr.

00:10:37: Und das andere ist, das trifft vielleicht den Journalismus noch mal in ganz tiefer Form.

00:10:43: Wir kennen es aus dem Radio den O-Ton Und ein O-Ton, also der Original-Tron war auch immer eine Form von Zeugenschaft.

00:10:50: Also ein Geleg für etwas was ich sozusagen gesehen habe, was ich gesagt habe und das hat nochmal eine viel stärkere Wirkung als zum Beispiel eine schriftliche Bestätigung, eine schrifftliche Äußerung weil bei einem O- Ton steht ein Mensch mit seiner Stimme für etwas, was er gesehen hat und was er berichten kann und diese Zeugschaft geht verloren und das ist sozusagen noch stärker in Richtung Trauen und Demokratie für auch von Journalismus, wenn das sozusagen synthetisiert wird.

00:11:19: Also wenn wir überhaupt nicht mehr wissen wem kann ich glauben, wenn ich auch diesen dieser Präsenz der Stimme nicht mehr glauben kann?

00:11:26: Das ist bestimmt ein Prozess in dem wir uns gerade befinden.

00:11:29: und was ich vielleicht am anderen Ende sehe, das betrifft eher die Quantität.

00:11:33: also werden wir uns irgendwann gewöhnen dass wir sozusagen nur noch mit synthetischen Stimmen umgeben sind.

00:11:40: Also sind wir eine Lage später, wenn halt auch die EI immer besser wird und wir das vielleicht auch nicht mehr unterscheiden können, werden wir das menschliche nicht mehr raushören.

00:11:50: Reicht uns das gut enough sozusagen?

00:11:53: Haben wir dann wirklich?

00:11:55: verlieren wir vielleicht die Spähigkeit auf Emotionen und Befindlichkeiten unseres Gegenübers zu lesen weil es sowieso eine synthetische Stimme ist?

00:12:02: also da habe ich ein bisschen Angst dass das so eine Art Abnutzung passiert wo wir nicht mehr in der Lage sind wirklich den Menschen gegenüber als Menschen zu identifizieren wenn wie künstlich eine Stimme so stark menschlich klingen, dass wir das gar nicht mehr vom hören auch können.

00:12:16: Ja, das ist ja so.

00:12:18: ne Angst.

00:12:19: damit bist du nicht alleine.

00:12:20: die teile ich auch als jemand der ja auch ein großer Audio und Voice-Fan isst und euch auch stimmen total faszinierend finde.

00:12:29: Du hast es am Anfang sehr schön eingeordnet was ne Stimme ausdrücken kann und das interessanterweise ja oftes gerade so ist Videoinhalten schon weniger vertraut wird, als wenn man wirklich auf die Stimme nur achtet.

00:12:43: Weil da halt so diese feinen Norsen irgendwie immer noch drin sind.

00:12:46: und da halt die Frage... Auch an dich, die sich ja jetzt auch technologisch sehr viel mit dem Thema beschäftigt hat.

00:12:53: Wie groß siehst du denn die Gefahr dass es irgendwann so kommt?

00:12:56: Dass das wirklich gar nicht mehr unterscheidbar ist?

00:13:00: weil jetzt kann man ja immer noch sagen okay der kurze O-Ton im Radio wenn man den so zwanzig Sekunden hört und man weiß ja Menschen hören eher nebenbei radio als wirklich dass Sie ganz aktiv hinhören dann sind sie vielleicht eher Aber merken sie das vielleicht eher nicht, als wenn man jetzt Fan von einem Podcast ist und den jede Woche oder jeden Tag möglicherweise sogar hört.

00:13:18: Und dann vielleicht doch mal nach fünf sechs Mal hören denke ich irgendwas stimmt ja nicht irgendwie.

00:13:22: irgendwie kommt mir das nicht so es ist nicht so.

00:13:24: echt fühlt sich irgendwie unecht an wie groß ist die Gefahr dass es technologisch irgendwann so ist dass man's wirklich gar nicht mehr unterscheiden kann beim Hören selbst wenn man es vielleicht auch regelmäßig hört.

00:13:35: Also ich denke, da ist nur noch wenig Zeit bis dahin.

00:13:37: Also momentan State of the Art sind solche Marken wie Eleven Labs und so weiter die schon darauf trainiert sind auch die menschlichen... Empfindungen, Zögern, Unsicherheiten mit einzubauen.

00:13:51: Man hört da eine sehr menschlich klingende Stimme die auch mal nachdenkt wo es sozusagen diese typischen Muster gibt wie wir Menschen auch sprechen.

00:13:58: dazu ist einfach so viel Material da an den KI-Modelle gelernt haben wie Menschen sozusagen sprechen mit all dem psychologischen Faktoren die dazugemachen.

00:14:06: also ich glaube das jetzt schon so ist dass ein ungeübtes Ohr das wahrscheinlich nicht unterscheiden kann wenn sozusagen auf der anderen Seite wirklich mit den aktuellen Klonern etwas synthetisiert wurde.

00:14:20: Ich denke, das wird irgendwann nicht mehr möglich sein und dass es dann wahrscheinlich auf eine Art von Nix aus Technologie-und anderen Rückversicherungsmaßnahmen zulaufen wird, wo wir uns absichern müssen ist der Mensch, der wahrscheinlich digital mit mir spricht wirklich ein Mensch oder ist es synthetiziert?

00:14:39: Und wahrscheinlich wird's auch ne kleine ein kleines Revival von Präsenz und Angesenheit geben.

00:14:46: Also der klassische Rasenreporter, der rausgeht und der draußen ist, der mit Menschen spricht.

00:14:52: und auch so gibt es jetzt schon so Buchklubs wo man sich trifft, wo kein Handy da sein darf und man sitzt sich gegenüber und spricht wieder wie früher.

00:15:00: also ich glaube das ist auch eine Bewegung aber mit der können wir glaube ich nicht insgesamt die andere aufhalten.

00:15:05: Glaubt dass wir das nicht mehr unterscheiden können wahrscheinlich schon in einem oder zwei Jahren durch auch ein legitimes Interesse von, zum Beispiel solchen Anleitern von Voice-Agenten gibt.

00:15:17: Eine Stimme sehr menschlich zu halten.

00:15:18: und ich würde jetzt auch als Wissenschaftlerin nicht abschließend sagen dass Menschen das grundsätzlich verurteilen.

00:15:24: es gibt bestimmt und das sagt, dass wir auch Info zusammenhänge Wetter oder Fußballergebnisse vielleicht muss sich das nicht von einem Menschen gesprochen bekommen.

00:15:33: aber der ganze andere Rest wo's mir wirklich um Vertrauen und Verständnis und Vermittlung geht Da wird das enorm schwer.

00:15:41: und wo wir da eigentlich die Grenze ziehen.

00:15:43: Und das kann bestimmt nicht nur eine technologische sein, das wird enorm schwer.

00:15:47: Ich glaube, da sind wir gar nicht beübt.

00:15:48: Wir haben es langsam in den letzten Jahren geübt Fotos zum Beispiel zu misstrauen.

00:15:52: Wenn wir immer wissen um die Manipulierbarkeit bestimmen ist einfach das Bewusstsein noch gar nicht da.

00:15:58: Ja also einmal wichtig glaube ich trotzdem darauf hinzuweisen natürlich gibt's auch vielleicht sinnvolle Anwendungsfelder.

00:16:05: Auch dieser Mix, den finde ich auch interessant.

00:16:08: Dass wenn man dann eine starke Persönlichkeit hat die vielleicht oft rausgeht oder live auf der Bühne steht und als Reporter wird ein Reporter unterwegs ist Wenn man dann, keine Ahnung mal auf den Verlag geschaut zum Beispiel ein Abo abschließt dass man da persönlich von der Stimme begrüßt wird die dann synthetisiert ist und das irgendwie.

00:16:26: solche Fälle gibt es natürlich auch wo es total Sinn ergeben kann.

00:16:29: Und für eine Markenbindung vielleicht sogar hilfreich sein kann auch im Journalismus mit diesen Stimmen zu arbeiten.

00:16:34: und wenn sie dann echt klingen und er klingt dann wirklich wie diese Persönlichkeit ist das vielleicht sogar einen Punkt, wo man da auch eine Beziehung vertiefen kann zwischen der Marke und jemandem.

00:16:46: Aber auf der anderen Seite kommen wir jetzt langsam zu dem was ihr bei Wolf's Chain macht.

00:16:51: natürlich die Frage wie garantieren wir oder versuchen es zumindest zu garantieren dass das klar ist wenn man spricht am Ende, wann ist so ne künstliche Stimme unterwegs?

00:17:00: Und da haben wir ja jetzt vor kurzem im August dann der AI Act die Kennzeichnungspflicht in Kraft getreten.

00:17:10: Inhalte, sowohl wenn sie geklont sind aber auch wenn Sie ganz neu geschaffen sind und täuschend echt klingen oder wie ein Mensch halt klingen das die gekennzeichnet werden müssen.

00:17:19: Und ihr gebt den umgekehrten Weg.

00:17:21: ihr sagt wir können echte Stimmen verifizieren und das finde ich total faszinierend.

00:17:28: Wie geht es?

00:17:31: Ja da sind wir also gerade dabei dass zu entwegen weil ich glaube dass wir dieses Rennen nicht gewinnen werden, wenn wir alles das kennzeichnen wollen was synthetisch ist.

00:17:43: Das sieht man ja schon bei Bildernvideos und so weiter.

00:17:47: Wenn wir dann anfangen im Web zu kennzeichnend was synthetic ist da kommen wir da nicht hinterher und die KI-Modelle die darauf reagieren können immer wieder neue Sachen vorlegen.

00:17:58: also es ist ein Hase und Igel Spiel.

00:18:01: das funktioniert nicht.

00:18:03: Ich denke, dass es sinnvoller ist und darum gehe ich noch mal auf das was du davor gesagt hast.

00:18:08: Ich finde das auch legitim wenn zum Beispiel so ein Grundspreche ihre Stimme zur Verfügung stellen.

00:18:14: aber das Wichtige daran ist ja, dass sie die Kontrolle darüber haben also dass sie immer noch sagen können ich habe dem zugestimmt weil das ist ja etwas was uns gerade vielleicht auch ein bisschen erbrannend kommt und warum es so viele Proteste gibt zb einen Zug auf Netflix Verträge usw.

00:18:28: Also hab' ich die Kontroll über meine Stimme.

00:18:30: Und das, was wir wollen auf so einer größeren Ebene mit Voice Chain ist eine Art Poof of Human im KI-Zeitalter.

00:18:39: Wir wollen nachweisen da ist ein Mensch und es in bestimmten Situationen total wichtig wenn es um Kontrolle und Vertrauen geht also nicht nur Journalismus sondern auch noch andere Bereiche.

00:18:50: Das ist natürlich erstmal auch eine technologische Ebene die ein bisschen komplizierter ist aber nicht unmöglich und daran arbeiten wir gerade Und ich glaube, dass was wir hinzugeben zu dem aktuellen Stand ist.

00:19:03: Wir versuchen drei Ebenen abzubilden.

00:19:06: Die erste Ebene ist wer spricht da überhaupt?

00:19:09: Das nennt sich Voice Print.

00:19:11: Das ist sozusagen ein gängiges Verfahren von Verifikation und Stimmen in Bezug auf die Identität.

00:19:16: Also jeder Mensch hat eine bestimmte Art zu sprechen, eine bestimmten Frequenz, Zimbre, Lautstärke

00:19:22: usw.,

00:19:22: das ist schon relativ gut erkannt.

00:19:24: Da kann man einen Menschen suchen... sehr gut identifizieren.

00:19:27: Das Problem ist nur, wenn man jetzt ein Angreifer ist, KI kann diese Voice Prince exakt nachbilden.

00:19:33: Also das ist ja letztendlich ein Muster.

00:19:34: in KI-Modell kann das lernen und dadurch ist es sozusagen von allen Klonern.

00:19:39: Nachbildbahnen wird auch so eingesetzt.

00:19:42: Und diese Ebene die wir entwickelt haben ist dass wir nachweisen nicht nur das Klangmuster einer Stimme sondern Wir können nachweisen, dass der Mensch in dem Augenblick ein lebender Mensch live spricht.

00:19:54: Und damit gucken wir nicht nur auf das Klanguster sondern auch den Prozess der Stimmerzeugung.

00:19:59: und das sind verschiedene physiologische Merkmale also Leifness-Merkmale würde ich sie mal nennen die dazu kommen und damit sozusagen der ersten Ebene eine zweite hinzufügen nämlich sozusagen nicht wer spricht oder auch wer spricht und die zweite Ebene ist dann sprich dieser Mensch gerade live zwei verschiedene sozusagen Signalwege, die eigentlich unabhängig sind und die zusammenkommen.

00:20:23: Und – das geht dann schon fast in Richtung Anwendung – können wir dem auch einen Nachweis geben?

00:20:28: Also können wir aus diesen zwei Ebenen also wer spricht oder ob er gerade live spricht und hat jetzt zum Beispiel eine Aktion zugestimmt?

00:20:36: Also habe ich jetzt zugestimmen, dass man sich etwas freigeben möchte oder dass ich diese Aufnahme zustimme?

00:20:42: Da kommt noch eine Information dazu mit einer kryptografischen Signatur versehen.

00:20:49: Das klingt alles ein bisschen kompliziert, aber letztendlich kann man sich diese drei Ebenen vorstellen.

00:20:53: also wer spricht?

00:20:55: Sprich gerade einen Mensch live und die dritte ist sozusagen ein kryptographischer Nachweis, mit dem ich immer wieder nachweisen kann ja in diesem Objekt war ich anwesend Ich habe gesprochen oder im Idealfall ich hab irgendwie zugestimmt.

00:21:07: das kann man sozusagen damit so genannten hash auch nachweisen Und muss dadurch auch nicht diese ganzen Daten speichern was ja ein großes Problem ist bei solchen biometrischen Sachen.

00:21:17: Ich bleibe dabei, was ich gesagt habe bei unserem ersten Gespräch faszinierend.

00:21:22: Gerade so für mich als in der Hinsicht dann doch eher technischen Leinen!

00:21:28: kommt dann natürlich direkt die Frage nach der Zuverlässigkeit dieser Technologie.

00:21:32: Weil ich stelle mir halt vor, dass man ... Natürlich ist es auch schon keine vertrauensbildende Maßnahme.

00:21:39: im ganzen Gegenteil wenn man jemanden abspricht das er wirklich das gesagt hat und sagt ach das doch KI obwohl's echt isst aber andersrum ist es ja fast noch dramatischer ne?

00:21:48: Wenn man irgendwie sagt... Der hat das wirklich gesagt und hat das gar nicht gesagt sondern dann war´s die KI.

00:21:55: also die Frage stellt sich natürlich bei solchen Systemen, wie schätzt du das ein?

00:21:59: Wie blickst du darauf oder was sind auch eure Erfahrungen damit.

00:22:04: Also wir validieren es gerade mit der Bundesagentur für Sprung Innovation und dass wir da auch diese Benchmarks haben.

00:22:11: Wir betreten natürlich auch ein bisschen neues Feld weil die ganzen anderen Benchmark was du jetzt ansprichst, da gibt es ja durchaus schon den Stand der Forschung.

00:22:19: Das bezieht sich aber wirklich auf die nachträgliche Deep-Fake Detection.

00:22:23: also sonst hat man ein Audio gehabt und dann kann man nachtläglich an verschiedenen Parametern sehen okay ist das ein Fake?

00:22:30: War da ein Fake mit drin?

00:22:32: Da gibt's sozusagen verschiedene Raten.

00:22:33: das verstehe ich auch dass man eine gewisse Art von Zuverlässigkeit haben muss.

00:22:37: Mit der Live-Verifikation sind wir gerade dabei diese Parameter zu finden.

00:22:44: Das ist sozusagen im Prozess, darum kann ich da jetzt noch keine Werte geben und auch bei uns geprüft durch Frauenwover.

00:22:49: also da sind wir gerade dabei das wirklich zuverlässig zu machen sonst hätte es ja auch keinen Wert.

00:22:54: und da gibt's glaube ich auch nochmal ganz verschiedene Abstufungen.

00:22:57: Eine Bahn, die nachweisen muss, dass da ein Mensch zum Beispiel nur Überweisung getätigt hat.

00:23:01: Die braucht natürlich auch eine andere Sicherheit oder so eine Art Identitätsmanagement wo ich wirklich Nachweisen muss für einen Personal ausweist oder so.

00:23:09: das hat ne ganz andere Fallhöhe als wenn ich z.B.

00:23:12: Ne Nachrichtenagentur bin, die jetzt erst mal nur unterscheiden muss Mensch- oder KI und vielleicht diese ganze Identifizierung nicht brauche.

00:23:18: also darum glaube ich brauche es Validierung für verschiedene Anwendungsszenarien.

00:23:24: Und je nachdem wie sensibel das ist, wo ich nachweisen muss kann man sozusagen auch verschiedene Arten von Zuverlässigkeit anbieten und die höchste Stufe gilt natürlich dann wenn es wirklich darauf ankommt eine Art Audio-Unterschrift zu leisten.

00:23:36: so würde ich da fast ein bisschen sehen.

00:23:40: Ich kann nur sagen wir arbeiten in der Zugverläßigkeit Wir versuchen das jetzt gerade auf verschiedene Kanäle zu übertragen.

00:23:47: also audio Das weißt du, hat manchmal Hintergrundgeräusche.

00:23:51: Man ist krank und man hat verschiedene Stör-Geräusche, dass wir das immer wieder so garantieren, dass für alle Formen von Hardware die wir in unserem Alltag haben also Kopfhörer Mikro, Studio Mikro wie Du es jetzt hast oder auch ganz normale Headset oder so, dass wird das immer aus diesen jeweiligen Audio extrahieren können Und das ist natürlich immer eine Balance.

00:24:12: Also umso besser die Qualität, umso größer ist die Zuverlässigkeit.

00:24:15: aber wir können gewisse Art Ableitung auch schon treffen Mensch oder KI, wenn es gar nicht so eine gute Audi Qualität hat.

00:24:22: Also da lernen wir jetzt auch in der Forschung ganz viel mit der Ruckschule mit weiter machen wir das zusammen die ja viel Erfahrung bei so akustischer Technik haben und mit KI Modellierung dass wir da auch sehen können, das zum Beispiel zwischen WAF und MP-III.

00:24:36: Also wo die Kompression alles ist gar nicht so viel Unterschiede, dass wir das trotzdem sehr gut nachweisen können wie da ob da wirklich live ein Mensch am anderen Ende ist.

00:24:44: also die Zuverlässigkeit wird das bringen.

00:24:46: aber das können wir dann seriöserweise erst dann sagen wenn wir dort durch die Validierungsforschung durch sind.

00:24:52: Da sind wir gerade dabei.

00:24:54: Und weil du jetzt grad schon von Der Unterschrift sozusagen, die Audio-Unterschrift das hier ist jetzt wirklich echt.

00:25:00: Wie kann es dann konkret aussehen?

00:25:02: Also dass es auch nachvollziehbar wird.

00:25:04: Weil ihr sprecht ja von Zertifizierung auch ne?

00:25:07: Von echten Stimmen.

00:25:08: wie muss ich mir so eine Zertifikierung dann vorstellen?

00:25:11: am Ende

00:25:13: also momentan kannst einfach funktionieren wie eine Ampel, wenn wir zum Beispiel über Teams oder Online reden dann könnte sozusagen am Anfang würde ich mich identifizieren.

00:25:23: Ich würde da ne kurze Sprachkrube abgeben Dann kommen die Merkmals-Extrektionen und so weiter.

00:25:29: Das wird garantiert, das wird vergleichen mit einem Stimmbrummuster.

00:25:32: Da gibt es einen Hash und dann heißt es einfach okay Jana hat sich als Jana identifiziert und ist jetzt in diesem Call Und das ist sozusagen ne einmalige Form.

00:25:40: Und da gibt es vielleicht auch wie so ein Haken hinter meinem Namen, Jana ist wirklich Jana.

00:25:44: Dann kann das aber sein, dass zum Beispiel bei sensiblen Gesprächen, wenn sie z.B.

00:25:48: zwei Diplomaten miteinander reden, dass sich dann immer wieder – und das gibt's ja auch im journalistischen Kontext, dass ich gleich einen Fake dazuschalten könnte.

00:25:56: So man in the middle attack oder was auch immer, dass dich jemand zuschaltet der gar nicht mehr war mit dem Avatar oder so, dann kann man immer wieder auf den Zeitfenstern immer wieder prüfen, ist derjenige der Grit spricht das immer noch?

00:26:10: Wenn man zum Beispiel, da kann man so eine Challenge abschließen.

00:26:14: Also dass man zwischendurch nochmal bestätigen muss.

00:26:16: Muss man z.B.

00:26:16: einen kleinen Satz sprechen?

00:26:18: Ich, Jana bin immer noch in einem Gespräch mit Lukas.

00:26:21: Dann habe ich das sozusagen in dem Moment nochmal bestetigt.

00:26:24: Das wäre die sicherste Form.

00:26:26: Man kann sich das wirklich wie so eine Art grüne Ampel vorstellen bis hin zu einer... Unterschrift, die dann wirklich über eine Challenge geleistet wird.

00:26:34: Also wir geben da keinen Prüfsiegel raus aber es kann mir das sowieso dieser blaue Haken.

00:26:40: bei Social Media kann das sein wenn zwei Menschen miteinander reden dass das sozusagen als eine Art von Batch dahinten

00:26:47: ist.

00:26:49: Bei der KI-Kennzeichnungslicht, da gibt es ja auch dann mit Wasserzeichen gearbeitet die dann technologisch irgendwie auslesbar sind oder damit so klein rauschen was für Menschen gar nicht so... spürbar, sehbar hörbar wie auch immer ist aber technisch halt rausgefunden werden kann kann man relativ leicht auch manipulieren.

00:27:07: weil ich das richtig verstanden habe dass wir da natürlich dann eher so eine echtzeitverifikation dann fast am ende.

00:27:13: es finde ich interessant und es werden natürlich auch die anwendungsfelder klarer.

00:27:17: jetzt glaube ich nachdem was du gesagt hast weil natürlich hätte mal erst einmal denken können oder vielleicht hat das auch der ein oder andere der zu hört die zu hört schon gedacht funktioniert das auch wenn ich jetzt einen podcast anmache Und dann irgendwie will ich mir als User verifizieren lassen, dass die wirklich miteinander gesprochen haben.

00:27:36: Hier geht es eher in die Gesprächssituation schon rein und Geschirsche.

00:27:41: Also wir wollen eigentlich sozusagen weg von der Frage ist das Audio echt?

00:27:45: Denzu spricht gerade ein Mensch und ich finde das ist so zum Beispiel der Schiff den wir versuchen also dass wir eben nicht nachdrücklich wenn eigentlich der Fake schon entstanden ist dann sagen können Das war sozusagen fake oder da wurde manipuliert, sondern eigentlich den Nachweis direkt in dem Moment der Entstehung als Blätschsoziale anheften.

00:28:04: Und damit kann ich immer sagen, in diesem Umblick habe ich das wirklich gesagt oder nicht gesagt und das ist sozusagen für uns eher eine Art von Umkehrung der Nachrechtspflicht im Moment des Entstehmens.

00:28:13: Das ist glaube ich auch noch mal was anderes also diese klassische Kennzeichnung und stellt die Frage halt neu weil wir ihm denken dass ist das Audio echt, dass das am Ende sozusagen ein ewiger Wettlauf sein wird.

00:28:26: Weil es immer wieder und wir haben ja jetzt schon das ganze Netz besteht mehr aus Bot-Inhalten als auch aus menschlichen Inhalten und darum denke ich, dass ... Das ist das was wir vielleicht etwas berifizieren müssen da wo ein Mensch mit einem Menschen sprechen oder einen Menschen sein will

00:28:40: Und um Schiff vielleicht oder zumindest geht es das Problem an, weil ich glaube beziehungsweise ist das ja auch eine Sorge die es bei der KI Kennzeichnungspflicht so ein bisschen gibt.

00:28:52: Dass wenn irgendwie alles gekennzeichnet ist mit dass es jetzt hier KI Inhalt und dass es kein KI Inhalt und keine Ahnung.

00:28:59: Das die grundlegende Skepsis die Menschen inzwischen haben so dieses ist es echt kann man dem vertrauen Ich weiß es doch nicht mehr, dass das mit einer Wenn immer mehr zertifiziert und angegeben wird, Transparenz ist natürlich irgendwie cool.

00:29:14: Und wichtig gerade auch wenn wir über Journalismus reden aber oft kann auf der anderen Seite mit Tüter dazu führen dass dieses Cap es halt diese grundlegende Skepsis aber noch größer wird.

00:29:22: und auch da grade bei Audio wieder man hört oft nebenbei und dann hört man das ist schon wieder KI generiert und Haar und irgendwie hat das dann den Anstrich für viele Leute.

00:29:32: Da gibt's ja auch so ein bisschen Forschung dazu Dass das dann eher unseriös ist obwohl das das gar nicht sagt einfach auf die Ebene davor und würde diese, ich sag mal Siegelwut so ein bisschen halt auf die Produzentenseite mehr noch mehr verlagern oder auf die Recherche Seite.

00:29:50: Genau!

00:29:51: Die Kritik jetzt auch beim EI-Eck geht ja ein bisschen, es reguliert die ehrliche Seite.

00:29:55: also man kennzeichnet das, man ist da ehrlich versucht das aber... der Angreifer, der ein lokales KI-Modell auf seinem Computer hat und einfach das Wasserzeichen entfernt.

00:30:04: Der wird halt nicht reguliert.

00:30:05: Und dann hat man die eine Seite des Problems gelöst, die andere ist völlig ungelöst.

00:30:10: also es ist ja auch so ein bisschen Kritik dass das ein bisschen schwammig ist und dadurch würden wir dem aus dem Weg gehen indem wir das sozusagen in den Prozess schon verifizieren.

00:30:19: und da gibt's durchaus glaube ich auch einen Bedarf von verschiedenen Branchen das auch zu nutzen.

00:30:25: Erreden wir doch mal über den Bedarf, jetzt haben ja schon so ein bisschen ein paar Anwendungsfelder ja schon gestreift zumindest.

00:30:34: Wo siehst du Anwendungspfelder für diese Technologie?

00:30:37: Bleiben wir vielleicht erst einmal beim Journalismus lassen uns dann gerne auch danach.

00:30:40: Du hast zum Beispiel dem Bankensektor schon angesprochen.

00:30:43: aber erstmal beim Journalismus wie konkret und welchen Stellen könnte so eine Technologie Journalistinnen und Journalisten helfen?

00:30:52: Ja, letztendlich hatte ich das schon erwähnt so eine Art von Absicherung von Interviews eigentlich.

00:30:56: Das wäre ein senkzierte Interview.

00:30:58: Das ist sozusagen vielleicht ein bisschen durch Corona entstanden dass wir auch sehr viel digitale Interviews führen und das stimmt auch noch nicht so oft der Fall gewesen, da es da so ein Avatar sitzt oder eine andere Person als ich denke.

00:31:11: aber ich glaube das wird zunehmen Weil wir einfach so schnell klonen können.

00:31:14: und solche Teams-Sitzungen hat man sehr viel gesehen in ihrem beschäftlichen Bereich.

00:31:18: Das wird auch für Journalisten eine Rolle spielen, dass wir glauben da sitzt irgendwie ein Expert oder Pressesprecher und das ist nicht der den wir glauben, dass er es ist.

00:31:26: also das wird.

00:31:27: das verifizierte Interview könnte sozusagen ein ganz konkretes Beispiel sein.

00:31:32: ich kann mir vorstellen schnellen Situation, also Richtung Agenturen die halt schon sehr skaliert arbeiten mit Informationen.

00:31:40: Die gute Redaktionssysteme haben mit Workflows wo sie ganz schnell reagieren wissen.

00:31:44: da braucht es manchmal eine ganz einfache schnelle Entscheidung Ist es Mensch oder KI?

00:31:50: Und dann kann sozusagen ein Video, auch ein U-Ton relativ schnell ausgesondert werden.

00:31:54: Wenn da eine Prüfung stattfindet, muss man gar nicht verifizieren, wer spricht da, sondern es reicht schon und ist ein Fail!

00:32:00: Ich werde anders darauf gucken.

00:32:01: Also gerade in diesen schnellen Situationen, Redaktionssystemen, DPA

00:32:05: usw.,

00:32:05: das spielt bestimmt auch eine Rolle – auch bei deutscher Welle, internationalen Anhängungen.

00:32:12: Da glaube ich, kann das eine große Erleichterung sein.

00:32:15: Die meisten werden im aktuellen Tagesgeschäft nicht unbedingt die Ressourcen und die Zeit haben, immer eine Fackenscheck-Redaktion drauflaufen zu lassen oder den forensischen Analyse zu machen.

00:32:25: Da muss die Entscheidung viel schneller sein.

00:32:28: Ich denke, auch der Anwendungsfall ist gar nicht so stark in dem einen Politiker, der jetzt geklont wird.

00:32:34: Sondern wirklich eher ein Alltagssituation.

00:32:36: Ist ja Pressesprecher wirklich derjenige, der hervorgeht zu sein?

00:32:39: Also eine Art von Absicherung, von Interviews oder von sensiblen Gesprächen und von Investigativ-Journalisten, die das nutzen... Da glaube ich, ist auch schon das Bewusstsein da vielleicht noch mehr als in anderen Branchen, dass das passieren kann und wenn wir digital aufzeichnen immer auch ein Klon vor uns haben können, entweder als Audio oder als Video.

00:33:01: Ja also ich habe zwei verschiedene Fragen direkt im Kopf weil du hast jetzt gerade gesagt das mit dem Bewusstsein.

00:33:09: ist es so?

00:33:10: Also dass dieses Bewusstsein in diesem Sitz schon da ist, weil ich finde den Ansatz in ihr habt ja der ist einfach weil er nämlich auf diese andere Seite schaut finde ich den total gut und ich glaube Weil das andere können wir kaum noch einfangen, da bin ich voll bei dir.

00:33:28: Aber dieses Bewusstsein, dass halt bei Gesprächen wenn ich irgendwie online... Calls mache oder auch am Telefon im Journalismus, weil es eben oft so unglaublich schnell gehen muss.

00:33:38: Glaubst du das schon genug da ist?

00:33:40: Oder ist das auch so ein herer Anspruch den ihr vielleicht mit euren Stadern habt dass ihr diesen allein dieses Bewusstsein auch erst mal schärfen wollt und gleichzeitig halt direkt eine Lösung mit anbietet?

00:33:51: so könnte es funktionieren wie sie wie schaut's überhaupt.

00:33:56: Also ich denke, das Bewusstsein wird zunehmen.

00:33:59: Wir haben uns jetzt sagen vielleicht auch noch nicht so ganz stark auf Medienanbieter konzentriert bei wie sozusagen glaube ich uns am ehesten verstehen aber da vielleicht die Zahlungsbereitschaft nicht ganz so groß

00:34:09: ist.

00:34:12: Ich denke, das wird zunehmend.

00:34:14: Also ich habe schon das Gefühl, dass da jetzt einige große Hex gewesen waren oder es gibt dann... Wir hängen so ein bisschen an den Schadensfällen.

00:34:21: also die regulatorik und die Schadenzwelle werden auch im Journalismus mehr werden.

00:34:25: Und ich glaube Das wo der Journalismus aufpassen muss und darauf auf Wachsahn sein muss ist, dass der Verlust von Glaubwürdigkeit bei solchen Sachen viel, viel höher ist als bei irgendeiner Firma, die das vielleicht einmalig hatte.

00:34:39: Wenn sie auf einen falschen Interview-Partner reingefallen sind, dann ist der Glaubwörtigkeitsverlust für die Medienunternehmen total groß.

00:34:45: Und wir bieten nur an... Wir könnten jetzt schon eine Möglichkeit jiebern sich dagegen zu schützen.

00:34:51: also man sollte nicht warten.

00:34:53: aber natürlich klar aus einem Alltag heraus warten viele erst mal ab und bei manchen Redakteuren es ist schon angekommen weil manche nicht.

00:34:59: Also ich merke aus meiner Erfahrung Wenn man mal zeigt, wie schnell das geht.

00:35:04: Also wenn man wirklich mal diejenigen nimmt, die zum Beispiel für ein bestimmtes Medienhaus auch stehen und Außensicht war sind von denen viel Material draußen existiert und sagt um wirklich mal zehn Sekunden nimmt und das mal klont, auch weil man das jetzt vielleicht nicht bei dem Dritterbieter sondern einfach mit einem kleinen Open Source Modell mal nimmt Und mal zeig, guck mal deine Stimme in drei Sekunden kann ich die so nachbauen und dann ist bei den meisten Menschen ein Aha-Erlebnis.

00:35:28: Und man sagt wirklich?

00:35:29: Also das hätte ich ... Ich dachte dass hört man noch mehr.

00:35:31: also Ich denke, das ist eine Erfahrung die jetzt glaube ich viele auch mal machen müssen um zu sehen.

00:35:36: So einfach ist das und ich kann dir Worte in den Mund legen, die du nicht gesagt hast.

00:35:41: Und dann glaube ich entsteht bei vielen so einer Art von Bewusstsein dass es eben gerade bei Audio auch enorm schnell gehen kann und dieses Glaubwürdigkeitsproblem sogar noch.

00:35:51: und damit meinte ich diese Veranstaltung in Dresden oder so.

00:35:56: Da merkt man, das hat Auswirkungen auf Glaubwürdigkeit von Politik.

00:36:00: Wir haben dann Demokratieproblemen wenn wir da totales Misstrauen haben.

00:36:05: Ja absolut!

00:36:06: Und dann ist genau das es hätte so einmal die interne sich, ne?

00:36:09: So dieses Bewusstsein intern im Journalismus in den Redaktionen zu schaffen.

00:36:14: Das andere dann schon natürlich wieder der Blick.

00:36:16: also wir haben jetzt geklärt Es geht nicht unbedingt darum ich mache ein Podcast an und dann kann Ich verifizieren als User Aha!

00:36:22: Die haben wirklich miteinander gesprochen.

00:36:23: Sonst geht eher um die Recherche, um als Tool für Journalistinnen zum Beispiel das zu nutzen.

00:36:29: Aber trotzdem ist ja auch eine Aufgabe die Glaubwürdigkeit nach außen mit sowas halt auch zu stärken weil wir leben als Medien schaffende Nummer ganz stark vom Vertrauen, was Menschen in uns setzen.

00:36:41: und wie nutzen wir denn so ein Tool?

00:36:43: Was man dann nutzt in Redaktionen und in Medienhäusern auch um Vertrauen nach außen zu stärken.

00:36:48: Ist das auch etwas wo ihr euch der Gedanken drüber macht?

00:36:54: Ich kann mir vorstellen, dass ist Technologie kann immer nur ein Anteil sein.

00:36:57: Also das wir glaube ich klar machen wie wir unsere Prozesse wie wir eigentlich vorgehen wenn wir recherchieren oder wenn wir ein Interview führen da kann ja sozusagen eine Technologie Kanja zum Beispiel in einer roten Ampel angehen und sagen mit dem Interviewpartner mit dem U-Ton ist irgendwas nicht in Ordnung.

00:37:12: Und dann würde ich vom Journalisten erwarten, okay, er nimmt einen zweiten Kanal, ruft an ob es wirklich der Pressesprecher und macht sozusagen eine zweite Quelle oder diese drühmte Vier-Augenprinzip?

00:37:22: Wenn ich das nachweise, sind es immer zwei Stufen, technologisch aber auch eine menschlich journalistische.

00:37:28: und das müssen wir klar machen dass wir uns das nicht zu leicht gemacht haben.

00:37:32: Dass wir nachgefragt haben, dass wir die Quelle nochmal überprüft haben und das ist ja auch der Mehraufwand den Journalisten machen.

00:37:39: und also wir müssen unser Prozesse transparenter machen und wir müssen sozusagen Wir bauen ja auch Communities auf, wir bauen ja Beziehungen auf.

00:37:48: Und ich glaube das ist ja das große Learning von Massenmedien.

00:37:51: und was auch schmerzhaft war zu sagen Ich muss sichtbar sein!

00:37:56: Mit meinen Recherchen muss ich dazu stehen und dazu wäre natürlich Audio eine super Lösung dass sich auch immer besser... Das habe ich so gesagt, ich bin noch draußen gegangen.

00:38:05: Ich suche Kontakt zu meinen Hörern zum Beispiel also anwesend halb plus Technologie plus sozusagen Präsenz Denklich und Transparenz.

00:38:14: Das ist so eine Art von verschiedenen Faktoren, die wir da irgendwie nachweisen müssen.

00:38:20: Das wäre so das nach außen aber ich glaube dass auch leicht der öffentliche richtige Rundfunk da eine gewisse Art von Vorwärterschaft einnehmen kann weil es hat nun sozusagen andere finanzielle Möglichkeiten.

00:38:32: es kann ja die technologische Innovationen auch investieren also dass man da immer wieder offen bleibt ne?

00:38:38: Da gibt's ja auch.

00:38:39: Ich finde zum Beispiel toll, dass es eben solche Konsortien gibt.

00:38:43: Hier glaube ich von der deutschen Welle Frauenhof war dieses how to verify da werden ja auch nochmal für verschiedene Medienarten gezeigt wie funktionieren Verifikationsprozesse zwar immer nur nachzuwäglich aber das man da immer auf dem laufenden bleibt bis sich Medien zusammenschließen zu sagen Das leisten wir gerade unsere Faktencheck Redaktion tauschen sich aus Es gibt Osent Workshops für verschiedene nicht nur Journalisten sondern dass man auch den Publikum zeigt Wie kannst du eigentlich in Deep Fake erkennen?

00:39:10: Wie kann ich mit seinem digitalen Audio-Zwilling rausgehen und sagen, hättest du uns jetzt den Unterschied gehabt?

00:39:17: Also sprich nicht nur sich in seinen Schreibtisch zurückziehen sondern immer wieder transparent machen.

00:39:24: Woran man gerade überlegt wo noch Grenzen sind wie man versucht da wie vorzugehen.

00:39:30: Klingt halt so ein bisschen... Pädagogisch abstrakt, aber ich meine das wirklich so.

00:39:34: Dass man es glaube ich seine Arbeitsweise offenlegt.

00:39:36: und dann denen die da auch immer eine Black Box vermuten in den Journalismus oder vielleicht auch im öffentlich-rechtlichen, dass man immer wieder sagt ne guck doch rein in die Black Box!

00:39:46: Ich kann das auch nachweisen.

00:39:47: Ich kann zum Beispiel nachweisen, dass ich mit dem Menschen gesprochen habe weil der war anwesend, ich hab mich verifiziert er hat sich verifiziert Und dann kannst du mal ein Politiker sagen nee das habe ich ihnen nicht so gesagt Weil ich kann nachweisen zu dem Zeitpunkt also ich habe diese Aufnahme Autorisiert oder verifiziert.

00:40:03: Das ist sozusagen noch eine andere Art von Beleg, den man hat.

00:40:07: Der ist bestimmt nicht alleinig götig.

00:40:09: aber dass wir das mitdenken und dass wir die Recherche petten vielleicht auch mit so einem Heschmann nachweisen.

00:40:14: Es wird ein bisschen negativ.

00:40:15: journalisten glaube ich immer wieder gut wann wurde was manipuliert?

00:40:19: Wann habe ich denn Zeitstempel für eine Rechersche?

00:40:21: Hab' ich da neben meinem Produkt immer wieder auf nochmal zwei Seiten Recherchenprotokoll.

00:40:26: Das muss man belegen.

00:40:30: Du hast gerade gesagt, dass King vielleicht ein bisschen abstrakt.

00:40:33: Also ich habe schon sehr viel abstraktere Dinge gehört, weil wir Transparenz im Journalismus gesprochen haben.

00:40:38: Ich fand es gar nicht so abstrakt, sondern sehr nachvollziehbar!

00:40:41: Ich hoffe das euch das auszugeht, die zuhört.

00:40:45: Weil jetzt glaube auch um da mal auch die hoffnungsvolle Seite reinzubringen... Oder so Ideen die ihr habt oder die Technologien, die ihr vorantreiben wollt auch mit Voice Chain.

00:40:59: Ich glaube das trifft ja auf dem Publikum was schon zunehmend müde wird von künstlicher stellten Inhalten von irgendwie weiß ich nicht mehr ob das noch echt ist und wer da jetzt irgendwas gesagt hat und nicht gesagt hat.

00:41:12: natürlich wird es vielleicht immer Menschen geben die Dinge glauben die nicht echt sind.

00:41:17: Das ist halt so.

00:41:18: damit muss man irgendwie umgehen können.

00:41:20: aber es gibt glaub ich eine wachsende Zahl von Menschen, die genau so was suchen.

00:41:25: nach ja, gib mir ein Beweis dass das echt ist.

00:41:28: Ich will dass es verifiziert wird.

00:41:30: Glaubt es da schon auch eine Chance für Journalismus auch wieder drin steckt in diesen Entwicklungen halt auch da wieder ne Gegenbewegung zu haben von Menschen die zunehmend müde werden?

00:41:39: Halt von all dem was da so passiert und erstellt wird und manipuliert wird.

00:41:45: sie nimmst du das auch so wahr oder trägst du diese Hoffnung auch in dir weil sonst würdest du wahrscheinlich auch nicht so'n Projekt angehen wie du das jetzt tust?

00:41:54: Ja, ich bemerke dass das sogar ein bisschen konform geht mit so Entwicklungen die man jetzt auch gern ganz persönlichen Bereich hat.

00:42:01: Ich habe zum Beispiel meinen Eltern Code Word vereinbaren für diese Telefon-Calls sozusagen und Betrügern Und ich musste sozusagen meine sehr alten Eltern dazu zwingen einen Code Word mit mir festzulegen um darauf zu reagieren.

00:42:15: Das heißt wir müssen uns ändern Wir müssen irgendwie darauf reagieren.

00:42:18: Wir können die Augen nicht davor verschließen.

00:42:21: Ich habe mir zum Beispiel angewöhnt für ein Investigativ-Projekt, wo ich jetzt gerade drin bin auch mit meiner Quellenbrotwort auszumachen.

00:42:27: Ich fand diese Gleichzeitigkeit dieser beiden Juicy ist so krass dass in meinem Arbeitsbereich das genauso mache wie jetzt sozusagen in den Telefonat mit meinen Eltern.

00:42:35: also es geht so Hand in Hand.

00:42:37: Also ich bin auch... Ich bin manchmal müde von TI-generierten Inhalten, ich frag mich wirklich und das ist wirklich eine große Frage ob wir uns daran gewöhnen oder ob es auch okay ist dass wir sehr personalisierte synthetische Medien.

00:42:53: also wenn ich mir zum Beispiel vorstelle was du auch erwähnt hast.

00:42:56: Das ist ein Schauspieler, den ich sehr mag und der macht mir morgens das Morning Briefing mit seiner Stimme.

00:43:00: Und ich habe aber die Lizenz erworben, dass er das genau für mich... ...dann kann das ja eine Form von Personalisierung sein, für die ich auch bezahle?

00:43:07: Dann ist es eine Künstlichkeit, wovon ich weiß.

00:43:09: okay, das is jetzt nicht her oder mit mir gericht!

00:43:12: Aber wenn ich die Möglichkeit hab, abends Professoren zuzuhören, die mir die sonst in Harvard stehen und sonst nur einen Zlockzeit hätten und mir aber gleichzeitig auch noch einen Vortrag geben mit all der Emotionalität in der Stimme Warum nicht?

00:43:27: Also es kann eine Chance sein für Personalisierung, aber ich glaube eher dass wir da eine Art von Veränderung in der Gesellschaft haben werden wo viele sich noch nicht richtig bewusst sind was das eigentlich bedeutet.

00:43:41: Weil ich denke dass das menschliche wird ein Art Premium Inhalt wäre und das kann man auch so deklarieren.

00:43:48: Ich glaube wir werden immer mehr so Mischformen haben wo KI-Agenten auf der anderen Seite sind Und mit Menschen reden, wo wir das vielleicht auch gar nicht mehr mitbekommen in so ein Callcenter.

00:43:57: Mit Telefonen oder wenn wir unseren Vertrag verlängern wollen.

00:44:00: Da werden sehr menschliche KI's mit uns reden und eher prüfen ob wir der Mensch sind.

00:44:06: also das ist nochmal der andere Fall.

00:44:08: Die KI´s immer wieder gucken habe ich es wirklich mit den Menschen zu tun.

00:44:14: Das ist eine Entwicklung auf die wir uns einstellen müssen.

00:44:16: dass es sozusagen denn die Mensch-zu-Mensch-Kommunikation wird etwas sehr wertvolles Zeit investieren, vielleicht auch später mal Geld investieren.

00:44:25: Das weiß ich nicht.

00:44:26: Aber die Zukunft wird eher Mensch und KI in irgendeiner Form von Hybriderkommunikation sein.

00:44:33: Und sich dann immer wieder zu fragen wer registriert sich jetzt wem gegenüber?

00:44:39: Da ist mir auch ein Bild in Erinnerung geblieben von Sam Ordman, der ja auch sozusagen so eine Art von... Der nannte das auch Tools of Humanity als ein sehr fasser Begriff für Seil was er davor hatte.

00:44:52: Er hatte ja dieses World ID wo man halt in so ne Kugel guckt und es war gekoppelt an so einer Kulturwährung, dass meine sein Iris dann zertipiziert.

00:45:04: Da kniete so eine Frau von dieser Kugel, um ihre Ires zu registrieren.

00:45:08: Und das fand ich total absurd!

00:45:10: Das gilt sich sozusagen, als der Mensch irgendwie in der Verpflichtung war, sich der KKI gegenüber zu registrieren und das hat natürlich auch ne sehr... schwierige Traditionen, dass wir auch bestimmte Merkmale reduziert werden oder auf unsere biometrischen Körpermerkmale.

00:45:26: Aber wenn wir es schaffen das immer nur für den Augenblick wo wir wirklich wollen uns auszuweisen wann kann das vielleicht eine Form von Anwendung sein die uns ein bisschen mehr entspricht als uns da so irgendwie abhängig zu machen?

00:45:40: Also, wie bin ich jetzt dahin gekommen?

00:45:41: So ein ganz schöner Litz.

00:45:44: Super interessant!

00:45:46: Eigentlich wäre das schon eine fantastische Schlusswort gewesen.

00:45:49: aber du musst dann doch am Ende noch mal einfach auf die schnöde Frage nach dem Geschäftsmodell zurückkommen weil du hast ja auch schon ein paar Anwendungsfelder über die Medien hinaus gerade genannt.

00:46:02: Bankengeschäfte und so weiter, weil du ja auch schon gesagt hast vielleicht sind Medien nicht die ersten.

00:46:09: Die Geld ist eine Anwendung bezahlt aber irgendwer muss ja auch finanzieren.

00:46:13: auch wenn man es vielleicht auch weiterentwickeln will und so dann ist das vielleicht ein Weg.

00:46:16: halt Da bei solchen anderen Branchen, wo das Geld vielleicht noch ein bisschen mehr für solche Anwendungen einfach vorhanden ist als in den Medien gerade.

00:46:25: Das der Fall ist dann auch so einen Weg zu gehen, auch für euch als Starter konkret und dass die Medien am Ende das aber mit von profitieren können, sage ich mal von der Entwicklung.

00:46:36: Also wir versuchen es jetzt gerade zu evaluieren.

00:46:39: auch also wo ist sozusagen auch schon Bewusstsein da?

00:46:42: Wo sind auch zum Beispiel jetzt schon Experimente?

00:46:44: unser Unser Learning war so ein bisschen aus den verschiedenen Gesprächen und wir haben ja auch viele, wir haben so Technologie auch vorgestellt usw.

00:46:52: Das ist wahrscheinlich – das finde ich eigentlich gar nicht so schlecht wie auf eine Infrastruktur-Ebene gehen, wo wir eben gar nicht sichtbar sind sondern auf der Ebene darunter agieren sodass es für die Menschen sogar einfacher ist, wie Revenzierung auch irgendwie zu akzeptieren.

00:47:06: Und was ich Ihnen erwähnt hatte mit dem KI-Agenda, ich glaube dass wird mehr werden.

00:47:10: Wir wären sozusagen In offener Form auch immer autonomen Handel oder autonomer handelnden Karriergenden zu tun haben, die miteinander kommunizieren.

00:47:19: Die mit Menschen kommuniziert.

00:47:21: und irgendwo muss ja dieser ominöse jungen Insolub wie funktioniert er eigentlich?

00:47:25: Wo gebe ich etwas frei?

00:47:27: Wo möchte ich das jetzt zum Beispiel einen Vertrag für mich abschließt?

00:47:30: Wo möchtest du eine Überweisung tätig?

00:47:31: Wo soll ein Hotel buchen?

00:47:33: Und da wäre für uns natürlich sozusagen eine sehr gute Ebene da wäre VoiceChain eine Art Security und Identity Layer darin.

00:47:41: Und dass wir gar nicht mit jeder Bank eins entsprechen, sondern wir sind in Gesprächen mit Aldi Wallet auf EU-Ebene, dass wir sozusagen eine Infrastruktur Toolbox damit drin sind, wenn Leute wirklich Interesse haben an Identitätsmanagement, dass sie auf unsere Technologie zurückgreifen weil die sicherer ist als zum Beispiel... Video-Ident oder zumindest gibt es da sozusagen mehrere Formen, wie man da jetzt auch sicher darauf reagieren kann.

00:48:12: Um immer wieder zu beweisen dass ein Live einen Mensch am anderen Ende ist.

00:48:16: also das manche mit diesem ganzen Wettrennen das haben wir gerade ich weiß nicht ob du das schon mal gemacht hast mit Personalersweise und Video-IDENT.

00:48:24: Da muss man ja sein Reinhalten dann muss man sein Video zeigen dann muss anwesend die Hand und selbst das ist ja mittlerweile Heckbar, dass man auch sozusagen durch den Filter durchaus die Hand wo das Gesicht halten kann.

00:48:35: Und dass wir da sozusagen mit mehreren anderen Methoden drin sind und dann für bestimmte Endkunden interessant sind aber eher auf einer Infrastrukturebene, wo wir dann halt Partnerschaften eingehen mit sozusagen Anbietern von Voice-Agenten... Ich sehe zum Beispiel dieses Smartglasses auch sehr kritisch gerade, weil eben diese ganzen nicht autorisierten Aufnahmen passieren.

00:48:56: Ich glaube aber schon dass Voice und Audio immer ein Interface sein wird von verschiedenen Sachen die jetzt kommen auf wieder mit den KI-Ergäten vielleicht wenn wir irgendwann einen Button haben mit der wir sozusagen unsere lokale KI besprechen usw.

00:49:11: Identifizierst du dich, dass eben die Brille oder dieser Backen kein anderer nimmt und auf meinen Archiv zurückgreift?

00:49:17: Sondern das wäre dann auch eine Form wo BoBoiSchen eine Rolle spielt.

00:49:20: Also wir testen da gerade CSRP aus auf dieser Infrastrukturebene aber auch auf so ganz normalen Sachen, wo wir wirklich nur diesen Mensch- oder KI-Unterscheidung machen für so Streaming Anbieter.

00:49:32: Da sind wir heute dabei mit einem Pilotvertrag.

00:49:36: Genau!

00:49:36: Das ist ein bisschen das was wir jetzt versuchen in so verschiedenen Gesprächen

00:49:41: Also verschiedene Möglichkeiten auf die Infrastruktur eben mitzugehen ist sicherlich auch ein smarter Move.

00:49:48: Und was wir glaube ich am Ende festhalten können, Ja, das ist ja ein Bettrennen.

00:49:55: Du hast es ja auch ein paar Mal gesagt dass wir das vielleicht über diesen Weg der Qualität und der Verifizierung vielleicht eher gehen als wenn wir alles irgendwie versuchen zu kennzeichnen und da hinterher zu rennen.

00:50:06: Das finde ich schon mal den spannenden Ansatz um was sich ganz konkret mitnehme.

00:50:10: Auch als jemand der ja auch schon relativ viel in Mikrofone gesprochen und es ins Inhalt gestellt hat, das Kotwort mit meinen Eltern vereinbaren.

00:50:19: Das sollte ich vielleicht auch tun.

00:50:21: und auch ihr da draußen, ich weiß es hören auch viele Leute zu die selber Podcast machen oder im Radio sprechen oder so.

00:50:27: Vielleicht auch der Hinweis an euch dass das keine schlechte Idee ist um auch da zu verifizieren wer denn da miteinander spricht?

00:50:34: Es sind Die großen Fragen finde ich, die wir aufgeworfen haben und ihr versucht auch technologisch zu beantworten.

00:50:42: Und es hängt so viel daran nicht.

00:50:43: Ich glaube das ist klar geworden ne?

00:50:45: Auch eine gesamtgesellschaftliche gesamte Branchen Aufgabe halt Vertrauen zu stärken Transparenz zu schaffen.

00:50:53: Wenn man Technologie dabei helfen kann Transpurenz zu schaffen sind wir da glaube ich ein ganz gutes Stück weiter und daran arbeitet ihr mit Royce Chain finde ich wirklich super spannend und ich bin gespannt wenn wir vielleicht in paar Monate oder nächstes Jahr, oder irgendwann vielleicht uns nochmal unterhalten.

00:51:07: Sei es die Imperial Podcast und auch eine unserer Veranstaltungen wie es dann weitergegangen ist bei euch das werden wir weiter beobachten.

00:51:14: ihr seid ja auch bei uns im Media Lab also bei der Schwesterorganisation der Medien Tage München werdet ihr ja auch mit gefördert.

00:51:22: lasst uns da gerne im Austausch bleiben dass wir sicherlich auch die Leute da draußen interessieren.

00:51:26: Jana Wutke vielen vielen Dank für die Einbringung Und auch euch da draußen, wir haben wirklich miteinander gesprochen.

00:51:34: Wir können es jetzt noch nicht technisch verifizieren.

00:51:37: Aber daran arbeitet Jana und das sind natürlich auch Themen die bei den Medientagen München eine große Rolle spielen ist ein großer Schwerpunkt.

00:51:47: was diese KI-Welt mit dem Medien macht sowohl positiv als auch negativ.

00:51:53: Schaut gerne ins Programm gibt's einige Programmpunkte die sich auch in dem Zusammenhang spannend sind Und das war's von mir an dieser Stelle.

00:52:03: Bleibt mir noch zu sagen, machts gut, bleibt stabil und bis zum nächsten

00:52:12: Mal!