Die Dokumentation „Roadrunner“ über den Chefkoch, Medien-Entertainer und Buchautor Anthony Bourdain stellt die Frage, wie wir künftig mit digitalen Dokumenten der Vergangenheit umgehen wollen. Und: Wie muss sich die journalistische Recherche weiterentwickeln, damit wir unterscheiden können, was die richtige und was die falsche – oder besser: was die gefälschte Vergangenheit ist und was die zutreffende Vergangenheit ist. Und wie muss Journalismus künftig arbeiten, um uns vor Fälschungen zu schützen?
Ulm ist eine Kleinstadt im deutschen Südwesten mit rund 120.000 Einwohnern. Dort sitzt ein „freundliches Kollektiv aus Menschen, die Spaß daran haben, Technik auseinander zu nehmen um zu verstehen, wie diese funktioniert.“ Es nennt sich „Zerforschung“ und besteht aus einem halben Dutzend engagierter junger Menschen. Die Ergebnisse ihrer Recherche veröffentlicht das Kollektiv auf seiner Websitezerforschung.org. Ein Mitglied des Kollektivs, Thomas Sänger, nennt sich selbst „Software-Archäologe“. „Wir schauen wir uns Technik so lange intensiv an bis wir sie verstanden haben“, meint er.
Gorillas ist ein Lieferdienst, der verspricht, online bestellte Lebensmittel innerhalb von zehn Minuten an die Wohnungstür zu bringen. Er ist erst knapp eineinhalb Jahre alt, liefert in Deutschland aber bereits in 21 Städten aus. In sieben weiteren europäischen Ländern ist er ebenfalls aktiv: darunter Spanien, Italien, Frankreich und UK. Die meisten mitteleuropäischen Großstädte deckt er ab. In den USA will er demnächst starten. Rund 335 Millionen US-Dollar Risikokapital hat die Berliner Gründung bereits eingesammelt. Ihr Unternehmenswert soll bei einer Milliarde US-Dollar liegen.
Im schwäbischen Ulm, wo Gorillas noch nicht aktiv ist, installierten die jungen Menschen von Zerforschung die Gorillas-App. Und wunderten sich. “Insgesamt konnten wir die Daten von über 1.000.000 Bestellungen, den dazugehörigen 200.000 Kund*innen sowie Fahrer*innen abrufen.” Das warf einige besorgniserregende Fragen zu Gorillas’ Datenschutzrichtlinien auf.
„Bei jeder neuen App, die wir installieren, schauen wir einmal kurz mit einem mitmproxy in den Datenverkehr.“ Der mitmproxy ist ein Tool zum Abfangen von HTTP- und HTTPS-Anfragen, dessen Name von “Man-in-the-middle” kommt. Unter anderem kann man damit sehen, mit welchen anderen Orten oder Servern eine App online kommuniziert und welche Inhalte übermittelt werden.
Mit einem mitmproxy kann man – einfach gesagt – sehen, mit welchen anderen Stellen oder Servern die App im Internet kommuniziert und was kommuniziert wird. Zerforschung fiel dabei auf, dass die App Daten aus zwei verschiedenen Google Cloud Verzeichnissen lädt und zurückgibt. Normalerweise kann man auf diese Verzeichnisse nicht so einfach zugreifen. Im Fall der Gorillas-App war das jedoch möglich.
Follow the Data
Im Ordner „gorillas-public“ lagen nicht nur Produktfotos, die man an dieser Stelle sonst so erwartet hätte. Es fanden sich auch Bilder von Haustüren und Klingelschildern darin. „Die Fotos kommen von Fahrer*innen, die anscheinend vereinzelt Fotos machen sollen, nachdem sie eine Bestellung ausgeliefert haben. Davon steht nicht nur nichts in der Datenschutzerklärung“, erklärt Zerforschung.
Beim anderen Verzeichnis namens „eddress“ stellte „sich nach kurzer Recherche heraus: Eddress ist ein Unternehmenmit Sitz in Pakistan und im Libanon, das White-Label-Kurier-Software anbietet – also gezielt neutral gehaltene Software, welche die einzelnen Lieferdienste dann passend zum eigenen Unternehmen gestalten können. Eddress selbst betreibt auch einen Lieferdienst, ganz ähnlich wie Gorillas, namens noknok im Libanon.“ Gorillas nutzt also eine in Pakistan entwickelte App. Das macht einmal mehr deutlich, wie international vernetzt Wirtschaft und Start-ups bereits sind – und wie sich Wirtschaftszusammenhänge auch an den Datenschnittstellen ablesen lassen.
Die deutschen Medien berichteten ausführlich über die von Zerforschung aufgedeckten Probleme. Vieles davon war typische Häme über Start-ups und ihre laxen Standards. Andere wiesen darauf hin, wie international vernetzt die Wirtschaft und die Start-ups bereits sind – und wie Datenwerkzeuge solche Verbindungen aufspüren können. Aber vielleicht noch wichtiger als die Berichterstattung selbst war, wie eine ehrenamtliche Gruppe wie Zerforschung sie möglich gemacht hat.
Abgehängt in der analogen Welt
Der Fall zeigt, wie wichtig die Zusammenarbeit von IT-Leuten und Journalisten – und wie relevant Technologie-Know-How für Journalisten ist. Doch genügt das? Je stärker sich gesellschaftliche Aspekte wie Datenschutz sowie gewollte, geduldete oder unerwünschte Wirtschafts- und Business-Beziehungen der IT-Infrastrukturen der digital vernetzten Wirtschaft abbilden, desto stärker stellt sich die Frage, ob es nicht längst an der Zeit ist, dass Journalisten und Redaktionen ihren Recherche-Raum ebenfalls erweitern müssen. Denn sie sollten auch künftig die Aspekte benennen können, die unsere immer digitaler werdende Gesellschaft betreffen.
Wie der ehemalige IBM-Deutschland-Chef Gunter Dueck in seinen Keynotes erklärt, sei das Internet längst ‘Gesellschaftsbetriebssystem’ geworden. Zusätzlich zum traditionellen, gewohnten analogen gesellschaftlichen Raum hat sich ein zweiter, ein digitaler gesellschaftlicher Raum gebildet – und beide sind immer weniger zu trennen. Das Internet und seine Kommunikationsstrukturen ist eben kein Kanal wie etwa das Fernsehen, das man einfach abschalten kann.
Journalisten müssen deshalb künftig in der Lage sein, auch in diesem Raum qualifiziert zu arbeiten. Sie können das nicht nur engagierten externen Freizeit-Experten überlassen oder der Zivilgesellschaft, NGOs, Verbraucherschützern oder Hochschulen. Doch damit sie das tun können, brauchen sie neue Fähigkeiten.
Diese neuen Fähigkeiten benötigen sie nicht nur im Kontext von Wirtschaft, von Daten- oder Verbraucherschutz, sondern ebenfalls auch bei allen anderen gesellschaftlichen Aspekten – einschließlich der Frage nach kultureller Geschichte, Identität und damit auch wie unsere Identitäten als Einwohner oder als Staatsbürger entstehen. Einfach gesagt: Wer wir sind. Und das belegt eine Filmdokumentation, die Ende Juni weltweit veröffentlicht wurde.
KI-generierte Geschichtsschreibung?
“Roadrunner” zeichnet das Leben von Anthony Bourdain nach. Der Starkoch, der als Chefkoch des New Yorker Restaurants Les Halles bekannt wurde, ist für seine Geschichten in Büchern wie “Kitchen Confidential: Adventures in the Culinary Underbelly” und seine Reise- und Food-Reportagen im Fernsehen. Am 8. Juni 2018 nahm er sich auf einer Produktionsreise im französischen Elsass das Leben.
Nun liefert „Roadrunner“ als erste Dokumentation überhaupt nicht nur ausschließlich authentisches Bild- und Tonmaterial. Filmemacher Morgan Neville ließ Bourdains-Stimme mit einer ki-basierten Software künstlich erzeugen und ihn damit Dinge sagen, die er so niemals gesprochen hat. Synthetisch hergestellt wurden Sätze, die Bourdain in einer E-Mail an seinen Freund David Choe geschrieben hatte.
Neville sagte, dass es zwei weitere derartige Verwendungen der Technologie im Film gab, weigerte sich aber, diese zu spezifizieren, und erklärte: “Wenn Sie den Film sehen […], wissen Sie wahrscheinlich nicht, welche anderen Zeilen von der KI gesprochen wurden, und Sie werden es auch nicht erfahren. Wir können später eine dokumentarisch-ethische Diskussion darüber führen“, sagte Neville dem Magazin The New Yorker im Juli dieses Jahres.
Neville sagte weiter im Interview, dass es zwei weitere derartige Verwendungen der Technologie im Film gab, weigerte sich aber, diese zu spezifizieren, und erklärte: “Wenn Sie den Film sehen […], wissen Sie wahrscheinlich nicht, was die anderen Zeilen sind, die von der KI gesprochen wurden, und Sie werden es auch nicht erfahren. Wir können später eine dokumentarisch-ethische Diskussion darüber führen.”
Man möge einwenden, dass diese Methode genauso legitim sei, wie etwa der Gonzo-Journalism oder New Journalism eines Hunter S. Thompson, der stets seine eigenen Eindrücke, sein Erleben, seine Assoziationen und seine Fantasien beschrieb. Doch liest man Thompsons Texte, wird schnell klar, dass er sich an der Schnittstelle zwischen Journalismus, Essay und Literatur befindet. Doch eine Dokumentation ist ein anderes Versprechen – das Versprechen, etwas Wahres, etwas Zutreffendes über die Vergangenheit zu sagen.
Nevilles Entscheidung löste eine kritische Debatte aus: Der Filmemacher Alan Barker, der Vorträge über die Ethik des Dokumentarfilms gibt, wertet die Frage des Einsatzes von künstlicher Intelligenz im Dokumentarfilm als extrem kritisch: “Es gibt einen ungeschriebenen Gesellschaftsvertrag, dass Dokumentarfilme aus Tatsachen und nicht aus Erfindungen bestehen. Der Fall Bourdain ist besonders schlimm, weil so viele Informationen in einer Sprachaufnahme nicht verbal sind. Dass Morgan die Fälschung offenbar verschwieg, bis er von einem Reporter damit konfrontiert wurde, macht die Sache noch viel schlimmer”, sagte er.
Und so macht „Roadrunner“ deutlich, dass es nicht um ein paar Deep-Fakes geht, in deren Zentrum ein paar Promis stehen oder Menschen, die sich dafür halten. Dokumentationen konstruieren unser Bild der Vergangenheit – und damit unser Bild der Gegenwart und der Zukunft. Und das, bestimmt unser Verhalten, unsere Werte und Ängste. Ganz so, wie es George Orwell in seinem Roman-Klassiker „1984“ beschrieben hat.
Mehr auf Wikipedia: Die Wiki-Seite zum Film dokumentiert einen Teil der Diskussion über den Einsatz künstlicher Intelligenz
Neue Methoden und neue Werkzeuge für Journalisten
Was würde passieren, wenn wir uns nicht mehr auf unsere Schul- oder Lehrbücher, die in Zukunft vielleicht digital sind, verlassen könnten? Wenn wir nicht mehr sicher sein könnten, ob etwa auf einem Foto jemand entfernt oder hinzugefügt wurde, wer etwas gesagt oder nicht gesagt hat, wer gelacht, gespottet oder geweint hat? Schon morgen könnte es soweit sein – und vielleicht ist es heute schon so?
Doch was, wenn unsere Medien, Redakteure und Journalisten nicht über das Wissen, die Methoden und die Werkzeuge verfügen (oder sie nicht beherrschen), um solche Fälschungen zu erkennen, zu entlarven und dem Fake eine wahre Vergangenheit oder eine wahre Gegenwart gegenüberzustellen? Einfache Fakten-Checker reichen hier nicht mehr aus. Und wer kann mit analogen Mitteln überprüfen, was Anthony Bourdain zu Lebzeiten wirklich sagte? Also muss sich einmal mehr der Journalismus weiterentwickeln – und sich die Fähigkeiten aneignen, um auch in der digitalen Welt seinen Auftrag als Kontrollinstanz ausüben zu können.