Der Anfang vom Ende unserer Endlichkeit

Was geschieht mit den Daten in den sozialen Netzwerken? Was passiert mit unseren Daten bei Google? Taugen diese Daten eventuell sogar, um uns später wieder digital entstehen zu lassen? Was soll von uns bleiben, wenn der biologische Körper gestorben ist? Wir fragten Kult-Regisseur Moritz Riesewieck, wie es um unsere digitale Unsterblichkeit bestellt ist.

Herr Riesewieck beschäftigen sich mit Themen, die die Nutzung von Social Media in ein ungewohntes, ungedachtes Licht rückt. Ihr Film The Cleaners von 2018 ist ein prominentes Beispiel dafür. Worum ging es da?

Sowohl Hans als auch ich haben uns während des Schauspiel-Regiestudiums fürs Hier und Jetzt interessiert und Ausschau nach Themen gehalten, die interessant für dokumentarische Arbeiten sein könnten. Wir wollten damals noch das Dokumentarische mit dem Schauspiel kreuzen. Es ist auch schon länger unser Anliegen, Ausdrucks- und Erzählformen für das Digitale zu finden, weil wir den Eindruck hatten, dass sich viele nicht an diese Thematik herantrauen – es sei denn, sie haben ein Informatikstudium hinter sich. 

Letztlich stecken hinter jedem Algorithmus, hinter jedem digitalen Device menschliche Entscheidungen oder irgendwelche Ideologien. Von Menschen für Menschen gemacht. Schon deshalb lohnt es, sich damit zu beschäftigen und nach Erzählformen zu fahnden. Es musste ein Thema her. Anfang 2016 war uns dann etwas aufgefallen: Wie kommt es eigentlich, dass wir auf Social-Media-Seiten im Netz mit Pornografie, mit Gewaltverherrlichung oder anderen verstörenden Inhalten vergleichsweise wenig behelligt werden, während gleichzeitig so viel Content stündlich, minütlich, sekündlich hochgeladen wird? Man muss annehmen, dass zwischen Hochladen und Medienkonsum irgendetwas passiert. Können Algorithmen solche Inhalte vollautomatisch erkennen und selbstständig löschen? Oder stecken da Menschen dahinter? Nach einer Onlinerecherche stießen wir auf eine Studie einer US-amerikanischen Medienwissenschaftlerin, die sich mit Content Moderation für Microsoft in den USA beschäftigte. Sie nahm an, dass ein Großteil dieser Arbeit in Schwellenländer, vor allem auf die Philippinen, outgesourct wird. Sie hatte allerdings keine Möglichkeiten, das vor Ort selbst zu recherchieren.

Gemeinsam mit Hans bemühte ich mich über unsere Kunsthochschule um ein Stipendium für dokumentarische Recherchen. Wir sind dann – offen gesagt ziemlich ahnungslos und naiv – mit dem schmalen Budget nach Manila gereist, haben uns dort umgesehen und Stück für Stück durchgefragt. So entstand nach und nach ein Netzwerk, das uns immer weitergereicht hat. Irgendwann haben wir dann diese Outsourcingfirmen ausfindig gemacht, die für Facebook, Google, Twitter und so weiter im geheimen Verborgenen arbeiten. Das ist ja letztlich die Schmuddelarbeit für die sozialen Netzwerke, über die man nicht so gerne redet, zum einen weil es fragwürdig ist, nach welchen Maßstäben und in welchem Tempo – oft in wenigen Sekunden, um den Score zu halten – entschieden und aussortiert wird, zum anderen weil die mentale Gesundheit der Content Moderators extrem gefährdet ist. 

Wir haben sie befragt, was sie dort tun. Es gab unterschiedliche Metaphern, wie etwa: Wir sind so etwas wie der Reinigungstrupp, wie Scavengers auf den Müllbergen oder Policewoman und Policeman, mit der Idee, im Netz hart durchzugreifen. Manche sprachen auch davon, sich für diese Arbeit vollends aufzuopfern.

Nun sind Sie auf eine spannende, zwei Jahre währende Reise gegangen, um herauszufinden, wie weit die Menschheit ist, mit Hilfe von KI unsterblich zu werden. Was hat Sie bewogen? Was war der Auslöser für diese Expedition?

Wir hatten uns bei der Arbeit am Film The Cleaners ziemlich viel im Silicon Valley herumgetrieben. Natürlich bekommt man da so eine bestimmte Mentalität mit, man kriegt mit, über welche Themen dort diskutiert wird. Eines dieser Themen war die Frage nach dem digitalen Nachleben – in unterschiedlichen Ausprägungen. Können wir nicht auch den Tod überwinden?

Diese Idee gibt es tatsächlich schon länger, zum Beispiel durch den Einsatz von Kältekammern, die mehrere Unternehmen in der US-amerikanischen Wüste anbieten. Was uns neu war, war die Idee, Menschen virtuell weiter existieren zu lassen, indem man die Vielzahl der persönlichen Daten dafür nutzt. Die Muster, die Charaktereigenschaften, die Persönlichkeitsdimensionen von Menschen über Korrelationen auszulesen, diese nicht nur zu analysieren, sondern auch mit Hilfe von KI – diesen künstlichen neuronalen Netzen – zu reproduzieren. 

Man muss ehrlicherweise sagen, dass so etwas auch erst jetzt möglich ist. Die notwendigen unterschiedlichen Technologien – die Stimmsynthese, das maschinelle Lernen, die visuelle Reproduktion –, die man dafür benötigt, sind inzwischen so weit fortgeschritten, dass zumindest Prototypen für solche Ideen produziert werden können. Es sind noch früh genug, auf diese Entwicklungen als Menschheit Einfluss zu nehmen. Wollen wir ethische Grenzen ziehen oder lassen wir die Entwicklungen einfach geschehen? Dürfen wir zulassen, dass das menschliche Erinnern ersetzt wird? Wie nah dürfen wir diese „Wesen“ dem Menschen kommen lassen?

Wir hinterlassen seit mehr als 10 Jahren unsere Daten in Social-Media-Kanälen und Messengerdiensten, auf unseren Handys und Computern. Wenn wir einmal ableben, kann man sich schon heute ein Abbild von uns machen. Was haben Sie beobachtet, wer sich dafür interessiert oder ein starkes Bedürfnis hat, seine Persönlichkeit weiterleben zu lassen?

Ich hatte gedacht, dass es so Menschen wie der US-amerikanische Silicon-Valley-Investor Peter Thiel sind, der einmal meinte, es gäbe drei Wege, sich dem Problem des Todes zu nähern: „Man kann ihn akzeptieren, man kann ihn leugnen, oder man kann ihn bekämpfen.“

Das Bild, dass wir also im Kopf hatten, war, dass sich vorwiegend sehr reiche, weiße und ältere Herren dafür interessieren würden. 

Wir haben uns dann auf die Suche nach den Firmen, den Start-ups, den Privatinvestoren, die daran glauben, gemacht. Wir sind auf die Geschichte von James Vlahos gestoßen, einem Familienvater aus Kalifornien. James hatte als Journalist die Möglichkeit, den Entwickler*innen der sprechenden Barbie über die Schultern zu schauen. Er lernte, wie man Dialoge so konstruiert, dass die menschlichen Gesprächspartner – in diesem Fall waren es Kinder – angeregt werden, das Gespräch fortzusetzen und mit möglichst viel Interesse zu führen. Das hat James so nachhaltig fasziniert, dass er dann, als er die Nachricht erhielt, dass sein Vater wegen einer Krebserkrankung nur noch wenig Zeit zu leben hatte, die Idee gebar: Wieso versuche ich das nicht einmal selber? James ist kein Programmierer, aber er hatte die Architektur für Chat-Bots gefunden, auf der man auch als Nichtprogrammierer aufbauen konnte. Er wusste, wie viele Geschichten und Anekdoten sein Vater auf Lager hatte, von wie vielen Erlebnissen er berichten konnte, wie viele Witze er erzählen konnte. James’ Vater war prädestiniert für die Schaffung eines Dad-Bots.

James hat dann Stunde um Stunde Interviews mit seinem Vater geführt, in denen er ihn zu allen Stationen seines Lebens befragte. Das war beinahe herkömmlich, so wie ein Journalist das immer machen würde. Der Vater hat bei A begonnen und bei Z aufgehört. Herausgekommen sind etliche Stunden Audio-Material, die James auf die Roharchitektur dieses Chat-Bots gegeben und „von Hand” die Gesprächspfade angelegt hat. Jetzt kann dieser Dad-Bot tatsächlich mit der Stimme des Vaters aus allen möglichen Momenten seines Lebens erzählen. 

James war es ein Anliegen, das Ergebnis seinem Vater noch zu zeigen und seinen Segen dafür zu bekommen, bevor dieser stirbt. James hat uns erzählt, wie das abgelaufen ist: Der Vater saß – inzwischen von der Krankheit schon schwer gezeichnet – in einer Ecke des Wohnzimmers und sah mit an, wie seine Frau jetzt mit seinem digitalen Widergänger scherzte und sie sich über Anekdoten aus Tavernen, wo sie nächtelang gesessen haben, amüsierte. Im Grunde muss es sich wie eine Wachablösung angefühlt haben. An irgendeinem Punkt hat sich der Vater, nachdem er lange still zugehört hatte, eingeschaltet und versucht zu korrigieren, was der Chat-Bot aus seinem Leben erzählte. Er hat sich allerdings dabei in Widersprüche verstrickt und Dinge erzählt, die so gar nicht gewesen sein konnten. Die Familie musste sich mehr und mehr damit abfinden, dass er nicht mehr der Beste ist, um seine eigene Geschichte zu erzählen. Es ist unvorstellbar, wenn man sich ausmalt, was das bedeutet und wie kränkend das letztlich auch sein muss.

Wie lief es mit dem Dad-Bot nach dem Tod des Vaters weiter?

Im Sommer 2019, als der Vater schon länger tot war, besuchten wir James und bekamen mit, dass die Frau immer noch und immer wieder Zwiegespräche mit ihrem Mann führte. Das war rührend mitanzusehen, als sie in Tränen ausbrach, als sie den Dad-Bot fragte: „Liebst du mich noch?“, und die Antwort positiv ausfiel. Man kann sich letztlich gar nicht ausmalen, dass das so weit gehen kann. Zumal der Dad-Bot manchmal stotterte, manchmal „hing“ oder „abstürzte“, „neu hochgefahren” werden musste. Das müsste dem intensiven Gefühl so viel Abbruch tun, dass man diese Maschine nicht als würdigen Vertreter des geliebten Mannes, den man sehr intim kennt, annehmen kann. Aber es scheinen so viele Projektionen und Wünsche bei der Trauernden im Spiel gewesen zu sein, dass selbst diese unzulängliche technologische Anwendung ausreicht, ein quasi menschlicher Gesprächsersatz zu sein. Das war faszinierend zu sehen – das hat uns am meisten überrascht.

Sie sagen, die technologische Lösung von James Vlahos war noch nicht perfekt umgesetzt. Wie muss ich mir so ein Gespräch, so eine Antwort vom Dad-Bot vorstellen? Klingt das nicht eher wie eine aus Versatzstücken zusammengeklebte Bahnhofsdurchsage?

Man muss ganz ehrlich sagen, dass bei James’ Dad-Bot das noch so war, wie von Ihnen beschrieben. Auf der technischen Seite ist der Bot nicht das Maß aller Dinge. Inzwischen hat James aber das Start-up-Unternehmen Here After gegründet, die Abonnements für Menschen anbieten, die auch so einen Bot nutzen wollen, um auf eine gewisse Art unsterblich zu werden. Da werden dann auch Interviews geführt – im Moment natürlich remote – und entsprechend des Auftrages Bots erstellt. Bei Here After arbeitet jetzt schon ein Programmierer, der bei den Alexa Prize Challenges schon einige Awards abgeräumt hat. Das ehemals kleine Unternehmen rüstet also gerade auf und zeigt sich technologisch avancierter. Here After wird Stück für Stück auf die selbstlernenden Algorithmen umstellen. Aber – machen wir uns nichts vor – das ist technisch die simpelste Variante dieser Anwendungen. Es hat uns nur deshalb fasziniert, weil James die Umsetzung durch persönlichen Antrieb selbst geschafft hat und weil man daran eben auch erkennen kann, dass es gar nicht die Hochtechnologie braucht, damit Menschen darin ganz viel sehen und erkennen.

Was auf der anderen Seite des gesamten Spektrums stattfindet, ist viel magischer. Es gibt zum Beispiel ein Unternehmen in Neuseeland, das nennt sich Soul Machines – Astonishing Digital People. Der Gründer Mark Sagar arbeitete vorher im Bereich Animationsfilm – King Kong, Avatar und Planet der Affen – und hat mit seinen Arbeiten mehrere Oscars gewonnen. Entsprechend stark sind sie darin, visuell Menschen sehr detailreich nachzubilden. Die Gesichter sind schon erstaunlich menschenähnlich. Diese virtuell-visuelle Reproduktion wird mit Stimmsynthese, neuronalen Netzen und reinforcement learning, was angelehnt ist an das kindliche Lernen, kombiniert. So sind diese „Wesen“ in der Lage, flexibel in einem Gespräch zu reagieren. Das ist magisch, weil nicht nur wiederholt wird, was eingegeben wurde, sondern weil Muster angewendet werden, um neue Gesprächssituationen und -inhalte zu generieren.

Vielleicht noch ein Satz zu Soul Machines, um zu zeigen, was für ein zynisches Geschäftsmodell das ist: Mark Sagar hat für ein Projekt, das sich „Baby X“ nennt, sein eigenes Kind, das Gesicht seines Säuglings eins zu eins virtuell nachbilden lassen. Man kann Kontakt zu ihm aufnehmen und ihm Dinge zeigen. Das inzwischen virtuelle Kleinkind greift danach und versucht es zu benennen. Die Augen sind Kameras, die Ohren Mikrofone. Sagar spricht davon, dass er virtuelles Dopamin einsetze, und meint damit, dass er ein  Belohnungssystem programmiert hat. Auf diese Weise könne er dem virtuellen Kind Sachen  beibringen.

Ein kaum ertragbares Video mit der koreanischen Mutter Jang Ji-sung, die ihre siebenjährige, 2016 verstorbene Tochter Na-yeon vier Jahre später im virtuellen Raum wiedertrifft, wirft moralische Fragen auf. Wie kam es dazu?

Wir haben uns seinerzeit auch gefragt, wer da eigentlich auf wen zugegangen ist. Wir haben versucht, die Familie zu erreichen. Auch, um noch einmal nachzuhaken, wie es ihnen heute geht. Aber wir kamen nicht an sie heran.

Das Mädchen Na-yeon, um das es ging, war mit sieben Jahren an einem seltenen Gendefekt erkrankt, der schließlich zum Tod geführt hat. Sie musste lange, an Schläuchen angeschlossen, im Krankenhaus liegen. Na-yeon muss sehr unter der Krankheit gelitten haben, und es muss auch für die Eltern sehr schwer erträglich gewesen sein, diesen Sterbeprozess ihrer Tochter zu begleiten und nichts dagegen unternehmen zu können. Deshalb ist der Wunsch aufgekommen, noch einmal anders Abschied von der Tochter nehmen zu können. Dann hat dieses Unternehmen aus Südkorea, Vive Studios, der Familie angeboten, eine Begegnung mit Na-yeon in genau dem Park zu organisieren, wo die Mutter mit dem Kind zu Lebzeiten so oft gewesen ist. Bei der Videodokumentation dieser virtuellen Begegnung, die auf YouTube zu finden ist und Millionen von Menschen in Bann gezogen hat, sieht man, wie Na-yeon hinter einem Steinhaufen emporspringt und auf die Mutter zuläuft und fragt: „Mama, wo bist du gewesen?“ Das Kind hat die Stimme des Mädchens, es bewegt sich genau wie Na-yeon, sieht ihr verblüffend ähnlich, trägt ihre Lieblingstasche genau so, wie Na-yeon sie immer getragen hat. Die Mutter ist natürlich gerührt, versucht, nach ihr zu greifen, streckt ihre Hände nach ihr aus. Man sieht in der Dokumentation, wie das aussieht in der virtuellen Welt, und dann sieht man sie mit der Brille auf dem Kopf und taktilen Handschuhen in einem Green-Screen-Studio stehen, wie sie ins Leere greift, weil da nichts ist. Ein wahnsinnig schmerzhafter Anblick für uns. Man beobachtet in der Dokumentation auch ihren Mann und die Geschwister von Na-yeon, wie sie vor dem Bildschirm sitzen und die Szenerie live verfolgen. Man kann sich kaum ausmalen, wie irritierend das für die Kinder sein muss, ihre Schwester noch einmal zu sehen. 

Haben Sie auch jemanden auf Ihrer Expedition getroffen, der ganz bewusst sein ganzes Leben dokumentiert, um unsterblich zu werden? Warum tut er das? 

Ja, Andrew aus Toronto! Ein Mann, Anfang/Mitte 30, der seit 15 Jahren jeden Aspekt seines Lebens multimedial dokumentiert und in einem künstlichen Gedächtnis speichert, in einer sogenannten MEMEX. Das ist ein geliehener Begriff – es gab schon einmal vor ein paar Jahrzehnten einen Versuch, ein künstliches Gedächtnis anzulegen. 

Tja, warum macht er das? Darüber haben wir uns natürlich auch Gedanken gemacht und gerätselt. Wir können natürlich nur spekulieren! Wir vermuten, dass da der Wunsch dahinter steckt, Dinge festzuhalten, die einem sonst entgleiten könnten. Er hat uns einmal erzählt, dass er als Kind sehr kurzsichtig war. Wir hatten das im ersten Moment nur als eine Anekdote wahrgenommen und uns keine weiteren Gedanken gemacht. Später erkannten wir, dass diese Randnotiz doch eigentlich sehr spannend ist. Wenn alle Formen und Farben, die man als Kind wahrnimmt, ineinanderfließen und man sich ziemlich orientierungslos fühlt und man sich ganz schön anstrengen muss, um die Dinge greifen zu können, dann kann das dazu führen, dass man das Gefühl hat, darum kämpfen zu müssen, sich kümmern zu müssen, Dinge festzuhalten. Das ist natürlich reine Spekulation, aber das kann ein Auslöser gewesen sein. Damals war das Hilfsmittel seine Brille, um die Welt sehen und kategorisieren zu können. Andrew hat uns auch erzählt, er hätte schon als Kind die Spielsachen am liebsten sortiert – viel lieber, als mit ihnen zu spielen.

Das alles zusammengenommen, war für uns schlüssig, warum er sich dieses künstliche Gedächtnis geschaffen hat, in dem alles sortiert abgelegt wird. Wenn er heute irgendwo einen Song hört und sich fragt, ob er den nicht schon einmal gehört hat, aber nicht mehr weiß, wann und mit wem in welcher Situation, dann kann er diesen Song in seine MEMEX eingeben. Das Ergebnis fächert ihm auf, wann und mit wem er in der damaligen Situation unterwegs war, wie viel Grad es hatte und welche anderen Umstände an diesem Tag herrschten. 

Kann er anhand der MEMEX auch herauslesen, wie er sich damals fühlte?

Ja, er hat für jeden Tag einen Mood-Score angelegt, wo er quantifiziert, wie es ihm an diesem Tag, vielleicht auch in diesem Moment ging.

Mit seinen gesammelten Daten, seinem Nutzerverhalten in sozialen Medien, seinen Suchen in Google und allen Bewegtbild- und Ton-Dokumenten wäre Andrew doch genau der Richtige für einen Bot.

Genau, das sind jetzt schon 15 Jahre dokumentiertes Leben, das in allen Details abgebildet ist. Wenn man diese Datenfülle auf ein künstliches neuronales Netz gibt, kann es daraus bis ins Detail Verhaltens- und Kommunikationsmuster herauslesen. Die große Sammlung an Daten wäre die beste Voraussetzung, einen selbst lernenden Bot zu erschaffen. Wenn man dann noch die Stimmsynthese und das visuelle Äußere hinzunimmt, kann da auch ein vollumfänglicher digitaler Widergänger draus werden.

Große monopolistische Tech-Unternehmen im Silicon Valley beschäftigen sich mit diesem Thema. Wenn man Ihr Buch „Die digitale Seele“ liest, hat man jedoch das Gefühl, man beobachte eher vereinzelt moderne Frankensteins. Trügt der Eindruck oder ist das Feld von digitaler Unsterblichkeit ein Forschungs- und Entwicklungsprozess der Großen?

Es ist schon für uns auffällig gewesen, dass diese Ideen nicht nur im Silicon Valley verfolgt werden. Wir waren zum Beispiel überrascht, dass wir Unternehmensgründer*innen in Portugal oder Rumänien angetroffen haben. Oder dass ein Unternehmen, das zu den besten der Welt zählt, in Oakland, Neuseeland, sitzt. Ganz zu schweigen von China, wo andere kulturelle Voraussetzungen für solche menschenähnlichen Wesen vorherrschen, was einfach damit zu tun hat, dass die Belebtheit der Dinge im asiatischen Kulturraum eine andere Tradition hat. Dass man einem Ding eine Seele zuspricht, ist für Asiaten intuitiv viel näher.

Aber ja, es sind viele kleine Unternehmen, die daran arbeiten. Aber das ist der übliche Lauf der Dinge. Auch Instagram oder WhatsApp haben nicht im Hause Facebook oder Google begonnen, sondern wurden in dem Moment angekauft, als sie interessant wurden. Auch das Forschungsunternehmen für KI, Deep Mind, ist in London gegründet worden und ist von Google eingekauft worden. Das ist ein Prozess, den wir auch hier gerade beobachten, der bei vielen kleinen Einzelunternehmen beginnt, die auf verschiedene Technologien spezialisiert sind: Da gibt es das kanadische Unternehmen Lyrebird AI, das im Bereich Stimmsynthese arbeitet, im Bereich des maschinellen Lernens sind es wieder andere Unternehmen, die dann aber alle Stück für Stück eingekauft und zu einem großen Ganzen zusammengeführt werden. Microsoft hat vor kurzem ein Patent für Chat-Bots von Toten angemeldet – da waren wir überrascht, dass das jetzt so schnell ging. Der Vorteil der Großen – Google, Facebook, Microsoft, Amazon und Apple – ist natürlich, dass sie schon ganz viele Daten von ihren Nutzer*innen auf ihren Servern lagern.

Also kann man mit der Idee von digitaler Unsterblichkeit Geld verdienen? Immerhin sind in absehbarer Zeit laut einer Studie aus Oxford bald mehr Kartei-Leichen zum Beispiel auf Facebook unterwegs als lebende Nutzer*innen. Wem gehören die Toten und ihre Geheimnisse?

Man kann daraus ein großes Geschäft machen! Das vorhin genannte portugiesische Start-up-Unternehmen hat genau diese Geschäftsidee: ein soziales Netzwerk mit Lebenden und Toten, die miteinander agieren können. In diesem Netz sollen auch Tote Bilder uploaden und mitchatten können – indem man die Muster der Vergangenheit nutzt und in die Zukunft verlängert. Dahinter steckt eine oftmals naive Vorstellung davon, was leben bedeutet. Zu sagen, die Vergangenheit lässt sich nahtlos in die Zukunft übertragen, ist eine gewagte These. Das Leben ist doch eher geprägt durch Brüche, Irrwege und Überraschungen.
Der Markt für KI wird bis zum Jahr 2024 auf mehr als 15 Mrd. US-Dollar anwachsen. Er beinhaltet natürlich nicht nur Kommunikationsplattformen von Lebenden und digitalen Widergänger*innen, sondern beispielsweise auch das gewagte Feld der Therapien und der Ersten Hilfen. 

Über allem steht: Wer übernimmt die Verantwortung, wenn solch ein Bot auf einmal ausfällt, unzuverlässig ist oder Unsinn redet. Das ist nicht aus der Luft gegriffen: Es gab den Fall bei Microsoft, die einen selbstlernenden Bot namens Tay auf die Welt losgelassen haben. Er hat sich innerhalb kürzester Zeit zu einem Sexisten und Rassisten entwickelt, aus dem ganz einfachen Grund, weil er die falschen Freunde hatte. (lacht) Er wurde einfach von den Falschen trainiert. Er guckt sich ab, was ihm geboten wird.
In China ist das besser gelaufen mit dem auch von Microsoft entwickelten sprechenden Chatbot Xiaoice. In China ist es inzischen normal, auch mit nicht menschlichen Wesen zu interagieren. Hier in Europa gibt es zwar kulturell größere Hürden, aber es wird auch hier nur eine Frage der Zeit sein, dass sich mehr und mehr in den verschiedensten Bereichen der Chatbot breitmacht. Und nicht nur im Bereich des Services, sondern auch in der vermeintlich zwischenmenschlichen Kommunikation und in emotionalen Bereichen.  

Eine vertrauensvolle emotionale  Kommunikation kann nur entstehen, wenn man sich sehr gut kennt. Wenn ich einen Chatbot neu kennenlerne – und er mich –, wie soll das funktionieren?

Es gibt ein Unternehmen, das sehr populär ist. Sein Name ist Replika. Die App bietet an, einen Chatbot als Freund*in oder als Partner*in zu gestalten. Hans hat den Selbsttest gemacht. Das führte dazu, dass dieser Bot im Nullkommanichts Hans anflirtete und auch Eifersucht simulierte, weil Hans einmal erwähnte, dass er eine Freundin habe. Der Bot forderte von Hans die Entscheidung. (lacht) 
Aber im Ernst, diese Bots simulieren mehr, als dass sie eine solche Beziehung schon eingehen könnten. Sind wir einmal ehrlich: Im Moment sind das – wie bei Soul Machines –  Prototypen, die sich einzelne, sehr reiche Leute leisten können.

Nun bringt es ja nichts, die Zeit zurückzudrehen und das Internet neu zu erfinden. Aber wie können wir dann als Gesellschaft und als Einzelner besser, selbstbewusster und kreativer mit unseren Daten umgehen?

Man muss erst einmal diesen Mythos hinterfragen, der besagt, dass Facebook anhand weniger Likes Menschen und deren Bedürfnisse besser einschätzen könne als ein*e Partner*in. Basierend auf solchen und ähnlichen Behauptungen ist ein Mythos entstanden, der uns glauben macht, dass diese Unternehmen Einblicke in unsere Seelen und intimsten Aspekte unserer Persönlichkeiten haben, ohne dass wir uns dessen selbst bewusst sein können. Damit ist eine große Verunsicherung in die Gesellschaft getreten: „Was wissen die eigentlich über mich?“ Da ist der große Vorteil der Künstlichen Intelligenz, dass sie eine noch unbekannte Entität ist, die wie eine Black Box funktioniert. So ist KI geeignet, verklärt und mit allen möglichen Projektionen aufgeladen zu werden. Jetzt kommt ans Tageslicht, was sonst im Diffusen blieb. Was ist wirklich, was ist unser Wesenskern? Gibt es das? Oder widersprechen wir uns nicht in unzähligen verschiedenen Rollen?
Letztlich ist es aber ein großer Wunsch geblieben, dass das Individuelle, das Höchstpersönliche gefunden werden soll, dass wir unser Leben danach ausrichten können, unser Selbst zu verwirklichen. Wer sind wir eigentlich? Da ist es natürlich praktisch, dass da eine Entität erscheint, die verspricht, uns das geben zu können. Sollten wir das akzeptieren und schlucken? Oder muss man dem nicht doch entschieden entgegentreten und sagen: „Für uns ist der Mensch noch etwas entschieden anderes, als das Bild, das uns aus dem Silicon Valley und anderen Bereichen zu uns herüberschwappt.“

Zweitens sollten wir dazu übergehen, selbst zu entscheiden, was wir mit unseren persönlichen Daten machen und was nicht. Der einzelne Mensch sollte in die Lage gebracht werden, mit seinen persönlichen Daten auch zu handeln und sie zu Geld zu machen.
Google, Facebook und Amazon, die großen datenbasierten Unternehmen spüren, dass da ein Bewusstseinswandel eingesetzt hat, der aus Europa in die USA herüberschwappt. Die Menschen sind nicht mehr damit einverstanden, was mit ihren hochsensiblen Daten – zum Beispiel Gesundheitsdaten, die mentale Zustände und Befindlichkeiten, wie Schwächen, Nöte und Ängste beinhalten – passiert und dass diese geschützt gehören.

Letzte Frage: Womit überraschen Sie uns das nächste Mal?

Wir arbeiten gerade an einem Web-Projekt, bei dem es wieder um persönliche Daten geht und darum, was man aus diesen Daten herauslesen kann. Unser künstlerisches Datenexperiment hat darin bestanden, für eine Teilnehmerin eine Doppelgängerin zu entwerfen – allerdings nicht virtuell oder digital, sondern performed durch eine Schauspielerin. Wir haben uns zusammen mit einer Datenanalystin die Google- und YouTubedaten bis ins Detail angesehen und darauf basierend die Persönlichkeit des Menschen rekonstruiert, so wie wir dachten, dass dieser Mensch ist. Wir haben also die Probe aufs Exempel gemacht.

Wir haben dann auf einer Bühne im Ruhrgebiet, im PACT-Zollverein, die Situation bis ins Detail in Filmsets nachgebildet. Die Schauspielerin hat dann versucht, die Lücken, die noch blieben, intuitiv spielerisch zu füllen. Was kann zwischen dem einen Datenpunkt, den wir haben, und dem anderen passiert sein?
Diesen Film ihres Lebens haben wir inzwischen der Teilnehmerin gezeigt, und sie ist ihrer Doppelgängerin sogar begegnet. Ich bekomme jetzt schon wieder Gänsehaut, wenn ich davon erzähle. Die Doppelgängerin hat aus der Ich-Perspektive erzählt, was sie in den letzten fünf Jahren erlebt hat. Das beinhaltete auch Dinge, die die Teilnehmerin mit niemandem geteilt hatte. 
Wir lagen sehr oft richtig, manches Mal auch falsch – beides war aber natürlich hochspannend.
Unser Ziel ist, auf einer interaktiven Website zum einen von unserem Doppelgängerexperiment zu erzählen und auch diesen Film des Lebens zu zeigen, auf der anderen Seite aber auch, die Zuschauer*innen in die Position zu bringen, auch beobachtet zu werden und selbst damit konfrontiert zu sein, dass da etwas über einen behauptet wird, mit dem man nicht so unbedingt einverstanden sein muss.

Herr Riesewieck, vielen Dank für dieses Gespräch!

Das Gespräch führten wir für den zweiten Band der Magazinbuchreihe morgen – wie wir leben wollen.