Am 9. September 2020 veröffentlichte Netflix den amerikanischen Dokudrama-Film «The Social Dilemma» von Regisseur Jeff Orlowski. Orlowski ist bekannt für die Regie und Produktion der mit dem Emmy Award ausgezeichneten Dokumentarfilme Chasing Ice (2012) und Chasing Coral (2017). «The Social Dilemma» untersucht den Aufstieg sozialer Medien und deren schädliche Einflüsse auf die Gesellschaft. Entscheidungen von Milliarden von Menschen werden durch eine kleine Anzahl von Ingenieuren gelenkt. Das Konzept des Filmes basiert auf Interviews mit ehemaligen Angestellten, Führungskräften und Fachleuten aus dem Bereich der Spitzentechnologie, sozialen Medien und der Forschung. Sie alle haben die Branche aus ethischen Bedenken verlassen.
Netflix neuster Dokumentarfilm heisst «The Social Dilemma». Er nimmt einerseits den Aufstieg der sozialen Medien unter die Lupe und andererseits werden dadurch entstandene Schäden an unserer Gesellschaft im 21. Jahrhundert aufgedeckt. Überwachungskapitalismus, Manipulationstechniken und die steigende Überlegenheit der künstlichen Intelligenz sind einige der im Film besprochenen Themen.
Gewinn mit massgeschneiderter Werbung
Die ehemaligen Mitarbeiter von Unternehmen wie Facebook, Instagram, Twitter und Google erklären im Film, wie unsere Nutzerdaten gesammelt und analysiert werden, um uns berechenbar zu machen. Anschliessend wird uns massgeschneiderte Werbung angezeigt. Facebook ist der Verkäufer, die Firma mit der Werbung der Kunde und wir, die Nutzer, das Produkt.
Wenn du nicht für das Produkt bezahlst, dann bist du das Produkt.
sagt Tristan Harris, Ex-Google-Mitarbeiter.
Psychologisch süchtig gemacht
Die Experten erklären weiter, wie Psychologinnen und Psychologen Manipulationstechniken entwickeln, die uns als Social-Media-Benutzende süchtig machen. Eine dieser Funktion ist Folgende: Jedes Mal, wenn wir Instagram neu laden, erscheint ein neuer Beitrag. Wir wissen nie, was uns erwartet und werden für jedes erneute Laden mit einer Überraschung belohnt.
Künstliche Intelligenz steigt exponentiell
Das Gefährlichste an der ganzen Sache ist, dass sich die Systeme mittlerweile durch maschinelles Lernen weiterentwickeln. Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter sagt, dass nur sehr wenige Leute bei diesen Firmen verstehen, wie diese Systeme funktionieren.
Und selbst die verstehen nicht immer vollständig, was mit einem bestimmten Inhalt passiert. Wir Menschen haben fast die Kontrolle über diese Systeme verloren.
Auch Harris fügt an, dass es einen Moment gibt, bei dem die Technologie die menschlichen Schwächen überwindet und übersteigt.
Dieser überschrittene Punkt ist die Wurzel von Sucht, Polarisierung, Radikalisierung, mehr Empörung, mehr Eitelkeit, alles. Es überfordert die menschliche Natur. Das ist Schachmatt für die Menschheit.
Radikalisiert und manipuliert
Experten sind der Meinung, dass diese Schwelle bereits überschritten wurde. Die Künstliche Intelligenz kennt unsere Schwächen und kann uns austricksen. Der Dokumentarfilm bringt mehrere Beispiele von gefährlichen Auswirkungen der sozialen Medien auf die Menschheit. Da die Plattformen den Nutzern immer nur die Information geben, die sie anspricht, erhalten sie kaum mehr entgegengesetzte Informationen. Als Folge davon radikalisieren sich die Menschen und finden nicht mehr zueinander. In der USA ist der Hass zwischen Republikanern und Demokraten grösser denn je. In Myanmar radikalisierten die Bewohner sich auf Facebook und vertrieben 700’000 Rohingyas aus ihren Dörfern.
Auch die Folgen der Manipulationstechniken auf die psychische Gesundheit sind verheerend. Der Film diskutiert, dass dies vermehrt zu Depressionen und erhöhten Selbstmordraten bei Jugendlichen und Erwachsenen führt.
Fake News
Am Schluss thematisiert der Film gefälschte Nachrichten. Unternehmen verdienen mehr Geld, indem sie zulassen, dass unkontrollierte Nachrichten die Nutzer und Nutzerinnen bestmöglich erreichen. Weiter erörtert er, wie gefährlich dieser Strom an gefälschten Nachrichten in Bezug auf COVID-19 und politische Propaganda ist. Auch die Rolle der sozialen Medien beim Verbreiten von Verschwörungstheorien wie Pizzagate und die der Flat-Earthers sei nicht zu unterschätzen.
Die Experten setzen sich für Wikipedia als neutrale Informationsplattform ein. Diese zeigt allen Benutzern die gleichen Informationen an.
Zukunft
Die Experten sind sich einig, dass sich etwas ändern muss, damit die Gesellschaft gedeihen kann. Ein Anfang könnte die Steuererhebung auf Daten sein. Sie geben aber auch praktisch umsetzbare Tipps als Gegenmassnahmen weiter.
Kritik am Film
Bei solch einem Dokumentarfilm können wichtige Nuancen über Technologie und ihre Vorteile vernachlässigt werden. Sophie Taylor, Beraterin für digitale Ethik, führt in ihrer Analyse von «The Social Dilemma» die Dinge auf, welche im Film ungesagt blieben.
