Man sollte meinen dass Werbung kein großes Problem ist. Einfach nicht auf Ads klicken, oder? Allerdings stellt sich heraus dass Werbung der Grund dafür ist dass unser Leben bereits sehr stark beeinflusst wird - und wir bekommen das kaum mit.

Vor kurzem habe ich mir den exzellenten TED Talk We're building a dystopia just to make people click on ads von Zeynep Tufekci angesehen. Ich hatte keine hohe Erwartung, musste aber feststellen dass das Thema extrem interessant ist. Wenn man an Werbung denkt, ist man meist der Meinung dass das so schlimm nicht sein kann. Es gibt ja schließlich gute AdBlocker und außerdem, wer ist schon so blöd und klickt auf Werbebanner? Tja, stellt sich heraus, so einfach ist das nicht.

TED Talk von Zeynep Tufekci

Facebook und Google lassen uns nicht einfach auf Ads klicken, sondern steuern uns in einer Art und Weise die dazu führt dass wir länger ihre Services nutzen. Damit wird uns länger Werbung angezeigt und die Wahrscheinlichkeit dass wir eine Werbung anklicken steigt. Im Grunde nicht fatal? Na ja, eben doch. Hier liegt ein tieferes Problem vergraben das nicht direkt offensichtlich ist: Die Absicht ist wie gesagt dass man so lange wie möglich gewisse Services nutzt. Das erreicht man damit, dass man künstliche Intelligenzen trainiert um herauszufinden was einen Menschen dazu bringt länger auf den entsprechenden Webseiten zu verweisen.

Es werden Unmengen an Daten von einer AI ausgewertet und auf Basis deren Erkenntnissen wird entschieden was uns z.B. für Videos bei YouTube empfohlen werden oder welche Posts wir auf Facebook sehen, usw. Das brutale dabei: Die AI interessiert sich nicht dafür was das für gesellschaftliche Konsequenzen hat. Die einzige Absicht ist, den Menschen zeitlich an den entsprechenden Service zu binden. Wenn das bedeutet dass man uns bei YouTube immer noch extremere Videos in der Seitenleiste empfiehlt als das was man sich gerade ansieht, weil es nun mal die Natur des Menschen ist sich dafür zu interessieren, dann sei es drum. Aber was wenn das beim Menschen dann zu einer Meinungsbildung führt die einseitig ist weil man nur Vorschläge vorgelegt bekommt die einen in eine ganz bestimmte Richtung lenken und nicht zwingend die Wahrheit symbolisieren bzw. nicht das ganze Spektrum an Informationen liefern? Oder was wenn bei Facebook die Posts zuerst dargestellt werden die uns so wütend machen dass wir unbedingt darauf antworten müssen und völlig aus den Augen verlieren dass die Masse an vorhandenen Posts diese Meinung gar nicht teilt? Oder wir sehen nur Posts die uns Honig ums Maul schmieren damit wir im Rausch eines positiven Gefühls-Loops immer neuen Content produzieren und auf Likes hoffen?

Was hier durch künstliche Intelligenzen erreicht wird ist, dass durch Auswertung enormer Daten die menschliche Psyche nach Methoden (nach "Zugängen") durchforstet wird die benutzt werden um uns noch länger vor den Monitor / das Display zu binden. An sich eine valide Werbestrategie - nur dass im Falle von AIs und den Ergebnissen die sie erbringen ein neues Level an Undurchsichtigkeit dazu kommt.

Problematisch ist, dass wir nicht einfach nachvollziehen können wie eine künstliche Intelligenz zu ihrem Ergebnis kommt. Das liegt in der Natur ihrer Funktionsweise und ist nicht einfach nur eine schwierige Aufgabe, sondern eher eine fast unmögliche. AIs produzieren erstaunlich gute Ergebnisse wenn sie eine Menge Input und ein zu erreichendes Ziel bekommen aber das bezahlen wir in diesem Fall damit dass wir nicht zwingend verstehen oder kontrollieren können welche Schwachstellen der Psyche ausgenutzt werden. Wir können nur sagen, dass das was uns die neuronalen Netze liefern, wahnsinnig gut funktioniert.

Über genau diesen Themenbereich spricht auch der ehemalige Präsident von Facebook Sean Parker

When Facebook was getting going, I had these people who would come up to me and they would say, 'I'm not on social media.' And I would say, 'OK. You know, you will be.' And then they would say, 'No, no, no. I value my real-life interactions. I value the moment. I value presence. I value intimacy.' And I would say, ... 'We'll get you eventually.'

I don't know if I really understood the consequences of what I was saying, because [of] the unintended consequences of a network when it grows to a billion or 2 billion people and ... it literally changes your relationship with society, with each other ... It probably interferes with productivity in weird ways. God only knows what it's doing to our children's brains.

Auch der frühere Facebook Executive Chamath Palihapitiya sagt im Grunde das gleiche wie Sean Parker

It literally is a point now where I think we have created tools that are ripping apart the social fabric of how society works. That is truly where we are,” he said. “The short-term, dopamine-driven feedback loops that we have created are destroying how society works: no civil discourse, no cooperation, misinformation, mistruth. And it’s not an American problem. This is not about Russian ads. This is a global problem.

Unsere sozialen Interaktionen verändern sich schleichend und leider ist schwer abzusehen welche Folgen das für die Menschheit in der Zukunft haben wird.

Editiert am 08.02.18:

  • Statement und Video von Chamath Palihapitiya hinzugefügt
Kommentare unterstützt von Disqus.

Nächster Beitrag Vorheriger Beitrag