Lit / Zu18

Zu18: Shoshana Zuboff. Das Zeitalter des Überwachungskapitalismus

  • Shoshana Zuboff
  • 2018
  • Das Zeitalter des Überwachungskapitalismus
  • campus
  • The age of surveillance capitalism

Ueberwachungskapitalismus sammelt und privatisiert grenzenlosen Wissens, lässt die organische Reziprozität mit dem Menschen fallen und vernichtet die Individualität durch Leben im Schwarm. Ueber 700 Seiten Vergleich mit Totalitarismus, Behaviorismus etc.

Ueberwachungskapitalismus

  1. neue Marktform, die menschliche Erfahrung als kostenlosen Rohstoff für ihre versteckten kommerziellen Operationen der Extraktion, Vorhersage und des Verkaufs reklamiert
  2. eine parasitäre ökonomische Logik, bei der die Produktion von Gütern und Dienstleistungen einer neuen globalen Architektur zur Verhaltensmodifikation untergeordnet ist
  3. eine aus der Art geschlagene Form des Kapitalismus, die sich durch eine Konzentration von Reichtum, Wissen und Macht auszeichnet, die in der Menschheitsgeschichte beispiellos ist
  4. Fundament und Rahmen einer Ueberwachungsökonomie
  5. so bedeutend für die menschliche Natur im 21. Jh. wie der Industriekapitalismus des 19. und 20. Jhs. für die Natur an sich
  6. der Ursprung einer neuen instrumentären Macht, die Anspruch auf die Herrschaft über die Gesellschaft erhebt und die Marktdemokratie vor bestürzende Herausforderungen stellt
  7. zielt auf eine neue kollektive Ordnung auf der Basis totaler Gewissheit ab
  8. eine Enteignung kritischer Menschenrechte, die am besten als Putsch von oben zu verstehen ist - als Sturz der Volkssouveränität

Einleitung

1. Heimat oder Exil in der digitalen Zukunft

Ueberwachungskapitalismus beansprucht menschliche Erfahrung als Rohstoff für Verhaltensdaten, ein Teil zur Verbessserung von Produktion/Dienstleistungen, der Rest als proprietärer Verhaltensueberschuss für Vorhersageprodukte, die erahnen was ein einzelner jetzt oder in Zukunft tun wird. Diese werden gehandel auf Verhaltensterminkontraktmarkt.

Keine Rede von konstruktiven Reziprozität zwsichen Produzent und Konsument, sondern beispiellose Asymmetrien an Wissen und Macht.

stellt sie die Praktiken des Ueberwachungskapitalismus als unvermeidbar hin, wo sie doch in Wirklichkeit ebenso akribisch kalkulierte wie üppig finanzierte Mittel zu eigennützigem ökonomischem Handeln sind.

Teil I. Die Grundlagen des Ueberwachungskapitalismus

2. Bühne frei für den Ueberwachungskapitalismus

iTunes/iPod revolutionierten 2001 die Musikindustrie, und beendenten den Streit mit illegalen Downloads. Erster grosser Erfolg von personalisiertem Konsum

  • 1. Moderne: Ford: Automobile für den Massenmarkt inkl. entsprechender Löhne,
  • 2. Moderne: Individualisierung. psychologische Souveränität (60er Jahre)
  • neoliberales Biotop (Stagnation Mitte der 70er). Was das ganze so unterträglich macht, ist dass zwar die ökonomische und soziale Ungleichheit zum vorindustriellen feudal Muster zurückgekehrt ist, aber nicht der Mensch.
  • 3. Moderne: Apple startete in dieser Kluft und eine zeitlang schien eine Fusion von Kapitalismus und Digitalem eine neue Richtung zu weisen.

Recht auf Vergessen/Löschen sind kaum durchzusetzen, Datenschutzbedingungen sind eine Farce

Ich habe die Deutung vorgeschlagen, dass der iPod für das Zeitalter des Internets das ist, was der Ford Model T für das Zeitalter der Massenproduktion war. Aber was eine Epoche ausmacht, ist mehr als ihre Technologie. Zum Beispiel waren im Zeitalter der Massenproduktion Maschinen nicht alles. Erstens setzte die Massenproduktion Angestellte und Konsumenten voraus. Menschen bedeuteten etwas. Zweitens war diese Epoche von der allmählichen Entwicklung legislativer, legaler und sozialer Institutionen geprägt, die die sozial förderliche Dynamik des Kapitalismus verstärkten und seine Exzesse bändigten. Diesen Prozess nannte Karl Polanyi die Doppelbewegung.

3. Die Entdeckung des Verhaltensüberschusses

Google als Wegbereiter: PageRankingAlgorithmus und anfänlich verhaltensdaten nur für Verbesserung der Suche, keine anschliessende Transaktion (wie bei iPod für einen Song mit hoher Marge). April 2000, mit implodierender Dotcom Blase drohten Googe Kollaps. ==> Larry Page wollte Werbekunden, die Suche finanzieren lassen, Google würde beste Platzierung selbst errechnen. Bezahlung nach Rangierung der Anzeige. Google kennt Klickrate. NutzerProfile ermöglichen individualisierte Werbung etc.. Nutzerprofil Information werden auch gegen Willen des Nutzers gesammelt. Neues Preismodell: Anzahl Klick auf Link des Kunden,

Grösseneffekt: durch zusätzliche Suchen/Anzeigen mehr Daten für Nutzerprofile und zum trainieren der AI Algorithmen.

Geheimhaltung: vor der Oeffentlichkeit Gebrauch der Nutzerdaten / Analysen / Rechtsaneignung / Werbung etc. verstecken

4. Der Graben um die Burg

Karl Polany. 1944. 3 kritische Erfindungen von Warenfiktionen: Arbeitskraft, Grundbesitz, Geld. Dafür gibt es heute viele Gesetze, nicht so die 4. neue Warenfiktion: die menschliche Erfahrung. Google, Facebook etc, wehren sich gegen jede Regulierung des Verhaltensüberschusses, da sie auf ungeschützte Beute angewiesen sind. Cry-Freedom-Strategie: (neoliberale) Freiheit über alles. Ueber Jahrzehnte wehren sich juristische Publikationen nur gegen unnötige staatlich Kontrollen - die Untersuchung der Monopolistischen Missbräuche der Oekonomie und Netzüberwachung bleiben untervertreten. Unterstützt mit AntiTerrormassnahmen.

4 Arenen um Google vor politische Einmischung und Kritik zu schützen

  1. Nachweis von Möglichkeiten als Lieferant von Wettberwerbsvorteilen im Wahlkampf
  2. Unklarheit der Gre nzen zwischen öffentlichen/privaten Beziehungen / aggressivem Lobbying
  3. Drehtüre für Kader zwischen Google und Regierung Obama
  4. Googles gezielte Einflussnahme auf wissenschaftliche Arbeiten und kulturellen Diskurs

5. Die Ausarbeitung des Ueberwachungskapitalismus: Annexion, Monopolisoierung und Wettbewerb

Googles Grössenvorteile danke Billion Suchanfragen/Jahr, robuste Tracking Cookies... Viele Apps sammeln oder leiten Verhaltensdaten weiter. EnteigunungsZyklus:

  1. Uebergriff: Einfall in ungeschützten Bereich (z.B. Mail scan von gmail) durch Verführungen wie kostenloser Speicherkapazität, neuen Informationen ...
  2. Gewoehnung: Während langwierigen juristischen Prozessieren, entwickelt Google immer neue Features
  3. Anpassung: falls gezwungen oberflächliche, aber taktisch effektive Anpassungen
  4. Neuausrichtung, nur so weit, dass sie den neuen Forderungen zu genügen scheinen

6. Die Annexion: Wissensteilung in der Gesellschaft

Eroberung durch Deklaration, wie schon Kolumbus. Die 6 Deklarationen des Ueberwachungskapitalismus - völlig aus der Luft gegriffen, als Google sie ausrief

  1. wir beanspruchen menschliche Erfahrungen als Rohstoff und können Rechte und Interessen der Betroffenen ignorieren
  2. Recht Erfahrungsdaten in Verhaltensdaten umzuwandeln
  3. Recht auf Besitz aller daraus gewonnen Verhaltensdaten
  4. Recht zu wissen, was diese Daten enthüllen
  5. Recht zu entscheiden, wie und wo dieses Wissen einsetzen
  6. Recht die Regeln zu bestimmen

Emile Durkheim. 1996. ... ist die bedeutsamste Wirkung der Arbeitsteilung nicht, dass sie den Ertrag der geteilten Funktion erhöht, sondern dass sie sie voneinander abhängig macht .... sondern Gesellschaften erst zu ermöglichen

Macht des Ueberwachungskapitalismus über die Wissensteilung beruht auf Problem der beiden Texte

  1. Text: Inhalt des Internets, was wir hinein schreiben und daraus lesen
  2. Text: Schattentext: Ueberschussextraktion aus 1. Text und Aktionen darauf

Datenzentren und Strom ist grösste Ausgabe von Google ==> Tensor Product Processor (TPU) Prozessor auf AI spezialisiert. Konzentration von AI-Talenten bei Google. Trotz besseren Zugang für Infos, wird die Wissensteilung viel dramatischer als vor Gutenberg

Ueberwachungskapitalismus ist zutiefst demokratiefeindlich, ohne dass sich seine Macht auf den Staat gründet (wie historisch üblich)

der Vormarsch des Ueberwachungskapitalismus

7. das Reality-Business

  • 1. Generation von Verhersageprodukten für zielgerichtete Werbung: Extraktionsimperativ
  • 2. Vorhersage Imperativ: Genauigkeit der Vorhersagen

Extraktionsmaterial muss nicht nur gross sein, sondern auch gefächert ==> Internet of Things: Extraktion aus vielen Dingen der realen, nicht nur der virtuellen Welt. Verschleiert als Umgebungsintelligenz, ubiquituous computing, Internet of Things...

  • Prämienstufen für Autoversicherung aufgrund des real gemessenen Fahrverhaltens. Bei nichtbezahlten Prämien, Motor abstellen ...
  • Unvertrag weil das einseitige Vollstreckung und kein gegenseitiger Vertrag mehr ist
  • Unvermeidlichkeitsdoktrin Inevitaqbilismus: Ideologie, dass diese Ueberwachungsgesellschaft durch die technische Entwicklung präDeterminiert ist (wie der Kommunismus bei Mars) - aber natürlich gibt es Alternativen und werden diese technische Entwicklungen gezielt gefördert und durchgesetzt

8. Rendition: Auslieferung und Verdatung unserer Erfahrung

Rendition Umwandlung menschlicher Erfahrung in Verhaltensdaten <=> Menschen überlassen ihre Erfahrungen den Plattformen.

StaubsaugerRoboter und andere Haushaltsgeräte, die alle Daten an die Cloud liefern. dito Körpersensoren. Standortdaten können leicht deAnonymisiert werden.

9. Rendition aus der Tiefe

Personalisierung. Persönliche Assistenten: Hilfe bzw. Ueberwachung. Smart TVs, die alles gesprochene zurücksenden.

Sprachfähige Geräte: brauchen riesigen Trainingssatz an gesprochener Sprache

Emotionserkennung ...

10. Lass sie tanzen

Sensoren können auch Aktoren sein. Drei Schlüsselansätze um UserVerhalten zu steuern

  1. Tuning: unterschwellige/subtile Auslösreize. Nudging
  2. Herding: Kontext ändern (Motor abstellen) um etwas zu erreichen
  3. Konditionierung: (B.F. Skinner) Tuning durch Suggestion

Wahlbeeinflussungen

11. das Recht auf das Futur

Freiheit ist ohne Ungewissheit undenkbar - Ungewissheit ist das Medium, in dem der menschliche Wille sich in Form von Versprechen ausdrückt. Obwohl meist über 3/4 der Amerikaner OnlineWerbung ablehnen, ist sie ein lukrativer Wachstumsmarkt. Gründe:

  1. Beispiellosigkeit, nicht Erkennbarkeit
  2. Deklaration als Invasion
  3. historische Kontext im neoliberalen Zeitgeist
  4. Google schützt seine Operationen aggressiv, durch Nützlichkeit im Wahlprozess und starke Beziehungen zu Staatsvertretern
  5. Enteignungszyklus
  6. Abhängigkeit von kostenlosen Diensten
  7. Eigeninteresse an Resultaten/Werbung durch Google/Facebook etc.
  8. Inklusion: ich brauche Feedback von Facebook etc. für mein Selbstbewusstsein
  9. Identifikation mit den Erfolgen von Google & Co
  10. Autorität: diese Unternehmen Wissen wie die Zukunft zu gestalten ist
  11. sozial Ueberredung
  12. Alternativlosigkeit
  13. Inevitabilismus
  14. menschliche Schwäche als Ideologie
  15. Unwissenheit: wegen einseitiger Wissensteilung
  16. Geschwindigkeit - in nur wenigen Jahren von der Erfindung zur Vorherrschaft

Es gibt zwei Arten von Widerspruch

  1. Gegendeklaration: defensive Massnahmen wie Verschlüsselung zum Schutz der Privatsphäre. Eine Entgegnung versucht, einen Anspruch zu begrenzen oder einen Kompromiss zu erreichen, aber sie vernichtet das umstrittene Faktum nicht. Indem sie sich auf jene Fakten richtet, erhöht sie deren Durchschlagskraft. Verhandlung legitimiert zwangsläufig die andere Position. Deswegen lehnen es viele Regierungen ab, mit Terroristen zu verhandeln
  2. synthetische Deklaration: Damit meine ich eine Deklaration, die die einander entgegengesetzten Fakten der Deklaration und der Gegen-Deklaration synthetisiert. Sie entspringt aus neuen und tieferen Quellen kollektiver Intentionalität und zieht solche zugleich an. Sie macht eine originelle Vision geltend. Wir benötigen neue synthetische Deklarationen zur Definition und Unterstützung anderer Arten des Informationskapitalismus – solche, die Teil der sozialen Ordnung sind, Menschen wertschätzen und demokratische Prinzipien widerspiegeln. Neue synthetische Deklarationen können den Rahmen für eine neue Art der Doppelbewegung liefern, die unserer Zeit angemessen ist.

instrumentäre Macht für eine 3. Moderne

12. zwei Arten von Macht

Operiert der Totalitarismus durch Gewaltmittel, operiert die instrumentäre Macht durch Mittel zur Verhaltensmodifikation.

B.F. Skinner Behaviourismus Meyer. Psychologie wird nur Wissenschaft, wenn sie Menschen als der Andere sieht... Freiheit ist nichts weiter als Unwissenheit über Zufall (a la Quantenmechanik). Durch unauffällige Beobachtung und verstärktendes Lernen soll friedliche Gesellschaft geschaffen werden. Walden two: eine solche Gesellschaft, kritisiert als totalitäre Hölle. Dank der instrumentären Macht des Ueberwachungskapitalismus, scheint Skinners Utopia realisierbar statt ein nebulöser Traum.

13. Big Other und der Aufstieg der instrumentären Macht

  • bitOther das grosse Andere = der Apparat des Ueberwachungskapitalismus, der wahrnehmungsfähig, rechnergestützt und vernetzt das menschliche Verhalten render't, überwacht, berechnet und modifiziert. ein bespielloses Mittel zur Verhaltensmodifikation.
  • radikaleGleichgueltigkeit menschliche Erfahrung wird auf messbares Verhalten reduziert, dessen Sinn völlig gleichgültig bleibt.

Es gibt keinerlei Bruder, weder gross noch klein, nur Organismen unter Organismen, das Andere. Big Other ermöglicht die universelle Verhaltenstechnologie, die gemässs B.F. Skinner usw. ihre Ziele unbemerkt und beharrlich verfolgen muss.

Instrumentäre Macht ist, wie Goethes Faust, moralisch agnostisch, ihr einziger moralischer Imperativ ist das dünne Destilat einer vagen utopischen Sicht.

Hannah Arendt: das Beunruhigende an den modernen Theorien des Behaviorismus ist nicht, dass sie nicht stimmen, sondern dass sie im Gegenteil sich als nur zu richtig erweisen könnten, dass sie vielleicht nur in theoretisch verabsolutierender Form beschreiben, was in der modernen Gesellschaft wirklich vorgeht. Es ist durchaus denkbar, dass die Neuzeit, die mit einer so unerhörten und unerhört vielversprechenden Aktvivierung aller menschlichen Vermögen und Tätigkeiten begonnen hat, schliesslich in der tödlichesten, sterilsten Passivität enden wird, die die Geschichte je gekannt hat.

Vertrauen in Mitmenschen und Staat ging während den Jahrzehnten des Neoliberalismus und Ueberwachungskapitalismus markant zurück. Ersatz der sozialen Beziehungen durch Maschinen, als Ersatz der Gesellschaft durch Gewissheit.

Instrumentäre Macht zur Terrorbekämpfung, für Polizei und in China zur Totalüberwachung.

Wir stehen am Scheide weg

  1. synthetische Erklärung zugunsten einer Dritten Moderne durch Stärkung demokratischer Institutionen und kreativen Aufbaus einer Doppelbewegung für unsere Zeit
  2. instrumentäre Macht mit gewaltlos geschaffener Gewisshiet

14. Eine Utopie der Gewissheit

Durch Vernetzung von Maschinen/Fabriken bekommen wir Konfluenz der Maschinen. Das wird durch Ueberwachung der Menschen auf Konfluenz der Gesellschaft erweitert

15. das instrumentäre Kollektiv

Gottesperspektive: die Beobachtung von aussen, zuerst für Tiere (Behaviorismus) dann für die ganze Gesellschaft. Die Messgeräte für die sozialen Beziehung fehlten sind heute alltäglich. Pentlands Sozialphysik: Gesellschaft zerlegen in Milliarden kleiner Transaktionen zwischen Menschen und mit der Gottespoerspektive verstehen, und ihre Probleme reparieren.

  1. Verhalten zum höheren Wohl: Gesellschaft steuern um Probleme im Gesundheitswesen, Transport usw. zu lösen - aber wer bestimmt was gut ist?
  2. Pläne statt Politik: rechnerische Wahrheit, Gewissheit des Maschinenschwarms soll Politik ersetzen ... Dieses mathematische Konzept des Ideenflusses erlaubt es uns, soziale netzwerke zu tunen, um besserer Entscheidungen und besserer Resultate willen...
  3. Sozialer Druck statt Harmonie: Skinner's Verstärkung - konzentrieren wir uns eher darauf die Beziehungen zwischen Menschen zu verändern, .... Veränderung durch sozialen Druck
  4. Angewandte Utopistik: Nur die totale Rendition allen menschlichen Verhaltens und die totale Kontrolle darüber können der hypervernetzten Welt dienlich sein
  5. Der Tod der Individualität. Individualität ist nur Sand im Getriebe für Zusammenarbeit, Harmonie und Integration

Der Instrumentarismus macht aus der Gesellschaft einen Schwarm, den es um garantierter Ergebnisse willen zu überwachen und zu tunen gilt

16. vom Leben im Schwarm

Tribut der sozialen Medien: z.B. schon nach kurzer Absenz heftige Entzugserscheinungen.Ständiges Ausrichten auf Likes und Shares. Für Jugendliche ist der Sog der sozial Medien am grössten, wegen ihrem Drang nach Anerkennung durch die Gruppe, Akzeptanz, Zugehörigkeit und Inklusion.

Die technologische Abhängigkeit wurde schon von der Spielautomatenindustrie entwickelt - Facebook macht da weiter mit grösserem Einsatz.

Als Kind/Jugendlich ist man seine Beziehungen. Erst nach grundlegender Umgestaltung wie wir unsere Erfahrung mit Sinn erfüllen / zu Autonomie, hat man Beziehungen. Das Kultivieren innerer Ressourcen ist damit eine kritische Voraussetzung für Intimität und Beziehung. drei Aspekte:

  1. Verfall der traditionellen Gesellschaft und soziale Komplexität beschleunigen Individualisierung
  2. digitales Verbundensein ist notwendige soziale Teilhabe, auch wegen institutioneller Unfähigkeit, mit Individuen umzugehen.
  3. Ueberwachungskapitalismus dominiert digitales Verbundensein - ewiges Verlangen nach sozialer Verbundenheit drückt sich heute als vernetzte Oeffentlichkeit aus

v.a. Facebook steuert mit wissenschaftlicher Methodik auf die totale Fusion hin und (mehr als) erüllt die Shaffer's 5 Kriterien für zwanghafte Sucht.

Früher lebten Menschen sehr lokal und verglichen sich mit ähnlichen Menschen - das beihnaltet keine grosses psychologische Risiko. Mit dem Fernsehen hat die Intensität und die Negativität des sozialen Vergleichs drastische zugenommen (und die Anzahl der schweren Diebstähle etc..). Mit den sozialen Medienn wird das nochmals gesteigert - weil sie aktive Selbstdarstellung verlangen.FOMO=FearOfMissingOut = nagende Angst, Pears können mehr Wissen als ich.

negativeres Selbstbild, mehr Neid weil man sich mit (geschönten) Stars vergleicht. Ueberbewertung des Feedback aus sozialen Netzen, bis zum Lebensinhalt. Leben in Schwarm begünstigt, jene die mehr auf äussere Reize reagieren, als auf eigene Gedanken, Gefühle, Werte etc. Aeussere. Erscheinung wird noch höher bewertet. Messbarer Zusammenhang zwischen Anzahl Likes und psychischer Gesundheit

Also Facebook nützt die menschliche Empathie aus und ist ein grossangelegtes Experiment zur Verhaltensmodifikation ==> ein neuer Kollektivismus im Besitz des Ueberwachungskapitals

17. das Recht auf Freistatt

Recht auf Freistatt ist so alt wie Menschheitsgeschichte: Tempel, Kirchen ... Neuere Form: unveräusserliche Menschenrechte. Psychologische Implikation: wer nichts zu verstecken hat, ist auch nichts. Privatsphäre als einen Prozess der Grenzkontrolle zwischen sich und den anderen. ==> gefährdet in digitaler Aera.

Ist DSGVO (EU-Datenschutz Mai18) ein Anfang auf dieses Recht. Recht auf Dateneinsicht ist schon für sichtbare Daten komplex und unübersichtlich, für Schattentext aber fast unmöglich.

Weil es keine synthetische Deklaration gibt, gibt es eine Vielzahl von AntiUeberwachungsTools

Schlussbetrachtung

18. ein Putsch von oben

Ueberwachungskapitalismus unterscheidet sich auf 3 Arten vom Markkapitalismus

  1. Privileg ungezügelter Freiheitund grenzenlosen Wissens. Grundlage des Kapitalismus: Markt entzieht sich unserem Wissen - wegen diesem Mangel brauchen Akteure Freiheit (Smith's unsichtbare Hand) ==> Ueberwachungskapitalismus verletzt Voraussetzungen des Marktkapitalismus und vertuscht das
  2. lässt die organische Reziprozität mit dem Menschen fallen. Kunden sind Firmen und nicht Einzelmenschen, von denen werden v.a. Erfahrungsdaten extrahiert. die grossen Digitalkonzerne beschäftigen verhältnismässig wenig Leute. Auf die Menschen als Kunden und Arbeiter beruhte aber die Beziehung von Marktkapitalismus und Demokratie.
  3. Leben im Schwarm verrät eine kollektivistische Sicht der Gesellschaft - die auf radikaler Indifferenz und BigOther beruht

radikale Indifferenz: Content wird ausschliesslich nach Volumen, Diversität und Tiefe des Ueberschusses beurteilt - gemessen werden Likes etc.. Die menschliche Bedeutung wird ignoriert.

Fake News gehören schon lange zu Facebook und Google - zwangsläufige Folge der radikalen Indifferenz - und für das Geschäft von Kunden.

... einer Gesellschaft entgegen, in der Kapitalismus nicht länger als Mittel inklusiver polititscher und ökonomischer Institutionen funktioniert. Stattdessen müssen wir den Ueberwachungskapitalismus als das erkennen, was er ist: eine zutierfst antidemokratische soziale Kraft.

.. in der er uns die sozialen Beziehungen einer vormodernen absolutistischen Autorität aufoktroyiert. Es handelt sich hier um eine Form der Tyrannei, die sich vom Menschen nährt, aber nicht fom Menschen ist. In einem surrealen Paradoxon feiert man diesen Putsch als "Personalisierung", obwohl er alles Persönliche an uns besudelt, schändet aufhebt und verdrängt.

Ueberwachungskapitalismus lässt sich am besten als coup d'etat von oben, oder besser coup de gens