Die Auflösung des freien Willens durch die Herrschaft der Algorithmen

Screenshot youtube.com

Die moderne Gesellschaft steht an einem Wendepunkt, an dem die jahrhundertealten Ideale der Aufklärung und der persönlichen Freiheit durch technologische Entwicklungen fundamental herausgefordert werden. Während der Mensch traditionell als autonomes Wesen mit einem unveräußerlichen Recht auf Selbstbestimmung galt, zeichnen sich heute neue Machtstrukturen ab, die auf der Auswertung riesiger Datenmengen beruhen. Diese Verschiebung betrifft nicht nur wirtschaftliche oder politische Systeme, sondern dringt tief in das innerste Wesen des Menschen ein und stellt die Frage, ob die Vorstellung vom eigenständigen Individuum in einer vernetzten Welt überhaupt noch Bestand haben kann.

Die fundamentale Bedrohung des liberalen Menschenbildes

Zu Beginn dieser Betrachtung müssen wir die praktischen Gefahren benennen, die dem liberalen Gesellschaftsmodell drohen. Es besteht die Möglichkeit, dass Menschen in Zukunft militärisch und wirtschaftlich überflüssig werden. Dies ist natürlich lediglich eine denkbare Entwicklung und keine unabwendbare Vorhersage. Technische Hürden oder politischer Widerstand könnten das Vordringen rechnergesteuerter Systeme auf dem Arbeitsmarkt verlangsamen. Da ein Großteil des menschlichen Geistes noch immer unerforschtes Gebiet darstellt, wissen wir nicht genau, welche verborgenen Fähigkeiten Menschen noch entdecken und welche neuen Tätigkeitsfelder sie erschaffen könnten, um entstandene Verluste auszugleichen.

Die Notwendigkeit individueller Autonomie

Allerdings wird dies vermutlich nicht ausreichen, um den Liberalismus zu retten. Denn dieser glaubt nicht nur an den Wert der Menschen, sondern vor allem an den Individualismus. Die zweite große Gefahr für dieses System besteht nun genau darin, dass es in Zukunft zwar weiterhin Menschen, aber keine eigenständigen Individuen mehr benötigen wird. Menschen werden weiterhin Musik komponieren, Physik unterrichten und Geld anlegen, doch das System wird diese Menschen besser verstehen als sie sich selbst und die wichtigsten Entscheidungen für sie treffen. Damit wird das System den Individuen ihre Autorität und ihre Freiheit entziehen.

Die drei Grundpfeiler des individuellen Selbstverständnisses

Der liberale Glaube an den Individualismus gründet auf drei wichtigen Annahmen, die wir bereits erörtert haben. Erstens betrachte ich mich als ein Individuum, das heißt, ich besitze einen einzigen Wesenskern, der sich nicht in einzelne Bestandteile oder Unterbereiche aufspalten lässt. Zwar ist dieser innere Kern in viele äußere Schichten verpackt, aber wenn ich mich darum bemühe, diese äußeren Hüllen abzuziehen, werde ich tief in mir drinnen eine klare und eindeutige innere Stimme finden, die mein authentisches Ich darstellt. Zweitens geht diese Denkrichtung davon aus, dass mein authentisches Ich vollkommen frei handelt. Drittens folgt aus den ersten beiden Annahmen, dass ich Dinge über mich selbst weiß, die niemand sonst herausfinden kann.

Der exklusive Zugang zum eigenen Inneren

Denn nur ich habe Zugang zu meinem inneren Raum der Freiheit, und nur ich kann das Flüstern meines authentischen Ichs hören. Aus diesem Grund gesteht der Liberalismus dem Einzelnen so viel Macht zu. Ich kann niemand anderem die Aufgabe anvertrauen, Entscheidungen für mich zu treffen, denn niemand anderer weiß, wer ich wirklich bin, wie ich mich fühle und was ich will. Deshalb weiß der Wähler, was am besten ist, deshalb hat der Käufer immer recht, und deshalb liegt Schönheit im Auge des Betrachters.

Die biologische Infragestellung der menschlichen Autonomie

Nun stellen die Biowissenschaften all diese Annahmen grundlegend in Frage. Ihnen zufolge verhält es sich nämlich so, dass Organismen im Grunde Algorithmen sind. Menschen sind demnach keine unteilbaren Individuen, sondern sie sind Ansammlungen vieler verschiedener Algorithmen, denen es an einer einzigen inneren Stimme oder einem einzigen Selbst mangelt. Die Algorithmen, aus denen ein Mensch besteht, sind nicht frei. Sie werden beeinflusst von Erbanlagen und Umweltzwängen und treffen Entscheidungen entweder zwangsläufig oder zufällig, niemals aber aus freiem Willen.

Die Überlegenheit externer Rechensysteme

Daraus folgt, dass ein externer Algorithmus theoretisch viel besser über mich Bescheid wissen könnte als ich selbst. Ein Algorithmus, der sämtliche Systeme überwacht, aus denen mein Körper und mein Gehirn bestehen, könnte genau wissen, wer ich bin, wie ich mich fühle und was ich will. Einmal entwickelt, könnte ein solcher Algorithmus den Wähler, den Käufer und den Betrachter ersetzen. Dann wird der Algorithmus wissen, was am besten ist, der Algorithmus wird immer recht haben, und Schönheit wird in den Berechnungen des Algorithmus liegen.

Der historische Kontext der individuellen Freiheit

Im neunzehnten und zwanzigsten Jahrhundert hatte der Glaube an den Individualismus gleichwohl einen praktischen Sinn, weil es keine externen Algorithmen gab, die mich wirklich effektiv überwachen konnten. Staaten und Märkte hätten sich vermutlich genau das gewünscht, aber es fehlte ihnen an der entsprechenden Technologie. Die Geheimdienste jener Zeit hatten nur eine vage Ahnung von meiner Biochemie, meinem Erbgut und meinem Gehirn. Selbst wenn Agenten jedes meiner Telefongespräche überwachten und jede zufällige Begegnung auf der Straße festhielten, verfügten sie nicht über die Rechenfähigkeiten, um all diese Daten zu analysieren. Unter den technischen Voraussetzungen des zwanzigsten Jahrhunderts konnten Liberale folglich völlig zu Recht behaupten, niemand kenne mich besser als ich mich selbst.

Die technologische Wende im einundzwanzigsten Jahrhundert

Die Menschen hatten somit allen Grund, sich als autonomes System zu betrachten und ihrer eigenen inneren Stimme und nicht den Befehlen einer staatlichen Überwachung zu folgen. Nun könnte die Technologie des einundzwanzigsten Jahrhunderts allerdings dafür sorgen, dass externe Algorithmen die Menschheit durchdringen und viel besser über mich Bescheid wissen als ich selbst. Sobald das der Fall ist, wird der Glaube an den Individualismus zerbrechen, und die Macht wird von den einzelnen Menschen auf vernetzte Rechensysteme übergehen. Die Menschen werden sich nicht mehr als autonome Wesen betrachten, die ihr Leben entsprechend den eigenen Wünschen führen. Stattdessen werden sie sich viel eher als eine Ansammlung biochemischer Mechanismen sehen, die von einem Netzwerk elektronischer Algorithmen ständig überwacht und gelenkt werden.

Die schrittweise Übertragung von Entscheidungsmacht

Damit es so weit kommt, bedarf es keines externen Algorithmus, der mich durch und durch kennt und nie irgendwelche Fehler macht. Es reicht völlig aus, wenn dieser externe Algorithmus mich besser kennt als ich mich selbst und weniger Fehler begeht als ich. Dann nämlich wird es tatsächlich sinnvoll sein, diesem Algorithmus immer mehr meiner Beschlüsse und Lebensentscheidungen zu übertragen. Was die Medizin betrifft, so haben wir diese Linie bereits überschritten. Im Krankenhaus sind wir keine Individuen mehr.

Die Übernahme medizinischer Entscheidungen durch Rechensysteme

Wer, glauben Sie, trifft während Ihres Lebens die wichtigsten Entscheidungen über Ihren Körper und über Ihre Gesundheit? Die Wahrscheinlichkeit ist hoch, dass viele dieser Entscheidungen von Computerprogrammen getroffen werden. Und das ist nicht zwangsläufig eine schlechte Nachricht. Zuckerkrankheit Leidende tragen bereits Sensoren, die mehrmals am Tag ihren Blutzuckerspiegel automatisch messen und sie alarmieren, wenn er eine gefährliche Schwelle überschreitet. Im Jahr 2014 führten Forscher an der Yale-Universität den ersten erfolgreichen Versuch mit einer künstlichen Bauchspeicheldrüse durch, die von einem intelligenten Mobiltelefon gesteuert wird.

Die Automatisierung der Gesundheitsversorgung

An diesem Experiment nahmen 52 Zuckerkrankheit Leidende teil. Jeder Patient bekam einen winzigen Sensor und eine winzige Pumpe in seinen Magen eingepflanzt. Die Pumpe war mit kleinen Röhrchen mit Insulin und Glukagon verbunden, zwei Hormonen, die zusammen den Blutzuckerspiegel regulieren. Der Sensor maß diesen Spiegel ständig und übermittelte die Daten ans Mobiltelefon. Das Mobiltelefon verfügte über ein Anwendungsprogramm, das diese Informationen analysierte und, wenn nötig, Befehle an die Pumpe schickte, die eine bestimmte Menge entweder an Insulin oder Glukagon spritzte, ohne dass dabei irgendein Mensch beteiligt war.

Die allgegenwärtige Überwachung der körperlichen Funktionen

Viele andere Menschen, die keineswegs unter schweren Krankheiten leiden, nutzen tragbare Sensoren und Computer, um ihre Gesundheit und ihre Aktivitäten zu überwachen. Die Apparate, die in intelligenten Mobiltelefonen und Armbanduhren genauso integriert werden können wie in Armbänder und Unterwäsche, zeichnen verschiedene körperliche Datenwerte wie etwa den Blutdruck auf. Diese Daten werden anschließend in ausgefeilte Computerprogramme eingespeist, die Ihnen Ratschläge erteilen, wie Sie Ihre Ernährung und Alltagsroutinen so verändern, dass Sie gesünder, länger und produktiver leben. Ein großes Technologieunternehmen entwickelt zusammen mit einem Pharmariesen eine Kontaktlinse, die alle paar Sekunden über die Tränenflüssigkeit den Blutzuckerspiegel überprüft. Ein anderes Unternehmen verkauft intelligente Windeln, die die Ausscheidungen des Säuglings analysieren und daraus auf den gesundheitlichen Zustand des Kindes schließen.

Die Ideologie der vermessenen Selbstwahrnehmung

Ein weiteres Unternehmen hat im November 2014 ein Fitnessarmband vorgestellt, das unter anderem den Puls, die Schlafqualität und die Zahl der Schritte, die man täglich tut, überwacht. Ein Anwendungsprogramm namens Frist geht noch einen Schritt weiter und informiert Sie darüber, wie viele Jahre Sie noch zu leben haben, wenn Sie Ihre aktuellen Gewohnheiten beibehalten. Manche Menschen nutzen diese Anwendungsprogramme, ohne allzu viel darüber nachzudenken, doch für andere sind sie bereits zu einer Ideologie, wenn nicht gar zu einer Religion geworden. Die Bewegung des vermessenen Selbst behauptet, das Ich bestehe aus nichts weiter als aus mathematischen Mustern. Diese Muster sind so komplex, dass der menschliche Geist keinerlei Chance hat, sie zu verstehen.

Die Vermessung intimster menschlicher Erfahrungen

Will man also dem alten Leitspruch gehorchen und sich selbst erkennen, sollte man seine Zeit nicht mit Philosophie, Meditation oder Psychoanalyse vergeuden. Stattdessen sollte man systematisch körperliche Daten sammeln und diese von Algorithmen analysieren lassen, damit diese Ihnen sagen, wer Sie sind und was Sie tun sollten. Das Motto dieser Bewegung lautet schlicht: Selbsterkenntnis durch Zahlen. Im Jahr 2000 eroberte der israelische Sänger Shlomi Shavan die nationalen Hitparaden mit seinem Lied über einen Mann, der vom früheren Partner seiner Freundin geradezu besessen ist. Er will unbedingt wissen, wer besser im Bett ist, er oder der frühere Partner.

Die Zersplitterung der persönlichen Entscheidungsfindung

Die Freundin antwortet ausweichend und erklärt, mit jedem von ihnen sei es anders. Damit gibt sich der Mann nicht zufrieden und verlangt nach klaren Aussagen. Für genau solche Typen wie diesen verkauft ein Unternehmen biometrische Armbänder, die man während des Geschlechtsverkehrs tragen kann. Dieses Armband sammelt Daten wie etwa Puls, Schweißproduktion, Dauer des Geschlechtsverkehrs, Dauer des Höhepunktes und Zahl der dabei verbrauchten Kalorien. Diese Daten werden in einen Computer eingespeist, der die Informationen analysiert und Ihre Leistung anhand präziser Zahlen einstuft.

Der Verlust der Autonomie im hohen Alter

Auf diese Weise gehören vorgetäuschte Höhepunkte und nachträgliche Fragen nach dem Befinden der Vergangenheit an. Menschen, die sich unablässig über solche Apparate vermittelt erleben, betrachten sich vermutlich schon bald selbst als eine Ansammlung biochemischer Systeme und weniger als Individuen. Ihre Entscheidungen werden zunehmend die widerstreitenden Forderungen der verschiedenen Systeme widerspiegeln. Stellen Sie sich vor, Sie haben zwei Stunden pro Woche zur freien Verfügung und sind sich unsicher, ob Sie in dieser Zeit Schach oder Tennis spielen sollen. Ein guter Freund fragt vielleicht, was Ihr Herz Ihnen dazu sagt.

Die Auflösung des Selbst durch genetische Daten

Sie werden antworten, dass was Ihr Herz angeht, Tennis ganz offenkundig die bessere Wahl ist, da es überdies besser für Ihren Cholesterinspiegel und für Ihren Blutdruck ist. Aber Ihre Kernspintomographie-Untersuchungen sagen, dass Sie Ihren linken vorderen Stirnlappen stärken sollen. In Ihrer Familie kommt Gedächtnisschwund recht häufig vor, und Ihr Onkel hatte ihn schon in recht frühem Alter. Jüngste Studien vermuten, dass eine Partie Schach pro Woche den Beginn des Gedächtnisschwundes hinauszögern kann. In den geriatrischen Abteilungen von Krankenhäusern findet man bereits viel extremere Beispiele externer Steuerung.

Ein prägnantes Beispiel genetisch gesteuerter Entscheidungen

Der Humanismus träumt vom Alter als einer Zeit der Weisheit und des gesteigerten Bewusstseins. Der ideale alte Mensch mag unter körperlichen Wehwehchen und Schwächen leiden, aber sein Geist ist schnell und scharf, und er kann auf acht Jahrzehnte Erfahrung zurückgreifen. Er lässt sich nichts vormachen und hat für die Enkel und andere Besucher immer einen guten Ratschlag parat. Nun entsprechen 80-Jährige im einundzwanzigsten Jahrhundert nicht immer so ganz dieser Vorstellung. Dank unseres wachsenden Wissens über die menschliche Biologie hält uns die Medizin lange genug am Leben, bis unser Geist und unser authentisches Ich verfallen und sich auflösen.

Die Tragweite präventiver medizinischer Eingriffe

Allzu oft ist nur noch eine Ansammlung funktionsgestörter biologischer Systeme übrig, die von einer ganzen Armada an Monitoren, Computern und Pumpen am Laufen gehalten werden. Angesichts der Tatsache, dass Gentechnologien zunehmend ins Alltagsleben integriert werden und die Menschen immer engere Beziehungen zu ihrem Erbgut entwickeln, könnte das eigene Selbst auf einer tiefer liegenden Ebene noch weiter verschwimmen. Die authentische innere Stimme könnte sich in einen lärmenden Haufen von Erbanlagen auflösen. Wenn ich in irgendwelchen Zwickmühlen stecke und vor schwierigen Entscheidungen stehe, könnte ich fortan nicht mehr nach meiner inneren Stimme suchen. Stattdessen könnte ich mein inneres Genparlament befragen.

Der Vorrang der Daten vor den menschlichen Gefühlen

Diese Entwicklung verschiebt die Grundlage menschlicher Entscheidungen von gefühlten Bedürfnissen hin zu statistischen Wahrscheinlichkeiten. Am 14. Mai 2013 veröffentlichte die Schauspielerin Angelina Jolie in einer großen amerikanischen Zeitung einen Artikel über ihre Entscheidung, sich beide Brüste entfernen zu lassen. Jolie lebte schon seit Jahren unter der ständigen Bedrohung durch Brustkrebs, weil sowohl ihre Mutter als auch ihre Großmutter in relativ jungen Jahren daran gestorben waren. Jolie selbst ließ einen Gentest bei sich durchführen, der belegte, dass sie eine gefährliche Veränderung der Erbanlage in sich trug. Jüngsten statistischen Untersuchungen zur Folge erkranken Frauen, die diese Veränderung aufweisen, mit einer Wahrscheinlichkeit von 87 Prozent an Brustkrebs.

Die hypothetische Manipulation durch genetische Veranlagung

Obwohl Jolie damals noch keinen Krebs hatte, entschied sie sich, der gefürchteten Krankheit zuvorzukommen und sich beide Brüste amputieren zu lassen. In dem Artikel erklärte Jolie, sie habe sich dazu entschlossen, diese Geschichte nicht für sich zu behalten. Es gebe viele Frauen, die nicht wissen, dass sie womöglich im Schatten des Krebses leben. Ihre Hoffnung sei, dass auch sie sich gentechnisch untersuchen lassen und wissen, dass sie starke Optionen haben. Die Entscheidung, ob man sich einer Brustamputation unterzieht, ist ausgesprochen schwierig und kann potenziell tödliche Risiken bergen.

Die unvermeidliche Delegation an medizinische Systeme

Abgesehen von den unangenehmen Begleiterscheinungen, Risiken und finanziellen Kosten der Operation sowie der Folgebehandlungen, kann die Entscheidung weitreichende Auswirkungen auf die eigene Gesundheit haben. Sie beeinflusst das eigene Körperbild, das emotionale Wohlbefinden und die zwischenmenschlichen Beziehungen. Die Entscheidung der Schauspielerin und ihr Mut, sie öffentlich zu machen, sorgte für große Aufregung und brachte ihr international Zustimmung und Bewunderung ein. Insbesondere hofften viele, die öffentliche Aufmerksamkeit werde das Bewusstsein für die Genmedizin und ihren potenziellen Nutzen steigern. Historisch betrachtet, ist es interessant, welch wichtige Rolle Algorithmen in diesem Fall spielten.

Die ironische Wendung einer filmischen Zukunftsvision

Als Jolie eine so wichtige Entscheidung über ihr Leben fällen musste, stieg sie nicht auf einen Berg, um von dort aus in die Ferne zu blicken. Sie schaute nicht zu, wie die Sonne im Meer versank, und sie versuchte nicht, mit ihren innersten Gefühlen in Verbindung zu treten. Stattdessen hörte sie auf ihre Erbanlagen, deren Stimme sich nicht in Gefühlen, sondern in Zahlen manifestierte. Jolie verspürte keinen Schmerz oder irgendwelches Unbehagen. Ihre Gefühle sagten ihr, sie solle sich entspannen, da alles völlig in Ordnung sei.

Der freiwillige Verzicht auf die Privatsphäre

Doch die Computerprogramme, deren sich ihre Ärzte bedienten, erzählten eine andere Geschichte. Sie warnten davor, dass in ihrer Erbsubstanz eine Zeitbombe ticke und sie sofort etwas dagegen unternehmen müsse. Natürlich spielten auch die Emotionen und die einzigartige Persönlichkeit der Schauspielerin eine wichtige Rolle. Hätte eine andere Frau mit einer anderen Persönlichkeit bemerkt, dass sie die gleiche Genveränderung in sich trägt, hätte sie sich möglicherweise gegen eine Brustamputation entschieden. Was aber, wenn diese andere Frau bemerkt hätte, dass sie nicht nur die gefährliche Genveränderung in ihren Erbanlagen trägt, sondern auch noch eine andere Veränderung, die eine Gehirnregion beeinträchtigt.

Die Trägheit traditioneller Gesundheitssysteme

Diese Region wäre für die Bewertung von Wahrscheinlichkeiten verantwortlich, was dazu führt, dass Menschen Gefahren unterschätzen. Was, wenn ein Statistiker dieser Frau erklärt hätte, dass ihre Mutter, ihre Großmutter und mehrere andere Verwandte allesamt jung gestorben sind. Der Grund dafür wäre, dass sie verschiedene Gesundheitsrisiken unterschätzt und eben keine Vorsorgemaßnahmen ergriffen haben. Auch Sie werden aller Wahrscheinlichkeit nach wichtige Entscheidungen zu Ihrer Gesundheit auf die gleiche Weise treffen wie die genannte Schauspielerin. Sie werden einen Gentest, einen Bluttest oder eine Kernspintomographie-Untersuchung machen lassen.

Die rasante Erkennung von Krankheitswellen durch Datenanalyse

Ein Algorithmus wird Ihre Ergebnisse auf der Grundlage riesiger statistischer Datenbanken analysieren. Sie werden dann die Empfehlung des Algorithmus beherzigen. Das ist kein apokalyptisches Szenario. Die Algorithmen werden nicht aufbegehren und uns versklaven. Vielmehr werden sie Entscheidungen für uns so gut treffen, dass wir verrückt wären, ihrem Rat nicht zu folgen.

Die Abwägung zwischen Datenschutz und öffentlicher Sicherheit

Ihre erste große Rolle hatte die Schauspielerin 1993 in dem Zukunftsfilm über kybernetische Organismen. Sie spielte darin eine Figur, die im Jahr 2074 von einem Robotik-Unternehmen zum Zwecke der Unternehmensspionage und für Mordanschläge entwickelt wurde. Diese Figur ist mit menschlichen Emotionen programmiert, damit sie sich bei ihren Missionen besser in menschliche Gesellschaften einfügt. Als die Figur merkt, dass das Unternehmen sie nicht nur kontrolliert, sondern ihr auch eine lediglich begrenzte Lebenszeit zugesteht, flieht sie. Sie kämpft fortan um ihr Leben und ihre Freiheit.

Die praktische Umsetzung algorithmischer Gesundheitsüberwachung

Dieser Film ist eine liberale Fantasie über ein Individuum, das gegen globale Unternehmenskraken für Freiheit und Privatheit kämpft. In ihrem realen Leben wollte die Schauspielerin Privatheit und Autonomie lieber ihrer Gesundheit opfern. Ein ganz ähnlicher Wunsch, die menschliche Gesundheit zu verbessern, dürfte dazu führen, dass die meisten von uns bereitwillig die Grenzen einreißen, die unsere Privatsphäre schützen. Wir werden staatlichen Bürokratien sowie multinationalen Konzernen Zugang zu den hintersten Winkeln unseres Lebens gewähren. Wenn wir beispielsweise einem großen Technologieunternehmen erlauben, unsere elektronischen Nachrichten zu lesen und unsere Aktivitäten zu verfolgen, wäre es möglich, dass dieses uns auf bevorstehende Seuchen aufmerksam macht.

Die Schaffung umfassender Gesundheitsdatenbanken

Dies könnte geschehen, noch bevor sie von den traditionellen Gesundheitsbehörden bemerkt werden. Wie weiß der nationale Gesundheitsdienst in Großbritannien, dass in London eine Grippeepidemie ausgebrochen ist? Indem er die Berichte Tausender Ärzte aus Hunderten von Kliniken analysiert. Wie kommen all diese Ärzte an ihre Informationen? Nun, wenn eine Bürgerin eines Morgens aufwacht und sich nicht ganz auf der Höhe fühlt, rennt sie nicht sofort zum Arzt.

Der wachsende Markt für genetische Analysen

Sie wartet ein paar Stunden, vielleicht auch einen Tag oder zwei und hofft, dass eine schöne Tasse Tee mit Honig reicht. Wenn es nicht besser wird, vereinbart sie einen Termin bei ihrem Arzt, sucht die Praxis auf und beschreibt ihre Symptome. Der Arzt gibt die Daten in den Computer ein, und irgendjemand beim nationalen Gesundheitsdienst analysiert diese Daten dann hoffentlich zusammen mit den Berichten, die von Tausenden von Ärzten eintreffen. Erst dann kommt man zu dem Schluss, dass eine Grippewelle im Anmarsch ist, was alles ziemlich lange dauert. Ein großes Technologieunternehmen könnte das binnen weniger Minuten schaffen.

Der Ablauf und die geopolitischen Folgen genetischer Tests

Dazu muss es lediglich die Wörter überwachen, die Menschen in London in ihre elektronischen Nachrichten oder in die Suchmaschine eingeben. Diese Wörter werden mit einer Datenbank von Krankheitssymptomen abgeglichen. Nehmen wir an, an einem ganz gewöhnlichen Tag tauchen die Wörter Kopfschmerzen, Fieber, Übelkeit und Schnupfen durchschnittlich 100.000 Mal in Londoner Nachrichten und Suchanfragen auf. Wenn der Algorithmus des Unternehmens aber heute bemerkt, dass sie 300.000 Mal auftauchen, haben wir eine Grippewelle. Man muss nicht warten, bis die Bürgerin zum Arzt geht.

Die Entstehung eines allwissenden Gesundheitssystems

Schon am ersten Morgen, an dem sie mit einem gewissen Unwohlsein aufwachte, und noch bevor sie zur Arbeit ging, hat sie einer Kollegin eine Nachricht geschrieben, in der stand, dass sie Kopfschmerzen habe, aber komme. Mehr braucht das Unternehmen nicht. Doch damit das Technologieunternehmen sein Zauberwerk verrichten kann, muss die Bürgerin dem Unternehmen nicht nur gestatten, ihre Nachrichten zu lesen. Sie muss auch erlauben, dass diese Informationen an die Gesundheitsbehörden weitergegeben werden. Wenn die Schauspielerin bereit war, ihre Privatsphäre zu opfern, um das Bewusstsein für Brustkrebs zu steigern, warum sollte dann die Bürgerin nicht ein ähnliches Opfer bringen.

Das Ende der menschlichen Selbsttäuschung

Ein solches Opfer wäre notwendig, um Krankheitswellen wirksam zu bekämpfen. Das ist keine bloß theoretische Vorstellung. Im Jahr 2008 startete ein großes Technologieunternehmen tatsächlich einen Dienst, der Grippewellen aufspürt, indem er die Suchanfragen im weltweiten Netz überwacht. Dieser Dienst ist noch in der Entwicklung. Aufgrund von Datenschutzbestimmungen sammelt er lediglich Suchbegriffe und liest angeblich keine privaten elektronischen Nachrichten.

Die algorithmische Steuerung des privaten Lebens

Trotzdem ist er bereits in der Lage, 10 Tage vor traditionellen Gesundheitsdiensten einen Grippealarm auszulösen. Ein noch ambitionierteres Projekt trägt den Namen Grundlagenstudie zur menschlichen Gesundheit. Dabei will das Unternehmen eine Riesendatenbank zur menschlichen Gesundheit aufbauen und das perfekte Gesundheitsprofil erstellen. Damit wird es, so hofft man, möglich, auch die kleinsten Abweichungen von der Grundlage zu erkennen. Dadurch kann man Menschen vor drohenden Gesundheitsproblemen wie etwa Krebs warnen, wenn man diese noch im Anfangsstadium bekämpfen kann.

Die präzise Vorhersage menschlicher Beziehungen

Diese Studie geht mit einer ganzen Produktpalette einher, die in am Körper getragene Sensoren wie Kleidungsstücke, Armbänder, Schuhe und Brillen integriert wird. Diese Geräte sammeln einen unablässigen Strom biometrischer Daten. Dahinter steht die Vorstellung, dass diese Produkte die Grundlagenstudie mit den nötigen Daten versorgen. Unternehmen wollen allerdings noch viel tiefer gehen als nur an die Wäsche. Der Markt für Erbgut-Tests wächst momentan sprunghaft.

Die Korrektur oberflächlicher menschlicher Vorlieben

Führend dabei ist ein Privatunternehmen, das von der Exfrau eines Unternehmensmitbegründers ins Leben gerufen wurde. Der Name dieses Unternehmens bezieht sich auf die 23 Chromosomenpaare, aus denen unser Erbgut besteht. Die dahinterstehende Botschaft lautet, dass meine Chromosomen in einer ganz besonderen Beziehung zu mir stehen. Jeder, der weiß, was die Chromosomen sagen, kann Ihnen Dinge über Sie erzählen, an die Sie nie auch nur im Entferntesten gedacht hätten. Wenn Sie wissen wollen, was das für Dinge sind, zahlen Sie einfach 99 US-Dollar an das Unternehmen.

Das Ende der liberalen Entscheidungsfreiheit

Sie werden ein kleines Päckchen mit einem Röhrchen bekommen. Sie spucken in dieses Röhrchen, versiegeln es und schicken es nach Kalifornien. Dort wird das Erbgut in Ihrem Speichel analysiert, und Sie können die Ergebnisse dann im weltweiten Netz einsehen. Sie bekommen eine Liste möglicher Gesundheitsgefahren, denen Sie ausgesetzt sind, sowie Ihre genetische Prädisposition für mehr als 90 Merkmale und Leiden, die von der Glatze bis zur Blindheit reichen. Sich selbst zu erkennen war nie leichter oder billiger.

Die Überflüssigkeit demokratischer Wahlen

Da das alles auf Statistik beruht, ist die Größe der unternehmenseigenen Datenbank der Schlüssel, um genaue Prognosen abgeben zu können. Deshalb wird das erste Unternehmen, das eine riesige genetische Datenbank aufbaut, die Kunden mit den besten Prognosen versorgen können und damit den Markt beherrschen. Biotechunternehmen aus den USA sind deshalb zunehmend besorgt darüber, dass strenge Datenschutzbestimmungen in den USA im Zusammenspiel mit chinesischer Missachtung der Privatsphäre China den Gen-Markt quasi auf dem Silbertablett servieren. Wenn wir all das zusammennehmen, bekommen wir ein allwissendes Gesundheitswesen. Dies geschieht, wenn wir großen Technologieunternehmen freien Zugang zu unseren biometrischen Geräten, zu unseren Erbgut-Scans und zu unseren Krankenakten gewähren.

Die emotionale Manipulation des Wählers

Ein solches System bekämpft nicht nur Seuchen, sondern schützt uns auch vor Krebs, Herzinfarkten und Gedächtnisschwund. Doch mit einer solchen Datenbank könnte das Unternehmen noch viel mehr anstellen. Stellen Sie sich ein System vor, das jeden Ihrer Atemzüge, jede Ihrer Bewegungen und jedes Ihrer gebrochenen Versprechen verfolgt. Ein System, das Ihr Bankkonto und Ihren Puls, Ihren Blutzuckerspiegel und Ihre intimen Beziehungen überwacht. Es wird Sie definitiv viel besser kennen als Sie sich selbst.

Die algorithmische Vertretung politischer Interessen

All die Selbsttäuschungen, die Menschen an schlechten Beziehungen, falschen Berufen und schädlichen Gewohnheiten festhalten lassen, werden einem solchen System nichts vormachen können. Anders als das erinnernde Selbst, das uns heute kontrolliert, wird das Unternehmen keine Entscheidungen auf der Basis irgendwelcher Lügenmärchen treffen. Es wird sich nicht durch kognitive Abkürzungen und die Höchststand-Ende-Regel in die Irre führen lassen. Das System wird sich tatsächlich an jeden Schritt, den wir getan, und an jede Hand, die wir geschüttelt haben, erinnern. Viele Menschen werden froh sein, ihre Entscheidungsprozesse weitgehend in die Hände eines solchen Systems zu legen.

Der unvermeidliche Zusammenbruch des Liberalismus

Sie werden es zumindest konsultieren können, wenn sie vor wichtigen Entscheidungen stehen. Das System wird uns Ratschläge erteilen, welchen Film wir uns anschauen sollen. Es wird uns sagen, wohin wir am besten in Urlaub fahren, was wir studieren und welches Jobangebot wir annehmen. Es wird uns sogar empfehlen, mit wem wir uns verabreden und wen wir heiraten sollen. Ich werde sagen, dass sowohl Peter als auch Paul etwas von mir wollen.

Die überlegene Einschätzung durch soziale Netzwerke

Ich mag beide, aber jeden auf andere Weise, und es ist so schwer, mich zu entscheiden, also frage ich nach dem besten Rat angesichts des Kenntnisstands des Systems. Und das System wird antworten, dass es mich vom Tag meiner Geburt an kennt. Es hat alle meine elektronischen Nachrichten gelesen und all meine Telefongespräche aufgezeichnet. Es kennt meine Lieblingsfilme, mein Erbgut und die gesamte Geschichte meines Herzens. Es verfügt über genaue Daten zu jeder Verabredung, die ich hatte.

Die Überlegenheit datengesteuerter Entscheidungen

Es kann mir sekundengenau zeigen, welchen Puls, welchen Blutdruck und welchen Blutzuckerspiegel ich hatte, wenn ich mich mit Peter oder Paul getroffen habe. Wenn nötig, kann es mir sogar eine genaue mathematische Rangliste aller intimen Kontakte liefern, die ich mit ihnen hatte. Selbstverständlich kennt es die beiden genauso gut wie mich. Auf der Grundlage all dieser Informationen, seiner großartigen Algorithmen und umfassender Statistiken über Millionen von Beziehungen rate es mir, mich an Peter zu halten. Die Wahrscheinlichkeit, dass ich auf lange Sicht mit ihm zufrieden sein werde, liegt bei 87 Prozent.

Die politische Macht durch gesammelte Nutzerdaten

Tatsächlich kennt das System mich sogar so gut, dass es weiß, dass mir diese Antwort nicht gefallen wird. Paul ist viel hübscher als Peter, und weil ich auf Äußerlichkeiten viel zu großen Wert lege, wollte ich insgeheim, dass das System Paul empfiehlt. Natürlich spielt das Aussehen eine Rolle, aber nicht so sehr, wie ich glaube. Meine biochemischen Algorithmen, die sich vor Zehntausenden von Jahren in der afrikanischen Savanne entwickelten, messen dem Aussehen bei der Gesamteinschätzung potenzieller Partner einen Anteil von 35 Prozent zu. Die Algorithmen des Systems, die auf den allerneuesten Studien und Statistiken beruhen, sagen, dass das Aussehen nur einen Anteil von 14 Prozent am langfristigen Gelingen von Liebesbeziehungen hat.

Der moderne Tauschhandel mit persönlichen Daten

Selbst wenn das System also das Aussehen von Paul berücksichtigt, muss es mir dennoch sagen, dass ich mit Peter besser dran wäre. Als Gegenleistung für solch hingebungsvolle Beratungsdienste müssen wir einfach nur die Vorstellung aufgeben, dass Menschen Individuen sind. Wir müssen akzeptieren, dass jeder Mensch über einen freien Willen verfügt, der darüber bestimmt, was gut, was schön und was der Sinn des Lebens ist. Menschen werden keine autonomen Wesenheiten mehr sein, die von den Geschichten gelenkt werden, welche ihr erinnerndes Selbst erfindet. Stattdessen werden sie integraler Bestandteil eines riesigen globalen Netzwerks sein.

Der Liberalismus und die Autorität des erinnernden Selbst

Der Liberalismus spricht das erinnernde Selbst heilig und gestattet ihm, im Wahllokal, im Supermarkt und auf dem Heiratsmarkt die Stimme abzugeben. Jahrhundertelang war das durchaus sinnvoll, denn auch wenn das erinnernde Selbst an alle möglichen Fiktionen und Fantasien glaubte, gab es kein anderes System, das mich besser kannte. Doch sobald wir über ein System verfügen, das mich tatsächlich besser kennt, wäre es ziemlich dämlich, die Autorität in den Händen des erinnernden Selbst zu belassen. Liberale Gewohnheiten wie demokratische Wahlen werden überflüssig werden. Das System wird in der Lage sein, sogar meine politischen Überzeugungen besser zu repräsentieren als ich selbst.

Warum menschliche Wahlentscheidungen irrational sein können

Wenn ich im Wahllokal in der Kabine stehe, hält mich der Liberalismus dazu an, mein authentisches Ich zu befragen. Ich soll entscheiden, welche Partei oder welcher Kandidat am ehesten meinen tiefsten Wünschen entspricht. Doch die Biowissenschaften verweisen darauf, dass ich mich im Wahllokal nicht wirklich an das erinnere, was ich in den Jahren seit der letzten Wahl gefühlt und gedacht habe. Zudem werde ich von einer ganzen Salve an Wahlkampfwerbung, Meinungsmache und zufälligen Erinnerungen bombardiert, die meine Entscheidungen leicht verzerren können. Genauso wie in einem bekannten Experiment folgt das erinnernde Selbst auch in der Politik der Höchststand-Ende-Regel.

Die Höchststand-Ende-Regel im politischen Alltag

Es vergisst den Großteil der Ereignisse, erinnert sich an ein paar extreme Zwischenfälle und misst jüngsten Geschehnissen überproportional viel Gewicht bei. Vier Jahre lang habe ich mich vielleicht immer wieder über die Politik der Regierungschefin beklagt. Ich habe mir selbst und jedem, der es hören wollte, eingeredet, sie werde unser aller Untergang sein. Doch in den Monaten vor den Wahlen senkt die Regierung die Steuern und gibt großzügig Geld aus. Die Regierungsparteien heuern die besten Werbeagenturen an und führen einen brillanten Wahlkampf.

Wie Emotionen und äußere Einflüsse das Wahlverhalten verzerren

Sie nutzen eine wohlausgewogene Mischung aus Drohungen und Versprechungen, die unmittelbar das Angstzentrum in meinem Gehirn ansprechen. Am Wahltag wache ich mit einer Erkältung auf, was meine geistigen Vorgänge etwas benebelt. Dies veranlasst mich dazu, bei meinen Überlegungen Sicherheit und Stabilität über alles zu stellen. Und siehe da, ich bestätige die Frau, die unser aller Untergang sein wird, für weitere vier Jahre im Amt. Ein solches Schicksal wäre mir erspart geblieben, wenn ich dem Technologieunternehmen erlaubt hätte, für mich abzustimmen.

Technologieunternehmen als bessere politische Entscheidungsträger

Dieses Unternehmen gibt es bekanntlich nicht erst seit gestern. Zwar lässt es die jüngsten Steuersenkungen und Wahlversprechen durchaus nicht außer Acht. Aber es erinnert sich auch daran, was in den vergangenen vier Jahren geschehen ist. Es weiß über meinen Blutdruck bei der täglichen Zeitungslektüre Bescheid. Es weiß, dass mein Botenstoffspiegel in den Keller rasselt, wenn ich abends vor der Nachrichtensendung sitze.

Biochemische Daten statt momentaner Stimmung

Das System wird wissen, wie es die leeren Schlagworte der Werbeagenturen überprüft. Es wird auch wissen, dass Krankheit Wähler ein bisschen konservativer macht als üblich, und das berücksichtigen. Das System wird somit in der Lage sein, nicht nach meiner momentanen Geistesverfassung abzustimmen. Es wird auch nicht gemäß den Fantasien des erinnernden Selbst abstimmen. Es wird entsprechend den wirklichen Gefühlen und Interessen der Ansammlung biochemischer Algorithmen abstimmen, die man gemeinhin als Ich bezeichnet.

Die zunehmende Überlegenheit algorithmischer Entscheidungen

Natürlich wird das System seine Sache nicht immer richtig machen. Schließlich sind das alles nur Wahrscheinlichkeiten. Aber wenn das System genügend gute Entscheidungen trifft, werden die Menschen ihm zunehmend Macht übertragen. Im Laufe der Zeit werden die Datenbanken größer und die Statistiken genauer. Die Algorithmen werden ausgefeilter und die Entscheidungen werden noch besser ausfallen.

Wenn Algorithmen uns besser kennen als wir selbst

Das System wird mich nie voll und ganz kennen und nicht unfehlbar sein. Aber das muss es auch nicht. Der Liberalismus wird an dem Tag zusammenbrechen, an dem das System mich besser kennt als ich mich selbst. Und das ist weniger schwierig, als es vielleicht klingt, wenn man bedenkt, dass die meisten Menschen sich selbst nicht besonders gut kennen. Eine Studie, die jüngst von einem großen sozialen Netzwerk in Auftrag gegeben wurde, hat etwas Erstaunliches gezeigt.

Eine Studie zur Vorhersage menschlicher Persönlichkeit

Der Algorithmus dieses Netzwerks schätzt Persönlichkeit und Dispositionen von Menschen besser ein als deren Freunde, Eltern und Partner. An der Studie waren 86.220 Freiwillige beteiligt. Diese verfügten über ein Konto in diesem Netzwerk und füllten einen umfangreichen Fragebogen zu ihrer Persönlichkeit aus. Der Algorithmus sagte die Antworten der Freiwilligen auf der Grundlage ihrer Zustimmungsklicks voraus. Also auf der Grundlage der Webseiten, Bilder und Clips, bei denen sie auf den Zustimmungs-Button klickten.

Wie viele Klicks persönliche Vorhersagen ermöglichen

Je mehr Zustimmungsklicks, desto genauer die Prognosen. Die Vorhersagen des Algorithmus wurden dann mit denen von Arbeitskollegen, Freunden, Familienangehörigen und Partnern verglichen. Erstaunlicherweise benötigte der Algorithmus nur insgesamt 10 Zustimmungsklicks, um die Vorhersagen von Arbeitskollegen zu übertreffen. 70 Klicks waren nötig, um besser als Freunde abzuschneiden. 150 Klicks waren notwendig, um Familienangehörige hinter sich zu lassen.

Algorithmen übertreffen sogar Ehepartner und Selbsteinschätzungen

Und 300 Klicks reichten aus, um die Ehepartner zu übertreffen. Mit anderen Worten, wenn Sie auf Ihrem Konto 300 Mal etwas positiv bewertet haben, kann der Algorithmus Ihre Meinungen und Wünsche besser vorhersagen als Ihr Mann oder Ihre Frau. Auf einigen Gebieten schnitt der Algorithmus sogar besser ab als die betreffende Person selbst. So wurden die Teilnehmer gebeten, Dinge wie etwa ihren Medikamentenkonsum oder die Größe ihrer sozialen Netzwerke einzuschätzen. Ihre Einschätzungen fielen weniger genau aus als die des Algorithmus.

Computer als Ratgeber für wichtige Lebensentscheidungen

Am Ende kommt die Studie zu folgender Prognose. Diese Prognose stammt im Übrigen von den menschlichen Autoren des Artikels, nicht vom Algorithmus. Wenn Menschen wichtige Lebensentscheidungen treffen müssen, etwa über Aktivitäten, Berufswege oder gar Liebespartner, könnten sie sich von ihren eigenen psychologischen Einschätzungen verabschieden. Sie könnten sich stattdessen auf Computer verlassen. Es ist durchaus möglich, dass solche datengesteuerte Entscheidungen das Leben der Menschen verbessern.

Die politische Macht persönlicher Daten

Weit weniger erfreulich klingt, was diese Studie ebenfalls impliziert. Das soziale Netzwerk könnte bei den nächsten Präsidentschaftswahlen in den Vereinigten Staaten nicht nur die politischen Ansichten von Abermillionen Amerikanern kennen. Es könnte auch wissen, wer von ihnen zu den entscheidenden Wechselwählern gehört. Es könnte wissen, wie sich diese Stimmen ins eigene Lager lenken lassen. Das Netzwerk wüsste, dass das Rennen zwischen den großen politischen Parteien in einem bestimmten Bundesstaat besonders eng ist.

Gezielte Beeinflussung unentschlossener Wähler

Es könnte die Wähler ausfindig machen, die noch zu den Unentschlossenen gehören. Es könnte feststellen, was jeder Kandidat sagen muss, um das Gleichgewicht zu seinen Gunsten zu ändern. Wie konnte das Netzwerk an diese unbezahlbaren politischen Daten kommen? Wir liefern sie ganz umsonst. In den Hochzeiten des europäischen Imperialismus kauften Konquistadoren und Kaufleute im Austausch für bunte Perlen ganze Inseln und Länder.

Persönliche Daten als wertvollste Ressource des 21. Jahrhunderts

Im einundzwanzigsten Jahrhundert sind unsere persönlichen Daten vermutlich die wertvollste Ressource, über die die meisten Menschen noch verfügen. Wir überlassen sie den Technologieriesen im Austausch für Dienste zur elektronischen Post und unterhaltsame Videos von Katzen.