Die stille Auflösung des Individuums durch allwissende Rechensysteme
Screenshot youtube.com
Die technologische Entwicklung des 21. Jahrhunderts hat eine fundamentale Verschiebung der Machtverhältnisse eingeleitet, die das menschliche Selbstverständnis in seinen Grundfesten erschüttert. Anstatt dass der Mensch die von ihm erschaffenen Werkzeuge kontrolliert, kehrt sich dieses Verhältnis zunehmend um. Rechenverfahren sammeln unaufhörlich Daten, analysieren menschliches Verhalten und übernehmen schrittweise die Steuerung unseres Alltags. Dieser Prozess vollzieht sich nicht durch gewaltsame Eroberung, sondern durch die schleichende Abgabe von Autonomie an scheinbar hilfreiche digitale Dienste.
Sobald Suchmaschinen und soziale Netzwerke zu allwissenden Orakeln geworden sind, können sie sich durchaus zu handelnden Akteuren und schließlich zu souveränen Instanzen weiterentwickeln. Ein anschauliches Beispiel für diese Entwicklung ist eine bekannte navigationsgestützte Anwendung, die viele Autofahrer täglich benutzen. Diese Software ist weit mehr als eine einfache digitale Landkarte. Die zahlreichen Anwender versorgen das Programm ständig mit neuesten Daten über Verkehrsstaus, Unfälle und Geschwindigkeitskontrollen. Deshalb empfiehlt das System Umfahrungsmöglichkeiten bei hohem Verkehrsaufkommen und bringt die Fahrer auf der schnellstmöglichen Route an ihr Ziel.
Der Aufstieg von der bloßen Auskunft zur absoluten Lenkung
Wenn die Autofahrer an eine Kreuzung kommen und ihr Bauchgefühl ihnen sagt, sie sollten rechts abbiegen, das System sie aber nach links schickt, stellen die Nutzer früher oder später fest, dass sie besser auf die Maschine als auf ihre eigenen Gefühle gehört hätten. Auf den ersten Blick hat es den Anschein, als diene uns dieser Rechenvorgang lediglich als Orakel. Wir stellen eine Frage, das System antwortet, aber es bleibt uns scheinbar überlassen, die endgültige Entscheidung zu treffen. Gewinnt das System jedoch unser blindes Vertrauen, besteht der nächste logische Schritt darin, dass es zu einem eigenständigen Akteur wird. Wir übermitteln der Software lediglich ein Endziel, und sie realisiert dieses Ziel eigenständig ohne unsere weitere Überwachung.
Die Übernahme menschlicher Entscheidungsgewalt durch virtuelle Vertreter
Im Falle der Navigation kann das geschehen, wenn wir die Anwendung mit einem selbstfahrenden Fahrzeug verbinden und ihr den Befehl erteilen, die schnellste oder die landschaftlich schönste Strecke zu wählen. Wir bestimmen zwar grob, wo es langgeht, überlassen es der Software aber vollständig, unsere Befehle im Detail auszuführen. Am Ende könnte dieses System sogar zum Souverän werden. Wenn der Rechenvorgang über so viel Macht verfügt und so viel mehr weiß als wir, kann er uns manipulieren, unsere Wünsche beeinflussen und Entscheidungen für uns treffen. Stellen wir uns beispielsweise vor, die Anwendung ist so gut, dass fortan jeder sie benutzt.
Die Manipulation durch gezielte Informationskontrolle
Stellen wir uns weiter vor, auf einer Hauptstraße gibt es einen Stau, während die Alternativstrecke relativ frei ist. Wenn das System das jedem einfach mitteilt, werden alle Fahrer auf die Alternativstrecke ausweichen, die in der Folge ebenfalls verstopft sein wird. Wenn jeder das gleiche Orakel benutzt und jeder dem Orakel glaubt, verwandelt sich das Orakel zwangsläufig in einen Souverän. Also muss das System für uns denken. Vielleicht informiert es nur die Hälfte der Fahrer, dass die Alternativstrecke frei ist, und hält diese Information vor der anderen Hälfte geheim.
Der innere Konflikt zwischen langfristigen Plänen und momentanen Begierden
Ein großer Technologiekonzern entwickelt gerade ein noch viel ausgefeilteres System, das als digitale Assistentin fungiert. Diese Assistentin soll als fester Bestandteil in künftige Versionen von Betriebssystemen eingebaut werden. Die Nutzer sollen der Assistentin möglichst Zugang zu all ihren Dateien, elektronischen Postfächern und Anwendungen gewähren. Dadurch lernt die Assistentin den Nutzer immer besser kennen und steht ihm nicht nur bei unzähligen Fragen beratend zur Seite. Sie wird zu einem virtuellen Akteur, der die Interessen des Nutzers eigenständig repräsentiert.
Die umgekehrte Lektüre und die totale Erfassung menschlicher Reaktionen
So könnte die Assistentin den Nutzer beispielsweise daran erinnern, dass er seiner Ehefrau noch etwas zum Geburtstag kaufen muss. Sie könnte das Geschenk selbstständig auswählen, einen Tisch in einem Restaurant reservieren und dafür sorgen, dass der Nutzer eine Stunde vor dem Abendessen seine Medikamente einnimmt. Sie könnte ihn darauf hinweisen, dass er zu einer wichtigen Besprechung zu spät kommt, wenn er jetzt nicht aufhört zu lesen. Wenn er gerade dabei ist, den Konferenzraum zu betreten, wird die Assistentin ihn warnen, dass sein Blutdruck zu hoch und sein Dopaminspiegel zu niedrig ist. Statistiken zufolge trifft der Nutzer unter solchen Umständen gerne schwere geschäftliche Fehlentscheidungen.
Die Verschmelzung von Mensch und Maschine als neue Verwundbarkeit
Also sollte der Nutzer die Dinge besser in der Schwebe halten und es vermeiden, sich zu etwas zu verpflichten oder irgendwelche Abmachungen zu unterzeichnen. Sobald diese digitalen Assistenten sich von bloßen Auskunftsstellen zu handelnden Akteuren entwickeln, könnten sie im Namen ihrer menschlichen Herren unmittelbar miteinander sprechen. Das kann ganz unschuldig damit beginnen, dass die Assistentin des einen Nutzers die Assistentin eines anderen Nutzers kontaktiert, um Ort und Zeit für ein Treffen zu vereinbaren. Als Nächstes lässt ein potenzieller Arbeitgeber den Bewerber wissen, er solle keinen Lebenslauf schicken. Stattdessen soll er seiner digitalen Assistentin ganz einfach erlauben, die digitale Assistentin des Arbeitgebers intensiv zu befragen.
Die wissenschaftliche Legitimation der Entmachtung des Menschen
Oder die digitale Assistentin eines potenziellen Liebespartners tritt an die eigene Assistentin heran, und die beiden vergleichen Notizen, um zu entscheiden, ob die beiden Menschen zusammenpassen. Dies geschieht alles, ohne dass die menschlichen Besitzer irgendetwas davon wissen. Wenn die Assistenten an Macht gewinnen, können sie sich womöglich gegenseitig manipulieren, um die Interessen ihrer Herren zu befördern. Erfolg auf dem Arbeitsmarkt oder auf dem Heiratsmarkt wird in Zukunft zunehmend von der Qualität der eigenen digitalen Assistentin abhängen. Reiche Menschen, die sich die aktuellste Software leisten können, werden gegenüber armen Menschen mit älteren Versionen über einen entscheidenden Vorteil verfügen.
Der stille Zerfall der Persönlichkeit jenseits totalitärer Überwachung
Am heikelsten aber wird es, wenn es um die Identität des Herrn der Assistentin geht. Menschen sind keine einheitlichen Individuen und verfügen über kein einheitliches Selbst. Wessen Interessen also sollte die digitale Assistentin dienen? Nehmen wir an, das erinnernde Selbst nimmt sich für das neue Jahr vor, weniger zu essen und jeden Tag Sport zu treiben. Als es eine Woche später Zeit ist, zum Sport zu gehen, bittet das erlebende Selbst die Assistentin, doch bitte den Fernseher einzuschalten und eine Pizza zu bestellen.
Die Illusion der freien Entscheidung in einer vernetzten Welt
Was soll die Assistentin in diesem Konflikt tun? Soll sie dem erlebenden Selbst gehorchen oder dem Entschluss, der vor einer Woche vom erinnernden Selbst gefällt wurde? Nun kann man durchaus fragen, ob sich diese Assistentin großartig von einem Wecker unterscheidet, den das erinnernde Selbst am Abend stellt, damit das erlebende Selbst rechtzeitig zur Arbeit aufwacht. Doch die digitale Assistentin wird viel mehr Macht über den Menschen haben als ein einfacher Wecker. Das erlebende Selbst kann den Wecker zum Schweigen bringen, indem es auf einen Knopf drückt.
Das Ende des Individuums als biochemische Fantasie
Die Assistentin hingegen wird den Menschen so gut kennen, dass sie genau weiß, welche inneren Knöpfe sie drücken muss, damit er ihrem Rat folgt. Diese Entwicklung ist nicht auf einen einzigen Konzern beschränkt. Andere große Technologieunternehmen zielen mit ihren Produkten in die gleiche Richtung. Auch ein riesiger Onlinehändler setzt Rechenverfahren ein, die den Kunden ständig analysieren und ihr Wissen nutzen, um Produkte zu empfehlen. Wenn ein Kunde in eine physische Buchhandlung geht, schmökert er in den Regalen und vertraut bei der Buchauswahl auf seine Gefühle.
Die totale Überwachung durch digitale Lesegeräte
Wenn er im virtuellen Laden des Onlinehändlers ein Buch kaufen möchte, weist ihn ein Rechenverfahren sogleich darauf hin, welche Bücher er in der Vergangenheit gekauft hat. Der Rechenverfahren zeigt auch, welche Bücher Menschen, die sich dieses Produkt ebenfalls angesehen haben, darüber hinaus auch noch gekauft haben. Und das ist erst der Anfang. In den Vereinigten Staaten von Amerika lesen heute mehr Menschen elektronische Bücher als gedruckte Bücher. Geräte wie ein bekanntes elektronisches Lesegerät können Daten über ihre Nutzer sammeln, während diese ein Buch lesen.
Die biologische Erfassung menschlicher Emotionen
So kann das Lesegerät beispielsweise sehen, welche Teile des Buches der Nutzer schnell liest und welche langsam. Das Gerät erkennt, auf welcher Seite der Leser die Lektüre unterbricht und bei welchem Satz er das Buch endgültig aus der Hand legt. Vielleicht sollte man dem Autor sagen, dass er diesen Satz ein wenig umschreibt. Wenn das Lesegerät einmal mit Gesichtserkennung und biologischen Sensoren ausgestattet sein wird, wird es wissen, wie sich jeder Satz auf den Puls und auf den Blutdruck des Lesers ausgewirkt hat. Es wird wissen, was den Leser zum Lachen gebracht, was ihn traurig gemacht und was ihn in Rage versetzt hat.
Die unabwendbare Verschmelzung mit dem Netzwerk
Schon bald werden Bücher den Menschen lesen, während der Mensch diese Bücher liest. Während der Mensch das meiste von dem, was er gelesen hat, schnell wieder vergisst, wird das Technologieunternehmen nie etwas vergessen. Diese gesammelten Daten werden dem Unternehmen in die Lage versetzen, mit verblüffender Präzision Bücher für den Kunden auszusuchen. Es wird dem Unternehmen zudem ermöglichen, genau zu wissen, wer der Kunde ist, was ihm gefällt und was ihn abstößt. Am Ende könnten wir einen Punkt erreichen, an dem es unmöglich sein wird, uns auch nur für einen Augenblick von diesem allwissenden Netzwerk abzukoppeln.
Die Gefahr durch vernetzte medizinische Implantate
Eine Abkopplung wird den Tod bedeuten. Wenn die Hoffnungen der Medizin Wirklichkeit werden, werden künftige Menschen in ihrem Körper eine Vielzahl biologischer Messgeräte, künstlicher Organe und winziger Roboter haben. Diese werden unsere Gesundheit überwachen und uns vor Infektionen, Krankheiten und Verletzungen schützen. Diese Geräte werden jedoch rund um die Uhr online sein müssen. Sie müssen medizinisch immer auf dem neuesten Stand sein und vor den aktuellsten Krankheiten des digitalen Raumes geschützt werden.
Die Verantwortung der Biowissenschaften
So wie ein Heimcomputer fortwährend von Schadprogrammen angegriffen wird, so wird das auch bei einem Herzschrittmacher, einem Hörgerät und einem nanotechnischen Immunsystem der Fall sein. Wenn der Mensch das Schutzprogramm seines Körpers nicht regelmäßig aktualisiert, wird er eines Tages aufwachen und feststellen, dass zahlreiche winzige Roboter durch seine Venen kreisen. Diese Roboter werden dann von einem ausländischen Computerkriminellen gesteuert. Die neuen Technologien des 21. Jahrhunderts könnten somit die humanistische Entwicklung rückgängig machen. Sie berauben die Menschen ihrer Macht und betrauen stattdessen nicht-menschliche Rechenverfahren damit.
Die Akzeptanz des Machtverlustes durch die Gesellschaft
Wenn diese Entwicklung erschreckt, darf man die Schuld daran nicht den Computerexperten geben. Die wirkliche Verantwortung liegt bei den Biologen. Denn diese gesamte Entwicklung wird von biologischen Erkenntnissen deutlich stärker vorangetrieben als von der Computerwissenschaft. Es sind die Biowissenschaften, die zu dem Schluss gekommen sind, dass Lebewesen Rechenverfahren sind. Wenn das nicht der Fall ist, mögen Computer in anderen Bereichen Wunder wirken.
Der unaufhaltsame Zerfall der menschlichen Autonomie
Sie werden aber nicht in der Lage sein, uns zu verstehen und unser Leben zu lenken, und sie werden mit Sicherheit nicht mit uns verschmelzen. Doch weil die Biologen zu dem Schluss kamen, dass Lebewesen Rechenverfahren sind, rissen sie die Mauer zwischen dem Organischen und dem Anorganischen ein. Sie verwandelten die Computerrevolution, die zunächst eine rein mechanische Angelegenheit war, in eine biologische Umwälzung. Sie verschoben die Macht von einzelnen Menschen auf vernetzte Rechensysteme. Manche Menschen versetzt diese Entwicklung tatsächlich in Angst und Schrecken.
Die Auflösung des Individuums in biochemische Teilsysteme
Tatsache ist aber auch, dass zahlreiche Menschen sie bereitwillig akzeptieren. Schon heute geben viele von uns Privatheit und Individualität auf. Sie halten jede Handlung fest, führen ein Leben im digitalen Netz und werden hysterisch, wenn die Verbindung mit dem Netz auch nur für einige Minuten abbricht. Die Machtverschiebung von den Menschen auf die Rechensysteme findet ringsherum statt. Dies geschieht nicht als Folge irgendeines folgenschweren Regierungsentschlusses, sondern dank einer Flut ganz profaner Entscheidungen.
Die endgültige Auflösung des menschlichen Selbst
Wenn wir nicht aufpassen, könnte daraus ein totalitärer Überwachungsstaat erwachsen. Dieser Staat würde nicht nur all unsere Handlungen fortwährend überwachen und kontrollieren, sondern auch das, was sich in unserem Körper und in unserem Kopf abspielt. Stellen Sie sich nur einmal vor, wozu historische Diktatoren allgegenwärtige biologische Sensoren verwendet hätten. Doch während die Verteidiger menschlicher Individualität Angst davor haben, dass die Albträume des 20. Jahrhunderts zurückkehren, kommt die viel stärkere Bedrohung aus der genau entgegengesetzten Richtung. Im 21. Jahrhundert ist es viel wahrscheinlicher, dass sich das Individuum still und leise von innen heraus auflöst.
Die Realität als Mischmasch aus Rechenverfahren
Es wird nicht von einem äußeren allsehenden Überwacher brutal zerschlagen. Heute erweisen die meisten Unternehmen und Regierungen meiner Individualität ihre Reverenz. Sie versprechen mir medizinische Versorgung, Bildung und Unterhaltung, die auf meine ganz eigenen Bedürfnisse und Wünsche zugeschnitten sind. Dazu müssen Unternehmen und Regierungen mich jedoch zunächst in biochemische Teilsysteme aufspalten. Diese Teilsysteme werden mit Hilfe allgegenwärtiger Sensoren überwacht. Ihre Funktionsweise wird mittels mächtiger Rechenverfahren entschlüsselt. Im Zuge dessen wird sich das Individuum als bloße religiöse Fantasie erweisen. Die Realität wird ein Mischmasch aus biochemischen und elektronischen Rechenverfahren sein, ohne klare Grenzen und ohne individuelle Knotenpunkte.
