Evolution ohne uns
Tekst
JAY TUCK
EVOLUTION
OHNE UNS
Wird Künstliche Intelligenz uns töten?
Copyright der deutschen Ausgabe 2016:
© Börsenmedien AG, Kulmbach
Copyright der deutschen Taschenbuchausgabe 2021:
© Börsenmedien AG, Kulmbach
Covergestaltung: Johanna Wack
Gestaltung und Satz: Bernd Sabat, VBS-Verlagsservice
Herstellung: Daniela Freitag
Lektorat: Hildegard Brendel
Korrektorat: Egbert Neumüller
eISBN 978-3-86470-729-2
Alle Rechte der Verbreitung, auch die des auszugsweisen Nachdrucks, der fotomechanischen Wiedergabe und der Verwertung durch Datenbanken oder ähnliche Einrichtungen vorbehalten.
Bibliografische Information der Deutschen Nationalbibliothek: Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über ‹http://dnb.d-nb.de› abrufbar.
Postfach 1449 • 95305 Kulmbach
Tel: +49 9221 9051-0 • Fax: +49 9221 9051-4444
E-Mail: buecher@boersenmedien.de
www.facebook.com/plassenbuchverlage
www.instagram.com/plassen_buchverlage
Ein solches Buch ist nie allein eine Eigenleistung. An dieser Stelle möchte ich mich bei meinem Mitautor, dem Berliner Journalisten Armin Fuhrer, herzlichst bedanken. Ohne seine hilfreichen Texte und Entwürfe, Anregungen und Korrekturen, vor allem ohne seine Motivation, wäre das Buch nie so gut geworden. Mein Dank gilt außerdem Hildegard Brendel mit ihrer unvernichtbaren Geduld und guten Laune sowie meiner geliebten Ehefrau Heidi, die mir mit unermüdlicher Kraft, geduldigem Durchhaltevermögen und professionellem Schreibgefühl von Anfang bis Ende beigestanden hat.
Jay Tuck
„Künstliche Intelligenz kann die großartigste Errungenschaft der Menschheit werden. Bedauerlicherweise kann sie auch die letzte sein.“
Stephen Hawking, Astrophysiker
„Künstliche Intelligenz ist die größte existenzielle Bedrohung für die Menschheit. Wir beschwören den Teufel.“
Elon Musk, Tesla
„Künstliche Intelligenz kann für die Menschheit gefährlicher werden als Atomwaffen. Sie ist das größte Risiko dieses Jahrhunderts.“
Shane Legg, DeepMind
„In wenigen Jahrzehnten wird sie uns überholen. Haben wir sie bis dahin nicht im Griff, wird unsere Zukunft sehr aufregend. Und sehr kurz.“
Eric Drexler, Pionier der Nanotechnologie
„Die Zukunft ist sehr beängstigend und für die Menschheit schlecht.“
Steve Wozniak, Apple-Gründer
„Eine starke KI wäre wie eine Invasion Außerirdischer. Wir würden sie nicht fragen, ob sie uns mit der Wirtschaft hilft. Wir würden sie fragen, ob sie uns umbringt.“1
Peter Thiel, Mitbegründer von Paypal
„Am Ende wird sich die Robotik durchsetzen. Es ist ganz klar, dass die Menschheit aussterben wird.“
Hans Moravic, Carnegie Mellon University
„Ich verstehe nicht, warum nicht mehr Menschen beunruhigt sind.“
Bill Gates, Microsoft-Gründer
Inhalt
EINLEITUNG
GEDÄCHTNIS – Die Speicher-Explosion
Chelsea
Edward
Big Data, Big Danger
Schmelztiegel für Daten
Das Werkzeug der Wächter
Vorsicht, Kamera!
Mossad-Mord im Fernsehen
BEWAFFNUNG – Das Arsenal der Killermaschinen
Augen über Afghanistan
Playstation-Piloten
Die Geister von Groom Lake
Militärmücken und Mikrowaffen
Atombomben und Tennisbälle
Zeitalter des Cyberkriegs
KI, übernehmen Sie!
INVENTAR – Von der Wiege bis zum Grabe
Kinderkram
Das Sexleben von Minderjährigen
Kartentricks
Horchposten in der Hosentasche
Social-Spionage-Medien
Die Straßen-Spione
Kinder und Container
Augen im Aufzug
Versunken im Datenmeer
Schmelztiegel Speicherplatz
Obamas Machtmaschine
Die neue Klassengesellschaft
ABWEHR – David gegen Googliath
David gegen Googliath
Richtlinien von Richtern
Die Angst-Industrie
Der Gangster und die Menschenrechte
INTELLIGENZ – Wenn Maschinen uns überholen
Die letzte Errungenschaft
Die Geburt des Google-Gehirns
Der Guru von Google
Das ewige Leben
Die verlorene Generation
Außer Kontrolle
Der Untergang
SCHUTZ … bevor es zu spät ist
Die nationale Lösung
Auf Ebene der EU
Hoffnung am East River
Das Gleichgewicht des Schreckens
Gewissen in der Grundforschung
Freund und Helfer NSA?
Wir als Waffe
KI im Kampf gegen COVID-19
ANHANG – Fußnoten
EINLEITUNG
„Künstliche Intelligenz kann die großartigste Errungenschaft der Menschheit werden. Bedauerlicherweise kann sie auch die letzte sein.“
Stephen Hawking, Astrophysiker
Wir sind zu doof dafür.
Und deswegen werden wir die Bedrohung durch Künstliche Intelligenz wahrscheinlich erst erkennen, wenn es zu spät ist. Künstliche Intelligenz wächst nämlich mit exponentieller Geschwindigkeit. Ein menschliches Hirn kann exponentielles Wachstum nicht begreifen. Nicht wirklich. Lineares Wachstum, also x Prozent im Jahr, können wir nachvollziehen. Aber Größen, die sich ständig vervielfachen, sind schnell jenseits unserer kognitiven Vorstellungskraft.
Exponentielles Wachstum kennt man in der Mathematik. So wollte Sissa ibn Dahir, Erfinder des Schachspiels, wissen, wie viel Reis auf ein Schachbrett passt, wenn man die Zahl der Körner mit jedem Feld verdoppelt. Auf das erste Feld sollte ein Korn gelegt werden, auf das zweite Feld zwei Körner, dann vier, dann acht und bis zum 64. Feld immer wieder das Doppelte.
Auf dem letzten Feld, so sein Rechenexempel, würden 9,22 x 1018 Körner liegen – mehr als 9 Trillionen Körner (9.220.000.000.000.000.000) mit einem Gesamtgewicht von 270 Millionen Tonnen. Diese Reismenge würde ganz Deutschland in einer Höhe von 2 cm abdecken.
Es erzeugt Größenordnungen, die für den Intellekt eines normalen Menschen kaum begreiflich sind. Deswegen verstanden wir es nicht, als sich die IT-Industrie mit exponentieller Geschwindigkeit entwickelte. Die Tragweite solchen Wachstums sprengt unsere Vorstellungskraft. Unbemerkt ist der weltweit verfügbare Speicherplatz der Menschheit faktisch ins Unermessliche gewachsen.
Mit jedem Schritt hat sich die Speicherkapazität von Heimcomputern vertausendfacht – von Kilobyte-Floppy auf Megabyte-Diskette, von Gigabyte-Speicherkarte auf Terabyte-Festplatte. Heute wird sie in den Serverparks von Nachrichtendiensten und Wirtschaftsunternehmen schon in Petabytes gemessen. Die mathematischen Fachbegriffe, die auf uns noch zukommen, stellen weitere Quantensprünge um das Tausendfache dar: Exobytes, Zettabytes, Yottabytes, Brontobytes und Geopbytes – Größenordnungen, die unser Gehirn nicht erfassen kann.
Big Data kann man sich vorstellen als die Möglichkeit, unbegrenzt menschliche Informationen aller Art zu speichern. Wir haben sie nicht kommen sehen und die Folgen für unsere Demokratie nicht erkannt. Erst Medienberichte über Julian Assange und Edward Snowden machten uns klar, dass staatliche Überwachung allgegenwärtig ist, dass unsere Telefonate, E-Mails und SMS-Texte flächendeckend mitgeschnitten und für ewige Zeiten festgehalten werden. Unser demokratischer Staat wurde von den Folgen von Big Data überrumpelt. Datenschutz wird ignoriert, Grundrechte außer Kraft gesetzt, Völkerrecht umgangen.
Überwachung ist aber keineswegs auf Geheimdienste beschränkt; das Ausmaß ist erst in der Privatwirtschaft erkennbar. Facebook sammelt unsere Gesichter, Apple unsere Fingerabdrücke, Amazon unsere Vorlieben. Und Google eigentlich alles. Überwachung ist Alltag. Und wächst auch exponentiell.
Zwischen der Entstehung des Homo sapiens vor zwei Millionen Jahren und dem Jahr 2020 hat die gesamte Menschheit geschätzte 295 Exobytes an Information produziert. Heute wird diese Datenmenge alle zwei Jahre erzeugt.
Das sind Massen, die nur durch Maschinen beherrschbar sind. Eine Erfassung, Verwaltung oder Auswertung durch die kognitiven Fähigkeiten von Menschen ist undenkbar. Auch die Software, die Menschen schreiben, kann dies nicht bewältigen. Supercomputer mit autarker Supersoftware sind die einzige Lösung. Sie müssen lernfähig sein, ihre Updates und Erweiterungen selbst schreiben. Um die Künstliche Intelligenz sinnvoll zu nutzen, müssen wir umdenken.
Die Definition von Bildung zum Beispiel hat sich durch zwei Worte verändert: „Googel es!“ Das Wissen ist da. Wir müssen es uns nicht im Rahmen eines langwierigen Bildungsweges mühsam aneignen. Wir müssen nur den Zugang schaffen. Das gesamte Wissen der Menschheit steht – mit wenigen Ausnahmen – jedermann zur Verfügung. Wir müssen es nur finden und analysieren können. Ein modernes Bildungssystem muss sich als Wegweiser durch die Datenmassen verstehen.
In ihrer Geschichte haben es die Menschen immer verstanden, Maschinen für die schweren Aufgaben einzusetzen – um die komfortable Reisekutsche durch die Gegend zu ziehen oder den schweren Dachbalken beim Bau zu heben. Mit den raffinierteren Erfindungen von heute können wir Milliarden Lichtjahre ins Weltall oder tief in die Bruchteile einer atomaren Mikrowelt schauen.
Big Data rollt heute wie ein Tsunami auf uns zu. Die Datenmenge wächst exponentiell. Künstliche Intelligenz wird helfen, sie zu bewältigen. Täglich wird sie unabhängiger und unübersichtlicher. Sie ist autark. Sie entwickelt sich ohne uns immer weiter. Mit rasender Geschwindigkeit.
Wir sind nicht nur zu doof, um sie zu begreifen.
Wir sind zu langsam.
Beim Lesen der folgenden Kapitel bedenken Sie bitte, dass wir erst am Anfang dieser umwälzenden Entwicklung stehen. In den folgenden Kapiteln werden nur die ersten Babyschritte von Künstlicher Intelligenz beschrieben. Technologie entwickelt sich schnell.
Und wird immer schneller.
Als Johannes Gutenberg die Druckerpresse im Jahr 1440 erfand, hatte die Gesellschaft Hunderte von Jahren Zeit, um die Folgen der Massenmedien zu begreifen. Als James Watt die Dampfmaschine im Jahr 1769 erfand, dauerte es gut 80 Jahre, bis Textilarbeiter begriffen, dass ihre Arbeitsplätze dadurch gefährdet waren.
Bis 50 Millionen Anwender erreicht wurden, dauerte es beim Automobil 62 Jahre, beim Handy 12 Jahre, bei Pokémon Go ganze 19 Tage. Die Gesellschaft hat immer weniger Zeit, Neuentwicklungen zu verdauen, Konsequenzen zu erkennen und Regelungen – soweit erforderlich – zu beschließen.
Stein um Stein kreieren wir die Bauteile eines neuen Wesens. Auf den Servern von Big Data ist ein Gedächtnis entstanden, so groß wie das menschliche Wissen. Mit der internationalen Vernetzung von Überwachungskameras haben wir Augen kreiert, die alles sehen. Armbanduhren und Automobile, Barbiepuppen und Baumaschinen, Smartphones und Sensoren lassen wir mit Künstlicher Intelligenz genauso ausstatten wie die Smartwaffen der Supermächte.
Die Künstliche Intelligenz, die diese Systeme steuert, ist stark, autark und noch aufgeteilt in viele kleine Systeme. Heute sind sie einzelne Inseln. Sie wachsen aber täglich enger zusammen. Die Keime von Künstlicher Intelligenz werden wie Quecksilbertropfen zueinanderfinden. Die KI wird eine Superintelligenz bilden, die unserer um ein Tausendfaches überlegen ist. Wir dürfen nicht vergessen, dass wir heute erst am Anfang dieses Zeitalters stehen.
Wir haben wenig Spielraum, diese Entwicklung in den Griff zu bekommen. Die größten Denker von Silicon Valley sind überzeugt: Die Menschheit befindet sich in einem Endspiel.
„Künstliche Intelligenz ist die größte existenzielle Bedrohung für die Menschheit. Wir beschwören den Teufel.“
Elon Musk, Tesla
Heute erleichtert die Künstliche Intelligenz unser Leben. Lernfähige Software, die eigene Updates schreibt, existiert im Ansatz schon in Autos und Armbanduhren, in der Pharmaforschung und im Versicherungswesen, in Smart Homes und Smart Cities. Sie fliegt den Airbus und sortiert Amazon-Bestellungen, analysiert Vorlieben und Vorhaben bei Facebook und sortiert Menschen für Google und Geheimdienste. Auf den Finanzmärkten der Welt wickelt sie Milliardengeschäfte ab. In Operationssälen führt sie schon Skalpelle.
In den Wochen, in denen diese Aktualisierung geschrieben wird, wird die Menschheit daran erinnert, wie verwundbar sie ist. Im letzten Kapitel des Buches wird die Rolle der Künstlichen Intelligenz im globalen Kampf gegen COVID-19 detailliert beschrieben. Es ist ein Beispiel, wie KI heute in der Lage ist, viele hochkomplexe Aufgaben, die früher Spitzenpersonal anvertraut waren, zu übernehmen. Mit jedem Tag übernimmt sie immer mehr Verantwortung in unserer Gesellschaft.
„Sie wird anders als ein Mensch sein. Sie wird sich mit einer Geschwindigkeit entwickeln, die für einen Menschen nicht begreiflich ist.“
Robert Finkelstein, CEO Robotic Technology
Wir kreieren etwas, was wir nicht verstehen, ein Wesen, das uns in vielfacher Hinsicht überlegen ist. Es vollzieht schon heute Dinge, die wir nicht nachvollziehen können.
Ist es ein Frankenstein-Monster, das hier entsteht – von der Wissenschaft ins Leben gerufen, aber demnächst jenseits unserer Kontrolle? Wird Künstliche Intelligenz bald eigene unerklärliche Ziele verfolgen? Und könnte Künstliche Intelligenz – im Gegensatz zum Filmmonster – leicht die Oberhand gewinnen, wie der britische Astrophysiker Stephen Hawking warnt?
„Künstliche Intelligenz könnte die großartigste Errungenschaft der Menschheit werden. Bedauerlicherweise könnte sie auch die letzte sein.“
Stephen Hawking, Astrophysiker
Dabei sind die Programme, die von Künstlicher Intelligenz in Mikrosekunden hergestellt werden, häufig für die eigentlichen Erfinder nicht ganz nachvollziehbar, womöglich auch nicht ganz kontrollierbar. Eines nicht so fernen Tages werden wir es mit einem Wesen zu tun haben, dass das Wissen der gesamten Menschheit speichern kann und über die Intelligenz verfügt, es blitzschnell auszuwerten.
Die klügsten Köpfe von Silicon Valley schlagen Alarm. Visionäre wie Elon Musk und Bill Gates, Steve Wozniak und Stephen Hawking, sowie Tausende andere IT-Forscher weltweit sind überzeugt, Künstliche Intelligenz wird uns bald überholen und beherrschen.
Viele glauben, sie könnte uns töten.
Einige sind überzeugt, sie wird uns töten.
JAY TUCK
ARMIN FUHRER
„Ich verstehe nicht, warum nicht mehr Menschen beunruhigt sind.“
Bill Gates, Microsoft-Gründer
GEDÄCHTNIS
Die Speicher-Explosion
Chelsea
Die weltweite Panik um Big Data haben zwei Amerikaner ausgelöst. Einer von ihnen war Chelsea.
Sie sieht nicht aus wie ein Weltverbesserer. Sie ist blass und blond, schüchtern und verstört. Sie spricht leise mit wenig Augenkontakt, achselzuckend und unsicher. Aber sie hat Geschichte gemacht, daran besteht kein Zweifel. Sie brachte die Spione einer Supermacht zum Zittern.
Chelsea bürstet das blonde Haar zurück. Ihre Akne-Narben hat sie ganz gut mit dem Abdeckstift kaschiert, der Lidstrich betont ihre Augen. Mit Lidschatten wäre das Ergebnis besser geworden. Das wurde ihr aber nicht gestattet.
Chelsea sitzt nämlich in einem Männergefängnis – im US-Militärgefängnis Fort Leavenworth, um genau zu sein. Der Knast ist für sie ein täglicher Spießrutenlauf zwischen Schwerstkriminellen, Männern ohne Manieren. Sie pfeifen und pöbeln, brüllen und beleidigen. Ihre Häme kann erbarmungslos sein. Aber Häme ist Chelsea immerhin lieber als Härte. Sie sehnt sich nach Weiblichkeit.
Held oder Hassfigur?
Verurteilt wurde Chelsea noch als Mann, Private First Class Bradley Manning, Geheimnisträger der US-Armee. Unter dem Namen war er noch bei der Einweisung registriert, als Gefangener Nr. 89289. Manning ist der prominenteste Gefangene in Leavenworth, ein Held für viele Kriegsgegner, ein Hassobjekt für viele Militärs. Nach dem Gesetz ist er ein verurteilter Straftäter, schuldig in zwanzig Anklagepunkten, inklusive Spionage gegen die USA. Voraussichtlich wird Leavenworth sein Aufenthaltsort für die kommenden 35 Jahren bleiben.
Seine Tat: der Diebstahl von Hunderttausenden von Geheimdokumenten der US-Army, die er in enger Zusammenarbeit mit Julian Assange in dem Untergrund-Enthüllungsblog WikiLeaks veröffentlichte.
Einige Dokumente waren hochbrisant, wie zum Bespiel das Bordvideo eines B-1-Bombers. Es zeigte einen US-Angriff auf das afghanische Dorf Granai, bei dem über einhundert Zivilisten ums Leben kamen, darunter Frauen und Kinder.2 Die Aufzeichnungen lösten große Diskussionen über mögliche amerikanische Kriegsverbrechen in Afghanistan aus.
Undiplomatische Depeschen
Andere Dokumente belegten geheime Vorgänge im Krieg, die offiziell abgestritten wurden. Noch andere zitierten aus vertraulichen Depeschen, wo Politiker und Diplomaten im vermeintlich vertraulichen Austausch ihre – oft wenig schmeichelhaften – Einschätzungen und Kommentare über die Führungsspitze anderer Länder austauschten. In vielen Fällen hatte die Veröffentlichung peinliche Folgen für die US-Außenpolitik.
Die Massendaten von Manning bildeten den Kern für die Enthüllungen von Julian Assange – und für das Renommee seiner Enthüllungsplattform WikiLeaks.
Dass ein einfacher Soldat unbemerkt an derartig viele Geheimdokumente herankommen konnte, lag nicht nur an der Arglosigkeit der Sicherheitsbehörden. Die Zeiten hatten sich geändert. Die Digitalisierung von diplomatischen Depeschen war in vollem Gang. Big Data hatte hohe Priorität. Für die Führung des Pentagons hatte sie viele Vorteile. Große Mengen an Informationen könnte man schnell speichern, sortieren und in kürzester Zeit auswerten. Katalogisierung war automatisch, Zugriff blitzschnell.
Aber Big Data war auch Neuland. Es änderte die Spielregeln der Spionage. In früheren Zeiten brauchte ein Spion für eine solche Aufgabe eine Sonderausrüstung – Minikamera, Fotolabor für die Filmentwicklung und ein gutes Versteck für die Mikrofiche-Aufnahmen, vielleicht unter einer Briefmarke. Längst vorbei waren die Zeiten, als man einzelne Dokumente ablichten musste. Mit einem kleinen USB-Stick konnte ein Spion jetzt im Handumdrehen Hunderttausende von Geheimdaten stehlen. Für Bradley Manning war das ein leichtes Spiel.
Er war Pionier. Und er führte den Mächtigen die neue Verwundbarkeit ihrer Geheimnisse vor. Sie würden lernen müssen, dass sich die Welt der Hochleistungscomputer verändert hatte.
Bradley Edward Manning hatte eine schwierige Kindheit. Er wurde am 17. Dezember 1987 in Crescent im US-Bundesstaat Oklahoma geboren. Sein Vater, damals Analytiker beim Militärischen Abschirmdienst, war ein sehr dominanter Mann, ein Trinker. Seine Mutter trank auch. In den Akten steht ein Selbstmordversuch. Für Freunde und Nachbarn war unübersehbar, dass die Familie gestört war.
Alkoholprobleme hatte Manning schon vor der Geburt. Wie spätere Untersuchungen zeigten, hat er bereits als Embryo Schäden aus der Sucht seiner Mutter mitbekommen.
In seiner frühen Kindheit ließen sich seine Eltern scheiden. Danach wurde er zwischen Elternteilen und Stiefeltern, Nachbarn und Verwandten hin und her geschoben. Als durch die Zweitheirat seines Vaters eine neue Halbschwester in sein Leben kam, klagte er: „Jetzt bin ich ein Niemand!“
Danach bedrohte er im Streit seine neue Stiefmutter mit einem Messer. Die Polizei kam.
Mit 13 Jahren erzählte er erstmals Freunden von seiner Homosexualität.
Nach einem kurzen Job als Software-Entwickler meldete sich Manning freiwillig zur Armee. Es war September 2007. Er hoffte, dort sein Studium zu finanzieren. Er hoffte auch, dass ein männliches Umfeld ihm womöglich mit seiner Geschlechtsidentität helfen könnte.
Doch es kam anders.
Er wurde Prügelknabe. „Er war kleinwüchsig. Er war schwul. Er hat’s von allen Seiten bekommen“, erinnert sich ein Kumpel aus seiner Armee-Zeit. „Nirgendwo hatte er Freunde.“
Manning war ein schwieriger Kandidat. Wenn er – wie bei der Militärausbildung üblich – aus nächster Nähe von seinem Sergeant angeschrien wurde, brüllte er zurück. Er wurde mehrfach dafür diszipliniert. Vorgesetzte nannten ihn spöttisch „General Manning“.
Nach sechs Wochen war bereits absehbar, dass er sich schlecht an die Militärdisziplin gewöhnen konnte. Es kam die Empfehlung, ihn aus der Armee zu entlassen. Es war aber die Zeit der Digitalisierung. Seine Einheit war überlastet. Manning war Software-Fachmann und Geheimnisträger (Top Secret/Sensitive Compartmented Information). Der Militärische Abschirmdienst brauchte ihn.
Manning durfte bleiben.
Er war aber immer noch ein schwieriger Soldat.
Bei einem Beratungsgespräch im Dezember 2009 flippte er aus. Er schrie seine Vorgesetzten an und schmiss ihre Schreibtische samt Computer auf den Boden. Ein Militärpolizist musste eingreifen. Manning wurde entwaffnet und im Würgegriff aus dem Raum geschleppt.
Wenige Monate später wurde er von einem Offizier auf dem Fußboden einer Vorratskammer entdeckt, gekrümmt in Embryoposition liegend. Neben ihm lag ein Messer. In einen Stuhl hatte er die Worte „Ich will“ (I want) eingeritzt. Einige Stunden danach schlug er grundlos auf eine Soldatin ein. Der diensthabende Psychiater empfahl die Entlassung aus der Armee. Manning wurde degradiert.
Aber nicht entlassen.
Drei Tage später wurde er von der Military Police verhaftet.
Wegen Spionage.