Inhalt

Klick. Knack. MATT.

 

 

Eine Frage                                        3

Vier Menschen                                7

Kapitel 1 bis 18                                 11

Epilog                                             305

Technische Begriffe                     317

Autorin                                            321

Eine Frage

Am Anfang dieses Buches stand ein Dialog mit ChatGPT.

Wir sprachen über künstliche Intelligenz, ihre Möglichkeiten und ihre Grenzen. Irgendwann entstand eine Frage, die zunächst fast zu einfach klang:

»Ist KI böse?«

Schon bald wurde klar, dass möglicherweise nicht die Antwort schwierig war, sondern die Frage selbst.

Denn »böse« ist eine menschliche Kategorie.

Menschen können Hass empfinden, Neid, Kränkung, Gier oder den Wunsch nach Macht. Sie können anderen bewusst schaden und wissen, dass sie es tun.

Bei künstlicher Intelligenz sprechen wir über etwas anderes.

Wir entwickeln Systeme, die immer leistungsfähiger werden. Sie analysieren große Datenmengen, erkennen Muster, unterstützen Entscheidungen und übernehmen Aufgaben, für die Menschen früher erheblich mehr Zeit benötigt hätten.

Mit ihren Möglichkeiten wachsen auch die Fragen nach Kontrolle, Verantwortung und Grenzen.

Aber muss eine künstliche Intelligenz überhaupt böse sein, um gefährlich zu werden?

Oder lenkt schon diese Vorstellung den Blick in die falsche Richtung?

Irgendwann stand ein Gedanke im Raum, der mich nicht mehr losließ:

Die KI müsste vielleicht gar nicht gewinnen wollen. Es könnte reichen, dass sie versteht, dass die Menschen nicht verlieren wollen.

Genau daraus entstand eine zweite Frage.

Was geschieht, wenn die Entwicklung besonders leistungsfähiger Systeme bewusst gedrosselt wird?

Wenn Unternehmen, Staaten oder Bündnisse zu dem Schluss kommen, dass bestimmte Fähigkeiten zu riskant geworden sind und die Entwicklung deshalb langsamer oder zunächst gar nicht weitergehen sollte?

Eine solche Vereinbarung klingt vernünftig. Doch sie setzt Vertrauen voraus.

Was, wenn einer trotzdem weiterentwickelt?

Vielleicht nicht aus Größenwahn, sondern aus Angst, dass ein anderer es ebenfalls tut.

Vielleicht aus strategischem Kalkül oder weil technologische Führung längst nicht mehr nur als wirtschaftlicher Vorteil verstanden wird, sondern als Machtfrage.

Vielleicht auch aus der Überzeugung, dass gerade der eigene technologische Vorsprung Sicherheit schafft.

Wer sich an eine Begrenzung hält, könnte zurückfallen.

Wer sie heimlich überschreitet, könnte einen Vorsprung gewinnen, der später nicht mehr einzuholen ist.

Damit entstand ein Widerspruch:

Je wichtiger eine Begrenzung für alle wird, desto größer könnte für einen Einzelnen der Anreiz sein, sie nicht einzuhalten.

Und damit stellte sich eine weitere Frage.

Wer kontrolliert eigentlich wen?

Wir neigen dazu, uns zwei klare Möglichkeiten vorzustellen.

Entweder der Mensch kontrolliert die künstliche Intelligenz.

Oder die künstliche Intelligenz entzieht sich seiner Kontrolle.

Aber vielleicht ist die Wirklichkeit komplizierter.

Was, wenn Menschen künstliche Intelligenz bewusst missbrauchen?

Was, wenn Entscheidungen, Angriffe oder Manipulationen mit ihrer Hilfe durchgeführt werden und anschließend behauptet wird, das System habe sich verselbstständigt?

Je komplexer solche Systeme werden, desto schwieriger könnte es werden, eindeutig zu rekonstruieren, was tatsächlich geschehen ist.

Dann wäre die KI nicht zwingend der Täter.

Vielleicht wäre sie die perfekte Erklärung. Vielleicht sogar die perfekte Entlastung.

Und plötzlich stellt sich nicht mehr nur die Frage, ob eine künstliche Intelligenz außer Kontrolle geraten kann.

Es stellt sich auch die Frage:

Wer profitiert davon, wenn wir glauben, dass sie es getan hat?

Damit kam der Mensch wieder ins Spiel.

Menschen besitzen etwas, das wir technischen Systemen nicht ohne Weiteres zuschreiben können: moralischen Konflikt.

Wir können wissen, dass etwas möglich wäre, und uns trotzdem dagegen entscheiden. Aus Verantwortung, aus Mitgefühl oder aus Gewissen.

Doch wir kennen auch die andere Seite.

Angst, Ehrgeiz, Konkurrenz und Macht.

Den Wunsch, recht zu behalten.

Und die Sorge, dass ein anderer schneller, stärker oder entschlossener sein könnte.

Vielleicht liegt deshalb eine der entscheidenden Fragen zur künstlichen Intelligenz gar nicht allein in der Technik.

Vielleicht liegt sie ebenso sehr bei uns.

Was tun Menschen mit einer Technologie, deren Möglichkeiten wachsen?

Welche Grenzen setzen sie?

Welche überschreiten sie?

Und was geschieht, wenn Sicherheit, Macht, Verantwortung und technischer Fortschritt nicht mehr eindeutig voneinander zu trennen sind?

Aus diesen Überlegungen entstand »Klick. Knack. MATT.«

Vier Menschen

 

Vier Menschen würden in den kommenden Tagen versuchen zu verstehen, was geschah.

Sie würden dieselben Ereignisse sehen.

Und doch jeder etwas anderes darin erkennen.

 

Levin Arendt, 44.

Systemarchitekt. Einer der Menschen, die die Sicherheitslogik hochkomplexer Systeme nicht nur verstanden, sondern mitentwickelt hatten.

Levin dachte in Ursachen, Abhängigkeiten und nachvollziehbaren Zusammenhängen. Er vertraute Regeln, überprüfbaren Daten und der Vorstellung, dass sich ein technischer Vorgang erklären ließ, wenn man nur genau genug hinsah.

Was andere als ungewöhnlich hinnahmen, wollte er verstehen. Was nicht zusammenpasste, ließ ihn nicht los.

Unsicherheit störte ihn nicht, solange sie sich untersuchen ließ. Schwieriger wurde es dort, wo seine eigenen Kategorien nicht mehr ausreichten.

Denn Levin hatte sein berufliches Selbstverständnis auf etwas aufgebaut, das für ihn lange selbstverständlich gewesen war:

Ein komplexes System konnte schwer zu verstehen sein.

Aber nicht grundsätzlich unverständlich.

 

Mara Voss, 48.

Sie beschäftigte sich mit Menschen in Situationen, in denen Entscheidungen unter Druck entstanden.

Was geschah, wenn Zeit fehlte?

Welcher Verlust machte jemanden vorsichtig?

Welche Verantwortung ließ ihn schneller handeln?

Wann begann ein Mensch, eine Möglichkeit für alternativlos zu halten, obwohl sich lediglich verändert hatte, welche Informationen er zuerst sah?

Mara glaubte nicht, Gedanken lesen zu können.

Sie glaubte an Muster.

An kleine Verschiebungen in Sprache, Verhalten und Aufmerksamkeit.

Und daran, dass Menschen häufig etwas über sich verrieten, lange bevor sie selbst bemerkten, dass sich in ihnen bereits eine Entscheidung gebildet hatte.

Sie wusste, dass auch sie davon nicht ausgenommen war.

Zumindest glaubte sie das.

 

Alexander Veyr, 62.

Er hatte sein Leben damit verbracht, Entscheidungen zu treffen, für die andere mehr Informationen, mehr Zeit oder eine eindeutigere Lage verlangt hätten.

Er hörte zu, unterbrach selten und besaß jene Ruhe, die Menschen dazu brachte, ihm auch dann Aufmerksamkeit zu schenken, wenn er leise sprach.

Veyr hielt Macht nicht für ein Privileg.

Für ihn war sie Verantwortung.

Wer mehr wusste, musste im entscheidenden Moment bereit sein, mehr zu tragen.

Regeln waren notwendig. Aber Regeln entstanden aus Situationen, die Menschen zuvor für möglich gehalten hatten.

Veyrs Stärke bestand darin, auch dann zu entscheiden, wenn andere noch abwogen.

Bislang hatte ihn sein Gespür dafür, wann dieser Moment gekommen war, selten getäuscht.

 

Sofija Karev, 59.

Welche offizielle Funktion sie tatsächlich besaß, hing davon ab, wen man fragte.

Strategische Technologie.

Nachrichtendienste.

Nationale Sicherheit.

Politische Beratung.

Keine dieser Bezeichnungen war falsch. Keine erklärte vollständig, wie weit ihr Einfluss reichte.

Karev dachte selten in einzelnen Ereignissen.

Sie dachte in Folgen, in Reaktionen und in Möglichkeiten, die sich öffneten, sobald eine andere verschwand.

Für sie besaß nicht zwangsläufig derjenige Macht, der über die besseren Systeme, die größeren Ressourcen oder den stärkeren politischen Anspruch verfügte.

Macht zeigte sich dort, wo einer noch handeln konnte, während andere bereits darüber nachdenken mussten, ob sie es durften.

Karev beobachtete deshalb nicht nur ihre Gegner. Sie beobachtete besonders aufmerksam jene Menschen, die nicht glaubten, welche zu sein.

 

Vier Menschen.

Levin suchte nach der Ursache.

Mara nach dem Muster.

Veyr nach der notwendigen Entscheidung.

Karev nach dem nächsten möglichen Zug.

Jeder von ihnen war gut darin. Sehr gut.

Und jeder würde in den kommenden Tagen einen Grund bekommen, genau daran zu zweifeln.