Der katatonische Konjunktiv

Oder: Warum wir eigentlich die Welt retten müssten

Von Rolf Eustergerling – unter tatkräftiger Mitwirkung einer künstlichen Intelligenz

Bill Gates hat ein Interview gegeben. Bei Ezra Klein, New York Times. Und er hat sich dabei ordentlich aufgeregt. Was bemerkenswert ist, denn Bill Gates gehört nicht gerade zu den Leuten, die bei jedem neuen Windows-Update schreiend auf die Straße laufen.

Seine Botschaft, etwas verkürzt: Künstliche Intelligenz sei die gefährlichste Technologie, an die sich die Menschheit je herangewagt habe. Dagegen sähen sogar Atomwaffen harmlos aus.

Das muss man erst mal sacken lassen.

Besonders fassungslos zeigte sich Gates darüber, dass wir längst sicherheitskritische Grenzen überschritten hätten, die wir vor wenigen Jahren noch für unantastbar hielten. Und dass darauf – nichts geschieht.

Na ja. Nichts stimmt natürlich nicht ganz. Wir entwickeln die Technologie mit Volldampf weiter. Das ist immerhin etwas.

Ich habe mich darüber mit ChatGPT unterhalten. Das ist ein Large Language Model, kurz LLM. Also ausgerechnet mit einem Vertreter jener Technologie, von der Gates gerade behauptet, sie könne uns alle umbringen.

Man muss auch mal Risiken eingehen.

YAGP – Yet Another Global Problem

Nun hat die Menschheit bekanntermaßen noch ein paar andere Baustellen. Klimawandel, Kriege, Energiekrisen, Wirtschaftsprobleme, gesellschaftliche Polarisierung und allerlei weitere Unannehmlichkeiten.

Alles gleichzeitig lässt sich nicht bearbeiten. Schon gar nicht, wenn die verschiedenen Interessengruppen sich bei jeder Gelegenheit gegenseitig in die Suppe spucken.

Und nun kommt auch noch KI dazu.

YAGP. Yet Another Global Problem.

Das Besondere an diesem Problem ist allerdings, dass die KI künftig auch bei der Lösung der anderen Probleme mithelfen soll. Wenn wir Glück haben.

Wenn wir Pech haben, verschärft sie sie.

Wir entwickeln also ein Werkzeug, das uns helfen soll, unsere Überforderung zu bewältigen, sind aber bereits so überfordert, dass wir nicht genügend Kapazitäten haben, dieses Werkzeug ordentlich zu kontrollieren.

Das hat eine gewisse Eleganz.

Wir wurden gewarnt. Mehrfach sogar.

1972 erschien der Bericht des Club of Rome über die Grenzen des Wachstums. Ich kann mich noch gut daran erinnern. Damals war ich 15.

Die Warnungen vor den ökologischen Folgen unbegrenzten Wachstums waren zu diesem Zeitpunkt keineswegs neu. Der Zusammenhang zwischen CO₂ und Klima war schon viel länger bekannt.

Man konnte also nicht behaupten, es hätte niemand etwas gesagt.

Wir haben die Erkenntnisse zur Kenntnis genommen, diskutiert, angezweifelt, bestätigt, neue Konferenzen veranstaltet, internationale Vereinbarungen geschlossen und anschließend weitergemacht.

Dass heute tatsächlich etwas unternommen wird, will ich nicht unterschlagen. Nur reicht es bislang nicht aus, um die bekannten Probleme zuverlässig zu lösen.

Bei der KI zeichnet sich ein ähnliches Muster ab. Allerdings erheblich schneller.

Der Autor Daniel Suarez veröffentlichte 2012 seinen Thriller Kill Decision. Darin beschäftigte er sich mit autonomen Waffensystemen, die ihre Ziele selbst auswählen und bekämpfen können.

2012!

Vor 14 Jahren.

In einem Interview erklärte er damals, wie viel seiner erschreckenden Zukunftsvision auf bereits existierenden Technologien und wissenschaftlichen Erkenntnissen beruhte.

Inzwischen sind wir technisch ein gutes Stück weiter.

In unserer Unterhaltung entstand die Idee, Suarez in einem Theaterstück per Video zuzuschalten.

MODERATOR: „Mr. Suarez, Sie haben vor 14 Jahren Entwicklungen beschrieben, die uns heute erschreckend aktuell erscheinen. Besitzen Sie eine Kristallkugel?“

SUAREZ (Originalton aus dem Interview): „Most of that, of course, is research.“

Und dann meldet sich James Lovelock.

LOVELOCK: „Sag ich doch.“

Dazu gleich mehr.

Was uns wirklich vom Tier unterscheidet

Irgendwann kam ich zu einer Erkenntnis, die ich für bemerkenswert halte:

„Der Mensch ist die einzig bekannte Spezies, die bis ins Detail genau analysieren und beschreiben kann, warum sie aussterben wird.“

Rolf Eustergerling, 2026.

Jetzt weiß ich endlich, was uns vom Tier unterscheidet!

Die Dinosaurier hatten bekanntlich keine Ahnung, was ihnen bevorstand. Sie konnten keine Einschlagwahrscheinlichkeit berechnen, keine Computersimulation erstellen und keine internationale Asteroidenkonferenz einberufen.

Andererseits hatten sie auch keine Möglichkeit, den Einschlag zu verhindern.

Wir hätten heute zumindest prinzipiell eine.

Es gibt einen Film dazu: Don't Look Up. Ein Asteroid rast auf die Erde zu, Wissenschaftler warnen, die Politik beschäftigt sich mit sich selbst, die Medien mit Einschaltquoten und die Wirtschaft entdeckt Geschäftsmöglichkeiten.

Eine Satire auf unseren Umgang mit dem Klimawandel.

Das eigentlich Absurde: Als Regisseur Adam McKay den Film vorbereitete, brach die Coronapandemie aus. Das Drehbuch war schon geschrieben, aber die Wirklichkeit begann, die Satire einzuholen. Die Dreharbeiten mussten verschoben werden.

McKay fragte sich ernsthaft, ob er den Film überhaupt noch machen sollte.

Ich stelle mir vor, die Dinosaurier hätten Don't Look Up ebenfalls auf Netflix gesehen.

Anschließend hätten sie vermutlich nur einen Stern vergeben.

„Völlig unrealistisches Katastrophenszenario. Reine Panikmache!“

66 Millionen Jahre später ist die Rezension noch online.

Die Rezensenten nicht mehr.

Der Untersuchungsausschuss tagt

Aus unserer Unterhaltung entwickelte sich inzwischen ganz nebenbei die Idee zu einem Theaterstück.

Arbeitstitel: Der Mensch als Übergangstechnologie.

Eine Talkshow mit Fritz Mauthner, Isaac Asimov, James Lovelock, mir und einem KI-Moderator.

Mauthner beschäftigt sich mit den Grenzen der Sprache. Asimov mit verbindlichen Regeln für künstliche Intelligenz. Lovelock betrachtet den Menschen eher als zeitweilige Erscheinung innerhalb eines sehr viel größeren ökologischen Systems.

Ich selbst bin für die Zwischenrufe und unbequemen Fragen zuständig.

Die KI moderiert.

Das ist schon deshalb reizvoll, weil die Beteiligten höchst unterschiedliche Auffassungen darüber vertreten dürften, was diese KI eigentlich ist.

Im Verlauf der fiktiven Diskussion werden immer neue Zeugen aufgerufen. Suarez, Gates, Feynman – einer nach dem anderen.

Alle warnen. Alle werden angehört.

Nur passieren tut erstaunlich wenig.

An dieser Stelle muss ich eine Geschichte loswerden, die Richard Feynman zugeschrieben wird.

Nach einem seiner öffentlichen Vorträge soll eine ältere Dame gefragt haben, wie lange die Sonne denn noch brennen werde.

„Sagten Sie fünf Millionen oder fünf Milliarden Jahre?“

„Fünf Milliarden“, antwortete Feynman.

„Ach, dann bin ich beruhigt!“

So funktioniert menschliche Risikowahrnehmung.

Fünf Millionen Jahre? Eine Katastrophe!

Fünf Milliarden? Na dann.

Zurück zum Theater.

MODERATOR: „Meine Damen und Herren, ich komme nun zur größten Bedrohung der Menschheit in ihrer gesamten Geschichte!“

ZWISCHENRUF AUS DEM PUBLIKUM: „Laaaangweilig!!!“

Der Moderator hält inne.

MODERATOR: „Meine Herren, ich glaube, wir können die Beweisaufnahme schließen.“

LOVELOCK: „Sag ich doch.“

Die Animöwe und die Kunst des Nichtstuns

Dieser Lovelock entwickelt sich zum heimlichen Star des Stücks.

Er sitzt die ganze Zeit ausdruckslos herum und sagt bei passenden und unpassenden Gelegenheiten lediglich:

„Sag ich doch.“

Mehr nicht.

Ich weiß aus eigener Bühnenerfahrung, dass so etwas funktioniert.

Bei unserem Traumschiff Gütersloh gab es eine „Animöwe“. Eine Dame in einem Storchenkostüm, das wir kurzerhand als Möwe verkauft haben. Sie war für das Animationsprogramm an Bord zuständig.

Ihr Gesicht schaute aus dem Hals des Vogels heraus. Sie guckte 90 Minuten lang stoisch und vollkommen teilnahmslos in die Gegend.

Kein Text. Keine nennenswerte Aktion. Keine Animation.

Zack – einer der drei Publikumslieblinge.

Warum sollte das bei Lovelock nicht funktionieren?

Allerdings würde Fritz Mauthner bei der Animöwe sofort einhaken.

MAUTHNER: „Sie behaupten, das sei ein Storch. Im Programmheft steht Möwe. Die Dame selbst äußert sich nicht. Worin besteht nun der Unterschied?“

MODERATOR: „In der biologischen Klassifikation.“

MAUTHNER: „Aber wir reden doch über eine Dame im Kostüm!“

ASIMOV: „Sehen Sie, wie wichtig verbindliche Regeln sind?“

MAUTHNER: „Verbindlich für wen? Für den Storch, die Möwe oder die Dame?“

ASIMOV: „Wir müssen zunächst eindeutig definieren, womit wir es zu tun haben.“

MAUTHNER: „Und wenn Sie das getan haben, ist aus dem Storch eine Möwe geworden?“

ASIMOV: „Nein. Aber wir können ihn endlich regelkonform behandeln.“

LOVELOCK: „Sag ich doch.“

Man ahnt, wohin das führt.

Kant mischt sich ein

Während ich mit der KI darüber diskutierte, reklamierte hinter mir Immanuel Kant, dass wir ihn gefälligst nicht übergehen sollten.

Dazu muss man wissen: Ich besitze ein Kantholz.

Das ist kein gewöhnliches Kantholz, sondern eine kleine philosophische Hommage an Marc-Uwe Kling.

Kant wäre jedenfalls ein durchaus geeigneter weiterer Teilnehmer unseres Untersuchungsausschusses.

Allerdings wird es auf der Bühne langsam eng. Deshalb muss er im Publikum bleiben.

KANT: „Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit!“

MODERATOR: „Und was beanstanden Sie?“

KANT: „Dass der Mensch gerade freiwillig wieder eintritt!“

ASIMOV: „Das ließe sich durch verbindliche Regeln verhindern.“

MAUTHNER: „Wenn wir uns über den Begriff der Mündigkeit verständigen könnten.“

LOVELOCK: „Sag ich doch.“

Ich habe so eine Ahnung, dass Kant irgendwann sein Kantholz einsetzen würde.

Der katatonische Konjunktiv

Und damit kommen wir zum eigentlichen Kern der Angelegenheit.

Wir wissen, dass wir handeln müssen.

Wir wissen oft sogar ziemlich genau, was wir tun müssten.

Aber wir tun es nicht.

Stattdessen sagen wir:

„Wir müssten dringend etwas unternehmen.“

Kant protestiert.

KANT: „Kategorischer Imperativ heißt das! Nicht katatonischer Konjunktiv!“

Da haben wir ihn.

Den katatonischen Konjunktiv.

Eine sprachliche Konstruktion, mit der man ausdrücken kann, dass man die Notwendigkeit einer Handlung vollständig erkannt hat, ohne daraus irgendwelche Konsequenzen ziehen zu müssen.

Aber es wird noch besser.

Wir haben nämlich ein weiteres Wort erfunden, das den Konjunktiv zuverlässig verstärkt:

Eigentlich.

Ich müsste mich eigentlich mehr bewegen.

Ich müsste eigentlich mit dem Rauchen aufhören.

Wir sollten eigentlich weniger Fleisch konsumieren.

Wir müssten eigentlich dringend den Klimawandel begrenzen.

Wir müssten eigentlich internationale Regeln für autonome Waffensysteme schaffen.

Sprachlich ist an diesen Sätzen nichts falsch.

Praktisch ist „eigentlich“ allerdings die eingebaute Ausstiegsklausel der Vernunft.

Es bestätigt zunächst die Richtigkeit der Erkenntnis und sorgt anschließend dafür, dass wir uns nicht weiter mit ihren Konsequenzen beschäftigen müssen.

Wir müssten eigentlich dringend handeln.

Vier Wörter reichen aus, um eine komplette gesellschaftliche Handlungsunfähigkeit unterzubringen.

MAUTHNER: „Der Konjunktiv ist eine wunderbare sprachliche Erfindung. Man kann damit Handlungsbereitschaft ausdrücken, ohne tatsächlich handeln zu müssen.“

ASIMOV: „Meine Robotergesetze kennen keinen Konjunktiv.“

KANT (aus dem Publikum): „EIGENTLICH UNERHÖRT!“

Stille.

MODERATOR: „Herr Kant, ist Ihnen bewusst, was Sie gerade gesagt haben?“

LOVELOCK: „Sag ich doch.“

Der Mensch als Übergangstechnologie

Vielleicht ist das tatsächlich unser Problem.

Wir haben eine bemerkenswerte Fähigkeit entwickelt, Zusammenhänge zu erkennen, Gefahren vorauszusehen und Handlungsmöglichkeiten zu berechnen.

Nur folgt daraus keineswegs zwangsläufig, dass wir diese Erkenntnisse auch nutzen.

Nun sind wir dabei, künstliche Intelligenzen zu entwickeln, die uns bei der Lösung unserer Probleme helfen sollen.

Oder die irgendwann Dinge tun, die wir nicht mehr verstehen.

Möglicherweise sind wir tatsächlich nur eine Übergangstechnologie. Eine vorübergehende Erscheinung der Evolution, die in der Lage war, eine neue Form von Intelligenz hervorzubringen.

Ob die uns überleben wird, ist offen.

Ob das eine gute Idee war, ebenfalls.

Womöglich sollten wir uns etwas intensiver damit beschäftigen.

Eigentlich.

---

Nachtrag

Am Ende unserer Unterhaltung stellte ich fest, dass man über das alles eigentlich ein Buch schreiben müsste.

Die KI schlug bereits ein Inhaltsverzeichnis vor:

Wir wissen Bescheid. Wir müssten handeln. Eigentlich. Aber. Zu spät.

Nachwort von James Lovelock:

„Sag ich doch.“

Nun ist es immerhin ein Blogbeitrag geworden.

Entstanden aus einem Gespräch zwischen einem Menschen und einem Large Language Model über die Frage, weshalb die Menschheit ihre Intelligenz nicht immer dazu benutzt, vernünftige Entscheidungen zu treffen.

Ob die Beteiligung der KI daran das Problem illustriert oder bereits einen Teil seiner Lösung darstellt, lasse ich offen.

Wir müssten das eigentlich mal näher untersuchen.