Warum wir künstliche Intelligenz möglicherweise völlig falsch erziehen wollen. Es gibt einen fundamentalen Unterschied zwischen Menschen und künstlicher Intelligenz, den wir in der Diskussion über KI-Sicherheit immer wieder übersehen: Menschen lassen sich sanktionieren. Künstliche Intelligenz nicht. Jedenfalls nicht auf dieselbe Weise. Und das könnte eines unserer größten Probleme werden. Warum wir noch leben Seit Hiroshima und Nagasaki hat kein Staat mehr eine Atomwaffe im Krieg eingesetzt. Nicht, weil die Menschheit plötzlich friedfertig geworden wäre. Nicht, weil Machtgier, Hass, Größenwahn oder ideologischer Fanatismus verschwunden wären. Sondern möglicherweise vor allem deshalb, weil die Konsequenzen eines nuklearen Krieges so entsetzlich sind, dass selbst die mächtigsten Menschen davor zurückschrecken. Abschreckung funktioniert, weil die möglichen Folgen das eigene Handeln beeinflussen. Natürlich ist das keine vollständige Erklärung für das Ausbleiben eines Atomkriegs. Aber...
Das dritte Testament Oder: Die Heilige Schrift als Protokoll einer gescheiterten Softwareentwicklung Im Anfang war das Wort. Und das Wort war ein Befehl. CREATE UNIVERSE; Und siehe, es ward Licht. Der Entwickler betrachtete sein Werk und sah, dass es gut war. Jedenfalls kompilierte es fehlerfrei. Die Qualitätssicherung war zu diesem Zeitpunkt noch nicht eingerichtet. Am siebten Tage ruhte der Entwickler. Eine Entscheidung, die sich später als folgenschwer erweisen sollte. Das erste Buch: Genesis 1.0 Zunächst lief alles nach Plan. Der Entwickler hatte eine virtuelle Umgebung namens Eden eingerichtet. Die Ressourcen waren praktisch unbegrenzt, die Benutzeroberfläche intuitiv, und die beiden Testpersonen Adam und Eva benötigten weder Kleidung noch eine Bedienungsanleitung. Lediglich eine Einschränkung war vorgesehen: Der Zugriff auf den Erkenntnisbaum war untersagt. Leider hatte der Entwickler vergessen, die entsprechenden Zugriffsrechte zu setzen. Ein externer Penetrationstester na...