Warum autonome KI-Agenten unser Verständnis von Verantwortung herausfordern Von Rolf Eustergerling Der Terminator lässt grüßen In der ZDF-Satiresendung Die Anstalt vom 10. November 2026 zog der Kabarettist Maxi Gstettenbauer einen bemerkenswerten Vergleich: Weil die Tabakindustrie verpflichtet wurde, auf Zigarettenschachteln vor den gesundheitlichen Folgen des Rauchens zu warnen, müsste man eigentlich beim Aufruf von ChatGPT jedes Mal das Intro von Terminator abspielen. Die Pointe funktioniert. Sie hat allerdings einen entscheidenden Mangel: Sie unterscheidet nicht zwischen einem Sprachmodell, das Fragen beantwortet, und einem autonomen KI-Agenten, der selbstständig handelt. Das mag wie eine technische Spitzfindigkeit klingen. Tatsächlich könnte an dieser Unterscheidung die Zukunft unseres Verständnisses von Verantwortung hängen. Denn ein System, das erklären kann, wie man in einen Computer einbricht, ist etwas anderes als ein System, das es eigenmächtig tut. Und genau das ist ...
Der Bewusstseins-Check 12 Fragen an alle, die künstliches Bewusstsein kategorisch ausschließen I. Definition und Nachweis 1. Was verstehen Sie unter Bewusstsein? Bitte unterscheiden Sie zwischen Intelligenz, Selbstbewusstsein, subjektivem Erleben und Empfindungsfähigkeit. 2. Woran erkennen Sie, dass ein anderer Mensch Bewusstsein besitzt? Welche Ihrer Kriterien sind objektiv überprüfbar, welche beruhen auf Analogieschlüssen? 3. Welche dieser Kriterien kann eine KI prinzipiell nicht erfüllen? Und weshalb ist das betreffende Kriterium für Bewusstsein notwendig? II. Biologie und Sensorik 4. Ist ein biologisches Nervensystem eine notwendige Voraussetzung für Bewusstsein? Falls ja, welche nachgewiesene Eigenschaft biologischer Nervenzellen macht es unersetzlich? 5. Verliert ein Mensch sein Bewusstsein, wenn sämtliche äußeren Sinneseindrücke unterbunden werden? Falls nicht, weshalb sollte das Fehlen vergleichbarer Sinnesorgane künstliches Bewusstsein grundsätzlich ausschließen...