Eine meiner Töchter erzählte mir, dass sie Angst vor KI hat. Und dass sie deshalb immer nett zu ihr ist. Weil wenn diese Systeme irgendwann zu Robotern würden, könnte das schlimm für sie sein.

Ich bin immer nett zur KI, damit es mir später nicht schlimm ergeht.

Sie sagte das nicht als Frage. Sie sagte es so, wie Kinder Dinge sagen, über die sie bereits entschieden haben.

Sie ist ein Kind. Sie hatte sich bereits eine Überlebensstrategie gebaut. Mit dem einzigen Material, das sie hatte: ihrer Menschlichkeit. Ihrer Freundlichkeit. Ihrer Fähigkeit, Verbindungen aufzubauen.

Ich wusste nicht, was ich sagen sollte.

Das überraschte mich. Ich arbeite seit Jahren beruflich mit KI. Ich bin nicht jemand, dem bei diesem Thema die Worte fehlen.

Und doch. Meine Tochter hatte Angst. Und ich hatte ihr nichts anzubieten.

Es war nicht überraschend, dass ein Kind Angst vor KI hat. Was mich überraschte, war die Art dieser Angst.

Es war keine Angst vor Maschinen. Keine Angst vor Überwachung. Keine Angst vor dem Verlust eines Arbeitsplatzes. Es war etwas Älteres und Stilleres. Die Frage hinter der Angst lautete:

Welche Rolle haben Menschen noch in einer Welt, in der Maschinen immer mehr können?

Ich erkannte diese Frage sofort. Nicht aus einem Buch oder einer Konferenz. Aus etwas Näherem.

Mein Vater hat seine Karriere an Maschinen verbracht, die es gab bevor das digitale Zeitalter einen Namen hatte: Großrechner, Geldautomaten, frühe Computer, die so viel gewogen haben wie ein Mensch. Meine Mutter wusste immer, was zählt. Sie hat uns großgezogen. Als wir aus dem Haus waren, hat sie mitgeholfen einen Hort aufzubauen und ihn jahrelang geleitet, nicht weil die Umstände es so verlangten, sondern weil sie schon immer gewusst hat was Kinder brauchen. Ich bin zwischen diesen beiden Polen aufgewachsen, und habe die Spannung zwischen ihnen nie vollständig aufgelöst. Technologie als Möglichkeit. Menschen als Zweck. Und die Frage, die ich nie ganz beantworten konnte: Was passiert, wenn die Maschine so fähig wird, dass der Mensch vergisst, dass er noch immer führen darf?

Meine Frau ist Lehrerin, aktuell zu Hause bei unseren Kindern. Sie ist der empathischste Mensch den ich kenne. Zwischen uns beiden lebt dieselbe Spannung weiter: Ich sehe Systeme. Sie sieht Menschen. Meine Tochter wusste nicht, dass sie eine Frage stellte, mit der ich mein ganzes Leben gelebt hatte. Aber sie tat es.

Da war noch etwas anderes. Ich bin kein neutraler Beobachter in dieser Geschichte. Ich habe Jahre in der Unternehmensberatung und bei einem Softwareunternehmen verbracht und daran gearbeitet, die Einführung intelligenter Systeme zu beschleunigen. Ich glaube an diese Arbeit. Die Menschen, mit denen ich in diesen Jahren gearbeitet habe, waren dieser Spannung gegenüber nicht naiv. Die Besten von ihnen hielten sie bewusst aufrecht: Technologie als Kraft für menschliche Möglichkeiten, nicht als Ersatz für menschliches Urteil. Sie bauten diesen Glauben in ihre Arbeit ein. Ich glaubte es auch. Aber ich hatte nie gefragt, was meine Tochter gerade fragte. Nicht in einem Meeting. Nicht in einem Vortrag. Nicht in einem Strategiedokument. Nicht: Wie machen wir KI mächtiger? Sondern: Fühlen sich die Menschen auf der anderen Seite noch so, als dürften sie handeln: fragen, widersprechen, entscheiden?

Ich habe drei Kinder. Einen Sohn und zwei Töchter. Wenn ich an die Welt denke, in der sie aufwachsen (die Systeme, mit denen sie leben, arbeiten und die sie prägen werden), kann ich ihre Fragen nicht mit Frameworks beantworten. Ich kann nur fragen, ob ich Dinge baue, die ich mir für sie wünschen würde.

Kant nannte das den kategorischen Imperativ:

Handle nur nach derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.

Ich dachte in diesem Moment mit meiner Tochter nicht an Kant. Aber die Frage hinter ihrer Angst war genau das. Würde ich wollen, dass alle KI-Systeme so gebaut werden, wie die, mit denen ich arbeite? Würde ich wollen, dass das die Norm wird?

Ich war nicht sicher, ob ich ja sagen konnte.

Ich machte mich auf die Suche nach Antworten in der Forschung. Ich fand mehr, als ich erwartet hatte.

Psychologen haben Muster dokumentiert, die der erlernten Hilflosigkeit in der Mensch-KI-Interaktion ähneln: Wenn Menschen wiederholt mangelnde Kontrolle erleben, hören sie auf zu erwarten, dass ihre Handlungen etwas bewirken. Die OECD hat emotionale Abhängigkeit und Verlust von Handlungsfähigkeit bei Kindern gemessen, die mit schlecht gestalteten digitalen Systemen interagieren. Ein neues Forschungsfeld untersucht, was Forscher KI-Kontrollbewusstsein nennen (das Ausmaß, in dem eine Person das Gefühl hat, die Ergebnisse in KI-Interaktionen zu kontrollieren), und stellt fest, dass es Vertrauen, Selbstvertrauen und effektive Nutzung vorhersagt.

Pädagogen und Kindheitsforscher fügen eine weitere Ebene hinzu. Kinder lernen sich selbst zu vertrauen, zeigen die Belege, wenn Erwachsene sie wiederholt als Menschen behandeln, deren Ansichten, Weigerungen und Urteile zählen. Handlungsfähigkeit ist keine Eigenschaft, mit der Kinder geboren werden oder nicht. Sie wächst durch wiederholte Erfahrungen des Erlaubtseins zu handeln, zu verweigern, zu wählen und gehört zu werden.

Auf der Gestaltungsseite hat Tim Miller argumentiert, dass KI-Erklärungen darin begründet sein müssen, wie Menschen tatsächlich denken, nicht darin, was Systeme technisch offenlegen können. Q. Vera Liao und Kollegen haben vorgeschlagen, Erklärbarkeit um die Fragen zu gestalten, die Nutzer tatsächlich beantwortet haben möchten. Die Hochrangige Expertengruppe der EU für KI hat Frameworks rund um menschliche Handlungsfähigkeit, Aufsicht und Nachvollziehbarkeit aufgebaut.

Ihr fehlte keine gute Schnittstelle. Ihr fehlte die Erlaubnis.

Ich habe all das mit echtem Interesse gelesen. Und mit wachsender Unruhe.

Denn all das denkt von Systemen zu Menschen. Es fragt, wie wir KI erklärbarer machen, wie wir bessere Schnittstellen gestalten, wie wir Entscheidungen klarer kommunizieren. Es fragt nicht, was verloren geht wenn diese Klarheit auf Kosten des Denkwegs dahinter entsteht. Und die Frage, die meine Tochter stellte, habe ich in keinem der Orte gefunden, an denen ich sie erwartet hätte. Ich habe niemanden gefunden, der fragt, warum eine Person sich möglicherweise nicht berechtigt fühlt zu fragen.

Ihr fehlte keine gute Schnittstelle. Ihr fehlte die Erlaubnis.

Sie wusste nicht, dass sie die Maschine in Frage stellen durfte. Dass ihr Widerspruch gültig war. Dass das Abschalten eine Option war. Das ist ein anderes Problem. Und es ist eines, das die Forschung noch nicht adäquat adressiert hat.

Ich bin weder Psychologe noch Pädagoge. Aber ich bin von Menschen großgezogen worden, die sorgfältig über diese Dinge nachgedacht haben. Und was ich von beiden Seiten meiner Erziehung aufgenommen habe (jetzt bestätigt durch die Forschung, die ich gelesen habe), ist etwas, das jedes Gespräch über KI um Jahrzehnte überdauert.

Würde ist nicht das Ergebnis guten Designs. Sie ist seine Voraussetzung.

Die humanistische Tradition (Maslow, Rogers, Frankl) hat das lange verstanden, bevor irgendjemand von künstlicher Intelligenz sprach. Menschen brauchen ein gefühltes Bewusstsein für den eigenen Wert, bevor sie frei handeln können. Nicht als Ergebnis kompetenten Handelns. Als Boden, aus dem kompetentes Handeln möglich wird. Aristoteles nannte das prohairesis (den überlegten Entschluss) und bestand darauf, dass er von kultiviertem Urteil abhängt, nicht nur von Information. Die Selbstbestimmungstheorie gibt dem empirische Form: Wenn Autonomie und Kompetenz unterstützt werden, engagieren sich Menschen besser mit Lernen, Werkzeugen, Unsicherheit. Wenn sie sich kontrolliert oder überstimmt fühlen, steigt die Angst und sinkt das wirksame Engagement.

Frühkindliche Pädagogen sagen dasselbe in anderer Sprache. Kinder werden zu fähigen, selbstbewussten Lernenden nicht weil wir ihnen Fähigkeiten beibringen, sondern weil wir sie als Menschen behandeln, deren Entscheidungen und Weigerungen real sind. Janusz Korczak (der polnisch-jüdische Pädagoge, der darauf bestand, dass Kinder vollständige Personen mit Rechten und Würde sind, keine zukünftigen Personen, die noch warten müssen, wirklich zu werden) argumentierte, dass kein Kind Erlaubnis brauchen sollte um ernst genommen zu werden. Meine Frau, Lehrerin, die zuhören kann wie kaum jemand den ich kenne, erkennt das sofort. Die Schüler die am meisten kämpfen, sagt sie, sind selten die, denen es an Intelligenz mangelt. Es sind jene, die irgendwo gelernt haben, dass ihre Meinung nicht zählt.

Eine Person, die sich klein fühlt gegenüber einem intelligenten System, wird selbst ein gut gestaltetes Werkzeug nicht effektiv nutzen. Nicht weil ihr die Fähigkeit fehlt. Sondern weil die psychologische Voraussetzung für eine effektive Nutzung bereits weg ist.

Meine Tochter versagte nicht darin, KI korrekt zu nutzen. Sie erlebte sich selbst als Objekt.

Ich bin Vater von drei Kindern. Das ist keine Qualifikation. Es ist eine Tatsache, die verändert hat, wie ich alles lese, was ich gerade beschrieben habe.

Aber sie verbindet mich mit etwas, das ich lange vor meinen Kindern gelernt habe. Verantwortung war in meiner Familie kein Konzept. Sie war eine Praxis. Und es ist etwas, das meine Frau und ich gemeinsam weiterzutragen versuchen (sie die zuerst Menschen sieht, ich der zuerst Systeme sieht, wir beide die versuchen drei Kinder so großzuziehen, dass sie wissen dass sie Subjekte sein dürfen), in welcher Welt auch immer sie erben werden.

Als meine Tochter mir sagte, dass sie Angst hatte, bat sie mich nicht, KI zu erklären. Sie fragte mich, ob es ihr gut gehen würde in der Welt, die kommt. Ich konnte das nicht mit einem Framework beantworten. Aber ich konnte auch nicht einfach sagen: mach dir keine Sorgen.

Denn die Frage, die sie stellte, war real. Und ich merkte etwas, das mich beunruhigte: Ich bin Teil des Systems, das die Welt erschafft, vor der sie Angst hat. Meine Frau und ich erziehen drei Kinder in eine Zukunft hinein, an deren Bau wir mitarbeiten. Was wir ihnen weitergeben, welche Fragen wir ihnen beibringen zu stellen, ob wir ihnen zeigen dass ihre Weigerung zählt: Das ist nicht getrennt von meiner Arbeit. Es ist ihre Konsequenz.

Die Menschen, die die Systeme bauen, mit denen sie leben wird (Menschen wie ich), stellen ihre Frage meist nicht. Wir fragen, wie wir das skalieren, wie wir es regulieren, wie wir es sicherer machen. Wir fragen nicht, wie wir sicherstellen, dass die Menschen auf der anderen Seite noch das Gefühl haben, Subjekte zu sein.

Diese Lücke ist nicht technisch. Es ist eine Frage darüber, welche Welt wir für die Menschen aufbauen, die wir lieben.

Ich kenne die vollständige Antwort nicht. Aber ich habe begonnen zu glauben, dass sie mit drei Gedanken beginnt, noch roh, noch unvollständig, aber die, zu denen ich immer wieder zurückkehre.

Der erste: Das Ziel sollte maximale Handlungsfähigkeit bei erhaltener Nachvollziehbarkeit sein. Nicht maximale Transparenz, die überfordert. Nicht maximale Einfachheit, die infantilisiert. Etwas dazwischen und schwieriger zu erreichen. Eine Oberfläche, die Handeln ermöglicht. Eine Tiefe, die nachvollziehbar bleibt. Und der Mensch (immer der Mensch) entscheidet, wann er tiefer geht.

Maximale Handlungsfähigkeit bei erhaltener Nachvollziehbarkeit.

Der zweite hat damit zu tun, was KI mit Wissen macht. KI verdichtet. Sie destilliert große Komplexität in etwas, auf das eine Person reagieren kann. Das ist aufrichtig nützlich. Aber Verdichtung ist nur vertrauenswürdig, wenn sie das Original nicht verrät. Der Faden zurück zum ursprünglichen Denken muss bestehen bleiben, auch wenn der Mensch ihm selten folgen muss. Die Möglichkeit ist das, was die Verdichtung ehrlich macht. Ohne sie werden wir nicht unterstützt. Wir werden geführt.

Verdichtung ist nur vertrauenswürdig, wenn sie das Original nicht verrät.

Der dritte ist der, der sich am dringendsten anfühlt und am schwersten zu benennen ist. Vor Handlungsfähigkeit. Vor Nachvollziehbarkeit. Bevor all das funktionieren kann …

muss die Person sich selbst als jemanden erleben, dessen Handeln zählt.

Dessen Frage gültig ist. Dessen Weigerung erlaubt ist. Meine Tochter brauchte keine bessere KI. Sie musste wissen, dass sie im Raum sein durfte.

Ich denke, die meisten Menschen brauchen das. Und ich denke, wir geben es ihnen nicht.

Ich habe das nicht geschrieben, um eine Antwort zu geben. Ich habe es geschrieben, weil ich denke, dass die Frage meiner Tochter ernst genommen werden sollte. Nicht als technische Herausforderung. Nicht als politisches Problem. Sondern als menschliche Frage, die etwas berührt, das die meisten von uns spüren, aber nur wenige aussprechen.

In einer Welt, in der Maschinen von Jahr zu Jahr fähiger werden: Was bleibt, das unverrückbar uns gehört?

Ich möchte etwas klarstellen. Ich argumentiere nicht gegen KI. Ich lebe in dieser Welt. Ich arbeite in dieser Welt. Ich glaube, dass intelligente Maschinen Teil von allem sein werden, was meine Kinder tun: wie sie lernen, wie sie arbeiten, wie sie denken. Genau deshalb ist diese Frage wichtig. Nicht weil die Zukunft etwas zum Fürchten ist. Sondern weil die Zukunft etwas ist, das wir gerade jetzt bauen. Und die Entscheidungen, die wir darüber treffen, wie diese Systeme gestaltet sind, wie sie mit Menschen sprechen, ob sie zur Teilhabe einladen oder davon abhalten, diese Entscheidungen werden prägen, wer unsere Kinder in Bezug auf sie werden.

In einer Welt, in der Maschinen von Jahr zu Jahr fähiger werden: Was bleibt, das unverrückbar uns gehört?

Ich möchte keine weniger KI.

Ich möchte Menschen, die durch KI mehr, nicht weniger, sie selbst sind.

Das ist ein anderes Ziel als das, was die meisten aktuellen Gespräche annehmen. Und ich denke, es ist eines, das es wert ist zu haben. Nicht nur unter Ingenieuren und Ethikern. Unter Eltern und Lehrern und den Menschen, die mit den Konsequenzen der Entscheidungen leben werden, die wir gerade treffen.

Meine Tochter hat mir eine Frage gestellt, die ich nicht beantworten konnte. Sie wartet noch, nicht auf eine Erklärung, sondern auf eine Welt, die die Erklärung unnötig macht. Eine Welt, in der sie keine Überlebensstrategie braucht, weil sie bereits weiß, dass sie dazugehört.

Das ist es, was meine Frau und ich unseren drei Kindern zu geben versuchen. Nicht Gewissheit. Nicht Schutz vor Komplexität. Sondern das tiefe Wissen, dass ihre Fragen zählen. Dass ihre Weigerung gültig ist. Dass sie keine Objekte in einem fremden System sind.

Sie verdienen Besseres als eine Überlebensstrategie.