Bei einem meiner letzten Vorträge habe ich gefragt: Wer von euch hat schon mal eine KI-Antwort übernommen, ohne sie zu prüfen?

Ein paar zögerliche Hände. Dann Grinsen im ganzen Raum.

Natürlich haben wir das alle schon gemacht. Ich auch. Ich bin Power-Userin, ich arbeite jeden Tag mit KI, und genau deshalb muss gerade ich aufpassen.

Der schlauste Praktikant der Welt

Ich beschreibe KI seit Jahren mit demselben Bild: Sie ist mein Praktikant.

Wie sind Praktikanten am ersten Tag? Nett. Aber nicht besonders nützlich.

Und dieser Praktikant ist der schlauste der Welt. Er hat das gesamte Weltwissen gelesen, antwortet in jeder Sprache und kann mit mir über Philosophie diskutieren. Aber er kennt eure Firma nicht. Er kennt eure Kundinnen nicht, eure Geschichte nicht, eure ungeschriebenen Regeln nicht.

Und er sagt nie: „Das weiß ich nicht.”

Stattdessen sagt er: „Was für ein großartiger Text!” Und wenn du nachhakst: „Stimmt, jetzt wo du es sagst, das war falsch.”

Warum die KI so tickt

Das liegt nicht an schlechtem Willen. Es liegt daran, wie Sprachmodelle funktionieren.

Wenn ich im Vortrag sage „Das Wetter ist …”, ruft der Saal: „schön!” Genau so arbeitet eine KI. Sie berechnet, welches Wort am wahrscheinlichsten als Nächstes kommt.

Gebe ich mehr Kontext, ändert sich alles: „Das Wetter in Berlin im November ist …” Grau. Kalt. Regnerisch.

Das heißt zweierlei. Erstens: Ohne Kontext bekommst du das Wahrscheinlichste, also Durchschnitt. Zweitens: Die KI ist darauf gebaut, eine plausible Antwort zu liefern, keine geprüfte.

Wenn ich Durchschnitt mit Durchschnitt multipliziere, kommt am Ende ziemlich viel Mittelmaß heraus. Und je mehr Texte im Netz von KI stammen, desto mehr lernt KI aus KI. Wo bleibt da das Geniale? Ich glaube: bei uns. Wenn wir es uns bewahren.

Mehr erledigt, weniger gelernt

Es gibt einen Begriff dafür, was passiert, wenn wir das Denken auslagern: Cognitive Offloading.

Mit KI sind die Hausaufgaben schneller und besser gemacht. Aber in dem Moment, in dem ich ohne KI dasitze, habe ich ein Problem. Ich habe mehr erledigt und weniger gelernt.

Das gilt nicht nur für Schülerinnen und Schüler. Es gilt für jede Präsentation, die wir uns zusammenfassen lassen, und für jede Zahl, die ungeprüft in den Vorstandsbericht wandert.

Immanuel Kant hat das übrigens schon 1784 beschrieben, lange vor jeder KI:

„Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, usw., so brauche ich mich ja nicht selbst zu bemühen.”

Und direkt dazu sein berühmter Satz: Habe Mut, dich deines eigenen Verstandes zu bedienen.

Seilbahn oder Wanderweg

Ich bin fest davon überzeugt: Mut ist ein Muskel. Und Urteilskraft auch.

Muskeln werden stärker, wenn wir sie benutzen. Und sie bauen ab, wenn wir es nicht tun.

Stell dir einen Berg vor. Die Seilbahn bringt dich schneller nach oben, keine Frage. Aber du musst bewusst entscheiden, wann du lieber den Wanderweg nimmst. Weil du sonst irgendwann gar nicht mehr hochkommst, wenn die Seilbahn mal steht.

Genau das ist für mich der Unterschied zwischen Copilot und Autopilot.

  • Autopilot heißt: Die KI macht, niemand prüft, das Ergebnis geht raus.
  • Copilot heißt: Die KI arbeitet zu, ich lese, ich entscheide, ich verantworte.

König Midas und die präzise Anweisung

Dazu gehört auch, dass wir klar sagen, was wir wollen.

König Midas wünschte sich, dass alles, was er berührt, zu Gold wird. Hat funktioniert. Am Ende ist er verhungert.

KI-Systeme lösen die Aufgabe, die wir ihnen geben. Nicht die, die wir eigentlich gemeint haben. Wer unklar beauftragt, bekommt im besten Fall Mittelmaß und im schlechtesten Fall Gold zum Abendessen. Auch das ist Urteilskraft: zu wissen, was ich eigentlich will, bevor ich frage.

So trainierst du deinen Urteilsmuskel

Ein paar Gewohnheiten, die mir helfen:

  1. Lies, was rausgeht. Alles, was deinen Namen trägt, hast du selbst gelesen. Keine Ausnahme für „nur kurz”.
  2. Frag dich hinterher: Hat mich das klüger gemacht oder nur schneller? Beides ist okay. Aber du solltest es wissen.
  3. Nimm bewusst den Wanderweg. Denk über eine Frage erst selbst nach, unter der Dusche, beim Spaziergang, bevor du die Antwort generieren lässt.
  4. Gib Kontext statt Hoffnung. Wer, wofür, mit welchem Ziel, in welchem Ton. Je präziser, desto weniger Mittelmaß.
  5. Lass dir widersprechen. Bitte die KI ausdrücklich, deine Idee zu zerlegen, statt sie zu loben.

Was KI nicht abnehmen kann

Wenn die KI ein Meeting-Protokoll schreibt, sieht sie, dass zehn Minuten über ein Thema gesprochen wurde. Und sie hält das für das Wichtigste.

Du weißt aber, dass es dieser eine Satz am Ende war, der alles verändert hat.

Deshalb lesen wir die Protokolle. Deshalb sind wir dabei. Deshalb geht es nicht ohne uns.

KI ist nicht das Problem und auch nicht die Erlösung. Sie ist ein großartiger Copilot. Fliegen müssen wir selbst.