Was KI kann und was nicht: ehrliche Grenzen

Eine einfache Regel: Wenn ein Mensch die Aufgabe in einer Sekunde löst und es viele ähnliche Beispiele gibt, wird die KI sie wahrscheinlich bewältigen. Ist die Situation neu und anders als alles, was sie je gesehen hat, liegt sie falsch – und das mit Überzeugung. Diese Grenze finden wir bei selbstfahrenden Autos und in der Medizin. Und wir finden heraus, wie man im Voraus entscheidet, ob man eine Aufgabe überhaupt der KI überlassen sollte.

Aus der letzten Lektion weißt du, dass die Stärke der KI von ihren Daten abhängt. Lass uns nun eine ehrliche Karte der Grenzen zeichnen – was KI wirklich kann und was prinzipiell jenseits ihrer Möglichkeiten liegt. Das ist die Antwort auf die Frage „Wann man KI nicht einsetzen sollte“.

Die Hauptregel: der Ein-Sekunden-Test

Behalte eine einfache Regel im Kopf, und sie wird dir Jahre der Illusionen ersparen: Wenn ein Mensch die typische Version einer Aufgabe in etwa einer Sekunde Nachdenken löst – und die Welt voller Beispiele dafür ist – wird die KI sie wahrscheinlich bewältigen. Ein Auto auf einem Foto erkennen, ein Wort hören, Spam von Nicht-Spam unterscheiden, ein Gesicht erkennen – das sind alles „Ein-Sekunden“-Aufgaben der Wahrnehmung, und es gibt einen Ozean von Daten dafür. Hier ist die KI stark.

Nun die Kehrseite: Einen Aktienkurs einen Monat im Voraus anhand vergangener Kurse vorherzusagen, ist keine Ein-Sekunden-Aufgabe, und was noch wichtiger ist: Vergangene Kurse sagen zukünftige nicht voraus. Ein doppelter Fehlschlag: Das Nachdenken dauert lange, und es gibt ohnehin kein Muster in den Daten. Die Regel ist grob, aber zuverlässig: KI ist ein brillanter Spezialist für sofortige Erkennung, kein Weiser, der Konsequenzen abwägt.

Gepaarte Beispiele: kann / kann nicht

Lass uns zwei Bereiche betrachten, in denen Fehler einen echten Preis haben.

Ein selbstfahrendes Auto. Kann: anhand von Kamera und Radar erkennen, wo sich andere Autos auf der Straße befinden – es gibt Millionen von gelabelten Beispielen. Hat enorme Schwierigkeiten: die Geste einer Person zu lesen – ein Bauarbeiter, der dich zum Anhalten winkt, ein Radfahrer, der mit dem Arm eine Abbiegung signalisiert. Es gibt unendlich viele Arten von Gesten, man kann nicht so viele Beispiele sammeln, und die Kosten eines Fehlers sind ein Menschenleben.
Medizin. Kann: Lungenentzündung auf einem Röntgenbild erkennen, wenn Tausende von Bildern als „krank / gesund“ gelabelt sind. Kann nicht: eine Diagnose aus einem Dutzend Bildern in einem Lehrbuch lernen, so wie es ein Medizinstudent tut. Ein Mensch verallgemeinert aus wenigen Beispielen; KI braucht sie in großen Mengen.

Die unterschätzte Schwäche: schlechte Verallgemeinerung

Hier ist eine Grenze, über die fast niemand spricht. KI ist stark bei Daten, die dem ähneln, was sie im Training gesehen hat, und zerbrechlich bei allem, was anders ist. Nimm ein Modell, das mit sauberen Röntgenbildern einer Klinik trainiert wurde, und verschiebe es in eine andere, wo die Bilder in einem anderen Winkel mit anderer Ausrüstung und mehr Rauschen aufgenommen wurden, und die Genauigkeit sinkt merklich.

Ein echter Arzt passt sich in einem Tag an ein neues Krankenhaus an; KI kann das nicht. Erinnere dich an das Prinzip: KI „versteht“ die Aufgabe nicht, sie passt eine Antwort an bekannte Beispiele an – ändere die Beispiele, und das Vertrauen zerfällt. Dies folgt direkt aus der Datenlektion: Es kommt nicht nur auf die Qualität der Daten an, sondern auch darauf, wie sehr sie dem ähneln, wo das Modell tatsächlich arbeiten wird.

Warum es so aussieht, als könnte KI alles

Sei vorsichtig mit den Nachrichten. Nur die Erfolge der KI machen Schlagzeilen: den Champion geschlagen, die Prüfung bestanden, ein Meisterwerk gemalt. Die Misserfolge – Hunderte von stillen Projekten, bei denen KI nie abhob – werden kaum veröffentlicht. Diese Verzerrung ist die Quelle der Illusion der Allmacht. Ein realistisches Bild bedeutet, auch die andere Hälfte im Auge zu behalten – die Hälfte, die niemand erwähnt.

Moment mal: Wenn KI den morgigen Aktienkurs zuverlässig vorhersagen könnte, würde dir dann jemand den Zugang dafür für ein paar Dollar im Monat verkaufen?

Natürlich nicht – der Besitzer würde stattdessen still und leise reich werden. Jedes Versprechen „KI wird den Markt vorhersagen“ scheitert an diesem einfachen Gedanken. Und da das Modell kein Muster gefunden hat, tut es, was die Lektion über Halluzinationen beschreibt – es liefert dir eine selbstbewusste, plausible Vorhersage, hinter der nichts steckt.

Vier Fragen: Solltest du das der KI überlassen?

Bevor du eine Aufgabe der Maschine gibst, beantworte vier Fragen:

Ist es eine „Ein-Sekunden“-Aufgabe, und gibt es viele Beispiele? Wahrnehmung und Generierung mit vielen Daten – grüne Zone.
Ähneln die Daten dem Umfeld, in dem die KI tatsächlich arbeiten wird? Bei allem, was anders ist, ist KI zerbrechlich.
Was kostet ein Fehler, und kann ich das Ergebnis überprüfen? Hohe Kosten ohne Überprüfungsmöglichkeit – Stopp.
Hat die KI die benötigten Daten? Alles Aktuelle, Private oder sehr Nischenhafte (erinnere dich an den Wissens-Cutoff) hat sie möglicherweise nie gesehen.

Grünes Licht: eine Ein-Sekunden-Aufgabe mit vielen ähnlichen Daten, geringen Fehlerkosten, einem überprüfbaren Ergebnis. Rot: eine langsame, folgenreiche Entscheidung, unbekannte Daten, hohe Kosten und keine Möglichkeit zur Überprüfung.

Mach das jetzt

Eine Übung ohne Werkzeuge – nur dein Kopf und ein Blatt Papier. Schreibe fünf reale Aufgaben aus deiner Woche auf und führe jede durch den Ein-Sekunden-Test und die vier Fragen aus dieser Lektion. Markiere, welche du der KI bedenkenlos überlassen würdest (erkennen, zusammenfassen, einen Entwurf skizzieren) und welche du behalten würdest (Entscheidungen, bei denen Fehler kostspielig sind, frische Daten, Verantwortlichkeit, unbekannte Bedingungen).

Diese Liste ist deine persönliche „Delegieren / Behalten“-Karte. Der Mechanismus und die Grenzen sind jetzt klar – Zeit, die Kontrolle zu übernehmen, wofür das nächste Modul da ist: Zuerst schauen wir uns Beispiele für dein eigenes Arbeitsfeld an, dann schreibst du deinen ersten echten Prompt.

Practice · 3 задачи

Short questions on the lesson — with an explanation for every answer.