Wie ein neuronales Netz lernt: vom Perzeptron zu Milliarden Gewichten

Du möchtest schnell zur Praxis kommen? Lektionen 4–5 behandeln, was unter der Haube der KI steckt. Du kannst sie überfliegen und später darauf zurückkommen: der praktische Teil beginnt in Lektion 9. Und jeder optionale Deep Dive in diesen beiden Lektionen befindet sich in einem „Unter der Haube (optional)“-Block ganz am Ende – der Hauptteil ist ohne sie kurz.

Die Idee eines „neuronalen Netzes“ ist fast 70 Jahre alt. Rosenblatts Perzeptron aus Lektion eins verkörperte dieselbe Idee – aus Beispielen lernen. Doch wie man Netze mit vielen Schichten trainiert, kam später, und der Umfang ist seitdem um Milliarden gewachsen. Lass uns die Idee aufschlüsseln.

Eine Analogie: ein Anfänger am Basketballkorb

Stell dir vor, jemand wirft zum ersten Mal einen Ball auf einen Korb. Erster Wurf – weit daneben. Das Gehirn merkt sich: zu fest, zu weit links. Zweiter – näher dran. Anpassen. Beim tausendsten Wurf trifft er fast jedes Mal. Niemand gab ihm „die Formel für den perfekten Wurf“ – sie entstand durch Feedback. Ein neuronales Netz lernt genau auf diese Weise.

Der Trainingszyklus: vier Schritte

1. Vorhersagen. Du zeigst dem Modell ein Beispiel (ein Foto, einen Textausschnitt) und es gibt eine Antwort. Am Anfang des Trainings ist das Ergebnis im Grunde zufällig.
2. Vergleichen. Die Antwort wird mit der richtigen verglichen. Die Abweichung ist der Fehler, und du kannst ihm einen Wert zuweisen.
3. Anpassen. Im Inneren des Netzes sitzen Milliarden numerischer „Stellschrauben“, genannt Gewichte. Ein spezieller Algorithmus verschiebt jede davon ein kleines bisschen, sodass der Fehler kleiner wird. Ein kleines bisschen ist der entscheidende Teil: zu starke Änderungen zerstören das bereits Gelernte.
4. Wiederholen. Nächstes Beispiel. Milliarden Mal.

Wenn du von einem „70-Milliarden-Parameter-Modell“ hörst, ist das die Anzahl dieser Gewichts-Stellschrauben. Verwechsle einen Parameter nicht mit einem Neuron: Ein Parameter ist die Stärke einer Verbindung (ähnlicher einer Synapse im Gehirn), nicht das „Neuron“ selbst. Zum groben Größenvergleich: Das menschliche Gehirn hat ~86 Milliarden Neuronen und Billionen von Verbindungen zwischen ihnen – selbst ein riesiges Modell ist also, gemessen an der Anzahl der Verbindungen, unvergleichlich einfacher als ein Gehirn.

Warum das Millionen kostet

Milliarden von Beispielen × Milliarden von Gewichten × Tausende von Durchläufen = eine monströse Menge an Rechenleistung. Große Modelle trainieren monatelang auf Zehntausenden von GPUs, die Rechnungen belaufen sich auf zig Millionen Dollar, und die Rechenzentren verbrauchen so viel Strom wie eine Kleinstadt. Jetzt ist klar, warum der Durchbruch auf die 2010er Jahre warten musste: So viel Rechenleistung gab es vorher einfach nicht. Und warum nur eine Handvoll Unternehmen große Modelle bauen – während alle sie nutzen.

Drei Trainingsmethoden (diesen begegnest du in jedem KI-Artikel)

• Überwachtes Lernen: Beispiele, die mit den Antworten geliefert werden („das ist eine Katze“, „das ist Spam“) – wie bei unserer Korbwurf-Analogie. Die meisten angewandten Modelle lernen auf diese Weise.
• Unüberwachtes Lernen: das Modell sucht ohne Hinweise nach Strukturen in den Daten – zum Beispiel, indem es Kunden selbstständig nach Verhalten gruppiert.
• Reinforcement Learning: Lernen durch Belohnung für das Ergebnis – so fand AlphaGo, indem es Millionen von Spielen gegen sich selbst spielte, Züge, die kein Mensch kannte. Und so erhalten die heutigen Chatbots ihren letzten Schliff, durch menschliche Bewertungen von Antworten – deshalb sind sie höflich und befolgen Anweisungen.

Der Spamfilter, End-to-End (der gesamte Zyklus in einer Minute)

Nimm ein bekanntes Beispiel und durchlaufe den Zyklus: dem Filter wird eine E-Mail gezeigt → er sagt „Spam, Wahrscheinlichkeit 0,3“ voraus → die richtige Antwort war „Spam“ → der Fehler ist groß → die Gewichte, die mit den Wörtern „prize“ und „free“ und der ungewöhnlichen Absenderadresse verbunden sind, werden ein wenig nach oben korrigiert → die nächste ähnliche E-Mail erzielt 0,7. Eine Milliarde E-Mails später fängt der Filter 99% des Spams ab. Niemand schrieb eine Regel, die besagt „das Wort ‚prize‘ ist verdächtig“ – diese Regel entwickelte sich aus den Beispielen. Jetzt kannst du diesen Prozess hinter jeder KI-Funktion erkennen.

Zwei Konsequenzen, die viel erklären

1. Ein Modell weiß nur, was in den Daten war. Das Training endete, das Wissen wurde fixiert. Das Datum, nach dem das Modell nichts „gesehen“ hat, wird als Knowledge Cutoff bezeichnet. Nachrichten von gestern, die privaten Dokumente deines Unternehmens, die heutigen Preise – nichts davon existiert für das Modell, bis du es separat zeigst (indem du eine Datei hochlädst oder es das Web durchsuchen lässt).

2. Datenqualität = Modellqualität. Trainiere mit Texten voller Fehler und du erhältst Fehler. Wenn die Daten eine bestimmte Tendenz hatten, erbt das Modell diese Tendenz. Erinnere dich an „Garbage in, garbage out“: Das zeigt sich in deinen eigenen Anfragen an die KI (deinen Prompts) und bei der Arbeit mit KI-Bots.

Kannst du das Training ergänzen?

Ja – und günstiger als ein Training von Grund auf: nimm ein fertiges Modell und lehre es mit deinen eigenen Beispielen weiter (Fine-Tuning), oder gib ihm das benötigte Wissen einfach direkt in deiner Anfrage mit. Die zweite Methode ist Prompting, und darin wirst du in diesem Kurs gut werden.

Unter der Haube (optional): warum „neuronal“

Was folgt, ist ein optionaler Deep Dive für Neugierige. Es wird nicht ändern, wie du praktisch mit KI arbeitest, also kannst du gerne direkt zur nächsten Lektion springen.

Der Name „neuronales Netz“ ist keine Metapher – er stammt direkt aus der Biologie. Ein Neuron im Gehirn verbindet sich mit Tausenden anderer Neuronen, und jede Verbindung hat ihre eigene Stärke: eine fest, eine andere kaum vorhanden. Es funktioniert einfach: Es sammelt die Signale von allem, womit es verbunden ist, multipliziert jedes mit der Stärke dieser Verbindung, addiert alles – und wenn die Summe einen Schwellenwert überschreitet, „feuert“ es ein Signal die Kette hinunter ab. (Der Schwellenwert ist wie ein Schalter: Drückst du ihn zu sanft, geht das Licht nicht an.)

Ein künstliches Neuron kopiert dieses Schema. Und die Stärke jeder Verbindung ist genau das Gewicht – die numerische Stellschraube aus dem obigen Trainingszyklus. Ein Netz trainieren = die Stärke der Verbindungen einstellen, genau wie dein Gehirn die benötigten Verbindungen stärkt, wenn du eine neue Fähigkeit erlernst. Daher kommt „neuronal“.

Danach trennen sich die Wege: Ein Gehirn lernt aus ein paar Beispielen und läuft mit 20 Watt (weniger als die Glühbirne in deinem Kühlschrank), während neuronale Netze Millionen von Beispielen und Megawatt benötigen. „Neuronal“ bezieht sich also auf die Inspiration, nicht auf ein „elektronisches Gehirn“: Wir kopierten den Schaltplan des Gehirns, nicht die Art, wie es denkt.