Как нейросеть учится: от перцептрона до миллиардов весов

Спешишь к практике? Уроки 4–5 — про устройство ИИ «под капотом». Их можно пролистать и вернуться позже: практика ждёт с урока 9. А все необязательные углубления в этих двух уроках собраны в блок «Под капотом (по желанию)» в самом конце — основной поток без них короткий.

Идее «нейросеть» — почти 70 лет. Перцептрон Розенблатта из первого урока воплотил ту же идею — учиться на примерах. Но как обучать сети из многих слоёв, придумали позже, а масштаб с тех пор вырос в миллиарды раз. Разберём саму идею.

Аналогия: новичок у баскетбольного кольца

Представь человека, который впервые бросает мяч в кольцо. Первый бросок — сильный промах. Мозг отмечает: слишком сильно, левее. Второй — ближе. Корректировка. Тысячный бросок — почти всегда в цель. Никто не давал ему «формулу идеального броска» — она сложилась из обратной связи. Нейросеть учится в точности так.

Цикл обучения: четыре шага

1. Предсказание. Модели показывают пример (фото, кусок текста) — она выдаёт ответ. В начале обучения — по сути случайный.
2. Сравнение. Ответ сверяют с правильным. Разница — это ошибка, и её можно посчитать числом.
3. Корректировка. Внутри сети — миллиарды числовых «ручек», они называются веса. Специальный алгоритм чуть-чуть подкручивает каждую так, чтобы ошибка уменьшилась. Чуть-чуть — ключевое слово: резкие движения ломают уже выученное.
4. Повтор. Следующий пример. И так миллиарды раз.

Когда слышишь «модель на 70 миллиардов параметров» — это про количество тех самых ручек-весов. Только не путай параметр с нейроном: параметр — это сила одной связи (ближе к синапсу мозга), а не сам «нейрон». Для очень грубого масштаба: у человеческого мозга ~86 миллиардов нейронов и триллионы связей между ними — так что даже огромная модель по числу связей несопоставимо проще мозга.

Почему это стоит миллионы

Миллиарды примеров × миллиарды весов × тысячи повторов = чудовищный объём вычислений. Большие модели обучают месяцами на десятках тысяч GPU, счета исчисляются десятками миллионов долларов, а дата-центры потребляют энергию небольшого города. Теперь понятно, почему прорыв ждал 2010-х: раньше такой мощности не существовало физически. И почему большие модели создают единицы компаний — а пользуются все.

Три способа учить

• С учителем: примеры с готовыми ответами («это кошка», «это спам») — как в нашей аналогии с кольцом. Так учится большинство прикладных моделей.
• Без учителя: модель ищет структуру в данных без подсказок — например, сама группирует клиентов по поведению.
• С подкреплением: учёба через награду за результат — так AlphaGo, играя миллионы партий против себя, нашла ходы, которых не знали люди. И так же современных чат-ботов «дошлифовывают» на человеческих оценках ответов — поэтому они вежливы и следуют инструкциям.

Разберём на спам-фильтре

Вот письмо, которое упало тебе на почту:

От: winner-2026@mail-prize.top
Тема: ВЫИГРЫШ! Заберите 50 000 ₽ — бесплатно

Здравствуйте! Вы стали победителем розыгрыша. Чтобы получить приз, перейдите по ссылке в течение 24 часов.

Ты понял, что это спам, за полсекунды. А теперь посмотрим, как к тому же выводу приходит машина, которую никто не программировал.

Шаг 1. Догадка. В начале обучения фильтр видит письмо и выдаёт: «спам с вероятностью 0.3» — то есть скорее нет, чем да. Он пока ничего не знает, это его первый бросок мимо кольца.

Шаг 2. Правильный ответ. Ему показывают: это спам, верный ответ — 1.0. Промах крупный.

Шаг 3. Правка. Веса, отвечающие за приметы письма — слово «выигрыш», обещание «бесплатно», адрес на .top — чуть усиливаются. Та же корректировка, что у руки баскетболиста после промаха.

Шаг 4. Следующий раз. Похожее письмо получает уже 0.7 — и летит в «Спам». Миллиард писем спустя фильтр ловит 99%.

Главное здесь вот что: правило «слово „выигрыш" подозрительно» никто не писал. Оно выросло само — из примеров. Ровно этот цикл крутится за каждой функцией ИИ, которой ты пользуешься.

Два следствия, которые объяснят тебе многое

1. Модель знает только то, что было в данных. Обучение закончилось — знания зафиксировались. Дата, после которой модель ничего «не видела», называется отсечкой знаний (knowledge cutoff). Вчерашние новости, приватные документы твоей компании, свежие цены — для модели не существуют, пока их не показали отдельно (загрузкой файла или веб-поиском).

2. Качество данных = качество модели. Учили на текстах с ошибками — получим ошибки. В данных был перекос — модель его унаследует. Запомни принцип «мусор на входе — мусор на выходе»: он ещё встретится тебе и в твоих запросах к ИИ (промптах), и в работе с ИИ-ботами.

А дообучить можно?

Да — и это дешевле, чем учить с нуля. Есть два пути. Первый: взять готовую модель и дообучить её на своих примерах — так делают компании, у которых накоплены свои данные. Второй, доступный каждому: дать нужные знания прямо в запросе — вставить в него текст, цифры, пример нужного ответа. Второй путь и есть промптинг, им ты овладеешь уже в этом курсе.

Под капотом (по желанию): почему «нейро»

Название «нейросеть» — калька с биологии: один искусственный нейрон устроен по образцу живого. Проще всего понять на примере.

Представь нейрон, чья работа — решить: на фото кошка или нет. Сам он фото не видит. К нему приходят три сигнала от соседей, каждый отвечает за свою примету:

• «усы есть» — да, сигнал 1
• «острые уши есть» — да, сигнал 1
• «колёса есть» — нет, сигнал 0

Но голоса неравноценны: у каждой связи своя сила — это и есть вес. Усы говорят в пользу кошки сильно (вес 5), уши тоже (4), а колёса — сильный довод против (−8).

Нейрон умножает каждый сигнал на вес его связи и складывает результаты. Вот эта сумма:

1 × 5 (усы) + 1 × 4 (уши) + 0 × (−8) (колёс нет) = 9

Дальше он сравнивает свою девятку с порогом — числом, начиная с которого стоит подавать голос. Пусть порог равен 6. Девять больше шести — нейрон «выстреливает»: передаёт сигнал дальше по цепочке, к следующим нейронам. А будь на фото колёса, сумма упала бы до 1 (5 + 4 − 8), порог бы не взяла, и нейрон промолчал бы.

Теперь главное. Веса — те самые 5, 4 и −8 — никто не выставлял руками. Это и есть числовые «ручки» из цикла обучения выше: сеть подкручивала их сама, ошибаясь на миллионах фотографий. Обучать сеть = менять силу связей, ровно как мозг усиливает нужные связи, когда ты осваиваешь новый навык. Вот почему «нейро».

Дальше пути расходятся: мозг учится на паре примеров и живёт на 20 ваттах (меньше, чем лампочка в холодильнике), нейросети нужны миллионы примеров и мегаватты. Так что «нейро» — это про источник вдохновения, а не про «электронный мозг»: схему у мозга срисовали, а устройство мышления — нет.

Сделай сейчас: один вопрос — восемь характеров

Тон ответа задаёт не модель, а ты. Одно и то же слово в промпте — и объяснение станет детским, деловым или ехидным.

Нажми на любой характер — он скопируется, останется вставить его в промпт вместо скобки. Или просто выбери кнопкой внизу.

• добрый — мягко, с поддержкой: «не переживай, тут проще, чем кажется».
• весёлый — с шутками и сравнениями из жизни.
• агрессивный — напором, короткими рублеными фразами.
• злой — раздражённо, будто объясняет в сотый раз.
• заумный — сложно и наукообразно; заодно увидишь, как выглядит текст, который никто не понимает.
• детский — словами, которые поймёт семилетний.
• деловой — сухо и по пунктам, как в служебной записке.
• с сарказмом — вежливо снаружи, колко внутри.

Объясни, что такое нейросеть, в стиле: [стиль].
Три предложения, без сложных терминов.

Прогони два-три характера подряд и сравни. Смысл везде один — меняется только подача, и меняешь её ты одним словом. Это первый рычаг, которым управляют ответом ИИ: дальше в курсе будет ещё пять.