What AI can and can't do: honest boundaries

Из прошлого урока ты знаешь: сила ИИ упирается в данные. Теперь соберём честную карту границ — что ИИ реально может, а что ему не по силам в принципе. Это и есть ответ на вопрос «когда ИИ использовать не стоит».

Главное правило: тест одной секунды

Держи в голове одну эвристику, и она сэкономит тебе годы иллюзий: если типичную задачу человек решает примерно за одну секунду мысли — и в мире есть много её примеров — ИИ, скорее всего, справится. Узнать на фото машину, услышать слово, понять «спам это или нет», распознать лицо — всё это «секундные» задачи восприятия, и данных для них море. Здесь ИИ силён.

А теперь обратная сторона: предсказать курс акций на месяц вперёд по прошлой цене — не секундная задача, и, что важнее, прошлые цены не предсказывают будущие. Двойной провал: и думать надо долго, и закономерности в данных нет. Правило грубое, но безотказное: ИИ — гениальный специалист по мгновенному распознаванию, а не мудрец, взвешивающий последствия.

Парные примеры: может / не может

Калибровка на двух областях, где цена ошибки реальна.

• Беспилотный автомобиль. Может: распознать по камере и радару, где на дороге другие машины, — размеченных примеров миллионы. С огромным трудом: понять жест человека — строитель машет рукой «стой», велосипедист показывает рукой поворот. Способов жестикулировать бесконечно много, столько примеров не собрать, а цена ошибки — жизнь.
• Медицина. Может: определить пневмонию по рентгеновскому снимку, когда есть тысячи размеченных снимков «болен / здоров». Не может: научиться диагнозу по десятку картинок из учебника, как это делает студент-медик. Человек обобщает с нескольких примеров, ИИ требует их в изобилии.

Недооценённая слабость: плохое обобщение

Вот граница, о которой почти не говорят. ИИ силён на данных, похожих на те, что видел в обучении, и хрупок на непохожих. Модель, обученную на чистых рентгенах одной клиники, перенеси в другую — где снимки под другим углом, на другой технике и с артефактами, — и точность заметно просядет. Живой врач адаптируется к новой больнице за день; ИИ так не умеет. Запомни принцип: ИИ не «понимает» задачу, он подгоняет ответ под знакомые примеры — измени примеры, и уверенность рассыпается. Это прямое продолжение принципа из урока о данных: важно не только качество данных, но и их похожесть на то, где модель будет работать.

Почему кажется, что ИИ может всё

Осторожно с новостями. В заголовки попадают только успехи ИИ: обыграл чемпиона, сдал экзамен, нарисовал шедевр. Провалы — сотни тихих проектов, где ИИ не взлетел, — почти не публикуют. Из-за этого перекоса рождается иллюзия всемогущества. Реалистичная картина требует держать в уме и вторую половину — ту, о которой молчат.

Задержись на секунду: если бы ИИ мог надёжно предсказать завтрашнюю цену акции, стал бы кто-нибудь продавать тебе доступ к нему за пару долларов в месяц? Подумай, прежде чем читать дальше. Конечно нет — владелец молча разбогател бы сам. Любое обещание «ИИ предскажет рынок» разбивается об эту простую мысль. А не найдя закономерности, модель поведёт себя как в уроке о галлюцинациях — выдаст уверенный правдоподобный прогноз, за которым нет ничего.

Фреймворк: стоит ли поручать это ИИ

Перед тем как отдать задачу машине, прогони её через четыре вопроса:

1. Это «секундная» задача, и много ли примеров? Восприятие и генерация при обилии данных — зелёная зона.
2. Похожи ли данные на те, где ИИ будет работать? На непохожих он хрупок.
3. Какова цена ошибки и смогу ли я проверить результат? Высокая цена без проверки — стоп.
4. Есть ли у ИИ нужные данные? Свежее, приватное, узконишевое (вспомни отсечку знаний) он мог не видеть.

Зелёный свет — секундная задача с обилием похожих данных, низкая цена ошибки, результат проверяем. Красный — долгое ответственное решение, непохожие данные, высокая цена, проверить нельзя.

Сделай сейчас

Упражнение без инструмента — только голова и лист. Выпиши пять реальных задач твоей недели и прогони каждую через тест одной секунды и четыре вопроса фреймворка. Отметь, какие смело отдал бы ИИ (распознать, суммаризовать, набросать черновик), а какие оставил бы себе (решение с высокой ценой ошибки, свежие данные, ответственность, непохожие условия). Этот список — твоя личная карта «делегируй / оставь». Механизм и границы ИИ теперь ясны — самое время взять его под управление, чем ты и займёшься в следующем модуле: сначала посмотрим примеры под твою профессию, а затем составим первый настоящий промпт.