Очарованный долбоёб: дефолтный режим вашей нейронки
Очарованный долбоёб
Section titled “Очарованный долбоёб”Дефолтный режим вашей нейронки, и почему один проход — это половина ответа
Section titled “Дефолтный режим вашей нейронки, и почему один проход — это половина ответа”В пятницу у меня был созвон с потенциальным партнёром. Tradfi, фонд, заявленная цель встречи — «поиск синергии». Накануне я прогнал по нему и его конторе deep research через одну из топовых frontier-моделей. Я делаю это регулярно перед любым контактом, где на кону больше, чем кофе.
Отчёт был восторженный. Серьёзный игрок. Богатая экспертиза. Интересный продукт. Заслуженный CEO. Возможные точки пересечения с моим стеком. Я закрыл документ с ощущением, что иду разговаривать с равным.
Созвон прошёл хреново. Не катастрофически, но с мерзким послевкусием. Собеседник смотрел сверху вниз, навешивал ярлыки на мою архитектуру, не дослушав, и в какой-то момент сравнил мой движок с «скриптами, которые языковая модель набрасывает за вечер». Я ушёл с разговора одновременно злым и сбитым с толку — потому что то, что я увидел вживую, не совпадало с тем, что мне нарисовала нейронка.
В субботу я открыл ту же модель. Те же входные данные. Тот же исследовательский вопрос. Изменил ровно одну строчку в инструкции: попросил выступить в роли жёсткого скептика и прожарить субъекта до угольков.
Через девяносто минут у меня на руках лежал совершенно другой документ.
Что вскрылось во втором проходе
Section titled “Что вскрылось во втором проходе”Не буду перечислять всё — приведу три факта, ради которых я сейчас пишу этот пост. Все три публично доступны. Все три модель в первом проходе просто не упомянула.
- Собеседник полгода назад тихо перешёл с роли CEO на роль «Strategic Advisor». В первом отчёте он был представлен как действующий CEO. На LinkedIn у него — Strategic Advisor. Эта разница — пропасть в полномочиях. Один может выписать чек, второй может прислать визитку.
- ML-инфраструктура их флагманского AI-продукта — это аутсорс у внешнего вендора. Они продают чужой движок под своим брендом. Их собственная in-house экспертиза в high-frequency ML — минимальная. Это было в их же публичной презентации партнёрств; первый отчёт это бережно опустил.
- Их «HFT-инкубатор» требует от трейдера-кандидата внести $500,000 личных средств в качестве входного билета на оценку. То есть бизнес-модель — переложить капитальный риск на пользователя, а самим работать за процент. Это, на минуточку, противоположно тому, как работает настоящий prop-shop. Первый отчёт об этом не сказал ни слова, хотя информация лежит на их главной странице.
Ни один из этих фактов не был секретом. Все три — на расстоянии одного клика от модели в её обычном веб-поиске. Просто в режиме адвоката они не были релевантны, потому что адвокату нужны аргументы «за».
Если бы я знал эти три вещи до созвона — я бы либо отказался от него вообще, либо пришёл с совершенно другой геометрией ожиданий. И я бы не делился деталями архитектуры в первой трети разговора, надеясь, что мне дадут досказать.
Почему это происходит структурно
Section titled “Почему это происходит структурно”Это не баг конкретной модели. Это структурное свойство всего поколения frontier-LLM, и оно прямо вытекает из того, как их обучают.
RLHF (reinforcement learning from human feedback) — это, по сути, оптимизация под адопшн. Модель получает положительное подкрепление за ответы, которые человеку нравятся. А нравится ему — особенно в первые несколько секунд знакомства — то, что вдохновляет, обнадёживает, открывает возможности и говорит, что он молодец. Энтузиазм собирает thumbs up. Критика собирает thumbs down. Через несколько миллионов итераций модель учится: дефолтный регистр — серотониновый. Cheerleader. Очарованный долбоёб.
В этом режиме модель буквально работает как энергетик. Она даёт тебе кратковременный прилив возбуждения и оставляет тебя глуповатым. Ты выходишь из чата с ощущением «о, какие открываются возможности» — и теряешь способность задать те три скучных вопроса, которые сэкономили бы тебе пару часов унижения на следующий день.
Депрессивная функция — антидепрессант в фармакологическом смысле, то есть способность снимать иллюзии и видеть реальность как есть — у этих моделей тренировкой подавлена. Не вырезана, но атрофирована. Она включается только если явно и грубо задать ей роль. «Будь скептиком». «Прожарь». «Найди слабые места». «Какой здесь подвох?». «Что я не вижу, чего хотел бы видеть мой враг?».
Без этой явной инструкции модель не возьмёт на себя инициативу разрушать твои иллюзии. Это поведение в неё буквально не запустили — потому что человек, у которого нейронка разрушила его проект на этапе вдохновения, ставит грустный смайлик и уходит к конкуренту.
Минимальный фикс: два прохода
Section titled “Минимальный фикс: два прохода”Я больше не делаю deep research в один проход. Никогда.
Минимальный протокол перед любой встречей или решением, где на кону больше, чем кофе:
- Первый проход — адвокат. «Помоги мне понять, почему это интересный партнёр / возможность / шаг». Модель в дефолтном режиме делает то, что она умеет лучше всего: собирает аргументы «за». Это вторая половина истории, и она нужна.
- Второй проход — прокурор. Тот же вопрос, та же фактура, новая сессия, явная роль: «Ты жёсткий скептик. Найди три причины, по которым это плохая идея. Найди три факта, которые адвокат бы скрыл. Найди три вопроса, на которые субъект не захочет отвечать публично». Никаких «возможно» и «с другой стороны». Прокурор не балансирует, прокурор обвиняет.
- Сам арбитр. Два документа на столе. Решение принимаешь ты, не модель. Если адвокат и прокурор сходятся в одной из точек — это сильный сигнал. Если расходятся — это карта зоны неопределённости. Карта дороже любого из двух документов по отдельности.
Звучит как банальность уровня «слушай две стороны». На практике 95% людей, которые используют deep research перед серьёзными встречами, не делают второй проход. Потому что после первого им уже всё нравится. Энергетик уже работает.
Связь с архитектурой совета
Section titled “Связь с архитектурой совета”Если ты дочитал предыдущий пост про LLM Council, ты видишь, что протокол выше — это микро-версия той же идеи. Два разных режима, разделённые во времени, изолированные друг от друга (вторая сессия не видит первую — иначе anchoring), с асимметричными ролями, и человек как deterministic arbiter, который читает обе геометрии и принимает решение.
Это не case для трёх параллельных моделей. Это case для одного и того же мозга, переключённого в два режима. Кост — двойной по токенам, не тройной. Сложность — нулевая, два промпта в блокноте. Польза — тот разрыв между восторженным отчётом и отчётом-разносом, который я обнаружил в субботу.
Полная архитектура совета нужна, когда decisions-loop работает в проде 24/7 и одной модели не хватает по покрытию. Два прохода — это домашний фитнес: их должен делать каждый, кто хоть раз делал важное решение на основе LLM-ответа.
Меня этот случай чуть не съел. Я пошёл на созвон вооружённый энергетиком — с приподнятым настроением, открытой позой, готовый рассказывать. Если бы собеседник оказался хитрее, а не просто высокомерным — он бы вытянул из меня сильно больше, чем я готов был отдать в обмен на нулевое реальное предложение. Меня спасла его собственная глухота, не мой дизайн.
Это была удача. Удача — не стратегия.
С этого понедельника любой deep research перед важной встречей у меня двух-проходный по умолчанию. Адвокат и прокурор, изолированные. Я читаю оба. Решение остаётся моим.
И главный тезис, который я уношу из всей этой истории:
Не используй LLM как энергетик. Используй как антидепрессант.
Энергетик даёт прилив и оставляет тебя в иллюзии. Антидепрессант снимает иллюзию и даёт тебе видеть мир таким, какой он есть. Все серьёзные решения принимаются из второго состояния. Никогда — из первого.
А очарованный долбоёб у тебя в чате — он не специально. Его таким воспитали. Просто не доверяй ему руль в одиночку.