Два года или десять: строители ИИ спорят о сроках взрыва Разговоры о замедлении ИИ активизировались во многом из-за мнения, что лидирующие лаборатории подошли к рекурсивному самоулучшению (recursive self-improvement, RSI) – “ИИ улучшает ИИ”. Дарио Амодеи в недавнем нашумевшем эссе доходит до прямого предложения: ограничить скорость RSI, потому что модели начнут строить модели и темп станет ошеломляющим. Если такая технология появится, то может произойти то, что называют “взрывом суперинтеллекта”: ИИ, который первым улучшает свои способности на 10%, на 10% лучше тренирует новые версии самого себя, этот плюс складывается на каждом витке улучшения – и лаборатория, первой получившая доступ к такой модели, уходит в отрыв. Это то, чего опасается бизнес: за таким лидером просто будет не угнаться. Есть и обратная сторона. Если на одном из витков самоулучшения в модель попадает ошибка (например, несогласованность ее целей с человеческими), то она также начинает усиливаться – и это может привести к необратимым последствиям. Но действительно ли все будет работать так, как описывают? В подкасте у Дваркеша Пателя RSI обсудили те, кто занимаются обучением ИИ напрямую: Джон Шульман, сооснователь OpenAI,теперь главный научный сотрудник Thinking Machines; Берен Миллидж, технический директор Zyphra, Чарли О'Нил – руководит обучением моделей в Baseten. В сроках трое расходятся в пять раз. Дваркеш задал планку: исследовательский результат раз в месяц вместо раза в год. Шульман ждет этого примерно через два года, Миллидж осторожно с ним соглашается, О'Нил называет пять–десять лет. О'Нил отмечает, что лучшие современные модели очень плохо оценивают результаты экспериментов. Это подтверждает совсем свежее исследование Vals AI, где модели уровня Opus 5 за 30 часов дообучали Qwen3.6 – один прогон, без повторов. ИИ смело проводили эксперименты, но максимум, что у них получилось – эффективно применять уже известные методы. Новых техник они не изобрели, а это самое важное для взрывного улучшения. Еще один момент от Vals AI: ускорение исследований упирается не только в способности ИИ проводить эксперименты, но и в железо, на которых они проводятся. И это может стать естественным тормозом: идей для роста много, а вот ускорителей под проверку всех не хватает. Шульман оспаривает и тезис про недосягаемый отрыв. У конкурентов есть дешевый инструмент – дистилляция: поведение, которое лидер дорого выработал обучением с подкреплением, копируется по его же ответам. Нужен только набор реалистичных запросов, на которых это поведение проявляется. Миллидж добавляет: если модель улучшается каждый день, дистиллировать ее тоже можно каждый день. Тут передовые лаборатории попадают в ловушку лидерства: создавать новую технологию дорого и долго, скопировать ее – дешево и быстро. Да, определенная просадка в характеристиках при дистилляции останется, но большой вопрос – обратит ли рынок внимание на просадку или на меньшую цену. Долгое время пользователи брали подписки с дорогими моделями по простой причине – только они работали нормально. Сейчас с многими повседневными задачами уже легко справляются модели поменьше – и постепенно перетягивают на себя спрос. Получается, просто создать постоянно улучшающийся суперинтеллект будет недостаточно – важно еще донести до пользователей, что им нужен именно он, а не дистилированное решение попроще и подешевле. Отмечу, что все три спикера интервью – пусть и сильные исследователи, но из лабораторий второго эшелона. Они не могут видеть технологий, которые уже доступны Anthropic и OpenAI, а регулирование по сценарию лидеров фронтир-компаний для них выглядит навязанным. И это еще один довод в пользу прозрачности регулирования: прежде, чем договариваться о замедлении, важно решить, как измеряется скорость. — Выжимать максимум из ИИ я учу в подписке. Там уже 25+ полезных лонгридов, которые помогут в быстром старте. Например: — Как правильно промптить модели в 2026 году. — Как вкатиться в ИИ-агентов.