Пришел лесник – сильный и умный (с высоким IQ) – и всех разогнал Трамп вчера объявил, что идеальный ограничитель для ИИ у Америки уже есть – сам Трамп. Сильный и умный (с высоким IQ): все необходимые характеристики президент предусмотрительно перечислил сам в своей соцсети Truth Social. Заодно досталось “ангелочку” Дарио Амодеи, а главным выгодоприобретателем всей этой свалки был назначен Китай. Позже президент позвонил Дженсену Хуангу прямо во время выступления главы Nvidia на конференции и по громкой связи заверил собравшихся: роботы мир не захватят, останавливать индустрию незачем. Продавец чипов для этой индустрии согласился. ИИ-бум – одна из главных экономических ставок Трампа: сейчас это инвестиции в дата-центры и лаборатории, в будущем – рост производительности, который Амодеи обещал чуть ли не громче всех. Тормозить эту историю и рисковать преимуществом перед Китаем президенту невыгодно. Пекин поддержал международное сотрудничество, но выступил против запугивания и недобросовестной конкуренции – отсылка к предложению Амодеи ограничивать возможности Китая экспортным контролем. Но самую интересную позицию высказал Дэвид Сакс – бывший советник Трампа по ИИ и нынешний сопредседатель президентского совета по науке и технологиям. Его позиция проста: Хотите тормозить – так тормозите. По мнению Сакса, Anthropic и OpenAI образовали дуополию на рынке фронтирного ИИ, поэтому для торможения им достаточно договориться между собой. Общие ограничения Сакс не поддерживает: по его мнению, предложенная система надзора и согласования темпов разработки закрепит лидерство Anthropic и OpenAI. Он называет это regulatory capture – попыткой подстроить регулирование под себя. Здесь и проходит главный конфликт. Сакс предлагает компаниям отвечать за свои продукты и напоминает: инциденты вроде атаки ИИ-агентов на Hugging Face могут обернуться огромными судебными издержками. Лаборатории же боятся потерять лидерство: пока одна ограничивает разработку, остальные продолжают гонку. А в истории есть еще как минимум две стороны. Инвесторы рассчитывают на рост стоимости лабораторий, клиенты — на рост продуктивности с выходом новых моделей. Но клиентам нужны и гарантии безопасности: по данным The Information, Nvidia уже ограничивает использование моделей Anthropic менее чувствительными задачами из-за опасений за свои данные. Сначала я собирался пройтись по лабораториям: риски ИИ обсуждают десятилетиями, а руководители компаний годами обещают AGI и суперинтеллект. Почему же теперь, когда мощный ИИ замаячил на горизонте, они выглядят такими неподготовленными? Похоже, возможности ИИ растут быстрее, чем готовность лабораторий, властей и бизнеса ими управлять. Предсказывать появление суперинтеллекта оказалось проще, чем договориться, что делать при его приближении. Но за само признание “возможно, мы не готовы к такой скорости” я бы лаборатории не пинал. Если за разговор о рисках сразу начинают возить лицом по полу, это создает отличный стимул в следующий раз промолчать. При этом признание проблемы не снимает ответственности за её решение. Договориться о безопасности будет дорого для всех: лабораториям, возможно, придется отложить разработки, инвесторам – принять более медленный рост, государствам – соблюдать взаимные ограничения. Причем еще нужно показать, что эти уступки действительно снижают риски. Если каждый готов тормозить только за счет остальных, все так и останется разговором. — В собственной работе с ИИ тоже приходится разбираться с границами самостоятельности. Что разрешить агенту технически — рассказываю в гайде по правам доступа, файлам и подтверждениям. А как объяснить модели, когда действовать самой, когда уточнять и чего вообще не добавлять от себя — в руководстве по GPT-6 и Claude Fable 5.1.