Виталик Бутерин: Почему чрезмерная автономность ИИ — это не всегда хорошо

Сооснователь Ethereum Виталик Бутерин выступил против тенденции к максимальной автономности больших языковых моделей и других ИИ-систем. Он подчеркнул, что больше человеческого контроля делает результаты работы моделей качественнее и безопаснее.

Почему это важно

За последние годы модели ИИ стали значительно мощнее. Вместе с этим появилась практика давать им всё больше свободы — чтобы они самостоятельно принимали решения и выполняли сложные цепочки действий. Но частая автономность приводит к двум проблемам:

• ИИ может переусложнять простые задачи, тратя время на ненужный анализ;


• автономность усложняет контроль и повышает риски ошибок и нежелательных действий.

«Меня раздражает, что многие разработчики ИИ стремятся к максимальной автономности систем. На самом деле больше возможностей для человеческого контроля не только улучшает результаты (как сейчас, так и в перспективе), но и повышает безопасность». — Виталик Бутерин

Как началась дискуссия

Инициатором обсуждения стал пост Андрея Карпатого, бывшего директора по ИИ в Tesla. Он заметил, что оптимизация моделей под длительные задачи приводит к затяжному анализу даже простых запросов. Карпатый привёл пример практического управления моделями, где он часто вынужден прерывать их и давать жёсткие инструкции:

«Прекрати анализ. Ограничься этим файлом. Без дополнительных инструментов. Без избыточных решений». — Андрей Карпатый

Точка зрения Бутерина

Бутерин поддержал Карпатого и добавил свои наблюдения:

• открытые модели с возможностью редактирования зачастую удобнее, чем те, что создают контент «с нуля»;


• он видит перспективу в интерфейсе «мозг — компьютер», где ИИ в реальном времени отслеживает реакцию пользователя и подстраивается под намерения и ожидания;


• многие текущие модели игнорируют нюансы пользовательских намерений, что снижает их практическую полезность.

Реакция сообщества

Мнения в сети разделились. Некоторые пользователи и инженеры поддержали идею «меньше автономности»:

• Пользователь barry farkus отметил, что отказался от редактора Cursor из‑за его склонности «забегать на пять шагов вперёд» и вернулся к ручной работе с ChatGPT, Claude и Gemini.


• Инженер Кан Каракас рассказал, что модели часто переусложняют задачи — хорошо для глубинного анализа, но плохо для быстрых проверок.

Однако нашлись и возражения: некоторые считают, что поведение модели по умолчанию можно поменять через промпты и системные инструкции, и автономность сама по себе не является проблемой.

Что это значит для обычного пользователя

Даже если вы не специалист по ИИ, выводы дискуссии полезны:

• для простых и быстрых задач лучше давать чёткие указания и ограничивать автономность модели;


• для сложного исследования автономность может быть полезной, но важно уметь контролировать шаги модели;


• в будущем интерфейсы и методы взаимодействия могут стать «чувствительнее» к вашим намерениям — и это улучшит качество ответов.

Бутерин напоминает: развитие ИИ — это не только гонка за автономностью, но и поиск баланса между автоматизацией и человеческим контролем. Самые полезные технологии усиливают человека, а не заменяют его без оглядки на результат.