|
Сооснователь Ethereum Виталик Бутерин выступил против тенденции к максимальной автономности больших языковых моделей и других ИИ-систем. Он подчеркнул, что больше человеческого контроля делает результаты работы моделей качественнее и безопаснее.
Почему это важно
За последние годы модели ИИ стали значительно мощнее. Вместе с этим появилась практика давать им всё больше свободы — чтобы они самостоятельно принимали решения и выполняли сложные цепочки действий. Но частая автономность приводит к двум проблемам:
- ИИ может переусложнять простые задачи, тратя время на ненужный анализ;
- автономность усложняет контроль и повышает риски ошибок и нежелательных действий.
«Меня раздражает, что многие разработчики ИИ стремятся к максимальной автономности систем. На самом деле больше возможностей для человеческого контроля не только улучшает результаты (как сейчас, так и в перспективе), но и повышает безопасность». — Виталик Бутерин
Как началась дискуссия
Инициатором обсуждения стал пост Андрея Карпатого, бывшего директора по ИИ в Tesla. Он заметил, что оптимизация моделей под длительные задачи приводит к затяжному анализу даже простых запросов. Карпатый привёл пример практического управления моделями, где он часто вынужден прерывать их и давать жёсткие инструкции:
«Прекрати анализ. Ограничься этим файлом. Без дополнительных инструментов. Без избыточных решений». — Андрей Карпатый
Точка зрения Бутерина
Бутерин поддержал Карпатого и добавил свои наблюдения:
- открытые модели с возможностью редактирования зачастую удобнее, чем те, что создают контент «с нуля»;
- он видит перспективу в интерфейсе «мозг — компьютер», где ИИ в реальном времени отслеживает реакцию пользователя и подстраивается под намерения и ожидания;
- многие текущие модели игнорируют нюансы пользовательских намерений, что снижает их практическую полезность.
Реакция сообщества
Мнения в сети разделились. Некоторые пользователи и инженеры поддержали идею «меньше автономности»:
- Пользователь barry farkus отметил, что отказался от редактора Cursor из‑за его склонности «забегать на пять шагов вперёд» и вернулся к ручной работе с ChatGPT, Claude и Gemini.
- Инженер Кан Каракас рассказал, что модели часто переусложняют задачи — хорошо для глубинного анализа, но плохо для быстрых проверок.
Однако нашлись и возражения: некоторые считают, что поведение модели по умолчанию можно поменять через промпты и системные инструкции, и автономность сама по себе не является проблемой.
Что это значит для обычного пользователя
Даже если вы не специалист по ИИ, выводы дискуссии полезны:
- для простых и быстрых задач лучше давать чёткие указания и ограничивать автономность модели;
- для сложного исследования автономность может быть полезной, но важно уметь контролировать шаги модели;
- в будущем интерфейсы и методы взаимодействия могут стать «чувствительнее» к вашим намерениям — и это улучшит качество ответов.
Бутерин напоминает: развитие ИИ — это не только гонка за автономностью, но и поиск баланса между автоматизацией и человеческим контролем. Самые полезные технологии усиливают человека, а не заменяют его без оглядки на результат.
|
