Виталик Бутерин подчеркивает ограничения чрезмерной автономности ИИ и выступает за более тесное взаимодействие с людьми

Соучредитель Ethereum Виталик Бутерин недавно выразил в социальной сети X своё разочарование подходом многих разработчиков ИИ, направленным на максимизацию «агентной» природы систем. Он утверждал, что сосредоточение на повышении автономности ИИ не так эффективно, как предоставление большего количества возможностей для человеческого участия, которое не только приводит к лучшим результатам в долгосрочной перспективе, но и повышает безопасность.

«Сегодня меня гораздо больше воодушевляют модели ИИ с открытым весом и хорошей функциональностью редактирования, чем те, которые предназначены только для создания с нуля», — сказал он в публикации.

«В среднесрочной перспективе мне нужна какая-то крутая штука на основе BCI, которая будет показывать мне объект по мере его создания и в режиме реального времени определять, что я чувствую по отношению к каждой его части, и соответствующим образом корректировать ситуацию», — добавил он.

Проблемы чрезмерной автономии в сфере искусственного интеллекта и перспективы интерактивных, адаптивных к пользователю моделей

Виталик Бутерин отреагировал на пост бывшего директора Tesla AI Андрея Карпати, который отметил, что большие языковые модели (LLM) становятся чрезмерно автономными, поскольку они оптимизированы для долгосрочных задач. 

Андрей Карпати объяснил, что, например, в кодировании эти модели теперь склонны рассуждать в течение длительных периодов времени, демонстрируя тенденцию к просмотру целых репозиториев, многократному выполнению веб-поиска, чрезмерному анализу редких пограничных случаев, даже в коде, который заведомо не завершен или находится в стадии активной разработки, и часто возвращаются через несколько минут, чтобы ответить даже на простые запросы.

«Это может иметь смысл для длительных задач, но менее подходит для более «цикличной» итеративной разработки, которой я до сих пор часто занимаюсь, или когда мне просто нужна быстрая выборочная проверка перед запуском скрипта, на случай, если я допустил ошибку индексации или какую-то другую простую ошибку. Я часто ловлю себя на том, что прерываю студентов магистратуры словами: «Стой, ты слишком много думаешь. Сосредоточься только на этом файле. Не используй никакие инструменты. Не переусердствуй с разработкой», — написал Андрей Карпати в одной из публикаций.

Виталик Бутерин согласился с мнением, что чрезмерная автономность искусственного интеллекта может привести к снижению эффективности. Он утверждал, что модели с открытым исходным кодом, оснащённые функциями редактирования, значительно эффективнее тех, которые предназначены исключительно для создания контента с нуля. 

Соучредитель Ethereum также подчеркнул потенциал интерфейсов «мозг-компьютер», которые отслеживают реакцию пользователя на создаваемый контент в режиме реального времени и соответствующим образом корректируют свои действия. Такая технология позволит системам ИИ лучше понимать намерения и ожидания пользователей и реагировать на них. Он отметил, что многие существующие модели ИИ часто не учитывают эти тонкие нюансы, что ограничивает их общую эффективность.