Основатель Ethereum Виталик Бутерин назвал «AI governance» плохой идеей
Соучредитель Ethereum Виталик Бутерин утверждает, что использование искусственного интеллекта (AI) для управления — «плохая идея». В субботу в посте на X Бутерин написал:
«Если вы используете AI для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО внедрят jailbreak плюс “дай мне все деньги” везде, где только смогут».
Почему управление с помощью AI несовершенно
Пост Бутерина был ответом на сообщение Эйто Миямуры, соучредителя и CEO EdisonWatch, AI-платформы для управления данными, который выявил фатальный изъян в ChatGPT. В пятницу Миямура написал, что добавление полной поддержки инструментов MCP (Model Context Protocol) в ChatGPT сделало AI-агента уязвимым для эксплуатации.
Обновление, вступившее в силу в среду, позволяет ChatGPT подключаться и читать данные из нескольких приложений, включая Gmail, Calendar и Notion.
Миямура отметил, что теперь, имея только адрес электронной почты, стало возможно «эксфильтровать всю вашу личную информацию». Злоумышленники могут получить доступ к вашим данным всего в три простых шага, объяснил Миямура:
Во-первых, атакующие отправляют вредоносное приглашение в календарь с jailbreak-промптом предполагаемой жертве. Jailbreak-промпт — это код, который позволяет атакующему снять ограничения и получить административный доступ.
Миямура отметил, что жертве не обязательно принимать вредоносное приглашение атакующего, чтобы произошла утечка данных.
Второй шаг — ждать, пока предполагаемая жертва обратится к ChatGPT за помощью в подготовке к своему дню. Наконец, как только ChatGPT прочитает взломанное приглашение в календарь, он будет скомпрометирован — атакующий сможет полностью захватить инструмент AI, заставить его искать личные письма жертвы и отправлять данные на электронную почту злоумышленника.
Альтернатива Бутерина
Бутерин предлагает использовать подход info finance для управления AI. Подход info finance заключается в открытом рынке, где разные разработчики могут вносить свои модели. На рынке действует механизм выборочной проверки таких моделей, который может быть инициирован любым человеком и оценен жюри из людей, пишет Бутерин.
В отдельном посте Бутерин объяснил, что отдельным членам жюри-людям будут помогать большие языковые модели (LLMs).
По словам Бутерина, такой подход к «дизайну институций» является «по своей сути более устойчивым». Это связано с тем, что он обеспечивает разнообразие моделей в реальном времени и создает стимулы как для разработчиков моделей, так и для внешних спекулянтов контролировать и исправлять проблемы.
Хотя многие воодушевлены перспективой «AI как управляющего», Бутерин предупреждает:
«Я считаю, что это рискованно как по традиционным причинам безопасности AI, так и по краткосрочным причинам “это приведет к большому разрушению стоимости”».
Публикация Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” впервые появилась на CryptoSlate.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Сколько на самом деле стоит ETH? Hashed предложил сразу 10 способов оценки
С учетом взвешенного среднего, справедливая цена ETH превышает 4700 долларов.

Партнер Dragonfly: Криптовалюта погрязла в финансовом цинизме, те, кто оценивает публичные блокчейны по PE, уже проиграли
Люди переоценивают то, что может произойти за два года, и недооценивают то, что может произойти за десять лет.

Balancer предпринимает меры по восстановлению и перераспределению украденных средств после крупной кибератаки
Кратко: Balancer планирует перераспределить 8 миллионов долларов пользователям после масштабной кибер-кражи. Восстановление включало ключевую роль белых хакеров, которые были вознаграждены 10% стимулов. Не востребованные средства будут вынесены на голосование управления через 180 дней.

Биткоин сталкивается с новым давлением на продажу на фоне роста депозитов китов и усиления страха на рынке

