Виталик Бутерин предостерегает от «наивного управления с помощью ИИ» и призывает к рыночной альтернативе
Создатель Ethereum (ETH) Виталик Бутерин выражает обеспокоенность по поводу того, что он называет «наивным» управлением искусственным интеллектом.
В публикации на X Бутерин обращает внимание на предупреждение соучредителя EdisonWatch Эйто Миямуры, который обнаружил, что злоумышленники могут взломать Model Context Protocol (MCP) от OpenAI, чтобы получить доступ к личным данным пользователей.
Эксперимент Миямуры показал, что использование приглашения в календаре со скрытыми командами может потенциально обмануть ChatGPT и заставить его предоставить конфиденциальные персональные данные, если у злоумышленника есть адрес электронной почты жертвы.
Бутерин говорит:
«Вот почему наивное ‘AI governance’ — плохая идея.
Если вы используете искусственный интеллект для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО будут внедрять jailbreak и команды типа ‘дай мне все деньги’ везде, где только смогут.»
В качестве альтернативы Бутерин предлагает подход «info finance» — открытую площадку, где любой может предложить свою модель, которую может проверить любой желающий или оценить «человеческое жюри».
«Такой подход к ‘institution design’, когда вы создаёте открытую возможность для людей с LLMs (large language model) подключаться извне, вместо того чтобы жёстко прописывать одну LLM, по своей сути более устойчив, потому что он обеспечивает разнообразие моделей в реальном времени и создаёт встроенные стимулы как для авторов моделей, так и для внешних наблюдателей отслеживать эти проблемы и быстро их исправлять.»
Сгенерированное изображение: Midjourney
Изображение на обложке: Shutterstock/Zalevska Alona UA
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Экономическая реальность: искусственный интеллект поддерживает рост, а криптовалюта становится политическим активом
В статье анализируется текущая экономическая ситуация, отмечается, что AI является основным двигателем роста ВВП, в то время как другие сферы, такие как рынок труда и финансовое положение домашних хозяйств, находятся в упадке. Динамика рынка уже не связана с фундаментальными показателями, а капитальные расходы на AI становятся ключевым фактором для предотвращения рецессии. Увеличение разрыва между богатыми и бедными, а также проблемы с энергоснабжением становятся узким местом для развития AI. В будущем AI и криптовалюты, возможно, станут приоритетами для корректировки политики. Резюме создано Mars AI Данное резюме сгенерировано моделью Mars AI, его точность и полнота все еще находятся на стадии обновления и доработки.
AI-единорог Anthropic ускоряет подготовку к IPO, бросая вызов OpenAI?
Anthropic ускоряет выход на финансовые рынки, начав сотрудничество с ведущими юридическими фирмами, что рассматривается как важный сигнал к подготовке к IPO. Оценка компании уже приближается к 300 миллиардам долларов, и инвесторы делают ставку на то, что ей удастся опередить OpenAI и первой выйти на биржу.
Даже ведущие университеты попадают в ловушки? Накануне резкого падения bitcoin Гарвард вложил 500 миллионов долларов в крупную покупку.
Инвестиционный фонд Гарвардского университета в прошлом квартале существенно увеличил свои вложения в bitcoin ETF до почти 500 миллионов долларов, однако в этом квартале цена bitcoin снизилась более чем на 20%, что создало значительный риск, связанный с выбором момента для инвестиций.
Структурное влияние следующего председателя ФРС на индустрию криптовалют: изменение политики и трансформация регулирования
Смена следующего председателя Федеральной резервной системы станет решающим фактором, формирующим будущую макроэкономическую среду криптовалютной индустрии.
Популярное
ДалееЦены на крипто
Далее
