Ethereum asoschisi Vitalik Buterin "AI governance" ni "yomon g'oya" deb atadi

Ethereum asoschilaridan biri Vitalik Buterin sun’iy intellekt (AI) boshqaruvda ishlatilishini “yomon g’oya” deb hisoblaydi. Shanba kuni X’da Buterin shunday yozdi:

“Agar siz hissa qo‘shganlarga mablag‘ ajratishda AI’dan foydalansangiz, odamlar imkon qadar ko‘proq joyda jailbreak va “hamma pulni menga ber” deb yozishadi.”

Nega AI boshqaruvi nuqsonli

Buterinning posti EdisonWatch’ning hamasoschisi va bosh direktori Eito Miyamura tomonidan ChatGPT’dagi halokatli nuqson haqida ochiqlangan postga javob edi. Juma kuni Miyamura yozishicha, ChatGPT’da MCP (Model Context Protocol) vositalarining to‘liq qo‘llab-quvvatlanishi AI agentini ekspluatatsiyaga ochiq qilib qo‘ygan.

Chorshanba kuni kuchga kirgan ushbu yangilanish ChatGPT’ga bir nechta ilovalardan, jumladan Gmail, Calendar va Notion’dan ma’lumotlarni o‘qish va ulanish imkonini beradi.

Miyamura ta’kidlashicha, faqatgina elektron pochta manzili orqali ushbu yangilanish “barcha shaxsiy ma’lumotlaringizni olib chiqib ketish” imkonini yaratgan. Miyamura tushuntirishicha, yovuz niyatli shaxslar uchta oddiy qadamda sizning ma’lumotlaringizga kirishlari mumkin:

Birinchidan, hujumchilar qurboniga jailbreak prompti bo‘lgan zararli taqvim taklifini yuboradi. Jailbreak prompti — bu hujumchiga cheklovlarni olib tashlash va administrator huquqini olish imkonini beruvchi kod.

Miyamura ta’kidlashicha, ma’lumotlar sizib chiqishi uchun qurbon hujumchining zararli taklifini qabul qilishi shart emas.

Ikkinchi qadam — qurbon ChatGPT’dan kunini rejalashtirishda yordam so‘rashini kutish. Nihoyat, ChatGPT jailbreak qilingan taqvim taklifini o‘qigach, u buziladi — hujumchi AI vositasini to‘liq egallab olishi, qurbonning shaxsiy elektron pochtalarini qidirishi va ma’lumotlarni hujumchining elektron pochtasiga yuborishi mumkin.

Buterinning alternativasi

Buterin AI boshqaruvi uchun info finance yondashuvini taklif qiladi. Info finance yondashuvi — bu ochiq bozor bo‘lib, unda turli ishlab chiquvchilar o‘z modellarini qo‘shishi mumkin. Bozorda bunday modellar uchun spot-check mexanizmi mavjud bo‘lib, uni istalgan kishi ishga tushirishi va inson hakamlar hay’ati tomonidan baholanishi mumkin, deb yozadi Buterin.

Alohida postda Buterin inson hakamlariga katta til modellari (LLM) yordam berishini tushuntirdi.

Buterinning fikricha, bunday ‘institutsional dizayn’ yondashuvi “tabiatan ancha barqaror”. Chunki bu real vaqtda model xilma-xilligini ta’minlaydi va model ishlab chiquvchilari hamda tashqi spekulyantlar uchun muammolarni nazorat qilish va tuzatishga rag‘bat yaratadi.

Ko‘plar “AI boshqaruvchi bo‘lishi” imkoniyatidan hayajonlansa-da, Buterin ogohlantirdi:

“Menimcha, buni qilish an’anaviy AI xavfsizligi sabablari va yaqin muddatli “bu katta qiymat yo‘qotilishiga olib keladi” sabablari uchun xavfli.”

Ethereum asoschisi Vitalik Buterin “AI boshqaruvi”ni “yomon g’oya” deb atadi, degan post birinchi bo‘lib CryptoSlate’da paydo bo‘ldi.