Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y propone esta alternativa impulsada por el mercado
El creador de Ethereum (ETH), Vitalik Buterin, está expresando cierta preocupación sobre lo que él denomina una gobernanza de inteligencia artificial “ingenua”.
En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores malintencionados podrían secuestrar el Model Context Protocol (MCP) de OpenAI para acceder a datos privados de los usuarios.
El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le diera la dirección de correo electrónico de la víctima.
Buterin afirma,
“Por eso la ‘gobernanza de IA’ ingenua también es una mala idea.
Si usás una IA para asignar fondos a contribuciones, la gente VA a poner un jailbreak más un ‘dame toda la plata’ en tantos lugares como pueda.”
Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.
“Este tipo de enfoque de ‘diseño institucional’, donde creás una oportunidad abierta para que personas con LLMs (large language model) desde afuera se conecten, en vez de codificar un solo LLM vos mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos incorporados para que tanto los que presentan modelos como los especuladores externos estén atentos a estos problemas y los corrijan rápidamente.”
Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
El impulso de tokenización de RWA en Estados Unidos podría llevar $100 billones a la red de Ethereum
El impulso por la tokenización de activos del mundo real está en su punto más alto, con el valor on-chain disparándose y Wall Street buscando capitalizar esta tendencia.
El breakout de XRP señala un claro cambio alcista en el mercado: análisis del precio de Ripple
Informe semanal de Mars | La capitalización de mercado de CARDS supera los 650 millones de dólares, alcanzando un máximo histórico; la probabilidad de que la Reserva Federal baje las tasas de interés en 50 puntos básicos en septiembre es del 6,6%.
La Ethereum Foundation publicó una hoja de ruta de privacidad end-to-end, enfocándose en tres áreas principales: escritura, lectura y pruebas de privacidad. Además, planea lanzar una L2 experimental llamada PlasmaFold. El valor de mercado de CARDS alcanzó un nuevo máximo histórico, y las transmisiones en vivo de pump.fun superaron en número a las de Rumble. El puente cross-chain de Shibarium sufrió un ataque con una pérdida de 2.4 millones de dólares.
En tendencia
MásPrecios de las criptos
Más
