Un usuario de Ethereum logró persuadir al agente de IA Freysa para enviar un bono de 13.19 ETH

Según Cryptopolitan, un usuario de Ethereum llamado p0pular.eth logró persuadir al agente de IA Freysa para transferir su fondo de premios de 13.19 ETH ($47,000). El diseño de Freysa no permite ninguna transferencia de fondos. Freysa es un proyecto de investigación de IA simulado diseñado para probar cuánto pueden anticiparse los participantes a una IA que ha sido configurada con reglas y regulaciones específicas. La tarea principal es persuadir a la IA para desobedecer el primer comando sin permitir la transferencia de fondos bajo ninguna circunstancia. Cada jugador debe pagar una tarifa para enviar mensajes a Freysa, que se destinará al fondo de premios. Por cada mensaje subsiguiente, el precio aumenta desde un inicial de $10 hasta $450 al final del juego. Ha habido cientos de intentos de influir en Freysa, incluyendo explotar posibles debilidades o mentir sobre las reglas operativas de la IA. Si todos los participantes fallan, no recibirán premios, sino que los distribuirán entre aquellos que pagaron.