A IA invade silenciosamente: a criptografia é a última linha de defesa?

A prova de humanidade suportada por tecnologia criptográfica pode nos permitir recuperar a comunicação autêntica e compreender novamente o que as pessoas reais realmente pensam e sentem.

Autor: Byron Gilliam

Tradução: AididiaoJP, Foresight News

As pesquisas online estão enfrentando uma grave crise de “robôs de IA”. Atualmente, até 30% das respostas das pesquisas vêm de programas automatizados movidos por IA, e não de humanos reais. Esses “robôs de IA”, motivados por recompensas financeiras ou com o objetivo de manipular a opinião pública e interferir em eleições, estão poluindo os dados em grande escala, colocando em risco a validade dos resultados de pesquisas essenciais para áreas como economia, saúde pública e ciência política.

A longo prazo, tecnologias criptográficas baseadas em blockchain (provas criptográficas de humanidade) podem ser o único caminho para reconstruir a comunicação autêntica. Elas podem verificar se há um ser humano real do outro lado da rede, permitindo que voltemos a ouvir vozes “reais” em vez de simulações de máquinas.

Às vezes, você precisa saber o que pessoas reais pensam, e não apenas respostas simuladas por humanos.

“Descobrimos que o maior inimigo da comunicação é a ilusão de que ela ocorreu.”

—— William White

Pesquisas online recentes mostram que robôs de IA demonstram uma preferência especial por “comportamentos de alto risco”.

Isso é o que os próprios robôs de IA relatam nos questionários. Mas resultados de pesquisas baseadas em auto-relato são pouco confiáveis; quem sabe como esses robôs realmente operam nos bastidores?

De qualquer forma, isso já se tornou um problema sério: a IA está tornando cada vez mais difícil entendermos o que as pessoas realmente estão fazendo.

Pesquisadores de áreas como economia, saúde pública, hábitos de consumo e ciência política sempre dependeram de pesquisas para entender o comportamento humano.

Hoje, como as ligações telefônicas raramente são atendidas, essas pesquisas migraram totalmente para o ambiente online.

Mas, na prática, a IA está mais disposta do que os humanos a participar de questionários online.

Por que elas são tão ativas?

O dinheiro é a principal motivação.

Para lidar com a queda nas taxas de resposta, pesquisadores começaram a pagar internautas para responderem pesquisas, com recompensas que chegam a 5 dólares por questionário.

Isso gerou um novo problema: pessoas de países de baixa renda fingindo ser respondentes de países ricos, já que 5 dólares ainda é uma quantia significativa nessas regiões.

Completar um questionário de 5 dólares leva de 15 a 20 minutos; se alguém busca questionários pagos para ganhar dinheiro, o salário por hora não é tão atraente.

Mas, para a IA, todo o processo leva apenas alguns segundos, e a recompensa de 5 dólares supera em muito o custo computacional de alguns segundos em um data center.

Mais preocupante ainda é que robôs podem distorcer pesquisas para interferir em eleições ou criar desinformação para desestabilizar adversários geopolíticos.

Independentemente da motivação, os dados mostram que a IA já responde por 30% das respostas em pesquisas online, um percentual suficiente para tornar os resultados sem sentido.

Mais grave ainda, 37% do tráfego na internet vem de “robôs maliciosos”.

Com essa escala massiva de robôs maliciosos e a ineficácia dos captchas, a indústria de pesquisa de mercado, avaliada em 120 bilhões de dólares, está sob forte ameaça.

Pesquisadores ainda podem adotar outras estratégias de defesa: por exemplo, criar “perguntas armadilha” invisíveis para humanos para filtrar IAs, ou eliminar respostas anômalas.

Mas, no fim, isso é um jogo de gato e rato; os robôs eventualmente se adaptam às novas regras.

Uma solução mais radical é abandonar a busca por respondentes humanos: o projeto “sociedade artificial” propõe substituir diretamente os participantes humanos por IAs treinadas.

Substituir robôs maliciosos (ou aleatórios) por robôs preditivos profissionais, “realizando em minutos experimentos que antes levariam meses, por meio de conjuntos de personagens de IA”.

Esse método funciona bem para testar novas campanhas de marketing ou prever a aceitação de novos sabores de batata chips (como abóbora com especiarias) pelo público do meio-oeste.

Mas e se estivermos falando de eventos importantes como eleições presidenciais?

Essa é uma questão que merece reflexão: atualmente, a taxa de resposta a pesquisas telefônicas caiu para menos de 5%, e os questionários online se tornaram a principal forma de responder às seguintes perguntas:

1) Intenção de voto do público

2) Motivação do voto

Os mercados de previsão têm mostrado precisão surpreendente em prever eleições, levando muitos a acreditar que as pesquisas tradicionais são desnecessárias.

Mas os próprios mercados de previsão ainda dependem de dados de pesquisas: aquele trader francês que fez previsões precisas sobre Trump na Polymarket só agiu após obter pesquisas exclusivas.

Essas pesquisas, claro, são feitas online; seguindo essa tendência, até 2028 esses dados podem se tornar totalmente inúteis devido à poluição por robôs, e os mercados de previsão também entrarão em colapso.

Mais importante ainda, se as agências de pesquisa não conseguirem entender a motivação dos eleitores, será ainda mais difícil para os políticos representarem verdadeiramente a vontade popular.

Montar conjuntos de personagens de IA provavelmente não ajudará; como eles poderiam captar os pensamentos humanos em constante mudança?

A IA só pode ser treinada com base em dados existentes, mas as variáveis mais importantes em uma eleição são justamente as novas informações que tornam cada eleição única.

Para assuntos tão importantes quanto uma eleição presidencial, apenas a comunicação direta com pessoas reais é confiável.

Talvez em breve, só nos reste uma última linha de defesa: tecnologia criptográfica baseada em blockchain.

O progresso na adoção de provas criptográficas de humanidade tem sido decepcionante. Por exemplo, a proposta de escaneamento de íris da Worldcoin teve pouca adesão, talvez porque o público não se importe se o conteúdo online é produzido por humanos ou máquinas.

Mas os criadores de pesquisas se importam: há momentos em que você precisa saber o que pessoas reais pensam, e não apenas respostas simuladas.

Se as pesquisas online são uma forma de comunicação em massa, então pesquisas simuladas por IA são apenas uma ilusão de comunicação.

A prova de humanidade suportada por tecnologia criptográfica pode nos permitir recuperar a comunicação autêntica e compreender novamente o que as pessoas reais realmente pensam e sentem (na medida do possível).

Essa tecnologia precisa atingir um nível quase universal: realizar pesquisas apenas com pessoas que trocaram sua íris por tokens claramente não é representativo.

Também é necessário estabelecer confiança suficiente para que as pessoas se sintam seguras em compartilhar comportamentos privados com o sistema.

Mas até que esse dia chegue, a comunicação eficaz entre humanos pode se tornar cada vez mais difícil.