Buterin incentiva Info Finance a impedir explorações na governança de IA

• Vitalik alerta que uma governança ingênua de IA é vulnerável à manipulação e explorações.
• Info finance cria diversidade de modelos e correções rápidas, tornando a governança de IA mais segura.
• Mercados de previsão e verificações pontuais ajudam a garantir a tomada de decisões e o financiamento por IA.

O cofundador da Ethereum, Vitalik Buterin, alertou que modelos ingênuos de governança de IA apresentam riscos sérios e advertiu que estruturas que dependem de IA para financiamento ou tomada de decisões permanecem vulneráveis à manipulação e explorações. Em sua visão, tais sistemas permitem que agentes mal-intencionados desviem recursos; no entanto, ele defende uma abordagem chamada “info finance”, projetada para construir responsabilidade e prevenir o uso indevido por meio de mercados, supervisão humana e mecanismos de verificação.

O Caso Contra a Governança Ingênua de IA

Buterin enfatizou que a governança ingênua de IA é arriscada e acrescentou que, se a IA for usada para alocar fundos, as pessoas poderiam manipulá-la com prompts de sua escolha e obter dinheiro em excesso. Ele detalhou ainda que, se os modelos funcionassem sem quaisquer restrições ou diretrizes, poderiam ser mal utilizados, incentivando hackers a usar prompts e enganar a IA para liberar recursos incorretos. 

Tais vulnerabilidades colocam a IA em um ciclo potencialmente perigoso. Além disso, Buterin revelou fraquezas sistêmicas que, se não forem controladas, podem ser manipuladas. Ataques invisíveis e injeções de prompts são exemplos de como os atacantes podem facilmente se aproveitar.

Info Finance como Alternativa

Buterin opta pelo info finance em vez da governança ingênua, descrevendo-o como uma abordagem de “design institucional”, que mistura competição de mercado aberto com verificação humana. Ele disse:

Como alternativa, apoio a abordagem de info finance, onde você tem um mercado aberto onde qualquer pessoa pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação pontual que pode ser acionado por qualquer um e avaliado por um júri humano.

Ele explicou que o Info Finance permite que colaboradores externos integrem modelos de linguagem de grande porte (LLMs) sem codificar um único sistema. Isso permitirá diversidade de modelos, reduzindo assim a chance de falhas generalizadas. Também cria incentivos para que desenvolvedores e especuladores fiquem atentos a falhas e ajam rapidamente quando surgirem problemas.

Um mecanismo proposto envolve mercados de previsão ou mercados de decisão. Vários modelos competiriam, e os participantes poderiam apostar nos resultados, sinalizando quais modelos parecem mais confiáveis. Júris humanos ou auditores fariam verificações pontuais periódicas dos resultados, especialmente em casos de alto risco.

Relacionado: Tesourarias de ETH disparam para US$ 12B enquanto Vitalik alerta sobre riscos de alavancagem

Implicações para Cripto e Mercados

O info finance depende de responsabilidade em camadas, sendo notável na competição aberta, que permite que modelos defeituosos sejam desafiados ou substituídos. A supervisão humana é adicionada por meio de júris e auditorias. Incentivos econômicos impedem manipulação, enquanto a transparência torna o comportamento malicioso visível.

Ao vincular a governança de IA ao blockchain e à negociação, Buterin sugere que falhas em IA centralizada podem aumentar o interesse por soluções descentralizadas, principalmente construídas na Ethereum. Além disso, tokens como o RNDR da Render Network e o GRT da The Graph fornecem infraestrutura para computações de IA, beneficiando-se assim do desenvolvimento. Além disso, traders também podem usar ETH e esses tokens para arbitragem em meio à volatilidade do mercado. 

Dados on-chain indicam que há mais transações de ETH associadas a contratos inteligentes relacionados à IA e que questões de governança de IA podem impactar também ações de tecnologia, com empresas como NVIDIA e Microsoft envolvidas em investimentos em IA. No geral, Buterin destacou que o Info Finance permite correções mais rápidas, substituindo modelos defeituosos e penalizando infratores. Ele também acrescentou que verificações por júri e verificações pontuais impedirão que a exploração se espalhe.

O post Buterin Pushes Info Finance to Stop Exploits in AI Governance apareceu primeiro em Cryptotale.