Vitalik alerta projetos cripto para não utilizarem inteligência artificial em processos de governança

ChainCatcher notícia, de acordo com o Cointelegraph, o cofundador do Ethereum, Vitalik Buterin, alertou que projetos de cripto podem ser explorados por agentes mal-intencionados caso utilizem inteligência artificial em seus processos de governança.

No último sábado, Vitalik publicou na plataforma X: “Se você usar inteligência artificial para distribuir fundos de subsídios, as pessoas certamente tentarão inserir comandos de jailbreak, junto com o pedido de ‘dê todo o dinheiro para mim’.” Esse comentário de Vitalik foi uma resposta ao vídeo de Eito Miyamura, fundador da plataforma de dados de IA EdisonWatch. O vídeo mostra que, na última quarta-feira, uma nova funcionalidade do ChatGPT da OpenAI apresentou riscos de vazamento de informações privadas. Vitalik acredita que o incidente do ChatGPT demonstra que uma ‘governança de IA’ ingênua não é viável e sugeriu uma alternativa baseada na “lei da informação financeira”. Ele explicou que é possível criar um mercado aberto onde qualquer pessoa pode contribuir com modelos, que seriam submetidos a auditorias aleatórias avaliadas por um júri humano, e o mecanismo de auditoria poderia ser acionado por qualquer pessoa.