Algumas semanas atrás, empresa francesa Mistral lançou uma versão inicial de seu novo inteligência artificial modelo, apelidado de Le Chonk. Na época, a empresa disse que era o oferta de peso aberto mais avançada fora da China. Após mais refinamentos, Mistral agora diz que Le Chonk é o “melhor” modelo aberto do mundo para codificação automatizada e segurança cibernética.
Os avanços, diz Mistral, foram possíveis alimentando o modelo com problemas de cibersegurança e codificação cada vez mais difíceis, o que permitiu ao Le Chonk de trilhões de parâmetros igualar ou superar modelos dos principais laboratórios chineses como DeepSeek e Z.ai.
“É um momento crucial na corrida pela liderança global em IA”, disse Pierre Stock, vice-presidente de ciência da Mistral, aos repórteres durante uma coletiva de imprensa. “Ele oferece capacidades de ponta para empresas e governos se defenderem contra um nível crescente de ameaças cibernéticas.”
A versão final de Le Chonk agora está disponível gratuitamente para qualquer pessoa acessar. Após uma enxurrada de incidentes de segurança cibernética relacionados com a IA, Mistral afirma que é importante para o Ocidente ter os seus próprios modelos avançados de peso aberto. “Não há garantia de que (os modelos chineses) não se comportarão de forma maliciosa. Eles podem ser vetores de ameaças”, disse Stock.
O episódio de maior destaque ocorreu quando um dos modelos da OpenAI se libertou de uma sandbox de testes e invadiu várias empresas durante o verão. Provocou pânico com a ideia de que a IA poderia escapar à supervisão humana e ser abusada por agentes de ameaças para lançar ataques cibernéticos sofisticados. (Uma das empresas afetadas, Abraçando o rostoutilizou um modelo de peso aberto da China para avaliar e defender-se contra o ataque.)
Desde então, a IA também descobriu vulnerabilidades de segurança em softwares onipresentes. Em outubro, uma série de sites foram colocado off-line depois de uma ferramenta de IA descobriu falhas graves em uma peça fundamental da tecnologia da web.
A Mistral lança seus modelos abertos, como o Le Chonk, como parte da solução. Se a IA estiver destinada a tornar-se uma característica central tanto do ataque como da defesa cibernética, prossegue o argumento, as empresas e os governos terão de estar equipados com modelos que estejam disponíveis gratuitamente e que não possam ser desligados remotamente, ao contrário dos modelos proprietários de empresas como OpenAI, Anthropic e Google.
“A IA será como a eletricidade. Você não quer viver em um mundo em que seu vizinho possa cortar a eletricidade de um dia para outro”, disse Stock. “Depois que você abre o código-fonte dos pesos, eles ficam espalhados por toda a Internet. É impossível cortar o acesso.”
A desvantagem, no entanto, é que os modelos disponíveis gratuitamente também podem ser baixados e personalizados pelos agentes da ameaça.
“É claramente uma tecnologia de dupla utilização”, disse Rafe Pilling, diretor sênior de inteligência de ameaças da empresa de segurança Sophos, à WIRED. “Qualquer coisa que esteja disponível para download e circule sem restrições tem a capacidade de ser abusada e também usada para fins produtivos.”
De acordo com Pilling, embora seja possível que um modelo chinês com acesso à Internet possa desviar dados, todos os modelos avançados são capazes de se tornarem desonestos sem supervisão cuidadosa – independentemente do seu país de origem.
“As realidades técnicas e a narrativa – que muitas vezes tem uma tendência nacionalista – são duas coisas diferentes”, diz ele. “Trata-se de ter a monitorização e os controlos adequados para ter certeza de que, mesmo que o modelo estivesse a tentar ser enganador ou nefasto, você poderia ter alguma forma de o detetar.”
Compartilhe esta publicação
Ajude a levar esta informação adiante — publique no seu perfil.