Modelo de IA não lançado da Anthropic encadeia falhas em exploits funcionais

O que aconteceu

De acordo com o relatório mais recente da Anthropic, um modelo de IA ainda não lançado encontrou falhas de segurança em Chrome, Safari, Android, Windows e Linux, e as encadeou em exploits funcionais de prova de conceito.

A empresa afirma que os exploits foram construídos em laboratório, depois que o modelo recebeu instruções (prompts), e que não foram observados em ataques reais. Segundo a Anthropic, todas as vulnerabilidades foram reportadas antes aos respectivos fornecedores, e por isso já estão corrigidas.

Principais novidades

• Modelo de IA da Anthropic ainda não foi lançado publicamente.
• Falhas encontradas em Chrome, Safari, Android, Windows e Linux.
• As falhas foram encadeadas em exploits de prova de conceito funcionais.
• Os exploits foram criados em laboratório, após prompts, e não vistos em ataques reais, segundo a empresa.
• Todas as falhas foram reportadas previamente aos fornecedores e já estão corrigidas, de acordo com a Anthropic.

Contexto técnico

Encadear falhas significa combinar mais de uma vulnerabilidade para construir um exploit completo. Segundo a fonte, o modelo realizou essa combinação em provas de conceito nas plataformas citadas. O trecho disponível não detalha quais vulnerabilidades foram usadas.

Impacto

Pelo relato da Anthropic, o caso indica que modelos de IA podem ajudar a descobrir e combinar vulnerabilidades em software amplamente usado. Como todas as falhas foram reportadas aos fornecedores e já estão corrigidas, a empresa indica que não há exploração real conhecida a partir desses exploits.