A Anthropic detectou e bloqueou tentativas de uso malicioso de sua inteligência artificial Claude por atores ligados à Rússia, China, Irã e Iêmen. As atividades incluíam a criação de propaganda, o monitoramento de opositores e o desenvolvimento de drones de guerra, além de possíveis aplicações em armas biológicas. A empresa interrompeu o acesso em todos os casos identificados para evitar riscos à segurança.
Detecção de padrões suspeitos
A empresa monitorou usos suspeitos por meio de sistemas internos de análise. Entre as atividades observadas estavam a fabricação de conteúdo propagandístico e a pesquisa sobre processos que poderiam gerar patógenos. A Anthropic agiu por precaução sempre que surgiam dúvidas sobre a natureza das pesquisas biológicas solicitadas.
Motivos para o bloqueio de acesso
A decisão de interromper os serviços teve como objetivo principal impedir o desenvolvimento de armas ou ferramentas de ataque. Os mesmos processos técnicos que servem a fins legítimos podem ser desviados para usos ilegais, o que exige vigilância constante. A empresa reforçou que prioriza a segurança global ao limitar o acesso em contextos de alto risco.
Países monitorados e ações futuras
Rússia, China, Irã e Iêmen figuram entre as origens das tentativas bloqueadas. A Anthropic informou que continuará aprimorando seus mecanismos de detecção para identificar novos padrões de abuso. Essas medidas visam equilibrar o avanço tecnológico com a prevenção de danos potenciais à sociedade.
