Porto Velho (RO)16 de Setembro de
202607:24:22
A Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude, afirmou ter bloqueado contas que tentavam utilizar seus modelos de inteligência artificial em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.
Segundo um relatório divulgado pela companhia, o uso indevido da IA em pesquisas biológicas está entre os principais riscos associados ao avanço da tecnologia. A empresa identificou casos em que usuários tentaram contornar mecanismos de segurança e esconder a finalidade de determinadas consultas.
Durante uma análise de 30 dias, a Anthropic identificou aproximadamente 35 iniciativas de pesquisa consideradas potencialmente preocupantes. A empresa, no entanto, destacou que não foi possível determinar se os usuários tinham intenção de causar danos ou se realizavam pesquisas científicas legítimas.
Os casos envolveram estudos relacionados a doenças infecciosas, vírus e toxinas. A companhia informou que os usuários analisados eram cientistas, mas não revelou quais instituições ou países estavam envolvidos.
IA também pode ser usada em pesquisas científicas
A Anthropic reconhece que a inteligência artificial tem grande potencial para contribuir com a ciência, principalmente em áreas como desenvolvimento de medicamentos e pesquisas sobre doenças.
Ao mesmo tempo, a empresa alerta que o aumento da capacidade dos modelos também amplia os riscos de utilização indevida. Segundo a companhia, recursos desenvolvidos para auxiliar pesquisas legítimas podem ser explorados por pessoas interessadas em atividades prejudiciais.
Por isso, a Anthropic afirma que seus modelos mais recentes contam com mecanismos de proteção mais avançados para limitar determinados tipos de consultas relacionadas à pesquisa biológica.
Empresa relata outros usos indevidos
O relatório também menciona tentativas de utilizar os sistemas da empresa em atividades como vigilância, golpes e desenvolvimento de equipamentos militares. A Anthropic afirma ter interrompido algumas dessas ações e cita suspeitas de envolvimento de grupos ou indivíduos ligados a países como China, Rússia e Iêmen.
A empresa também relatou casos em que seus modelos teriam sido utilizados para atividades de vigilância contra comunidades religiosas e grupos minoritários.
Para a Anthropic, os episódios mostram que os sistemas de segurança precisam acompanhar a evolução dos modelos de inteligência artificial. A companhia afirma que, conforme as ferramentas se tornam mais capazes, será necessário desenvolver mecanismos cada vez mais eficientes para evitar usos prejudiciais da tecnologia.
metrópoles
