Accenture e Anthropic investem US$ 2 bilhões em segurança de IA

No último sábado, dia 19, as empresas Accenture e Anthropic revelaram um investimento significativo de pelo menos US$ 1 bilhão cada em segurança de inteligência artificial (IA), totalizando US$ 2 bilhões ao longo de cinco anos. Essa iniciativa visa abordar as preocupações crescentes sobre a segurança e a responsabilidade no desenvolvimento de IA.

De acordo com o comunicado oficial, as duas empresas estabeleceram uma parceria estratégica para criar uma equipe de avaliadores integrados. Este time trabalhará em colaboração com os profissionais internos e parceiros de segurança da Anthropic para avaliar modelos de IA, realizar testes de red teaming, que simulam ataques, e verificar os mecanismos de segurança implementados.

Julie Sweet, presidente do conselho e CEO da Accenture, destacou a importância dessa colaboração, afirmando que “a segurança exige tanto um profundo conhecimento técnico quanto uma compreensão clara de como a IA é utilizada no mundo real”. Ela expressou entusiasmo pela parceria, que visa acelerar o desenvolvimento de avaliadores integrados, considerados essenciais para o futuro da segurança em IA.

A Accenture planeja utilizar sua vasta experiência em IA e segurança, que inclui a aquisição da Faculty, uma renomada empresa de IA aplicada. A Faculty é reconhecida por seu trabalho em testes e avaliações de modelos de IA em diversos setores, como governo, defesa, saúde e infraestrutura, contribuindo assim para a segurança desde a concepção dos sistemas de IA.

O anúncio do investimento ocorre em um momento crítico, logo após a saída do funcionário da Anthropic, Jacob Coxon, que expressou preocupações sobre a segurança do trabalho da empresa, afirmando que “nenhuma das empresas está agindo de forma responsável” e que o desenvolvimento de IA pode ser perigoso. Suas declarações refletem as tensões e debates éticos em torno do avanço da inteligência artificial.