Accenture será a primeira avaliadora incorporada na iniciativa anunciada por Dario Amodei para dar mais tempo a salvaguardas e testes rigorosos. A medida é um passo prático da proposta de 12 de setembro.

3.67%TRX$0.3423 1.34%LINK$12.05 3.76%ZEC$1,444.24 6.54%ADA$0.2207 2.54%XRP$1.37 3.67%ETH$2,576.34 2.38%BTC$80,462.88 1.01%XMR$523.59 11.33%BNB$752.23 1.95%XLM$0.1902 1.98%SOL$108.47 3.04%HYPE$91.36 0.97%

A Anthropic escolheu a Accenture como sua primeira avaliadora incorporada para trabalhar na proposta de desaceleração do desenvolvimento da inteligência artificial anunciada pelo CEO Dario Amodei. A iniciativa visa criar espaço para implementação de salvaguardas e testes rigorosos, e a decisão foi comunicada como um passo concreto rumo à prática sugerida na proposta de 12 de setembro.

A proposta de Amodei apresentou uma abordagem em três etapas para reduzir o ritmo de avanço e permitir avaliações independentes com acesso e autoridade semelhantes às de funcionários das empresas. Na sequência dessa orientação, a Anthropic anunciou, na sexta-feira, uma parceria com a unidade de IA da Accenture, a Faculty, para avaliar e realizar atividades de red teaming em modelos, conduzir avaliações de alinhamento e testar salvaguardas dos sistemas.

“a IA tem avançado drasticamente mais rápido, impulsionada principalmente pela capacidade crescente da IA de construir a próxima geração de IA. Essa dinâmica é chamada de autoaperfeiçoamento recursivo”

“se não for controlada, ela poderá superar nossa capacidade de compreender e controlar esses sistemas”.

Essas falas foram incluídas na proposta de Amodei, que provocou reações divergentes entre líderes do setor. Sam Altman, CEO da OpenAI, e Elon Musk, CEO da SpaceX, responderam positivamente à proposta de Amodei, enquanto Jensen Huang, CEO da Nvidia, não respondeu da mesma forma, argumentando que tal regulamentação não era necessária.

Os detalhes operacionais da avaliação incorporada ainda estavam sendo definidos pela Anthropic e pela Accenture, que reconheceram a novidade e a complexidade do formato. Para viabilizar o projeto, as duas empresas planejaram investir, cada uma, pelo menos US$ 1 bilhão ao longo dos próximos cinco anos. A Anthropic também destacou a ausência de um mecanismo estabelecido para financiar avaliações independentes e indicou que o financiamento de longo prazo deveria envolver fontes conjuntas ou apoio governamental; entretanto, dada a urgência, a Anthropic se comprometeu a financiar diretamente o trabalho da Accenture.

A parceria foi anunciada como não exclusiva: a Anthropic informou que esperava anunciar outras avaliadoras nas semanas seguintes, ampliando a rede de avaliação independente. A Faculty, da Accenture, foi descrita como especializada em testar e avaliar modelos para grandes laboratórios de IA, além de projetar sistemas que incorporam segurança e ética desde a concepção.

“A avaliação incorporada é uma área emergente, e esperamos fazer parceria com a Anthropic para ajudar a acelerar o desenvolvimento de avaliadores incorporados, que consideramos uma parte importante do cenário de segurança daqui para frente”.

O movimento demonstra que, além de discussões públicas, existem ações concretas para estruturar avaliações independentes e financiar testes robustos. Para gestores, pesquisadores e formuladores de políticas, a mensagem prática é clara: a segurança de sistemas avançados vai requerer processos formais de auditoria, financiamento sustentável e colaboração entre empresas e instituições capazes de oferecer avaliações técnicas profundas.

Fonte: Cointelegraph Brasil