Anthropic escolhe a Accenture como avaliadora incorporada para ajudar na proposta de desaceleração da IA
A Anthropic disse que escolheu a Accenture como sua primeira avaliadora incorporada para ajudar a desacelerar o ritmo do desenvolvimento da IA, conforme proposto na semana passada pelo CEO Dario Amodei. Amodei publicou uma proposta em três etapas em 12 de setembro para desacelerar o desenvolvimento da IA e permitir a implementação de salvaguardas, em meio a alertas sobre o potencial de danos catastróficos após um desenvolvimento rápido e sem controle. O CEO da OpenAI, Sam Altman, e o CEO da SpaceX, Elon Musk, responderam positivamente à proposta de Amodei, embora o CEO da Nvidia, Jensen Huang, não tenha respondido da mesma forma, argumentando que tal regulamentação não era necessária. Ainda assim, Amodei escreveu em sua proposta que “a IA tem avançado drasticamente mais rápido, impulsionada principalmente pela capacidade crescente da IA de construir a próxima geração de IA. Essa dinâmica é chamada de autoaperfeiçoamento recursivo” e que, “se não for controlada, ela poderá superar nossa capacidade de compreender e controlar esses sistemas”. O primeiro passo da proposta de Amodei é contar com avaliadores independentes com acesso semelhante ao de funcionários, compromisso ao qual a Anthropic já havia aderido unilateralmente, escreveu Amodei. A Anthropic anunciou na sexta-feira uma medida para cumprir esse compromisso, ao fazer









