CEO da Anthropic responde a questionamentos sobre segurança da IA, enfatizando a importância da vanguarda tecnológica

A proposta de lei sobre segurança da IA apresentada pela Anthropic aos membros do Congresso dos Estados Unidos foi questionada. O projeto estabelece altos obstáculos para o governo interromper urgentemente modelos perigosos, exigindo que os riscos envolvam armas biológicas, ataques cibernéticos ou perda de controle da IA, podendo resultar em mais de 50 mortes ou ferimentos graves, ou perdas superiores a 1 bilhão de dólares. Algumas cláusulas podem restringir a autoridade regulatória dos governos estaduais. Nathan Calvin, chefe de estratégia da organização de segurança da IA Encode AI, apontou que a Anthropic alterou sua política de segurança, que era originalmente rigorosa, em fevereiro deste ano, removendo a exigência de interromper o desenvolvimento sozinha em fases de maior risco, sob a justificativa de que concorrentes poderiam aproveitar a oportunidade para ultrapassá-los. Ao mesmo tempo, a Anthropic investiu pesadamente em poder computacional, formou uma equipe de chips e atribuiu mais tarefas de desenvolvimento de IA a Claude. Em 21 de outubro, o CEO da Anthropic, Dario Amodei, publicou no X para refutar as críticas, reconhecendo que a empresa cometeu erros, mas insistindo que a busca por capacidades de IA de ponta não contradiz a missão de segurança, enfatizando que apenas mantendo-se na vanguarda tecnológica é possível impulsionar a indústria a elevar os padrões de segurança. Ele listou nove decisões de segurança que custaram à empresa em termos comerciais, incluindo a limitação da abertura do modelo de nível Mythos por meses e restrições rigorosas a solicitações relacionadas à biologia. O roteiro de segurança atualizado da empresa em 19 de outubro afirma que as políticas atuais se concentram principalmente na implantação de modelos perigosos, e que no futuro pode ser necessário limitar diretamente a velocidade de desenvolvimento, com planos de apresentar propostas de políticas relevantes até 15 de janeiro de 2027, ou explicar por que não foram apresentadas.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.