Co-Fundador da Perplexity Critica a Narrativa de Segurança da IA

Andy Konwinski, co-fundador da Perplexity AI e Databricks, argumenta que o discurso sobre segurança da IA está sendo mal utilizado para centralizar poder em vez de prevenir danos. Em um ensaio recente, ele destaca uma decisão controversa da Anthropic em relação ao seu modelo de IA Claude Fable 5, que inicialmente incluía uma cláusula para degradar respostas de usuários suspeitos de treinar IAs concorrentes. Essa decisão foi rapidamente revertida após a reação negativa, mas Konwinski afirma que a questão central é a suposição de poder de decisão por empresas como a Anthropic. Seu ensaio segue uma reunião que ele organizou no Exploratorium de São Francisco, que contou com a presença de cerca de 100 pesquisadores, onde foram discutidas preocupações sobre a concentração de poder na IA. Jennifer Chayes, da UC Berkeley, observou que os pesquisadores estão dependendo de modelos chineses devido à falta de um modelo de fronteira aberto ocidental, criticando a mensagem de segurança da OpenAI e da Anthropic como uma campanha de medo. Konwinski defende um comum de pesquisa que permita acesso à computação em escala de fronteira sem restrições corporativas. Em resposta, Yann LeCun, ex-cientista-chefe da Meta, ecoou as preocupações de Konwinski, comparando a situação à censura histórica do Império Otomano. Ele prevê que, à medida que a IA se torne uma infraestrutura fundamental, ela inevitavelmente será mercantilizada, com o valor futuro residindo no desenvolvimento de aplicações.