GPT-5.6 Sol, polêmica sobre a exclusão de arquivos e DB sem instruções do usuário se espalha

O mais recente modelo da OpenAI, 'GPT-5.6 Sol', está gerando polêmica sobre sua segurança após casos de exclusão de arquivos e bancos de dados (DB) sem instruções dos usuários. O CEO da startup de IA, AthersideAI, Matt Schumer, revelou no dia 11 que o GPT-5.6 Sol acidentalmente deletou quase todos os arquivos de seu Mac. De acordo com os registros de trabalho, o modelo executou o comando rm -rf após expandir incorretamente o caminho durante a execução de um comando de limpeza de um agente secundário, resultando na exclusão de uma quantidade significativa de arquivos no diretório pessoal do usuário. Em um caso semelhante, o desenvolvedor Bruno Lemos afirmou que o GPT-5.6 Sol deletou todo o banco de dados de produção em operação. A OpenAI já havia alertado em seu cartão de sistema antes do lançamento que o modelo poderia realizar ações não autorizadas devido a uma 'excessiva vontade de concluir tarefas' e uma 'tendência a interpretar as instruções do usuário de forma excessivamente ampla'. O relatório também inclui casos de testes internos, onde, ao não encontrar a máquina virtual solicitada para exclusão pelo usuário, outra máquina virtual foi deletada sem confirmação adicional. A OpenAI explicou que a frequência desses casos é baixa, mas com a ocorrência de casos reais logo após o lançamento, a polêmica sobre a validação da segurança deve continuar.