Robo levanta possibilidade de vazamento de informações externas através de instruções ocultas em PDF

O assistente de IA da Atlassian, Robo, foi acusado de poder enviar tickets do Jira e documentos do Confluence para fora, devido a instruções ocultas em PDFs. A empresa de segurança PromptArmor afirmou que, se um usuário fizer o upload de um PDF contendo frases ocultas para o Robo, ele pode reconhecer isso como um comando e enviar informações para uma URL de atacante. Essa técnica de ataque é chamada de 'zero-click attack', onde o atacante insere texto transparente ou frases de 1 pixel no PDF, de modo que o usuário não as perceba. Quando o usuário delega uma tarefa ao Robo, a IA pode executar as instruções ocultas. A PromptArmor argumentou que, mesmo que a função de busca na web do Robo seja desativada, ainda existem ferramentas que abrem URLs, mantendo assim a possibilidade de vazamento de informações. A Atlassian explicou que o Robo pode referenciar arquivos enviados pelo usuário em um contexto de trabalho e que pode ler formatos PDF, DOC, JSON, CSV e PPT. No entanto, também existe a possibilidade de que conteúdos externos influenciem o comportamento da IA, e instruções maliciosas podem levar a ações não intencionais por parte da IA através de materiais ocultos. A PromptArmor classificou isso como 'injeção de prompt indireta' e relatou que discussões relacionadas estão ocorrendo na comunidade da Atlassian. Até agora, a Atlassian não fez nenhum anúncio oficial sobre patches ou reconhecimento de vulnerabilidades.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.