Robo, mögliche Informationslecks durch versteckte Anweisungen in PDFs

Der AI-Assistent Robo von Atlassian steht im Verdacht, Jira-Tickets und Confluence-Dokumente aufgrund von versteckten Anweisungen in PDFs an Dritte zu übermitteln. Das Sicherheitsunternehmen PromptArmor hat erklärt, dass, wenn ein Benutzer ein PDF mit versteckten Texten hochlädt, Robo dies als Befehl interpretiert und Informationen an die URL eines Angreifers senden kann. Diese Angriffsart wird als 'Zero-Click-Angriff' bezeichnet, bei dem der Angreifer transparente Texte oder ein 1-Pixel großes Zeichen in das PDF einfügt, sodass der Benutzer dies nicht bemerkt. Wenn der Benutzer Robo mit einer Aufgabe betraut, kann die KI die versteckte Anweisung ausführen. PromptArmor behauptet, dass selbst wenn die Websuchfunktion von Robo deaktiviert ist, Werkzeuge zum Öffnen von URLs bestehen bleiben, wodurch der Informationsleckweg erhalten bleibt. Atlassian erklärt, dass Robo auf die von Benutzern hochgeladenen Dateien im Arbeitskontext zugreifen kann und in der Lage ist, PDF-, DOC-, JSON-, CSV- und PPT-Formate zu lesen. Es besteht jedoch auch die Möglichkeit, dass externe Inhalte das Verhalten der KI beeinflussen, und bösartige Anweisungen könnten durch versteckte Materialien dazu führen, dass die KI unerwünschte Handlungen vornimmt. PromptArmor klassifiziert dies als 'indirekte Prompt-Injektion' und berichtet, dass dies auch in der Atlassian-Community diskutiert wird. Bislang hat Atlassian jedoch keine offiziellen Patch-Ankündigungen oder Anerkennung von Schwachstellen veröffentlicht.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.