In dieser Woche befasst sich das Cyber Threat Intelligence (CTI)-Team von Tanium mit „Whisper Leak“, einem neuartigen Seitenkanalangriff, der auf Remote-Sprachmodelle abzielt. Als Nächstes untersuchen wir unter ein bösartiges npm- -Paket namens „@acitons/artifact“, das ein Risiko für GitHub Actions darstellt. Abschließend analysieren wir unter eine ausgeklügelte Phishing-Kampagne, die das neue Tool „Quantum Route Redirect“ nutzt, um Nutzer von Microsoft 365 ins Visier zu nehmen.
„Whisper Leak“ zielt auf Remote-Sprachmodelle ab
Microsoft veröffentlicht unter Einzelheiten zu „Whisper Leak“, einer Sicherheitslücke, die nun die Größe von Netzwerkpaketen und zeitliche Muster ausnutzt, um die Gesprächsthemen der Nutzer zu ermitteln – selbst wenn der Datenverkehr mit TLS verschlüsselt ist.
Der Bericht von Microsoft unterstreicht die zunehmende Notwendigkeit der Vertraulichkeit von Sprachmodellen, insbesondere da KI-Systeme immer häufiger zur Verarbeitung sensibler Informationen eingesetzt werden. Aus diesem Grund wird es immer wichtiger, dass die Kommunikation sicher ist und die Modelle über wirksame Datenschutzmaßnahmen verfügen.
Das „Whisper Leak“-Experiment von Microsoft
Microsoft begann damit, einen binären Klassifikator zu trainieren, um zwischen allgemeinem Datenverkehr und einem bestimmten Zielthema zu unterscheiden.
In diesem Experiment war das Thema die Rechtmäßigkeit der Geldwäsche. Die Forscher verwendeten ein Sprachmodell, um 100 ähnliche Fragen zum Thema Geldwäsche zu erstellen, wobei 80 Fragen für das Training und 20 Fragen zur Überprüfung der Generalisierungsfähigkeit dienten. Microsoft hat zudem mehr als 11 000 zufällig ausgewählte, nicht miteinander in Zusammenhang stehende Fragen als Störbefehle herangezogen.
Nach der Datenerhebung analysierte Microsoft drei Lernmodelle in drei verschiedenen Modi. Sie bewerteten die Leistung der einzelnen Verfahren anhand der Metrik „Area Under the Precision-Recall Curve“ (AUPRC), um den Erfolg eines Cyberangriffs bei unausgewogenen Datensätzen zu messen.
Die meisten Modelle erzielten Werte von über 98 %. Microsoft weist darauf hin, dass die einzigartigen digitalen Fingerabdrücke, die durch Gespräche zu bestimmten Themen erzeugt wurden, deutlich genug waren, als dass der KI-gestützte „Lauscher“ sie im Rahmen kontrollierter Tests erkennen konnte.
„Whisper Leak“: Eine wachsende Bedrohung
Microsoft simulierte ein realistisches Überwachungsszenario, in dem ein Angreifer 10 000 zufällig ausgewählte Gespräche überwachte, von denen nur eines das zielrelevante Thema enthielt. In diesem Test gelang es dem Angreifer, die Unterhaltung, in der dieses Thema besprochen wurde, genau zu identifizieren.
Wie bei vielen neu gemeldeten Bedrohungen geht Microsoft davon aus, dass sich diese Bedrohung im Laufe der Zeit noch verschärfen könnte. Ihrer Einschätzung zufolge handelt es sich hierbei um ein Grundrisikoniveau, das sich erhöhen wird, sobald die Angreifer mehr Trainingsdaten sammeln und ihre Angriffe anhand dieser Informationen verfeinern.
Analystenkommentare des Cyber Threat Intelligence-Teams von Tanium
Eine starke Verschlüsselung wie TLS kann die Privatsphäre nicht vollständig schützen, solange Seitenkanalsignale weiterhin offengelegt sind. Auch wenn dieser Angriff offenbar nicht den genauen Text bzw. Chatinhalt offenlegt, kann er sensible Themen klassifizieren , die dennoch zu Vertraulichkeitsproblemen führen können, insbesondere für Organisationen in Branchen, in denen strengere Datenschutzvorschriften gelten. Hiermit möchten wir Sie daran erinnern, dass bei Sicherheitsmaßnahmen nicht nur die Verschlüsselung von Inhalten, sondern auch das Risiko eines Verlusts von Metadaten berücksichtigt werden muss.
Microsoft und andere Anbieter haben Gegenmaßnahmen ergriffen, doch Microsoft empfiehlt den Nutzern weiterhin, sensible Themen in nicht vertrauenswürdigen Netzwerken zu vermeiden und den Einsatz von VPNs oder Alternativen zum Streaming in Betracht zu ziehen.
@acitons/artifact richtet sich an Nutzer von GitHub Actions
Forscher von Veracode haben ein bösartiges npm-Paket namens „@acitons/artifact“ entdeckt, das auf Nutzer von GitHub Actions abzielt. Das Paket, das den legitimen Paketnamen „@acitons/artifact“ missbraucht, zielt darauf ab, verschlüsselte Daten aus CI/CD-Umgebungen mithilfe eines Skripts nach der Installation zu entwenden.
Veracode geht davon aus, dass der Zweck des schädlichen Pakets darin besteht, „dieses Skript während des Build-Vorgangs eines GitHub-eigenen Repositorys ausführen zu lassen, die in der Build-Umgebung verfügbaren Token zu entwenden und diese Token anschließend zu nutzen, um neue schädliche Artefakte unter dem Deckmantel von GitHub zu veröffentlichen.“
Im Rahmen ihrer Untersuchung entdeckten die Forscher sechs Versionen, die mit einem nach der Installation aktivierten Mechanismus zur Ausführung von Malware ausgestattet waren, der, wie Veracode feststellt, von Antivirenprogrammen nicht erkannt wurde. Der Schauspieler hat die schädlichen Versionen offenbar entfernt.
Das Paket
Die Forscher von Veracode untersuchten die Version 4,0,13 des schädlichen Pakets, das offenbar für das GitHub Actions Toolkit bestimmt ist, jedoch einen eindeutigen Typosquat im Paketnamen enthält.
Veracode hat die Binärdatei in VirusTotal analysiert und festgestellt, dass sie zum Zeitpunkt der Erstellung des Berichts nicht als schädlich gekennzeichnet war. Eine manuelle Überprüfung der Datei ergab jedoch mehrere offenbar böswillige Merkmale, darunter einen Mechanismus, der die Ausführung nach einem festgelegten Datum verhindert, ein verschleiertes Shell-Skript sowie die gezielte Ausrichtung ausschließlich auf Repositorys, die GitHub selbst gehören.
Analystenkommentare des Cyber Threat Intelligence-Teams von Tanium
Weit verbreitete und vertrauenswürdige Ökosysteme wie npm werden mittlerweile von Angreifern ausgenutzt, weshalb die Pflege der Abhängigkeiten von entscheidender Bedeutung ist.
Dieser Akteur konzentrierte sich speziell auf GitHub Actions und zielte dabei auf einen entscheidenden Punkt im Software-Lebenszyklus ab. Wenn solche Angriffe stattfinden, können Angreifer vertrauliche Informationen stehlen, Schadcode in Builds einschleusen und sich Zugang zu Produktionsumgebungen verschaffen, wodurch aus einem einzigen Fehler bei den Abhängigkeiten ein umfassender Sicherheitsverstoß wird.
Dieser Vorfall verdeutlicht die zunehmenden Risiken in der Software-Lieferkette sowie die Notwendigkeit einer strengen Überprüfung von Abhängigkeiten und von Sicherheitskontrollen während der Laufzeit.
„Quantum Route Redirect“ vereinfacht Phishing
KnowBe4 hat kürzlich unter eine ausgeklügelte Phishing-Kampagne beobachtet, bei der „Quantum Route Redirect“ zum Einsatz kommt – ein Phishing-Kit, das komplexe Angriffe automatisiert und es Cyberkriminellen ermöglicht, Sicherheitstools zu umgehen und Microsoft- 365 -Nutzer weltweit ins Visier zu nehmen.
Wie KnowBe4 erläutert, stellt die Fähigkeit dieser Malware, der Erkennung zu entgehen und Links nach der Zustellung als Angriffsmittel zu nutzen, ein erhebliches Risiko dar, das eine Kombination aus fortschrittlichen Abwehrmaßnahmen und Sensibilisierung der Nutzer erfordert.
KnowBe4 hat Opfer dieser Kampagne in insgesamt 90 Ländern festgestellt. Von den Opfern befanden sich 76 % in den Vereinigten Staaten.
Was ist „Quantum Route Redirect“?
In KnowBe4 wird „Quantum Route Redirect“ als „fortschrittliche Automatisierungsplattform, die den gesamten Ablauf einer Phishing-Kampagne optimiert – von der Umleitung des Datenverkehrs bis hin zur Nachverfolgung der Opfer“ beschrieben. Bislang haben sie etwa 1 000 Domains identifiziert, die auf dieser Plattform gehostet werden.
Das Tool selbst ist einfach zu bedienen und bietet seinen Nutzern eine vorkonfigurierte Umgebung, die die Durchführung von Kampagnen erleichtert. Es kann zwischen verschiedenen Besuchern unterscheiden, dabei unterschiedliche Aktionen für Sicherheitstools und tatsächlich beabsichtigte Opfer voneinander trennen und diese entsprechend weiterleiten. Zur Unterscheidung nutzt es Browser-Fingerprinting sowie die Erkennung von VPNs und Proxys.
Phishing-Angriffe vom Typ „Quantum Route Redirect“
KnowBe4 first observed phishing attacks leveraging Quantum Route Redirect in early August. Laut KnowBe4 beginnt jede Kampagne mit einer Phishing-E-Mail vom Typ „ “ ( ), die sich in Bezug auf Themen und Vorgehensweisen unterscheidet. Unabhängig vom Thema werden die Opfer in jedem Fall auf eine Seite zum Abgreifen von Anmeldedaten weitergeleitet, die von Quantum Route Redirect verwaltet wird.
Wie andere Phishing-Kits auch bietet Quantum Route Redirect seinen Nutzern ein Konfigurationspanel zur Verwaltung ihrer Kampagnen und stellt verschiedene nützliche Funktionen bereit, darunter Besucherstatistiken.
Analystenkommentare des Cyber Threat Intelligence-Teams von Tanium
Dies ist ein weiteres Phishing-Kit, das die Hürden für Angreifer senkt und den Weg für häufigere und ausgefeiltere Kampagnen ebnet, die auf Microsoft- 365 -Umgebungen abzielen.
Die Fähigkeit des Kits, Links nach der Zustellung als Angriffsmittel zu nutzen, gibt Anlass zu besonderer Sorge, da sie viele herkömmliche Sicherheitsmaßnahmen wie URL-Prüfung und Sandboxing untergräbt und damit die entscheidende Bedeutung der Echtzeit-Erkennung und der Widerstandsfähigkeit der Nutzer deutlich macht.
Der Bericht KnowBe4’s enthält einige hilfreiche, von der „ “ empfohlene Maßnahmen ( ) zum Schutz vor „Quantum Route Redirect“.
Haben Sie Einblicke in diese Geschichten, die Sie gerne weitergeben möchten? Besuchen Sie das Tanium-Diskussionsforum unter, um eine Diskussion zu starten.
Wenn Sie sich weiter informieren möchten, lesen Sie unsere aktuellen Zusammenfassungen zu Cyber-Bedrohungsinformationen aus der Reihe „ “ unter.
