Denial of Deadline: Netzwerkgetriebener Genauigkeitskollaps in verteilten Inferenzpipelines
Dieses Paper identifiziert ein neues Angriffsvektor-Szenario namens 'Denial of Deadline', bei dem gezielt gesteuerte Lastspitzen die Latenzgrenze für den langsamen, hochpräzisen Inferenzpfad in verteilten Systemen überschreiten lassen. Dies führt dazu, dass hochwertige Vorhersagen verworfen werden und der Gesamtsystemnutzen drastisch sinkt.
Forschungsfrage
Verteilte Inferenzarchitekturen kombinieren oft einen schnellen Pfad für Echtzeit-Anforderungen mit einem langsamen, rechenintensiven Pfad auf Cloud-Hardware zur Maximierung der Genauigkeit. Die Koordinationsschicht zwischen diesen Pfaden ist bisher kaum gegen koordinierte Lastangriffe untersucht.
Methodik
Die Autoren führen eine experimentelle Evaluation in einer simulierten zwei-stufigen Edge-Cloud-Pipeline für autonomes Fahren durch, um den Effekt von 'Yo-Yo'-Bursts auf die Latenz und Genauigkeit zu analysieren.
Zentrale Ergebnisse
- Gezielte Burst-Angriffe können p99-Latenzen bei benignem Traffic von 92ms auf bis zu 2 Sekunden erhöhen, was den Nutzen des langsamen Pfades nahezu vollständig eliminiert.
- Die Genauigkeit kann durch solche Angriffe um durchschnittlich 7.0 HOTA-Punkte degradieren, wobei bestimmte seltene Klassen (z.B. Stoppschilder) fast die Hälfte ihrer Präzision verlieren können.
- Der Angriff erfordert keinen Zugriff auf Modellgewichte oder Opferdaten und zielt ausschließlich auf zeitliche Synchronisation ab.
Praktische Bedeutung
Für Security-Architekten bedeutet dies, dass Ressourcenisolation und strikte Latenzgarantien in den Koordinationsschichten kritisch sind. Die Ergebnisse motivieren die Entwicklung von Defenses gegen Workload-Contention, um sicherzustellen, dass der 'slow path' auch unter Last seine Genauigkeitsvorteile beibehält.
Limitationen
- Die Studie basiert auf Simulationen; reale Bedingungen in heterogenen Edge-Cloud-Umgebungen können variieren.
- Es werden keine spezifischen Gegenmaßnahmen oder Patches vorgeschlagen, sondern nur Forschungsrichtungen identifiziert.
Details
- Original title
- Denial of Deadline: Network-Driven Accuracy Collapse in Distributed Inference Pipelines
- Authors
- Jhonatan Tavori, Gur-Eyal Sela, Ion Stoica, Gil Zussman
- Institutions
- University of California, Berkeley, Technion - Israel Institute of Technology, Microsoft Research
- Publication platform
- arXiv
- Methodology type
- experimental-evaluation
- Paper
- Paper
Warum ist das relevant?
Dieses Paper ist für AI-Security-Praktiker relevant, da es ein neues Angriffsmodell beschreibt, das nicht auf klassisches Adversarial Machine Learning gegen die Modelloperatoren selbst basiert. Stattdessen nutzt der Angreifer Schwachstellen in der Infrastruktur-Koordination verteilter Systeme aus, um den Dienst durch Genauigkeitsverlust zu beeinträchtigen (Accuracy Collapse via DoS). Für Teams, die Routing-, Merging- oder Scheduling-Mechanismen für verteilte Inferenz implementieren, stellt dies einen systemischen Risiko-Vektor dar, der oft übersehen wird.
Quellen
- Denial of Deadline: Network-Driven Accuracy Collapse in Distributed Inference PipelinesDenial of Deadline: Network-Driven Accuracy Collapse in Distributed Inference Pipelines - externer Link
arXiv cs.CR
Primary Source