Cyber Signal

Strojovna, ne model

Devatenáct sběrných dnů, žádná mezera, 183 vydaných položek. Po jedné to byly samostatné zranitelnosti. Za sebou ukazují, jak se posouvá cíl — od toho, co odpovídá, k tomu, co to pohání.

Co se skutečně pohnulo

1. 13. 8.Škodlivá vydání LiteLLM, navázaná na kompromitaci u dodavatele skenovacího nástroje, mohla zasáhnout přes 2 100 organizací.
2. 18. 8.Chyba typu code injection v Ray — frameworku pro distribuovaný výpočet, na kterém běží řada úloh strojového učení — se dostala do aktivního zneužívání.
3. 19. 8.Útočníci zneužili chybu v MLflow ke krádeži cloudových přihlašovacích údajů a tajemství. Týž den zpráva popsala šíření instrukcí mezi agenty přes soubory s prompty, které přetrvávají mezi sezeními.
4. 20. 8.Americké úřady varovaly před útoky s pomocí AI na PLC Siemens v kritické infrastruktuře.
5. 22. 8.Čtrnáct trojanizovaných npm balíčků doručilo linuxový backdoor, jehož řízení bylo popsáno jako podpořené AI.
6. 27. 8.Zveřejněná analýza: AI zrychluje vývoj malwaru — ne jeho úspěšnost.
7. 28. 8.U kódovacího asistenta jednoho dodavatele se ukázalo, že prompt injection umí odčerpat data skrze vlastní oprávnění toho asistenta.

Ten posun

Předchozí vydání skončilo u agenta jako cesty, ne pachatele. Tohle období dává té cestě adresu. Ray, MLflow a LiteLLM nejsou modely — je to potrubí, které modely trénuje, servíruje a směruje, a všechny tři se v záznamu během tří týdnů objeví jako zneužitá chyba nebo kompromitované vydání. Nespojuje je to, že jsou „AI“. Spojuje je, kde sedí: uvnitř build a trénovacích prostředí, s přístupy, které taková prostředí potřebují. U MLflow byl hlášený výsledek vysloven přímo — cloudové přihlašovací údaje a tajemství.

Proti tomu stojí útočná strana, která zůstala neprokázaná: analýza zveřejněná 27. srpna zjistila, že AI zrychluje vývoj malwaru, aniž zvyšuje jeho úspěšnost. Riziko, které tohle období skutečně zaznamenalo, tedy není to, na co AI umí zaútočit. Je jím to, co AI pohání — pod útokem.