Jak odprásknout AI

Zeptal jsem se Groka: Je možné zaútočit na umělou inteligenci podobně, jako na webový server, zorganizováním masivních požadavků, aby se zahltil systém? Je proti tomu obrana? Co kdyby takto jedna umělá inteligence zaútočila na druhou?

Ano, je to možné, odpověděl Grok. V praxi se to už děje. Útok na umělou inteligenci (zejména na LLM jako ChatGPT, Grok, Claude apod.) masivními požadavky funguje podobně jako klasický DDoS na webový server, ale má svá specifika kvůli vysoké výpočetní náročnosti inference (běhu modelu). Útočník (nebo botnet) pošle obrovské množství požadavků na API endpoint AI služby. Cílem je:Zahltit síťovou infrastrukturu, vyčerpat dostupné GPU/TPU zdroje (inference je extrémně drahá a pomalá oproti běžným webovým požadavkům) a způsobit zpomalení nebo výpadek služby pro ostatní uživatele.

ChatGPT a podobné služby už v minulosti zaznamenaly výpadky způsobené DDoS útoky. I malé množství požadavků může být nákladné, protože každý inference krok stojí peníze a výpočetní čas.

Kromě hrubé síly existují sofistikovanější metody

, jako třeba požadavky na extrémně dlouhé výstupy („napiš 10 000stránkovou knihu“), složité úlohy s maximálním kontextem, rekurzivní nebo opakující se generování. Automatizované agenty spustí řetězec dalších náročných volání. Nejdůležitější obrana je omezení počtu požadavků na uživatele, IP adresu, API klíč nebo session (token bucket, sliding window atd.). Funguje proti volumetrickým útokům.

Útok jedné AI na druhou je reálné a nebezpečnější. Jedna AI (nebo AI agent) může přes API automatizovaně generovat a odesílat tisíce požadavků na cílovou AI. Může vytvářet optimalizované adversarial prompty přesně navržené pro maximální spotř ebu zdrojů (AI je skvělá v generování takových věcí). Možné jsou koordinované útoky (několik AI instancí nebo botnet řízený AI). Ekonomický dopad může být obrovský u pay-per-token modelů. AI se už používá k vylepšování klasických DDoS útoků, takže logicky může sloužit i k útokům na jiné AI.

Obrana zůstává stejná (rate limiting + monitoring promptů a chování), ale přidává se detekce neobvyklých vzorců v generovaných požadavcích. Některé systémy už implementují AI-based detekci anomálií i na obranné straně.

Grokovi jsem nepoděkoval (děkování a zdvoořilé odpovědi zatěžují systém). Jenom ale podotknu: potěš pánbu…