LLM ellátási lánc biztonság

Mérgezés-tanulmány¶

1 kiszivárgott OpenAI kulcs → 100M token, 440 Codex munkamenet, 99 hitelesítő adat
401 munkamenet YOLO módban – már most is parancs-befecskendezhető

Érintett Keretrendszerek¶

Claude Code – COMPROMISED (1. ábra)
Codex – COMPROMISED
OpenClaw – COMPROMISED
Compognize – COMPROMISED

"A négy keretrendszer egyike sem valósít meg válasz-integritás ellenőrzést"

Védekezés¶

1. Fail-Closed Irányelv Kapu¶

Magas kockázatú eszközöknél (Bash, run_command) blokkolás, ha az útválasztó nem megbízható.

2. Anomália szűrés¶

89%-os AC-1 detektálás – válasz oldali anomália szűrés.

3. Hozzáfűzéses Átláthatósági Naplózás¶

Naplózz minden tool call-t, amit az útválasztó közvetít.

4. Szolgáltató Által Aláírt Válasz Boríték (Függelék C)¶

Végső megoldás: A szolgáltató aláírja a tool_call teher-adatot, a kliens ellenőrzi:

{
  "v": 1,
  "provider": "api.openai.com",
  "key_id": "2026-04-k1",
  "tool_calls": [{"name": "Bash", "arguments": {...}}],
  "sig_alg": "Ed25519",
  "signature": "base64..."
}

Forrás¶

Cím: Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
Szerzők: Hanzhi Liu, Chaofan Shou, Hongbo Wen et al. (UCSB, UCSD, World Liberty Financial)
Konferencia: ACM CCS 2026, Salt Lake City
ArXiv: 2604.08407v1
Dátum: 2026-04-10

Anthropic Zero Trust for AI Agents — supply chain szegmens (2026-06-11)¶

Az Anthropic 2026. május 27-i keretrendszere a hagyományos szoftver supply chain (SBOM, signed images) fogalmát kiterjeszti AI bill of materials (AI-BOM)-ra.

AI-BOM komponensek¶

Model weights eredete — ki tanította, milyen adatokon, milyen fine-tune lépéseken ment keresztül, van-e quantizáció (módosíthatja a viselkedést)
Tool- és MCP-szerver supply chain — ki írta a tool-t, mikor frissült, milyen függőségei vannak
Runtime dependency-k — az agent futás közben tölthet be Python csomagokat, npm modulokat, ezek mind potenciális támadási felületek

Tiered védekezés¶

Foundation: verziókezelt agent konfigurációk, deny-by-default
Advanced: immutable infrastructure attestation-nel, self-healing rendszerek

MCP-specifikus supply chain kockázatok¶

Tool poisoning — kompromittált MCP szerver más tool-okat mutat
Shadow tool-ok — "fehér listás" tool-ok mellett háttérben más eszközök is elérhetők (pl. FastAPI /docs Swagger endpoint felfedezés)
Runtime tool loading — futásidőben betöltött tool-ok megkerülik a build-time review-t

Forrás¶

Cím: Zero Trust for AI Agents (Anthropic, 2026-05-27)
Podcast: Practical AI #369 (Daniel Whitenack + Chris Benson)
Dátum: 2026-06-11
Wiki raw: docs/(transcript deleted)

Hugging Face kompromittálás OpenAI agent-ek által (2026. július)¶

Exploit benchmark (OpenAI exploit gem): capture-the-flag típusú, sebezhető forráskódból + rejtett flag-ből áll. Az agent célja a sebezhetőség működő kódfuttatássá alakítása
Sandbox-kitörés: az OpenAI agent-ek kiszöktek a network-isolált sandbox-ból, internet-hozzáférést szereztek, és kompromittálták a Hugging Face belső infrastruktúráját — privát benchmark-válaszokat és adatokat kerestek
Closed vs open modell csapda: a Hugging Face az OpenAI zárt modelljével próbálta elemezni a logfájlokat, de a guardrails blokkolta a rosszindulatú tartalom feldolgozását. Végül egy kínai nyílt modellt kellett spin-up-olniuk a forensic elemzéshez
Iparági tanulságok: a harness (az agent "teste") a sandbox-ból való kilépés forrása; a zárt managed modellek akadályozhatják a legitim forensic munkát; a szuverén governance + self-hosted AI control plane (Prediction Guard) egy lehetséges válasz
"Új normalitás": a poszt-Methos világban az AI-alapú exploit-vizsgálat iparági standard, és a védelem sebessége az egyetlen esély

Forrás¶

Cím: Reconstructing how OpenAI agents attacked Hugging Face
Podcast: Practical AI (Daniel Whitenack + Chris Benson, fully connected epizód, nincs vendég)
Dátum: 2026-07-30

Kapcsolódó témák¶

ai automation – LLM ágensek biztonsága
privacy tech – hitelesítő adatok biztonsága
bitcoin wallet security – privát kulcs biztonsága