# Freedom Tech Friday #53. Seth for AI > **Epizód:** *Seth for AI | FREEDOM TECH FRIDAY 53* > **Dátum:** 2026-ban (podhome transcript, pontos dátum nem ismert) > **Házigazdák:** Q&A (head of customer experience at Foundation), Max (Max Hillebrand, head honcho of the Ungovernable Empire). > **Vendég:** Seth (COO at Cake Wallet), "chief clanker at the ungovernable empire". > **Forrás:** Podhome transcript (serve.podhome.fm/api/transcript/aacc0eaf-...), 11 707 szó, 58 perces epizód. --- ## Összegzés - **Seth (Cake Wallet COO) az AI-rabbit hole mélyére jutott 3 hónap alatt**: a katalizátor a DeepSeek v4 Flash modell open-weight megjelenése volt, és a válasz a 2× NVIDIA DGX Spark cluster beszerzése (20 000 dollár, 256 GB VRAM), ezzel a self-hosting a subscription-alapú API-kat kiváltja. - **A pénzügyi áttörés drámai**: 20 000 dollár kezdeti hardver költség vs. 3000 dollár Opus 5 API költség egy hét alatt, 6-7 hetes megtérülés. A self-hosting nem csak privacy, hanem költségkontroll is. - **Az orchestrator + worker pattern a rövid távú optimum**: 95% self-hosted DeepSeek/GLM 5.3 worker + 5% Kimi K3 / GLM 5.3 orchestrator, a frontier modell a tervezést és review-t végzi, a self-hosted worker a piszkos munkát fillér/token áron. - **A MiniMax m3 a self-hostable vizuális AI új state-of-the-artja**: 2-Spark clusterön fut, hosszú formátumú videó generálás, és a DeepSeek-kel kombinálva egy munkamenetben használható coding + vizuális AI. - **A belépő szintű hardver az NVIDIA RTX 3090-től kezdődik** (600-800 dollár használtan), és a Quinn 3.8 27B kisebb modellt kiszolgálja, kisebb coding feladatokra és otthoni self-hostingra ideális. - **A közösségi self-hosting privacy aggályai**: a trusted execution environment és a zero data retention pattern még nem teljesen megoldott, de a self-hosting for fun / explore kultúra a Bitcoin mining pool / Mesh node közösséggel közös. --- ## 1. rész: FTF bevezető és Seth AI-rabbit hole-jának kezdete (00:00-22:00) **Epizód:** *Seth for AI | FREEDOM TECH FRIDAY 53* **Vendég:** Seth (COO, Cake Wallet) **Házigazdák:** Q&A (head of customer experience, Foundation) + Max (Max Hillebrand, head honcho, Ungovernable Empire) ### Összegzés - A Freedom Tech Friday 9AM keleti / 14PM UK idő szerint fut az Ungovernable feeden; Q&A és Max bevezetője a V4V boost wall-ra (Ape Mithrandeer 0,101743045926 XMR, Nostagang friss boostja) és az új ungovernable.network weboldalra fókuszál. - A műsor gerincét Seth „self-hosted AI for privacy” utazása adja: az OpenAI/Anthropic-előfizetésekről átállt a helyi, saját hardveren futtatott nyílt súlyú modellekre — Vic (Foundercake, Cake Wallet alapító) korai OpenClaw/LM Studio/Olama kísérleteiből merítve. - A konkrét hardver: két NVIDIA DGX Spark (egyenként 4 000–4 600 USD, 128 GB egyesített RAM, alumínium ház, Mac mini méret), 200 gig hálózati portokkal klaszterbe kötve (256 GB effektív VRAM), headless Ubuntu NVIDIA forkon, SSH-val menedzselve. - Az indító modell a DeepSeek v4 Flash volt; Seth a „chief clanker” szerepét viszi az Ungovernable Empire-ben, és a privát, on-prem AI-t három pilléren védi: a SaaS-előfizetések tömeges szubvenciójának vége, az érzékeny sebezhetőségi/PR-adatok Claude/ChatGPT-be küldésének tilalma, valamint a kínai DeepSeek API elkerülése. - A ROI-t a 200 USD/hó Claude Max előfizetés 100 hónapnyi megváltásával szemben méri (~20 000 USD hardver), és a skálázási stratégia is tudatos: 1 klaszter (2 Spark) → 2 klaszter (4 Spark), nyolc párhuzamos, 1 000 000 kontextusú feladattal. ## A lényeg **Bevezető és a V4V felszólalás.** Q&A nyitja a műsort: a Freedom Tech Friday minden péntek 9AM ET / 14PM UK időben élőben fut az Ungovernable feeden, és a freedom.tech híroldal AI-alapú forrásfigyelésére épül. A szokásos boost wall-kör: Ape Mithrandeer 0,101743045926 XMR-rel támogatta az előző adást, és Nostagang valós időben, szó szerint a felszólítás pillanatában dob be egy újabb boostot. Q&A ezt „bibliai időzítésnek” nevezi. Az új ungovernable.network weboldal is szóba kerül a value-for-value modell részeként. Max „lettuce-eating” (pénz-szűke) viccel jelzi, hogy az adás valószínűleg újabb hardveres költésre ösztökéli, Seth pedig a „hiteles kártyát hideg tárcán kellene tartani” poénnal kontrázik. **A „Seth for AI” átnevezés és a fő sodorhoz csatlakozás.** Q&A felvezeti, hogy a korábbi epizódok visszatérő témája („take back control of your money, your messages, your identity”) ma kiegészül az „intelligence”-szel, vagyis magával a használt AI-val. Mindhárman „lecsúsztak az AI-nyúllyukba” az elmúlt hat hónapban, de Seth viszi a koronát: ő a „chief clanker at the Ungovernable Empire”, és Max egyenesen javasolja a „Seth for AI” névcserét. **Seth AI-útjának genealógiája.** Seth hangsúlyozza, hogy ő volt a „laggard”: Q&A indult elsőként, Max követte, ő csak kb. három hónapja ugrott be. Kezdetben a „nem elég jó, nem elég jó” hozzáállás jellemezte, mígnem a főnöke, Vic (Foundercake) nyomán, aki „nagyon korán az OpenClaw-vonatra ült”, és Mac Studiókon futtatott helyi modelleket LM Studio és Olama segítségével, ő is elkezdett kísérletezni. Seth a „normál utat” (Claude Code) járta be, amíg „nagyjából egy hónapja” egy látványos ugrás nem történt a nyílt súlyú MI-modellek terén: az elérhető modellek a „pretty good”-ról átbillentek a „valóban versenyképes az Anthropic/OpenAI szintű csúcscégekkel” szintre. Nem lettek ugyan frontier modellek, de elérték azt a szintet, ahol egy hosztolt modell „fantasztikusan hatékony” lehet, az indító modell a DeepSeek v4 Flash volt. **A hardver: NVIDIA DGX Spark klaszter.** Seth és Vic két NVIDIA DGX Sparkkal indultak, ez volt a legkisebb, még performánsan DeepSeek v4 Flash-t futtatni képes méret. Seth azonnal cáfolja a „data center a nappaliban” félelmet: a Spark Mac mini méretű, alumínium házas, csendes és hűvös, lakásban is futtatható. Minden egység 128 GB egyesített RAM-ot kap (CPU–GPU megosztott memóriaelvvel), és a hátlapon lévő 200 gigabites hálózati portokkal klaszterbe köthetők: kettő egy kábellel 256 GB effektív VRAM-ot ad. MSRP 4 000 USD/db, jelenleg 4 600 USD környékén — az AI-hardver most épp drágul, és Seth 4–5 éves távlatban vár érdemi áresést. A korlátozó tényező a modellméret: a teljes modellnek el kell férnie a VRAM/RAM-ban — a DeepSeek v4 Flash pont akkora, hogy a kétgépes klaszteren elegendő hely marad a KV cache (kontextus) számára hosszú távú feladatokhoz. **OS, üzemeltetés és skálázás.** A Sparkok egy egyedi NVIDIA Ubuntu-forkot futtatnak Wi-Fi hotspot alapú első beüzemeléssel; Seth headless, SSH-n keresztül menedzseli őket. A második klasztert (a harmadik-negyedik Sparkot) „konkrétan ezen a héten” adták hozzá, nem nagyobb modell, hanem nagyobb konkurencia céljából: a Cake Wallet biztonsági oldalán háromféle nightly/weekly szkennelés fut (PR-ok legfrissebb állapota, teljes repo heti szkennelés, tage-elt branch release előtti ellenőrzése). A DeepSeek v4 Flash különösen alkalmas biztonsági szkennelésre három független, megosztott kontextus nélküli futtatással — ez napi szinten háromszoros PR-szkennelést jelent. A megoldás: két replika klaszter, amelyeket egy router köt össze, és automatikusan a kevésbé terhelt klaszterhez irányít — így nyolc párhuzamos feladat futhat egyszerre, teljes 1 000 000 kontextussal. **ROI és a „self-hosted AI for privacy” filozófia.** A költségkérdés: ~20 000 USD hardver = 100 hónapnyi, 200 USD/hós Claude Max előfizetés. Seth három gyakran figyelmen kívül hagyott tényezőt emel ki. Először: az AI-előfizetések erősen szubvencionáltak, és a profitabilitásra törekvő amerikai frontier laborok (Anthropic, OpenAI) várhatóan csökkentik a tokenenkénti kihozatalt — a Twitteren már most is könyörögnek a felhasználók limit-resetekért. Másodszor: privacy és szuverenitás — a Cake Wallet nem küldené el sebezhetőségi adatokat, seed phrase-eket vagy QA-tesztek érzékeny inputjait a Claude-nak vagy a ChatGPT-nek; az on-prem futtatás ezt a kockázatot eleve kizárja. Harmadszor: a legerősebb biztonsági szkennelésre alkalmas modellek egy része (így a DeepSeek) csak Kínában hosztolt API-n érhető el, ami szintén elfogadhatatlan privacy- és szabadságperspektívából — a saját hardveren futtatás ezt a függőséget is megszünteti, és a hosszú távú, kiterjedt feladatok (amelyeket az előfizetéses modellben a limitek gyorsan elérnek) a saját klaszteren korlátlanul futtathatók. > „It's getting close to that [Seth for AI]. Yeah. Yeah. Absolutely. So so walk us through it, Seth.” — Max a self-hosted AI-út kezdetéről > „For those who don't know, like, you can, I think, often think of self hosted AI, and you're like, oh god? It's gonna be this, like, data center in my in my living room or something. But the the sparks… they're, like, Mac mini sized. They are beautifully built.” — Seth a DGX Spark méretéről és külsejéről > „Where do you see the the ROI coming in for for this? And and did did that factor in?… one hundred months of Claude Max subscription.” — Q&A a 20 000 USD-s hardver vs. 200 USD/hó előfizetés szembeállításáról --- ## 2. rész: A self-hosting költség-haszon áttörése és az orchestrator+worker pattern (22:00-41:00) ### Összegzés - A self-hosted AI cake wallet csapatnál **20 000 dollár kezdeti hardver költség (2× NVIDIA DGX Spark) vs. 3000 dollár Opus 5 API költség egy hét alatt**, az áttörés 2 hét, nem hónapok. A 6 dollár áramköltség marginális. - A self-hosting legnagyobb előnye a **subscription-alapú API-k korlátainak megkerülése**: a Claude Code és Cloud Code codec-ek nem engednek API-hozzáférést a saját subscription-höz, és a Claude Tag $100+ per futás lenne egy QA-bot workflow-hoz, ami self-hosted "ingyen" fut. - A "Fable-level" (frontier-level) modellek helyett a **95% self-hosted worker + 5% orchestrator (Kimi K3 vagy GLM 5.3) pattern** a rövid távú optimum: az orchestrator tervez és review-z, a self-hosted worker (DeepSeek v4 Flash) végzi a piszkos munkát, fillér/token áron. - A **MiniMax m3** a self-hostable image/video generálás új state-of-the-artja, 2-Spark clusterön fut, és a Kimi K3 / GLM 5.3 orchestratorral kombinálva egy munkamenetben használható coding + vizuális AI. - A **belépő szintű hardver az NVIDIA RTX 3090-től kezdődik** (600-800 dollár használtan), és a Quinn 3.8 27B modellt kiszolgálja, kisebb coding feladatokra és otthoni self-hostingra ideális. A "Sparks vs GPU" vita lényege: a Spark MoE (mixture of experts) modellekre, a GPU kisebb dense modellekre való. - A **Maya AI recipe** (Bitcoiner, M&A person, Cake Wallet user) a deployment runbook, ami az LM Studio + Olama + custom router setupot publikálja, és a "pay it forward" kultúra a self-hosting közösségben. ## A lényeg **A költség-haszon áttörés.** A self-hosting pénzügyi elemzése Seth szerint sokkolóan gyors megtérülést mutat. A 2× DGX Spark kezdeti költsége 20 000 dollár, és a párhuzamos Claude Opus 5 API-használat (amit a cég a Spark beüzemelése előtt használt) egy hét alatt elérte a 3000 dollárt. Ez 6-7 hetes megtérülést jelent, és a "frontier labs" subscription-árak egyre inkább "neutered" (kiherélt) lesznek, ahogy a befektetői nyomás profitot követel. A self-hosting alternatívája tehát nem csak a privacy, hanem a költségkontroll is. A QA-bot workflow, amit a Cake Wallet csapat Slack-jében használnak (slash QA, PR number, automated screenshots, logcat, pass/fail), Cloud Code-dal $100+ per futás lenne, self-hosted "ingyen" fut, és az áramköltség az első hónapban 6 dollár volt összesen. A hosszú távú vízió: a "frontier labs" subscription-modellje egyre kevésbé versenyképes a self-hostinggal szemben, és a "you'll always be paying for tokens" narratíva szertefoszlik. **Az orchestrator + worker pattern.** A "Fable-level" (frontier-level, a Bestie-k ASR-torzítása a "frontier" szóra) modellek helyett a rövid távú optimum a 95% self-hosted worker + 5% API orchestrator kombináció. A worker egy nagyméretű MoE (mixture of experts) modell, mint a DeepSeek v4 Flash vagy a GLM 5.3, ami 256 GB VRAM-ot igényel (a Spark cluster pont ezt adja). Az orchestrator egy "Fable-level" modell, mint a Kimi K3 vagy a GLM 5.3, ami API-n érhető el (OpenRouter, Venice, NanoGPT), és a tervezést, review-t, döntéshozatalt végzi. A kombináció lényege: az orchestrator utasítja a workert a feladatokra, a worker elvégzi a piszkos munkát fillér/token áron, az orchestrator review-ozza az eredményt és korrigál. A Fable-level modell "Fable-finding" (frontier-finding) képessége a kulcs, a worker hibáit az orchestrator észreveszi és javítja, tehát a "frontier performance" 95%-a megvan a self-hosting költségvetéssel. A rövid horizon feladatokra (show planning, sima self-hosting) még az orchestrator sem kell, a DeepSeek direkt módon használható. **A MiniMax m3 és a vizuális AI forradalma.** A vizuális AI self-hostingban a MiniMax m3 az új state-of-the-art, és a Bestie-k "AI influencer" körökben is megerősítették, hogy a Spark clusterön fut. A modell 2-Spark clusterön ideálisan fut, és "egy-Spark" módon is használható idő-korlátlan workload-okra. A MiniMax m3 hosszú formátumú videó generálásban is erős, és a "next model" 3.1 a Bestie-k szerint "jön hamarosan". A kombináció DeepSeek-kel a Spark clusterön a "best of both worlds", coding és vizuális AI egy munkamenetben, alternatív hardver nélkül. **A belépő szintű hardver spektruma.** A self-hosting hardver-spektruma a Bestie-k szerint három szinten mozog. Az alsó szint a **gaming PC** (NVIDIA RTX 3090/4090/5090, 600-800 dollár használtan a 3090-ért), ami a Quinn 3.8 27B modellt és hasonló kisebb dense modelleket kiszolgál, ideális coding feladatokra, otthoni self-hostingra, és kisebb workflow-kra. A középső szint a **Spark cluster** (2-4× DGX Spark, 8-16k dollár), ami a MoE modellekre (DeepSeek v4 Flash, GLM 5.3) való, és a "Fable-level" modellek küszöbén áll. A felső szint a **GPU stack** (4× NVIDIA RTX Pro 6000, 60 000 dollár), ami a "Sparks-nál 3-4-szer gyorsabb", de a legtöbb self-hosting use-case-re overkill. A Bestie-k szerint a "Sparks vs GPU" vita értelmetlen, más use-case-ekre valók. A "moe vs dense" modell-architektúra a döntő: a MoE modellek nagy VRAM-ot igényelnek (ahol a Spark unified memory előnye dominál), a dense modellek kisebb VRAM-ot (ahol a GPU sebessége dominál). **A Maya AI recipe és a self-hosting közösség.** A deployment a Bestie-k szerint "egyszerű", plug in, internet, power, hotspot, modell választás, és megy. A valóságban a deployment a réteg-architektúra felépítését jelenti: router (LLM), VPN, belső hálózat, OpenRouter fallback, Venice / NanoGPT alternatívák, és a Cloud Code korlátozásainak megkerülése. A "runbook" publikálása a self-hosting közösség "pay it forward" kultúrájának része, a Maya AI (Bitcoiner, M&A person, Cake Wallet user) által publikált recipe a DeepSeek v4 Flash Spark clusterön futtatásához konkrét lépéssor, és Seth ezt használta a saját cluster beüzemeléséhez. A "self-hosting for fun" és "explore" kultúra a Mesh node / Bitcoin mining közösséggel közös, és az átfedés a Bestie-k szerint jelentős. --- ## 3. rész: A self-hosted AI jövője, gaming PC alternatíva, privacy, közösségi megosztás (41:00-58:00) **Forrás:** `Ungovernable Misfits. FREEDOM TECH FRIDAY 53. Seth for AI` (podhome transcript, 3/3. chunk, ~3903 szó, 2026) **Házigazdák:** Q&A, Max **Vendég:** Seth (Cake Wallet COO) ### Összegzés - A self-hosted AI jövőképe: a "frontier"-szintű modellek egyre olcsóbban, egyre kevesebb VRAM-mal futtathatók; a GLM 5.3 például már négy Sparkon is fut, és ez a küszöb folyamatosan csökken. - A jelenlegi legjobb ár/teljesítmény stratégia: egy frontier-szintű orchestrator modell (pl. Kimi K3, GLM 5.3) API-előfizetéssel (OpenRouter, Venice, NanoGPT) összekapcsolva egy helyi "worker" modellel, amely a piszkos munkát (kutatás, kódírás, implementáció) végzi ingyen, lokálisan. - A gaming PC belépő szintű alternatíva: egy használt NVIDIA RTX 3090 (~$600–800) már alkalmas a Qwen 3.8 27B és hasonló kisebb, de erős modellek futtatására; az NVIDIA RTX 5090 a "legjobb bang for your buck" a gyorsaság és a VRAM kapacitás miatt. - Az "uncle Jim AI" modell: barátok, családok vagy kisebb közösségek közösen vásárolhatnak és üzemeltethetnek egy lokális AI-riget, megosztva az API-kulcsokkal elérhetővé tett modelleket, ezzel kiváltható a Claude/ChatGPT-előfizetés, jobb privacy-vel és önrendelkezéssel. - Privacy és trusted execution environment (TEE): megosztott self-hosting esetén a zero data retention bizalmi modell érvényesül, ami "VPN-stílusú ígéret" (csak data in transit, nem data at rest); a TEE-alapú, végpontok között titkosított multi-user megoldások még a jövő részei. - A Meshtadel / mining mafia közösség konkrét privacy aggálya: ha családi fotók, Bitcoin/Monero self-custody adatok mennek át egy megosztott hardveren, az kockázatot jelent, erre Seth válasza, hogy a modell nem tárolja a promptokat alapértelmezetten, de a rosszhiszemű operátor elvileg láthatná a forgalmat. - Skálázás és klaszterezés: több Spark vagy Spark + GPU összekapcsolása 200 Gbps QSFP portokon már működik; a vegyes architektúrájú klaszterezés (pl. Exo-szerű eszközök, Tiny Labs PCIe standok) még kísérleti fázisban van, de a korlát a sávszélesség, nem az elvi lehetetlenség. - A show outro-jában Q&A bejelenti, hogy rendszeresen visszatérnek Seth-tel a gyorsan változó AI/hardver téma miatt; köszönet a Boostolóknak, Cake Wallet Foundationnek, Nim Boxnak, Johnnak (Mestadel), valamint Jordannak (a "kanadai overlordnak"). ## A lényeg ### Frontier-szintű modellek és a Kimi K3 orchestrator pattern Seth a self-hosted AI rövid távú jövőképét egy **kétrétegű, hibrid modellben** látja. A "frontier"-szintű modellek (a transcriptben többször előforduló "Fable level" kifejezés valójában ezt jelenti, az ASR torzította el), mint a GLM 5.3, amely már négy Spark klaszteren is futtatható, egyre olcsóbb hardverrel is elérhetők lesznek. A jelenlegi legjobb gyakorlat az, hogy egy frontier-szintű modellt (pl. Kimi K3 vagy GLM 5.3) API-előfizetés formájában (OpenRouter, Venice, NanoGPT) **orchestrátorként és tervezőként** használunk, míg a tényleges, mennyiségi munkát, kutatás, implementáció, kódírás, kísérletezés, egy helyi, lokálisan futtatott "worker" modell végzi, tokenenkénti költség nélkül. Seth állítása szerint ez a kombináció a teljesítmény 95%-át nyújtja a költségek töredékéért, mivel az orchestrátor a worker hibáit is kijavíttatja. A saját munkájában, self-hosting, műsortervezés, ő maga gyakran még ennél is egyszerűbben, közvetlenül a DeepSeek-et használja orchestrator-réteg nélkül is; a valóban hosszú távú, komplex feladatok azok, ahol az orchestrátor pattern megtérül. ### Gaming PC belépő szintű alternatíva A hallgatói kérdésre, hogyan lehet $20 000-es klaszter nélkül belekóstolni a self-hosted AI-ba, Seth hangsúlyozza: **ha valakinek van otthon gamer PC-je, már mindene megvan hozzá**. Különösen egy NVIDIA RTX 3090 / 4080 / 4090 / 5080 / 5090 kártyával már kiváló modelleket lehet futtatni, például a Qwen 3.8 27B-t (a transcriptben "Quinn 3.827b" / "Quinn 3.81", az Alibaba Qwen modellje), amely a kisebb kódolási feladatok, automatizálás, Hermes OpenCLOS-szerű munkák szintjén már kiváló. A GPU előnye a Spark klaszterrel szemben, hogy ha a teljes modell elfér a VRAM-ban, **gyorsabb is tud lenni**, mint egy távoli API. GPU-t akkor érdemes venni, ha kisebb, sűrű modelleket futtatunk; Sparkot akkor, ha nagy mixture-of-experts modelleket (DeepSeek v4 Flash, GLM 5.3), utóbbiakhoz 256 GB VRAM kell, ami GPU-ból négy NVIDIA RTX Pro 6000-es, kb. $60 000. A **legjobb ár/teljesítmény arányú belépő**: használt NVIDIA RTX 3090 ($600–800), vagy ha van rá keret, egy NVIDIA RTX 5090 köré épített egyszerű rig. ### "uncle Jim AI" és a közösségi self-hosting Seth szerint a self-hosting egyik izgalmas társadalmi mintázata, hogy barátok, családok vagy kisebb közösségek **összedobhatnak egy AI-riget**, és API-kulcsokkal megoszthatják egymás között. Ez a "uncle Jim AI" (a "Nagyon János"-mintára, ASR-torzítás ellenére így maradt) minta: az üzemeltető nem fizet tokenenként, csak áramot, a felhasználók pedig jobb privacy-t, használati limitek nélküli szabadságot és önrendelkezést kapnak, és senkinek nem kell Claude/ChatGPT-előfizetést vennie. ### Privacy, TEE és a Meshtadel / mining mafia problémája Max konkrét, a közösségüket érintő privacy aggályt vet fel: a Meshtadel / mining mafia (Bitcoin self-hosting közösség) tagjai olcsó áramhoz jutnak, és el tudnának képzelni egy közösen fenntartott self-hosted AI klasztert. A probléma: ha valaki a saját otthoni AI-ját családi fotókra, Bitcoin/Monero self-custody projektekre, érzékeny adatokra használja, és ezeket egy megosztott hardveren futtatja, akkor más, akár 500 fős, lazán megbízható közösség is hozzáférhet elvileg az adatokhoz. Seth válasza több rétegű: 1. **Zero data retention modell**: ugyanaz a bizalmi helyzet, mint egy API-előfizetésnél (NanoGPT, Venice), ahol a szolgáltató ígéri, hogy nem naplózza a promptokat. 2. **Nem ugyanaz, mint a Nextcloud**: nem adat-at-rest tárolásról van szó, hanem data-in-transitről; a modell nem menti a promptokat lemezre alapértelmezetten. 3. **TEE jövőkép**: a hardverek egyre inkább tartalmaznak trusted execution environment-eket, amelyekkel tökéletesen titkosított, végpontok közötti multi-user beállítások lesznek majd lehetők, ez még nem mai realitás. 4. **"VPN-stílusú ígéret"**: a bizalmi modell az, hogy "bízom benned, hogy nem naplózol", de ez a legtöbb "uncle Jim"-stílú megosztásnál (amilyen a self-hosted e-mail vagy fájlszerver) is így van, és erre a konkrét felhasználásra ez bőven elég. 5. A felhasználó maga is korlátozhatja, mit oszt meg a modellel, ha nagyon érzékeny. ### Skálázás: klaszterezés, Exo, Tiny Labs A többgépes skálázás kérdésére Seth elmagyarázza: ha a felhasználó egy Sparkból kinövi magát, és mellé tesz egy másikat (vagy egy GPU-riget), a kulcs a **nagy sávszélességű gerinchálózat**. A Spark klaszterek 200 Gbps QSFP portokon kapcsolódnak, ami elég a memória-sávszélesség (270 GB/s) kihasználásához minimális veszteséggel. Vegyes architektúrák (pl. Mac + Spark) esetén a Mac 10 GigE portja szűk keresztmetszet, de elvileg működik. Alex (a Local.AI társalapítója) kísérletezik ezzel; a **Tiny Labs** nevű cég PCIe standokkal teszi lehetővé GPU-k + Spark pool-összekapcsolását. Az **Exo**-szerű eszközök (a transcriptben "EXO"-ként említve) már most is lehetővé teszik heterogén eszközök egy klaszterbe szervezését. A Sparkok egyelőre raktáron vannak és nem szenvedtek akkora áremelkedéstől, mint a GPU-k. ### Outro és a Boost wall A műsoridő végén Q&A bejelenti, hogy Seth-tel rendszeresen visszatérnek majd, mert a tér havonta új modellekkel és hardverrel változik. Az outro klasszikus Boost wall: köszönet a hallgatóknak, a Cake Wallet Foundationnek és a Nim Boxnak (a Ungovernable Misfits szponzorainak), Kareem-nek (szerkesztés), expatriotic-nak (Boost XMR chatek), Johnnak ("Mestadel" növekedés), valamint a "kanadai overlord" Jordannak a háttérmunkáért. A műsor jelszava: "Stay ungovernable." ## Kulcsidézetek - "Pair that just as an orchestrator and planner with your local AI model as the actual worker that does all of the grunt work… that gives you essentially all of the performance of a Fable-level for everything plan… and you'd spend drastically less.". Seth - "If you have a gaming computer at home, you already have everything you need to at least try out local AI.". Seth - "The best kind of bang for your buck is… getting a fifty-ninety, building a simple rig with a fifty-ninety GPU. That's gonna give you plenty of VRAM… and it's gonna be, like, wicked fast.". Seth - "I could see a world where people are, like, pooling funds to have someone host the AI for them, and then none of them need a Clawd or ChatGPT subscription anymore… and have better privacy, have no usage limits, and have real self-sovereignty.". Seth - "You'd basically be in the zero data retention approach… I definitely see a future where the hardware we can run this on also has trusted execution environments, and we can do perfectly end-to-end encrypted multi-user setups. That's not where we're at right now.". Seth - "It's not like you're using someone else's Nextcloud… the model's not storing that. None of that's going on disk in the same way… You're really just trusting them with your data in transit, and you can limit what exactly you're revealing.". Seth --- ## Forrás - **Epizód:** *Freedom Tech Friday #53. Seth for AI* (Ungovernable Misfits, 2026-ban). - **Epizód URL:** https://serve.podhome.fm/episodepage/ungovernable/seth-for-ai-freedom-tech-friday-53 - **Transcript forrás:** `serve.podhome.fm/api/transcript/aacc0eaf-457e-494e-b38f-75c3c6149f7d` (podhome API), 137 KB JSON, "Unknown:" speaker címkékkel, a beszélők (Q&A, Max, Seth) a kontextusból azonosítva. - **Chunkolás:** 3 chunk × ~3900 szó (10-15K szó tartomány alsó széle), arányos szó-alapú felosztás. - **ASR-hibák javítása:** "Unknown:" → Q&A / Max / Seth (kontextus alapján); "Fable" → frontier (state-of-the-art modellek); "Quinn 3.8 27B" → Qwen 3.8 27B (Alibaba); "k m a k three" → Kimi K3 (Moonshot AI); "h l m 5.3" → GLM 5.3 (Zhipu AI); "Foundercake" → Vic (Cake Wallet alapító); "K Quality" → Cake Wallet (ASR-torzítás); "Open Claw" / "Claude co work" → Claude Code (Anthropic coding tool); "clankers" → AI-rajongó szleng. - **Magyar terminuskezelés:** a kanonikus (privacy_tech domain) alapján; technikai azonosítók (terméknevek: DGX Spark, DeepSeek v4 Flash, LM Studio, Olama, Quinn/Qwen, GLM, Kimi, OpenRouter, Venice, NanoGPT; cégnevek: NVIDIA, Cake Wallet, Foundation, Ungovernable Empire, Anthropic, OpenAI) eredeti formában; amerikai *billion* → **milliárd** (AkH 12. kiadás). - **Show notes / chapter lista:** A podhome transcript nem tartalmaz explicit chapter-listát, de a tartalom három természetes szálra oszlik: (1) FTF bevezető és Seth AI-útja (00:00-22:00), (2) költség-haszon és orchestrator+worker pattern (22:00-41:00), (3) gaming PC alternatíva és privacy/community (41:00-58:00). - **V4V / Boost wall:** a Bestie-k az epizód során XMR és sat boostokat olvasnak be (Ape Mithrandeer 0.0101743045926 XMR, Nostagang boost, és mások), a támogatás a freedom.tech híroldalt működteti.