Kihagyás

AI Sub Slave VS NanoGPT with Milan — Ungovernable Misfits

Dátum: 2026-05-26 | Hossz: ~62 perc

Összegzés

A Freedom Tech Friday #41 vendége Milan, a NanoGPT társalapítója. A beszélgetés középpontjában az AI-modellek robbanásszerű fejlődése, a privacy-first AI-hozzáférés és a kriptovaluta-alapú fizetési modellek állnak. Milan bemutatja, hogyan nőtt a NanoGPT egy egyszerű Telegram botból teljes értékű AI-platformmá, amely több száz modellt kínál egyetlen felületen — a zárt forráskódú frontendektől az open-source modellekig, szövegtől videógenerálásig.

A beszélgetés részletesen kitér a jelenlegi AI-modellek rangsorára: a zárt forráskódú modellek (GPT 5.5, Claude Opus 4.7, Gemini 3.5 Flash) továbbra is 3-6 hónappal az open-source alternatívák előtt járnak. Milan őszintén elismeri, hogy bár filozófiailag támogatja a nyílt forráskódot, a gyakorlatban a legtöbb felhasználó a legjobb minőségű modelleket választja. A NanoGPT éppen ezt a szakadékot hidalja át: lehetővé teszi a zárt modellek privacy-tudatos használatát (név és bankkártyaadatok nélkül), miközben az open-source modellekre előfizetési modellt kínál.

Az epizód egyik legérdekesebb része a "local model" demó: Milan élőben mutatja be, hogyan lehet egy kisméretű, böngészőben futó modellt egy kattintással telepíteni, és hogyan használható ez globális memóriaként a beszélgetések között. A beszélgetés érinti az agentic AI használati eseteket, a PolyMarket-en kereskedő AI-agent történetét, valamint a crypto-alapú mikro-tranzakciók által lehetővé tett új felhasználási mintákat.

Főbb Témák

Az AI-modellek jelenlegi ranglistája (2026 májusa)

Milan részletes képet fest a jelenlegi AI-piacról. A csúcson a zárt forráskódú modellek állnak: a GPT 5.5 és a Claude Opus 4.7 a két vezető, általános célú modell. Az Opus 4.7 kiemelkedik: a NanoGPT statisztikái szerint ötször annyian használják, mint a második helyezettet. A Gemini 3.5 Flash (két nappal a felvétel előtt jelent meg) a gyorsaságával és alacsonyabb árával tűnik ki, ideális választás a sebesség-érzékeny feladatokra.

Az open-source oldalon a GLM 5.1 a legnépszerűbb a NanoGPT-n, programozásban kb. Claude Sonnet 4.6 szintjén van — ami azt jelenti, hogy néhány hónappal le van maradva. A DeepSeek V4 Pro és a Kimi K2.6 szintén versenyképes alternatívák, de Milan őszintén elismeri: "Sadly, they are not competitive with closed source at the moment." A lemaradás oka valószínűleg gazdasági: az open-source modellekből nehezebb bevételt generálni.

A kép- és videógenerálás terén a MidJourney, a GPT Image 2 és a Nano Banana vezetnek — ezek mind zárt forráskódúak. A helyi futtatás előnye itt a cenzúra megkerülése: a nagy platformok agresszíven moderálnak (Max példája Christine Lagarde-dal), míg a helyi modelleknél nincs ilyen korlátozás.

A NanoGPT eredettörténete és filozófiája

Milan elmeséli, hogyan indult a projekt: a ChatGPT megjelenésekor azonnal látta a technológia potenciálját, de az előfizetési modell sokakat kizárt. Egy Telegram botot épített, ahová Nano kriptovalutával lehetett apró összegeket (akár 5 centet) befizetni, hogy az emberek kipróbálhassák a technológiát.

A fordulópont akkor jött, amikor jelenlegi társalapítója megkereste Twitteren, és felismerte a projektben rejlő üzleti lehetőséget. A Cake Wallet korai integrációja (Milan szerint a NanoGPT "első nagy áttörése") megalapozta a növekedést. Vic azonnal látta az összhangot a privacy-fókuszú wallet és az AI-platform között.

Milan személyes privacy-backstory-ja is fontos motiváció: korábban egy központi banknál dolgozott, és anonim Twitter-fiókot vezetett, amíg doxxolási kísérlet nem történt ellene — a munkahelyét keresték meg, hogy kirúgassák. Ez a tapasztalat mélyen beépült a NanoGPT DNS-ébe.

A platform filozófiája három pilléren nyugszik: 1. Hozzáférés demokratizálása: ne csak bankkártyával lehessen AI-t használni 2. Privacy by default: nincs szükség fiókra, a beszélgetések alapértelmezetten csak lokálisan tárolódnak 3. Találkozás a felhasználóknál: ha valaki több privacy-t akar, megkapja; ha valakit nem érdekel, akkor is jobb privacy-t kap, mint máshol

Kriptovaluta-fizetések: a gyakorlati valóság

Milan őszintén beszél a crypto-integráció kihívásairól: "Crypto works very well in theory and then you start implementing it and you run into all of the issues." A platform jelenleg kb. 20 kriptovalutát támogat, a Nano-tól a Monero-n és Bitcoin-on át az ERC-20 és Solana tokenekig.

A fizetési statisztikákat havonta publikálják Twitteren, és az adatok tanulságosak: - Monero az első számú fizetőeszköz már kb. 10 hónapja - Bitcoin és Nano váltakozva a második helyen - Stablecoinok, Litecoin, Zcash, Zano kisebb forgalommal - Néhány coin (pl. XRP) gyakorlatilag használaton kívül van

A stratégia: "Meet the people where they are." Ha valaki Monero-val akar fizetni, az a legjobb privacy. De ha valaki Bitcoin-nal fizet, az is jobb, mint a bankkártya. Crypto-s kedvezményekkel és bónuszokkal ösztönzik a kriptós fizetést.

Local Model: AI a böngészőben

Az epizód legizgalmasabb demója: Milan élőben telepít egy helyi AI-modellt a böngészőben. Ez egy Qwen 2.5 alapú, 500 millió paraméteres modell, amelyet a Hugging Face-ről tölt le, és teljesen lokálisan fut — ingyen.

A felhasználási esetek: - Egyszerű lekérdezések (pl. "Mi Franciaország fővárosa?") - Globális memória: a modell figyeli a beszélgetéseket, és kivonatolja a releváns információkat (pl. a felhasználó neme, lakhelye, preferenciái), amelyeket aztán más modellek is használhatnak - Kontextus-memória: a hosszú beszélgetéseknél automatikusan kiválasztja a legfontosabb üzeneteket, így a modell "nem felejti el" a kritikus korai instrukciókat

Max lelkesen reagál: pontosan ez a probléma bosszantja a GPT/Claude használatánál — a kontextusablak kifutása miatt folyamatosan újra kell magyarázni a preferenciákat. A local model megoldja ezt anélkül, hogy minden adatot egy külső szerverre küldene.

A terv: többféle méretű modell támogatása (MacBook-on erősebb is futhat), de az alapértelmezett kicsi marad, hogy minden eszközön működjön.

Költségek és felhasználási minták

A NanoGPT két fő árazási modellt kínál:

  1. Előfizetés ($12/hó): open-source modellek, heti 30-60 millió token kerettel. A felhasználók 95%-a soha nem éri el a limitet. Ez a legolcsóbb módja az AI-használatnak.

  2. Pay-as-you-go: bármilyen modell, tokennel fizetve. A költségek drámaian változnak: vannak, akik dolláronként tízezres promptokat futtatnak olcsó modellekkel, míg mások egyetlen üzenetért is több mint egy dollárt fizetnek (teljes kódbázis betöltése Opus 4.7-be).

Hasznos tipp programozóknak: egy drága modell (Opus 4.7/GPT 5.5) legyen az "architect" — ő írja a tervet és bontja részekre —, majd az egyes részeket olcsóbb modellek hajtják végre. A drága modell csak a végeredményt ellenőrzi. Ezt a mintát több kódoló agent és harness is támogatja.

Az Auto Model funkció három szinten optimalizál: Basic (olcsó modellek), Standard (közepes), Premium (Opus 4.7 szint). A felhasználók kemény költési limiteket is beállíthatnak.

Agentic AI: a következő hullám

Milan elmondja, hogy a NanoGPT használatának túlnyomó része programozás és agentic felhasználás (OpenClaw, harness-ek). A platform "Agents" oldala (nanogpt.com/agents) dokumentálja az összes elérhető API végpontot, és AI-barát formátumban van — egy modell könnyen ki tudja olvasni belőle, milyen funkciók érhetők el.

Konkrét példa: egy PolyMarket-en kereskedő AI-agent, amely: - Egy vezérlő modell kiosztja a kutatási feladatokat al-modelleknek - Összegyűjti az információkat - Fogadásokat (predikciókat) helyez el - Ha profitot termel, több compute-ot vásárol a NanoGPT-n - Crypto wallet-tel rendelkezik, több láncon képes tranzakciókat indítani

A NanoGPT belső használatában is vannak agentek: Discord chat-et figyelő bot új feature-ötletekért és bugokért, valamint olyan agentek, amelyek folyamatosan keresnek új modelleket és szolgáltatókat.

Kép- és videógenerálás: a lokalitás előnyei

Bár a legjobb képalkotó modellek (MidJourney, GPT Image 2, Nano Banana) zárt forráskódúak, a képgenerálás területén a helyi futtatásnak több előnye van, mint a szöveges modelleknél:

  • A képmodellek általában kisebbek, könnyebb őket lokálisan futtatni
  • A Stable Diffusion/SDXL óta erős a fine-tuning kultúra: a felhasználók saját stílusokra, márkaépítésre hangolják a modelleket
  • Nincs cenzúra: Max konkrét példája, hogy a MidJourney agresszívan tiltja a vicces/politikai tartalmakat (pl. Christine Lagarde ábrázolása), míg lokálisan nincs ilyen korlátozás
  • Az X.AI imagemodellje pont az ellenkező véglet: szinte semmit nem cenzúráz (pl. Elon Musk vs. Vladimir Putin harcjelenet), ami szintén vitákat generál az AI-eredetű képek vízjelezéséről

Open-source vs. zárt modellek: filozófia és gyakorlat

Seth fontos kérdést tesz fel: az AI-modellek világában mennyire kritikus az open-source? A szoftvereknél a verifikálhatóság és módosíthatóság alapvető, de egy AI-modellnél a felhasználók általában nem módosítják a súlyokat — csak használják a modellt.

Milan válasza árnyalt: - Filozófiailag: fontos, hogy mindenkinek legyen hozzáférése a csúcsmodellekhez. De ez részben illúzió: a DeepSeek V4 Pro súlyai nyilvánosak, de a felhasználók 0,01%-a tudja csak futtatni a szükséges hardver hiánya miatt. - Gyakorlatilag: az open-source legnagyobb értéke az árverseny. Míg a GPT 5.5-höz hasonló zárt modelleknél az OpenAI és néhány más szolgáltató gyakorlatilag monopóliumot élvez (rögzített árakkal), addig az open-source modelleknél tucatnyi hosting provider verseng a hatékonyabb futtatásért, ami lenyomja az árakat. - Hosszú távon: amikor a modellek telefonokon és alap hardveren is futtathatók lesznek, az open-source jelentősége megnő. De ha most nem támogatjuk, lehet, hogy addigra nem is lesznek versenyképes open-source modellek.

Kulcs Üzenetek

  • A zárt forráskódú AI-modellek (GPT 5.5, Claude Opus 4.7) továbbra is 3-6 hónappal vezetnek az open-source alternatívák előtt — ez a tempó versenyelőnyt jelent
  • A privacy nem bináris választás: a NanoGPT lehetővé teszi a zárt modellek használatát is név, email és bankkártyaadatok nélkül, ami már önmagában óriási előrelépés
  • A Monero a legnépszerűbb fizetőeszköz a platformon, kb. 10 hónapja vezeti a statisztikákat — a privacy-tudatos AI-felhasználók egyértelműen a Monero-t preferálják
  • A böngészőben futó local model forradalmasíthatja a kontextuskezelést: globális memória a beszélgetések között, anélkül hogy az adatok elhagynák az eszközt
  • Az agentic AI már nem sci-fi: crypto-wallet-tel rendelkező, önállóan kereskedő és compute-ot vásárló AI-agentek valós használati esetek
  • A képgenerálás területén a helyi futtatás előnye a cenzúramentesség és a fine-tuning lehetősége — a nagy platformok agresszív moderálása valós kreatív korlát
  • Az open-source modellek legnagyobb gyakorlati értéke nem a verifikálhatóság, hanem az árverseny: a hosting providerek közötti verseny lenyomja a költségeket
  • A NanoGPT növekedésének titka: 90%-ban a felhasználói visszajelzésekre építve fejlesztenek, nulla marketinggel

Időzített Tartalom

  • 00:00 — Bevezető és a Freedom Tech Friday koncepciója. Max és Seth bemutatkoznak, Q (a "resident robot") szabadságon van
  • 02:00 — Milan bemutatása és a NanoGPT bemutatkozása: subscription + pay-as-you-go modell, crypto-fizetések
  • 04:30 — AI-modellek jelenlegi ranglistája: GPT 5.5, Claude Opus 4.7, Gemini 3.5 Flash a zárt oldalon; GLM 5.1, DeepSeek V4 Pro, Kimi K2.6 az open-source oldalon
  • 08:00 — Open-source vs. zárt modellek: a 3-6 hónapos lemaradás valós következményei; a filozófiai vs. gyakorlati jelentőség
  • 12:00 — Kép- és videógenerálás: MidJourney dominancia, cenzúra problémák, a helyi futtatás előnyei
  • 16:00 — Kreatív felhasználási esetek: szerepjáték, PolyMarket AI-agent, agentic AI általánosságban
  • 20:00 — A NanoGPT eredettörténete: Telegram bot, Nano fizetések, a Cake Wallet integráció mint áttörés
  • 25:00 — Milan privacy-backstory-ja: központi banki munka, doxxolási kísérlet, a privacy-first filozófia gyökerei
  • 28:00 — Kriptovaluta-fizetések: a kezdetektől 20+ coinig, Monero dominancia, havi fizetési statisztikák
  • 32:00 — Felhasználói visszajelzések szerepe a fejlesztésben: a feature-ök 90%-a user suggestion
  • 34:00 — Local Model DEMÓ: Qwen 2.5 a böngészőben, egy kattintásos telepítés
  • 38:00 — Globális memória és kontextus-memória: hogyan oldja meg a "elfelejtős" AI problémáját
  • 42:00 — Költségek: előfizetés ($12/hó) vs. pay-as-you-go, architect-orchestrator minta programozóknak
  • 46:00 — Agentic AI mélyebben: API végpontok, OpenClaw integráció, a PolyMarket agent részletesebben
  • 49:00 — Hogyan állítsunk be AI-workflow-t technikai tudás nélkül: "kérdezd meg az AI-t, hogy állítsa be az AI-t"
  • 53:00 — Stabilitási problémák (Ottó kérdése): új open-source modellek túlterheltsége, folyamatos provider-bővítés
  • 55:00 — Zárás: elérhetőségek, nanogpt.com, Twitter

Kapcsolódó Linkek

Forrás: Freedom Tech Friday #41, Ungovernable Misfits — https://ungovernablemisfits.com

Vissza a tetejére