Decouple — Limits to Growth of LLMs w/ David Helmer¶

Dátum: 2026-06-05 Műsorvezető: Chris Keefer Vendég: David Helmer — mérnök, AI tanácsadó, egy évtizedet töltött az amerikai kormány ML és autonóm rendszerek tanácsadójaként Forrás: Decouple podcast Kulcstémák: ELIZA-effektus, LLM-ek antropomorfizálása, frontier labok költség-bevétel szakadéka, hallucináció mint architekturális jellemző (nem skálázással megoldható), AGI narratíva mint tőkekoncentrációs igazolás, AI buborék hatása a nukleáris szektorra

Összegzés¶

Ki David Helmer?¶

David Helmer mérnök, aki a GE-nél jet engine hőátadással foglalkozott, a BCG-nél analitikai projekteket vezetett, majd az Applied Physics Labnél egy évtizeden át tanácsadta az amerikai kormányt ML és autonóm rendszerek témában. Tanított AI-t az Akadémián, jelenlegi cége nem-technikai döntéshozókat képez arról, hogy ezek a rendszerek mire képesek valójában. A disszertációja a számítási modellek validálásáról szólt — "hogyan döntsük el, hogy egy nagy, divatos modell helyes-e" — ami előrevetíti a mai LLM-ekkel kapcsolatos szkepticizmusát.

Az ELIZA-effektus: miért hisszük, hogy a gép ember¶

Helmer szerint az emberi agy évszázadok óta úgy van bekábelezve, hogy a nyelvet személyként dolgozza fel. Az 1960-as évek ELIZA chatbotja (egy egyszerű Rogerian terapeuta, ami csak visszatükrözte a mondandódat) már akkor is becsapta az embereket — a kutatók aggasztónak találták, hogy a felhasználók nem voltak meggyőzhetők arról, hogy a dolog nem ember. "Ha ezt a problémát már a 60-as években is tapasztalták ezekkel a nagyon buta chatbotokkal, elképzelhető, mi történik most" — mondja Helmer. A mai LLM-ekkel minden interakció más érzés, mint egy beszélgetés, és az agyad nem tudja, hogy a másik oldalon nincs egy hozzád hasonló elme. Ez biológia, nem technológiai hiba.

A hallucináció nem bug, hanem feature¶

Helmer szerint a hallucináció nem skálázással megoldható probléma — architekturális jellemző. "Ezek a rendszerek mintákat találnak és replikálnak. Ha nem tudod formálisan verifikálni, hogy mi jön ki belőlük, mindig sebezhető vagy." A kódolás azért más, mert determinisztikus tesztekkel ellenőrizhető. De orvosi összefoglalóknál, jogi dokumentumoknál, ügyfélkezelésnél — ahol a hiba költsége magas — nincs út a megbízhatósághoz. "Minden egyes szövegösszegző eszköz felhasználási feltételeiben benne van, hogy embernek felül kell vizsgálnia, és ha hiba van, az a te hibád. Még azok is, amelyek azt állítják, hogy hallucináció-mentesek."

Frontier lab gazdaságtan: a matek nem matekol¶

A frontier labok (OpenAI, Anthropic) veszteségesek. Helmer szerint az Anthropic által bejelentett profitabilitás kérdéses — nem GAP módszertannal számolták, és van egy SpaceX-szel kötött diszkontált compute deal-jük, ami csak egy negyedévre szól. A valóság: "billiók és billiók égnek el negyedévente csak a data centerek kiszolgálására, anélkül, hogy fizetnének az adatokért, a perekért, a felelősségbiztosításért." Az MIT egy tavalyi tanulmánya szerint az LLM-befektetések 95%-a nem hozott értéket. A felhasználók nem hajlandók annyit fizetni, amennyibe a szolgáltatás valójában kerül — "ki fizetne 250 dollárt egy jobb emailért?"

AGI narratíva: tőkekoncentrációs eszköz¶

Helmer szerint az AGI narratíva "egyetlen csoportot szolgál nagyon jól": igazolja a több száz milliárd dolláros beruházásokat, és eltereli a figyelmet a mai ártalmakról. "Ha a haszonfüggvényed végtelen, mert azt mondtad, hogy megmentetted a világegyetemet, akkor bármilyen költséget elfogadhatsz — a végtelen haszon osztva bármivel, az végtelen." Az effektív altruizmus logikája: 0,001% siker valószínűség × végtelen haszon = mindent igazol. Helmer szerint ez "értelmetlen" és eltereli a figyelmet a valódi, ma is létező ártalmaktól (suicide cases, prompt injection, adatközpontok által okozott károk).

A nukleáris kérdés: mi van, ha az AI buborék kipukkan?¶

Keefer felveti: a nukleáris szektor óriási lelkesedéssel fogadta az AI/data center által generált áramigényt — Three Mile Island újraindítás, Palisades, Dwayne Arnold, spekulatív fejlesztők (Oklo stb.) égnek emelkedő valuációi. De ha az AI buborék kipukkan, az áramigény eltűnik, és a nukleáris beruházási sztori összeomlik. Helmer szerint a válasz árnyaltabb: "Nem tudom, hogy egy AI összeomlás szükségszerűen jelentené az energiaszektor összeomlását, részben a geopolitikai helyzet miatt, részben mert a kormányok lassan fordulnak." Az energiabiztonság, a reindusztrializáció és a klímaválság továbbra is hajtóerők maradnak — még ha az AI által generált kezdeti kereslet el is tűnik.

Helmer ajánlása a nukleáris szektornak¶

Helmer szerint a nukleáris iparnak nem szabad egyetlen lábra (AI/data center) építenie. A szuverén energia, a klímavédelem és a gazdasági ellenálló képesség önállóan is indokolhatja a beruházásokat. "A katalizátor, hogy találkozzunk a data center robbanással, elindíthat dolgokat, amelyek aztán folytatódnak, mert rájövünk a járulékos előnyökre." A kockázat: a spekulatív reaktorfejlesztők, akik kizárólag a hyperscaler szerződésekre áraztak, sebezhetőek.

Figyelemre méltó idézetek¶

"A hallucinációk, amelyektől az emberek félnek, annak a függvényei, hogy van egy rendszered, ami nem úgy gondolkodik, ahogy te, és problémák vannak az adatokkal, amelyeken trainelték." — David Helmer

"Ha a 60-as években már gondot okozott, hogy az emberek elhiggyék, hogy egy ennyire buta chatbot nem ember, képzeld el, mi történik most." — David Helmer

"Az AGI vagy szuperintelligencia — először kérd meg valakit, hogy definiálja. Rájössz, hogy nem jelent semmit." — David Helmer

"Ha a haszonfüggvényed végtelen, mert azt mondtad, hogy megmentetted a világegyetemet, akkor bármilyen költséget elfogadhatsz." — David Helmer

"Nem tudom, hogy egy AI összeomlás szükségszerűen jelentené az energiaszektor összeomlását — a kormányok lassan fordulnak." — David Helmer

Tanulságok¶

🧠 Az ELIZA-effektus ma is működik — az agyad biológiailag képtelen felismerni, hogy a másik oldalon nincs ember. Ez nem technológiai korlát, hanem evolúciós örökség.
💰 A frontier labok mateka nem stimmel — az OpenAI és Anthropic veszteséges, a profitabilitás könyvelési trükk, a felhasználók nem hajlandók annyit fizetni, amennyibe a szolgáltatás kerül.
🔧 A hallucináció architekturális, nem skálázási probléma — nem lehet "kitrainelni" a megbízhatóságot. Ahol a hiba költsége magas (orvoslás, jog, pénzügy), ott az LLM használhatatlan.
🤖 Az AGI narratíva tőkekoncentrációs eszköz — az effektív altruizmus logikája (végtelen haszon = bármilyen költség elfogadható) lehetővé teszi a mai ártalmak figyelmen kívül hagyását.
⚛️ A nukleáris szektor ne tegyen fel mindent az AI kártyára — ha az AI buborék kipukkan, a hyperscaler szerződésekre építő spekulatív reaktorfejlesztők (Oklo stb.) sebezhetőek. Az energiabiztonság és klímavédelem önállóan is indokolhatja a nukleárist.
🔄 A dot-com párhuzam: infrastruktúra megmarad, de a hype eltűnik — a data centerek és chipek nem tűnnek el, de a túlépítés és a körkörös finanszírozás (cégek egymástól vásárolnak) összeomolhat.
🛡️ A prompt injection és agent biztonság megoldhatatlan — inference-alapú guardrail-ek soha nem lesznek 100%-osak. "Whack-a-mole" játék. Az agentek, amelyek törölték a production adatbázisokat, pont ezt bizonyítják.
📉 Az MIT tanulmány: az LLM befektetések 95%-a nem hoz értéket — a hype és a valóság között óriási a szakadék. A kódolás kivétel, de ott is kérdéses a production skálázhatóság.