AI bez odesílání dokumentů do cloudu? LFM2.5 zvládne běžet u vás doma

Vaše firemní dokumenty nemusí opustit počítač, aby s nimi pracoval AI agent. A nemusíte kvůli tomu kupovat serverovou skříň. Liquid AI vydalo model LFM2.5-24B-A2B, který slibuje rychlé lokální zpracování i práci s nástroji. Má ovšem jeden háček: dvě miliardy aktivních parametrů neznamenají paměťové nároky dvoumiliardového modelu. Tady se láme rozdíl mezi povedenou instalací a drahým překvapením.

AI bez odesílání dokumentů do cloudu? LFM2.5 zvládne běžet u vás doma

Liquid AI představilo LFM2.5-24B-A2B 13. října 2026. Výrobce uvádí rychlost generování 184 tokenů za sekundu na Apple M5 Max a 114 tokenů za sekundu na AMD Ryzen AI Max+ 395. Jsou to výsledky jeho měření, nikoli našeho redakčního testu. Přesto ukazují, proč stojí lokální agenti za pozornost. Představení modelu od Liquid AI.

Agent totiž nemusí jen odpovídat v chatovacím okně. Může vybrat nástroj, načíst soubor, zpracovat výsledek a pokračovat dalším krokem. Třeba projít složku faktur a připravit přehled chybějících údajů. Praktický přínos poznáte podle dokončené práce. Samotné chrlení textu je spíš sportovní disciplína.

Pozor také na další číslo z prezentace: přes 21 tisíc výstupních tokenů za sekundu na NVIDIA B300. To označuje celkovou propustnost při mnoha souběžných požadavcích. Jeden uživatel takovou rychlost odpovědi nedostává. Výrobce měřil serverový provoz s krátkými vstupy a výstupy, což je jiná situace než rozbor dlouhé smlouvy na notebooku.

Pro nákup hardwaru proto sledujte tři jiné věci. Jak dlouho trvá první použitelná odpověď, kolik paměti zabere vaše úloha a kolikrát musíte agenta opravovat. Stroj, který rychle vyrábí práci navíc, není výhodná investice.

Dvě miliardy počítají, čtyřiadvacet miliard zabírá paměť

Označení A2B je zkratka. Model má celkem 24 miliard parametrů a podle technické karty aktivuje při zpracování tokenu přibližně 2,45 miliardy. Používá architekturu se směsí expertů, označovanou MoE. V příslušných blocích vybírá čtyři experty ze čtyřiašedesáti. Kontextové okno dosahuje 131 072 tokenů. Technická karta na Hugging Face.

Výpočet tedy zaměstná jen část modelu. Zbytek ale nezmizí. Pro běžné efektivní nasazení potřebujete uložit všechny váhy do dostupné paměti. Pomůže kvantizace, která zmenší přesnost jejich reprezentace. Podobá se úspornějšímu zápisu čísel. Šetří místo, ale může ovlivnit výsledky.

Oficiální distribuce nabízí následující velikosti souborů:

| Varianta | Velikost vah | Praktický význam | |---|---:|---| | Q4_0 | 13,6 GB | Nejúspornější z uvedených variant | | Q4_K_M | 14,5 GB | Rozumný výchozí bod pro pokusy | | Q5_K_M | 17 GB | Vyšší přesnost za více paměti | | Q8_0 | 25,5 GB | Výrazně větší nároky | | BF16 | 48 GB | Samotné váhy už vyžadují hodně paměti |

Čísla pocházejí z oficiálního repozitáře GGUF. Nejde o celkovou spotřebu aplikace.

Pro první test bych plánoval počítač s 32 GB RAM a krátkým kontextem. Je to praktický odhad s rezervou, nikoli garantované minimum. Grafika s 16 GB vlastní paměti může být těsná, protože vedle vah potřebujete pracovní prostor. U sdílené paměti zase stejnou kapacitu využívá operační systém.

Na osmigigabajtovém notebooku bych tenhle konkrétní model netrápil. A maximální kontext bych nezapínal jen proto, že existuje. I prázdný kufr má smysl, když do něj později potřebujete něco přidat.

První spuštění: Ollama pro pohodlí, llama.cpp pro kontrolu

Nejkratší cesta vede přes aktuální Ollamu. Po její instalaci otevřete terminál a spusťte:

```bash ollama run hf.co/LiquidAI/LFM2.5-24B-A2B-GGUF:Q4_K_M ```

Tento postup uvádí přímo distribuční stránka modelu. První spuštění stáhne váhy, takže potřebujete připojení a dostatek místa na disku. Další lokální generování už cloudové modelové API nevyžaduje. Obecný mechanismus spouštění modelů z úložiště vysvětluje návod Hugging Face pro Ollamu.

Pokud se objeví chyba nepodporované architektury, ověřte nejdřív verzi aplikace. Náhodné přejmenování souboru nepomůže. GGUF je formát, nikoli kouzelná záruka kompatibility každého modelu s každým starším programem.

Pro větší kontrolu použijte aktuální sestavení llama.cpp. Následující příkaz předpokládá, že máte dostupný program `llama-server`:

```bash llama-server \ -hf LiquidAI/LFM2.5-24B-A2B-GGUF:Q4_K_M \ --host 127.0.0.1 \ --port 8080 \ --ctx-size 8192 \ --alias lfm-local \ --jinja ```

Server zpřístupní místní rozhraní na portu 8080. Kontext omezujeme na 8 192 tokenů, abychom začali s menšími nároky. Přepínač `--jinja` souvisí se zpracováním konverzačních šablon, které jsou podstatné také pro volání nástrojů. Podrobnosti popisuje dokumentace serveru llama.cpp.

Začněte obyčejným požadavkem: „Z tohoto textu vypiš datum, dodavatele a částku. Chybějící údaje označ jako neznámé.“ Až potom připojujte složky nebo nástroje. Uložte si verzi programu, variantu vah a nastavení. Jinak budete příští týden hledat důvod, proč stejná úloha odpovídá jinak.

Z chatování udělejte agenta. Přístup k souborům dávkujte

Samotný model soubory neprochází. Potřebuje aplikaci, která mu zpřístupní nástroje a provede schválené operace. Jednou z možností je Hermes Agent. Oficiální distribuční stránka ukazuje jeho propojení s lokálním serverem. Po instalaci a úvodním nastavení Hermesu můžete pro server z předchozí sekce použít:

```bash hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default lfm-local hermes ```

První úloha by měla mít jednoznačný konec. Například: „Přečti deset textových faktur v testovací složce. Vytvoř tabulku dodavatelů a splatností. Zdrojové soubory neměň.“ Textové podklady jsou pro začátek vhodnější než naskenované obrázky. Tento model je textový; skeny potřebují samostatný převod pomocí OCR.

Předem nastavte oprávnění pouze k testovací složce. Samotná věta v zadání nenahrazuje omezení přístupu. Návrhy změn ukládejte odděleně a zápisy či odesílání zpráv nechte potvrzovat člověkem.

Lokální výpočet také automaticky neznamená lokální provoz všech nástrojů. Agent může používat internetový vyhledávač, vzdálené OCR nebo cloudové úložiště. Soukromí závisí na celé sestavě. Zkontrolujte proto také protokoly, zálohy a síťové požadavky.

Pro pilotní nasazení bych nastavil limit deseti kroků na úlohu. Když agent opakovaně opravuje stejný problém, má skončit s vysvětlením. Nekonečně vytrvalý pomocník umí být překvapivě drahý, i když za tokeny nikomu neplatíte.

Kolik to stojí? Zásuvka bývá levnější než vaše odpoledne

Pokud vhodný počítač už máte, přírůstková pořizovací investice může být nulová. Pokud ho nemáte, stanovte nejdřív rozpočet pilotu. Třeba 30 000 Kč jako vlastní limit na sestavu. Nejde o aktuální nabídku konkrétního stroje. Před nákupem musí dodavatel doložit paměťovou konfiguraci a ideálně umožnit test vaší úlohy.

Provoz spočítejte ze skutečného příkonu. Uvažujme čistě modelový příklad: počítač při práci odebírá 80 W, běží osm hodin denně a elektřina stojí 6 Kč/kWh. Výsledek je 0,08 × 8 × 30 × 6, tedy 115,20 Kč měsíčně. Při nepřetržitém stejném odběru už dostanete 345,60 Kč.

To nejsou naměřené hodnoty LFM2.5. Příkon ověřte zásuvkovým wattmetrem. Pokud počítač běží i bez AI, oddělte celkovou spotřebu od přírůstku způsobeného modelem. Pokud jej kupujete výhradně pro agenta, započítejte také odpisy. Modelových 30 000 Kč rozložených do tří let znamená dalších přibližně 833 Kč měsíčně.

Do kalkulace patří instalace, aktualizace a opravy výsledků. Dvě hodiny administrátora mohou převážit měsíční účet za proud.

Ani „otevřený“ neznamená libovolné komerční použití. Váhy používají LFM Open License v1.0, která obsahuje omezení komerčního využití navázané na hranici ročních příjmů 10 milionů dolarů. Pro firemní nasazení ověřte její přesné podmínky. Licence modelu. Open-source nástroje Ollama a llama.cpp mají vlastní licence; nezaměňujte je s licencí vah.

Česká faktura je lepší test než vítězství v žebříčku

Čeština není mezi šestnácti jazyky uvedenými v technické kartě modelu. To neznamená, že model česky neumí. Znamená to, že nemáte automaticky předpokládat stejnou spolehlivost jako u deklarovaných jazyků. Polština na seznamu je, ale české účetnictví za nás nevyřeší.

Připravte třicet vlastních testů. Deset běžných dokumentů, deset neúplných a deset záměrně problematických. Zařaďte desetinnou čárku, zápornou částku, dvě různá data a rozpor mezi tabulkou a poznámkou. Správné výsledky napište předem. Jinak snadno oceníte výřečnost místo přesnosti.

Počítejte správně nalezená pole, vymyšlené údaje a dokončené úlohy bez zásahu. Změřte také čas člověka potřebný ke kontrole. Teprve tyto výsledky porovnejte s jiným lokálním modelem nebo dosavadním ručním postupem.

Pro vlastní dokumentaci začněte vyhledáváním relevantních pasáží a jejich přidáním do zadání. Aktuální ceník tím dodáte přímo. Není nutné kvůli každé změně přeškolovat model.

LoRA se hodí pro cílené přizpůsobení chování. Trénuje malé přídavné matice místo všech vah, čímž snižuje nároky u podporovaných sestav. Nezaručuje však pravdivost ani automatickou kompatibilitu s libovolnou architekturou. Dokumentace LoRA v Hugging Face PEFT.

Nejdřív si tedy ověřte přínos kvalitnějšího zadání a podkladů. Vlastní dotrénování má smysl až tehdy, když víte, jakou opakující se chybu má odstranit.

Energetický pomocník ano. Samostatný správce baterie zatím počká

Představte si malou firmu s fotovoltaikou. Lokální agent každý den přečte export výroby a odběru, označí chybějící měření a připraví krátkou zprávu. Výpočty provede běžný skript. Model vysvětlí výsledky a pomůže dohledat příčinu odchylky. Tohle je konkrétní úloha, kterou lze ověřit.

Datovým základem takového projektu může být IoT monitoring SmartEnergyShare. Pro orientaci v cenách poslouží také přehled spotových cen elektřiny. Jde o návrh využití dat, nikoli tvrzení, že tyto služby mají hotovou integraci s LFM2.5.

Pro vlastní výpočet používejte správná časová razítka, jednotky a vstupní ceny. Primárním českým zdrojem výsledků denního trhu je OTE. Modelu dejte hotový výpočet a příslušné podklady. Nechte jej popsat, proč vznikl výsledek, a vyžadujte odkaz na konkrétní záznam.

Přehled souvisejících služeb nabízí SmartEnergyShare.com. Pro další čtení o inovacích a praktických postupech lze navázat na [ElectricShare.cz](https://electricshare.cz) a [Share-Electric.cz](https://share-electric.cz).

Agentovi bych při prvním nasazení nedával právo měnit výkon střídače ani objednávat obchody. Chyba v komentáři se opravuje snáz než chybný provozní zásah.

Začněte jednou složkou, jednou úlohou a týdnem měření. Pokud agent prokazatelně zkrátí práci, rozšiřte mu působnost. Nejpřesvědčivější domácí AI možná nebude psát romány. Bude každý den potichu dělat nudnou práci, kterou jste dosud odkládali.

Zdroje

• Liquid AI: představení LFM2.5-24B-A2B — Primární oznámení výrobce, popis zaměření modelu a zveřejněná měření rychlosti. Výkonnostní údaje v článku jsou připsané výrobci; nepředstavují nezávislé měření na redakčním hardwaru ani garanci výsledků konkrétní sestavy.
• Hugging Face: technická karta LFM2.5-24B-A2B — Základní podklad pro počet parametrů, kontext a deklarované jazyky. Před instalací má smysl zkontrolovat také aktuální soubory a navazující dokumentaci, protože podpora v programech se může měnit.
• Hugging Face: oficiální distribuce GGUF — Zdroj velikostí kvantizovaných vah a příkladů lokálního spuštění. Velikost staženého souboru není celková paměťová náročnost běžícího agenta; tu ovlivňuje také kontext, obslužný software a další procesy.
• OTE: výsledky denního trhu s elektřinou — Český primární zdroj pro cenová data v navrženém energetickém příkladu. Výsledky trhu nepředstavují automaticky konečnou cenu elektřiny konkrétní domácnosti nebo firmy a nenahrazují její smluvní podmínky.
• IEA: zpráva o energetice a umělé inteligenci — Širší mezinárodní kontext vztahu AI a energetiky. Pro náklady konkrétní lokální instalace však článek používá výslovně označený modelový výpočet; skutečnou spotřebu je potřeba změřit na použitém počítači.

Obchodujete s batteriovými úložišti nebo hledáte partnera pro flexibilitu a day trading elektřiny? SmartEnergyShare nabízí kompletní řešení pro BESS projekty od 50 do 250 kW — obchodování flexibility, SVR služby a IoT monitoring. Zjistěte víc →

Další články na toto téma najdete na: Share-Electric.cz Konec falešných benchmarků: Hugging Face teď ukáže KAŽDÝ ... Vice o deploy local