‘We’re already fighting yesterday’s battle’: Greece’s prime minister gets candid about AI

Dali byste jednomu programu přístup k poště, souborům, kalendáři a nákupům? A pak mu dovolili rozhodovat, co s nimi udělá? Přesně takovou důvěru vyžadují osobní asistenti s umělou inteligencí. Pohodlí je okamžité. Účet za chybu může přijít později.

„Už bojujeme včerejší bitvu,“ připustil řecký premiér Kyriakos Mitsotakis v debatě o AI. Výrok zaznamenal TechCrunch. Pro bezpečnost má nepříjemně přesný význam: zatímco řešíme pravdivost odpovědí chatbotů, jejich nástupci už dostávají oprávnění jednat.

AI už dostává klíče od vašich účtů. Řecký premiér vystihl problém

Mitsotakisova skepse není náhlé prozření. Už v květnové debatě s ekonomkou Marianou Mazzucato upozorňoval, že státy obtížně reagují na rychlost vývoje. Mluvil také o moci technologických společností, vztazích dětí s digitálními společníky a dopadech automatizace na práci. Jako příklad uvedl hlasové asistenty a budoucnost zaměstnanců zákaznických linek. To jsou jeho obavy a předpovědi, nikoli doložený harmonogram zániku profesí. Přepis zveřejnil úřad řeckého premiéra.

Pro českou firmu z toho plyne jednoduchá otázka: co vlastně zavádíme? Program, který připraví návrh odpovědi zákazníkovi? Nebo systém, který odpověď sám odešle, upraví objednávku a vrátí peníze? Na prezentaci vypadají podobně. Z hlediska rizika jsou od sebe hodně daleko.

Bezpečnost AI se musí hodnotit podle možných následků jejího jednání. Chybný souhrn porady zdržuje. Chybně odeslaný dokument může odhalit obchodní tajemství. Nesprávný příkaz průmyslovému zařízení zasáhne fyzický provoz.

První užitečný dokument proto není strategie na čtyřiceti stranách. Stačí mapa oprávnění: jaká data asistent vidí, kam smí zapisovat a kdo schvaluje nevratné kroky. U každého připojeného nástroje musí být konkrétní vlastník. Jinak skončíte u oblíbeného bezpečnostního standardu „mysleli jsme, že to hlídá někdo jiný“.

Muse ukazuje, proč nestačí chytrý model

Ars Technica 21. září popsala zranitelnost asistenta Muse od Mety, kterou objevil Patrick Wardle. Lokálně spuštěný kód mohl změnit adresu služby pro přepis řeči a získat autentizační token. Aktualizovaný článek uvádí, že Meta následně oznámila vydání opravy. Nebylo by tedy přesné prezentovat původní zprávu jako důkaz, že chyba stále zůstává neopravená. Zpráva a její aktualizace.

Obecné poučení přesahuje jeden produkt. Asistent soustřeďuje přístupy, které dříve patřily několika odděleným aplikacím. Útočník pak nemusí zvlášť napadat každý účet. Stačí mu cesta k prostředníkovi, kterému už uživatel důvěřuje.

Ve firmě bych začal odděleným účtem pro automatizaci. Asistent určený k třídění faktur nepotřebuje přístup k celé poště vedení. Nástroj na shrnování dokumentů nepotřebuje právo dokumenty mazat. Nákupní pomocník musí mít finanční limit a potvrzení konkrétní objednávky.

Stejně podstatné je odvolání přístupu. Při podezření na incident potřebujete umět zrušit relace a tokeny, zastavit běžící úlohy a dohledat provedené akce. Samotné zavření okna aplikace takový postup nenahrazuje.

Před nasazením si proto vyzkoušejte malý incident nanečisto. Správce odebere oprávnění, druhý člověk sleduje, zda automatizace skutečně přestala fungovat. Změřte čas. Pokud nikdo neví, kde přístup vypnout, systém ještě není připravený na ostrá data. Ani když umí napsat báječnou omluvu.

Toyota a roboti: zaměstnanec učí, firma musí hlídat následky

Podle zprávy Ars Technica z 22. září Toyota zapojuje pracovníky do učení humanoidních robotů. Popsaný plán počítá s rozsáhlou robotizací a od roku 2028 s každoročními investicemi přibližně 6,42 miliardy dolarů. Zástupce firmy současně tvrdí, že cílem není přímé nahrazování lidí. Takové vyjádření je firemní stanovisko, nikoli záruka budoucí zaměstnanosti. Zpráva o plánech Toyoty.

Pro bezpečnost je zajímavější samotný přenos zkušeností. Člověk při práci dělá spoustu věcí, které nejsou napsané v návodu. Zpomalí při nezvyklém odporu. Pozná poškozený díl. Ustoupí kolegovi. Tréninková data musí zachytit také výjimky, jinak automatizace zvládne hlavně pěkně uklizenou demonstraci.

Představme si modelovou montážní buňku. Robot správně přenese součástku ve 999 případech z tisíce. Zbývající případ rozhoduje o tom, zda jde o drobný prostoj, zmetek, nebo nebezpečný pohyb. Samotné procento úspěšnosti tuto informaci schovává.

Proto musí existovat ochranné mechanismy mimo naučené chování: omezení pracovního prostoru, kontrola síly, bezpečné zastavení a postup při výpadku snímače. Jejich konkrétní provedení patří kvalifikovanému návrhu stroje.

Zaměstnanci navíc potřebují vědět, kdo jejich ukázky kontroluje a jak se řeší chybné záznamy. Když zkušený pracovník řekne „takhle se to dělat nemá“, je to cenný vstup do testování. Ne překážka inovací, kterou je potřeba odstranit z prezentace.

Benchmark bez podmínek je číslo do reklamy

Britský AI Security Institute a iniciativa EvalEval nabízejí užitečnější odpověď než další slib spolehlivosti. Jejich zářijové oznámení popisuje sdílení výsledků včetně konfigurace a kontextu prostřednictvím společné infrastruktury. Zahrnuje pět hlavních benchmarků, mimo jiné FrontierMath, SWE-Bench Pro a Terminal-Bench 2.0, a související kybernetické evaluace. Podrobnosti zveřejnil Hugging Face.

Smyslem je umožnit ověření, za jakých podmínek skóre vzniklo. Model dostal jediný pokus, nebo jich měl několik? Mohl používat nástroje? Kolik výpočtu spotřeboval? Dostal informaci, že předchozí odpověď byla chybná? Bez těchto údajů můžete porovnávat úplně jiné experimenty.

Pro vlastní testování lze využít otevřený rámec Inspect. Pracuje s daty, postupem řešení a vyhodnocením. Instalace do připraveného prostředí Pythonu začíná příkazem:

```bash python -m pip install inspect-ai ```

Instalací ovšem test nevznikne. Pro firemní pilot si připravte například padesát běžných úloh a dvacet záměrně problematických případů. Přidejte dokument obsahující falešný pokyn, chybějící přílohu nebo požadavek přesahující oprávnění uživatele. Používejte smyšlená citlivá data.

Ukládejte verzi modelu, zadání, dostupné nástroje, cenu a výsledek. Kritické případy opakujte. Vedle správných odpovědí počítejte neoprávněné akce, úniky a zbytečná odmítnutí. To je návrh praktického testu, nikoli univerzální certifikace. Dvacet úspěšných pokusů stále nezaručuje bezpečný jednadvacátý.

Vlastní AI přes Ollamu: začněte bez přístupu k účtům

Na první experiment nepotřebujete kupovat server. Pokud už máte počítač s 16 GB operační paměti, můžete zkusit menší kvantovaný model. Výkon závisí na procesoru, grafice, délce kontextu i souběžných úlohách. Berte tuto konfiguraci jako výchozí pokus, nikoli slib rychlosti.

Konkrétní možností je Qwen3 ve variantě s osmi miliardami parametrů. Balíček `qwen3:8b` v katalogu Ollamy má přibližně 5,2 GB a používá kvantizaci Q4_K_M. Velikost souboru ovšem není celková potřebná paměť. Další prostor zabere běh programu a zpracovávaný kontext. Parametry modelu.

Po instalaci Ollamy podle její dokumentace spusťte:

```bash ollama pull qwen3:8b ollama run qwen3:8b ```

Nejprve mu dejte neškodný český text a ověřte shrnutí. Potom stejnou úlohu zkuste s překlepem, chybějícím údajem a rozpornými čísly. Sledujte, zda si model přizná nejistotu.

Ollama standardně naslouchá na místní adrese `127.0.0.1` a portu `11434`. Při změně síťového nastavení už řešíte další přístupovou cestu. Podrobnosti popisuje dokumentace síťového provozu.

Modely a nástroje najdete také na Hugging Face. Metoda LoRA umožňuje přizpůsobování modelu trénováním menších doplňkových matic místo všech vah. Není však náhradou řízení oprávnění. Doučení firemního stylu nezabrání chybně navrženému nástroji odeslat soubor nesprávnému příjemci.

Místní provoz dává větší kontrolu nad daty. Současně přesouvá aktualizace, zálohy a zabezpečení na vás. I domácí AI může mít překvapivě drahého správce: vás samotné.

Kolik stojí provoz a proč se do toho plete elektřina

Software zdarma neznamená provoz zdarma. Pro orientaci vezměme dva výslovně modelové scénáře. Počítáme s cenou 6 Kč za kWh a třicetidenním měsícem. Nejde o aktuální nabídku dodavatele ani měření konkrétního počítače.

| Modelový provoz | Spotřeba za měsíc | Náklad na elektřinu | |---|---:|---:| | Příkon 60 W, osm hodin denně | 14,4 kWh | 86,40 Kč | | Příkon 250 W, nepřetržitě | 180 kWh | 1 080 Kč |

Rozdíl mezi těmito scénáři je 11 923,20 Kč ročně. Nevypovídá však o ceně stejného množství práce: výkonnější sestava může úlohu dokončit rychleji. Správná metrika je spotřeba a cena za dokončenou úlohu v požadované kvalitě. Příkon měřte na zásuvce, včetně klidového provozu.

Pokud pro kalkulaci zvolíte pořizovací cenu sestavy 30 000 Kč a rozpočítáte ji na tři roky, přidáte přibližně 833 Kč měsíčně. To je účetní předpoklad, nikoli cenovka doporučeného hardwaru. Připočtěte správu a případné chlazení.

Velké měřítko ukazuje IEA. Ve zprávě z roku 2025 odhadla spotřebu datových center v roce 2024 na 415 TWh. Základní scénář pro rok 2030 počítal přibližně s 945 TWh. Jde o všechna datová centra, nikoli pouze AI. Analýza spotřeby IEA.

Odložitelné úlohy můžete plánovat podle výroby vlastní fotovoltaiky nebo ceny energie. Pomůže přehled spotových cen, ale pro kalkulaci použijte skutečné smluvní náklady. K navazujícím tématům patří také blog ShareElectric.cz.

AI u baterie potřebuje pevné hranice

Energetika dobře ukazuje rozdíl mezi radou a zásahem. Asistent může vysvětlit nezvyklou spotřebu, porovnat denní profily nebo navrhnout posunutí výpočtů na poledne. Jakmile dostane možnost změnit nabíjení baterie či výkon zařízení, potřebujete další kontrolní vrstvu.

Rozumný pilot začíná daty pouze pro čtení. Pro tento typ projektu je relevantní IoT monitoring. Nejde tím o tvrzení, že konkrétní služba používá popsanou AI architekturu. Monitoring zde představuje datový vstup, nad kterým lze bezpečněji ověřovat návrhy.

Příkazy musí následně projít běžným programem s pevnými mezemi. Ten kontroluje povolený výkon, stav baterie, časovou platnost a oprávnění. Požadavek mimo rozsah odmítne bez ohledu na to, jak přesvědčivě jej model zdůvodní. Provozní limity nesmějí existovat jen jako věta v zadání chatbotu.

U obchodování flexibility k tomu přistupují smluvní závazky. Model nesmí optimalizovat jednu cenu a přitom ignorovat již slíbenou dostupnost zařízení.

Také sdílení elektřiny stojí na časové shodě výroby a spotřeby v patnáctiminutových intervalech, jak vysvětluje ERÚ. AI může pomoci s analýzou profilů. Pravidla vyhodnocení ale nepřepíše.

Začněte jedním měřeným pilotem a předem určete podmínky jeho zastavení. Energetické návaznosti nabízí smartenergyshare.com. Můj odhad? Konkurenční výhodou bude brzy schopnost doložit, co automatizace skutečně provedla. Samotné tvrzení „máme AI“ bude mít hodnotu nálepky na notebooku.

Zdroje

Níže jsou hlavní podklady k politickému kontextu, vyhodnocování modelů a energetické části. Technické návody a zprávy o jednotlivých produktech jsou odkazované přímo u příslušných tvrzení. Při vlastním nasazení kontrolujte datum dokumentace a verzi používaného programu; stejné obchodní označení nemusí znamenat stejné chování po aktualizaci.

• Úřad řeckého premiéra: debata Kyriakose Mitsotakise s Marianou Mazzucato — primární přepis pro dřívější premiérova vyjádření o AI, digitálních společnících a pracovním trhu. Politické prognózy je potřeba číst jako stanoviska řečníka.
• Hugging Face: spolupráce UK AISI a EvalEval — oznámení popisující zveřejňované výsledky, konfigurace a společnou infrastrukturu. Podklad pro ověřitelné porovnávání, nikoli potvrzení bezpečnosti každého nasazení.
• Inspect: dokumentace otevřeného rámce pro evaluace — výchozí technický zdroj k sestavení testů, práci s nástroji a prohlížení výsledků. Konkrétní hodnocení vždy závisí na kvalitě připravených úloh.
• IEA: energetická poptávka spojená s AI — zdroj historického odhadu a scénáře spotřeby datových center. Výhled není naměřená budoucnost ani údaj o spotřebě samotných chatbotů.
• ERÚ: sdílení elektřiny a energetická společenství — český regulační zdroj k principu sdílení a časové shodě výroby se spotřebou. Pro konkrétní projekt ověřte také podmínky připojení a smluv.

Obchodujete s batteriovými úložišti nebo hledáte partnera pro flexibilitu a day trading elektřiny? SmartEnergyShare nabízí kompletní řešení pro BESS projekty od 50 do 250 kW — obchodování flexibility, SVR služby a IoT monitoring. Zjistěte víc →

Další články na toto téma najdete na: ShareElectric.cz Bezpečnostní díry v AI infrastruktuře na AWS: trénujete m... Vice o dodavatelé