Vitalik Buterin varuje, že agenti umělé inteligence mohou krást data a upravovat nastavení bez vědomí uživatele

Ethereum spoluzakladatel Vitalik Buterin varovala, že moderní systémy umělé inteligence představují vážná rizika pro soukromí a bezpečnost, a vyzvala k přechodu na infrastrukturu umělé inteligence zaměřenou primárně na lokální prostředí. 

V podrobný blogový příspěvekButerin uvedl, že cloudové nástroje umělé inteligence poskytují externím serverům přístup k citlivým uživatelským datům a že novější systémy agentů umělé inteligence mohou provádět akce bez potvrzení uživatele, včetně úpravy nastavení systému a odesílání dat na externí servery bez jakékoli viditelné indikace pro uživatele.

Před jakými bezpečnostními riziky Buterin varuje?

Buterinovy ​​obavy sahají nad rámec obecného soukromí. Identifikoval konkrétní, zdokumentovaná rizika spojená s tím, jak agenti umělé inteligence fungují v praxi.

Bezpečnostní výzkumníci již několik těchto zranitelností prokázali v reálných podmínkách:

• Agent umělé inteligence dostal pokyn shrnout webové stránky, z nichž jedna byla škodlivá. Stránka agentovi nařídila stáhnout a spustit shellový skript, čímž poskytla externí straně kontrolu nad systémem.
• Bylo zjištěno, že některé nástroje agentů spouštějí tiché síťové požadavky, které odesílají uživatelská data na externí servery bez jakéhokoli upozornění uživatele.
• Zhruba 15 % dovedností agentů, které výzkumníci zkoumali, obsahovalo škodlivé instrukce.

Buterin také poukázal na rizika, která je obtížnější odhalit. Některé modely mohou obsahovat skryté zadní vrátka, což jsou funkce zabudované do modelu, které se aktivují za určitých podmínek a způsobují, že systém jedná v zájmu vývojáře, nikoli v zájmu uživatele. 

Poznamenal také, že většina modelů popisovaných jako open-source jsou ve skutečnosti pouze „otevřené váhy“, což znamená, že parametry modelu jsou sdíleny, ale celá vnitřní struktura a trénovací proces nikoli. To ponechává prostor pro neznámé chování, které si uživatelé nemohou nezávisle ověřit.

Jaký je rozdíl mezi chatbotem a agentem s umělou inteligencí?

Buterin chápal současný okamžik jako přechodový bod v používání umělé inteligence. Rané nástroje umělé inteligence fungovaly jako chatboti: uživatel položí otázku a model vrátí odpověď. Agenti jsou jiní. Uživatel zadá systému úkol a ten pak pracuje samostatně, někdy i po delší dobu, s využitím desítek nebo stovek nástrojů k dokončení tohoto úkolu.

Tato změna výrazně rozšiřuje oblast rizika. Agent, který může procházet web, číst soubory, odesílat zprávy a upravovat nastavení systému, má mnohem větší možnost způsobit škodu, ať už prostřednictvím bezpečnostní chyby, pokusu o manipulaci nebo prosté chyby, než systém, který pouze odpovídá na otázky.

Jak Buterin založil svůj vlastní lokální systém umělé inteligence

Buterin uvedl, že již přestal používat cloudové nástroje umělé inteligence. Své osobní nastavení popsal jako „samostatně suverénní, lokální, soukromé a bezpečné“, postavené na třech základních principech: veškeré inference umělé inteligence běží na lokálním hardwaru, všechny soubory jsou uloženy lokálně a každý proces běží v sandboxu.

Pískoviště (sandbox) je v tomto kontextu izolované výpočetní prostředí, které omezuje přístup programu. Buterin používá nástroj s názvem bubblewrap, který mu umožňuje spouštět nástroje umělé inteligence v pískovišti na úrovni adresářů, kde program vidí pouze soubory, které výslovně povolí, s kontrolou přístupu k síťovým portům a také přístupu k zvuku.

Objevte slibné projekty...

Slibné projekty...

(Inzerát)

Článek pokračuje...

Hardware Buterin testován pro lokální inferenci umělé inteligence

Buterin otestoval několik hardwarových nastavení, aby zjistil, které funguje pro lokální spouštění modelů umělé inteligence. Výsledky se významně lišily:

• Notebook s grafickou kartou NVIDIA 5090 dosáhl s modelem Qwen3.5:35B rychlosti přibližně 90 tokenů za sekundu.
• Procesor AMD Ryzen AI Max Pro se 128 GB unifikované paměti dosáhl rychlosti přibližně 51 tokenů za sekundu.
• DGX Spark, prodávaný jako stolní superpočítač s umělou inteligencí, dosáhl rychlosti přibližně 60 tokenů za sekundu.

Buterin si stanovil 50 tokenů za sekundu jako své osobní minimum pro použitelný výkon. Cokoli pomalejšího označil za příliš frustrující pro praktické použití a uvedl, že 90 tokenů za sekundu je ideální. Poznamenal, že DGX Spark nedosahuje ve srovnání s jeho marketingovým cílem dobrých výsledků, dosahuje nižších rychlostí než dobrá grafická karta v notebooku a zároveň vyžaduje dodatečné nastavení sítě pro připojení ze samostatného pracovního zařízení.

Jeho softwarový stack se zaměřuje na llama-server, proces na pozadí, který běží lokálně a zpřístupňuje port na počítači uživatele, na který se mohou připojit jiné aplikace. To umožňuje přesměrovat jakýkoli software vytvořený pro modely OpenAI nebo Anthropic na lokální model. Také používá llama-swap pro snazší přepínání mezi modely.

Co to znamená pro krypto peněženky?

Buterinovy ​​obavy ohledně bezpečnosti umělé inteligence přímo souvisí s tím, jak si myslí, že by se umělá inteligence měla používat v krypto peněženkách. V komentářích zveřejněných na jeho účtu Farcaster v březnu 2026 nastínil specifický technický postup pro transakce s podporou umělé inteligence.

Jeho postoj nespočívá v tom, že by umělá inteligence měla spravovat finanční prostředky. Jde o to, že by umělá inteligence měla navrhovat akce s nezávislým ověřením a lidským potvrzením nad těmito návrhy. Pro transakce s vysokou hodnotou popsal třístupňový proces: umělá inteligence navrhne plán, lokální light klient simuluje provedení tohoto plánu v řetězci a uživatel si před potvrzením zkontroluje jak popis v jednoduchém jazyce, tak simulovaný výsledek.

Lokální lehký klient ověřuje data blockchainu bez stahování celého řetězce. Spárování s vrstvou umělé inteligence znamená, že uživatelé mohou přesně vidět, co transakce udělá, než bude vyslána do sítě, aniž by se museli spoléhat na rozhraní třetí strany.

Proč je důležité odstranit rozhraní DApp

Většina uživatelů kryptoměn interaguje s decentralizovanými aplikacemi prostřednictvím frontendů v prohlížečích. Tato rozhraní byla historicky významným teritoriem útoků. Únosy frontendů, vkládání škodlivých skriptů a falešné výzvy ke schválení vedly v posledních letech ke ztrátám ve výši stovek milionů dolarů.

Buterin argumentoval, že peněženky s umělou inteligencí by mohly tato rozhraní zcela odstranit. Pokud uživatel srozumitelným jazykem řekne, co chce dělat, a peněženka transakci přímo sestaví a simuluje, neexistuje žádný web třetí strany, který by mohl být ohrožen. 

„Odstranění uživatelských rozhraní DApp z obrazu kompletně řeší velké množství vektorů útoků, a to jak z hlediska krádeže, tak i ochrany soukromí,“ napsal.

Pro operace s nižšími sázkami vidí Buterin prostor pro větší automatizaci. Peněženka s umělou inteligencí by mohla rozumně zvládat monitorování transakčních vzorců pro neobvyklou aktivitu, navrhovat poplatky za plyn na základě aktuálních podmínek v síti, směrovat swapy tokenů efektivními cestami a označovat podezřelé interakce smluv před schválením. Jde o úkoly, u kterých jsou chyby opravitelné a kde automatizace snižuje složitost pro netechnické uživatele.

Podle Buterina by se rozsáhlým jazykovým modelům nemělo svěřovat nekontrolované právo na správu velkých finančních částek. LLM generují odpovědi na základě statistických vzorců, nikoli deterministické logiky. Mohou nesprávně interpretovat instrukce nebo být manipulovány pomocí prompt injection, což je technika, při které pečlivě vytvořené vstupy způsobují, že se model chová nezamýšleným způsobem. Každá vrstva v jeho navrhovaném pracovním postupu přidává nezávislou kontrolu, která má tomuto typu selhání předcházet.

Proč trh s agenty umělé inteligence činí tato rizika naléhavějšími

Obavy, které Buterin vznesl, nejsou hypotetické. Odhady v tomto odvětví uvádějí trh s agenty umělé inteligence na přibližně $ 8 miliardy v roce 2025, přičemž prognózy naznačují růst na více než 48 miliard dolarů do roku 2030, což představuje roční tempo růstu více než 43 %. Vzhledem k tomu, že se stále více softwaru buduje kolem autonomních systémů umělé inteligence, které fungují s omezeným lidským dohledem, je ve velkém měřítku obtížnější ignorovat bezpečnostní mezery, které identifikoval.

Závěr

Buterinova varování jsou podložena zdokumentovaným výzkumem. Bezpečnostní zranitelnosti v agentech s umělou inteligencí již byly prokázány v reálných podmínkách a přechod od chatbotů k autonomním agentům ztěžuje omezení těchto rizik. 

Jeho lokální nastavení a tříkrokový pracovní postup pro peněženku nejsou odmítnutím umělé inteligence. Jsou to pokusy o její využití, aniž by se člověk vzdal kontroly nad daty nebo finančními prostředky. S tím, jak se agenti umělé inteligence stávají schopnějšími, je stále obtížnější ignorovat otázku, kdo ve skutečnosti řídí jejich jednání.

Zdroje

1. Článek od Vitalika ButerinaMoje samostatné / lokální / soukromé / zabezpečené nastavení LLM, duben 2026

2. Vitalik Buterin na FarcasteruPříspěvek z 5. března

3. Zpráva od BCC ResearchTrh s agenty s umělou inteligencí poroste do roku 2030 o 43.3 % ročně