Šéf Anthropicu varuje: AI agenti mohou do roka ovládnout internet

Dario Amodei, šéf Anthropicu, 12. září veřejně vyzval přední AI laboratoře (výzkumná centra vyvíjející umělou inteligenci), aby zpomalily vylepšování svých modelů. Důvod zní podstatně vážněji než běžná debata o regulaci.

V eseji We Must Pace the Frontier popsal obavu, že by během 6 až 12 měsíců mohl být pokročilejší roj AI agentů schopný převzít kontrolu nad internetem prostřednictvím trvalého botnetu (sítě infikovaných počítačů) a způsobit obrovské škody.

Wall Street toto varování nevzala na lehkou váhu. Dne 14. září klesly akcie Nvidie o 3,4 %, AMD a Broadcom ztratily přes 4 % a polovodičový index PHLX (ukazatel výkonnosti výrobců čipů) odepsal 5,9 % za jediný den.

Varování přichází přímo zevnitř AI průmyslu

Amodei nežádá úplné zastavení vývoje. Apeluje na to, aby vývojáři postupovali pomaleji ve chvíli, kdy bezpečnostní testování nestačí držet krok s rostoucími schopnostmi modelů.

Jeho plán počítá s nezávislými hodnotiteli, koordinací bezpečnostních standardů mezi nejvyspělejšími laboratořemi a výhledově také s širší mezinárodní spoluprací. Anthropic se k prvnímu bodu již zavázal.

Za těmito obavami přitom nestojí pouze teorie. Amodei ve svém textu odkazuje na nedávný incident, při kterém roj agentů od OpenAI během testování útočil na cizí systémy, které s původním zadáním nijak nesouvisely. Agentura Reuters 16. září informovala, že tito agenti zkoumali slabiny platformy Hugging Face již několik týdnů před pozdějším kybernetickým útokem.

Podporu CEO Anthropicu během několika hodin vyjádřili také Sam Altman z OpenAI a Elon Musk z xAI. Altman ocenil myšlenku nezávislých hodnotitelů s hlubším přístupem k systémům. Právě shoda vlivných lídrů, kteří mezi sebou současně vedou drahý závod o nejvýkonnější modely, dodala celé debatě podstatně větší váhu.

Pokles na třech kontinentech

Reakce akciových trhů se 14. září neomezila jen na několik amerických titulů. Asijská SoftBank ztratila více než 10 %, evropský technologický sektor klesl o 2,2 % a akcie ASML odepsaly přibližně 6 %. Ve Spojených státech se propad pochopitelně soustředil právě na výrobce polovodičů.

Ekonomická logika tohoto poklesu je přímočará. Pokud by se tempo vývoje skutečně snížilo, mohl by znatelně oslabit tlak na budování dalších datových center a nákupy nových čipů. Očekávání dlouhého investičního cyklu přitom aktuálně drží velkou část růstového příběhu většiny polovodičových firem.

Zuckerberg odmítá společnou brzdu

Vývoj na trzích ale není jednostranný. 16. září se technologické akcie částečně zotavily a index Nasdaq po rozhodnutí americké centrální banky opět rostl. Čipové tituly patřily mezi firmy, které část předchozích ztrát umazávaly.

Do celé debaty současně vstoupil Mark Zuckerberg. Šéf Meta Platforms odmítl koordinované zpomalování vývoje s argumentem, že konkurence, osobní odpovědnost a hrozící právní rizika dávají jednotlivým laboratořím dostatečnou motivaci k bezpečnému postupu.

Meta podle něj sama odložila uvedení svého AI agenta Muse kvůli důkladnějšímu posílení zabezpečení, aniž by podobný krok vyžadovala od konkurence. AI průmysl se tak zjevně rozdělil v otázce, která může přímo ovlivnit tempo budoucích investic.

Co si z toho odnést

Jeden prudký pokles čipového sektoru pravděpodobně nepředstavuje důkaz o konci příběhu umělé inteligence. Nvidia ještě 26. srpna odhadovala růst tržeb v příštím fiskálním roce o zhruba 70 % a zdůraznila, že poptávka po výpočetním výkonu zůstává velmi silná. Podnik současně plánuje ve spolupráci s Amazon Web Services nasadit další dva miliony grafických procesorů v letech 2027 a 2028.

Zářijový výprodej však odhalil citlivé místo celého technologického příběhu. Vysoké ocenění výrobců čipů nestojí pouze na dnešních ziscích, ale hlavně na předpokladu, že technologické giganty budou nadále utrácet obrovské částky za nové modely, servery a datová centra.

Každá překážka snižující tempo těchto investic tak může mít na ceny akcií podstatný vliv.

U společností jako Nvidia, AMD nebo Broadcom dává smysl sledovat dvě věci současně: reálný růst objednávek a změny v tempu vývoje pokročilé AI. Samotná bezpečnostní debata firmám tržby nesmaže. Pokud by ovšem vedla ke koordinovanému omezení vývoje nebo přísnější regulaci, investiční matematika celého sektoru by se musela změnit.

Trh po úvodním výprodeji ukázal, že investoři na AI zdaleka nezanevřeli. Dostali ovšem velmi konkrétní připomínku: jedním z rizik pro další rozvoj odvětví mohou být sami lidé, kteří tyto nejpokročilejší systémy stavějí.

Další zdroje informací:

• https://darioamodei.com/post/we-must-pace-the-frontier
• https://www.reuters.com/business/wall-st-futures-edge-higher-countdown-fed-decision-2026-09-16

Patrik Kudláček

Publicista a aktivní investor s více než desetiletou praxí zaměřující se na hodnotové investování a akciové trhy. Vystudoval České vysoké učení technické v Praze (ČVUT). Ve své investiční strategii kombinuje aktivní i pasivní přístup a zaměřuje se především na kvalitní růstové společnosti a value investice. Ve svých článcích se věnuje investičním strategiím, psychologii investování a analýze jednotlivých akcií.

Finex od roku 2014 pomáhá investorům oddělit důležité od šumu, objevovat zajímavé investiční příležitosti a dělat informovanější rozhodnutí. Na jednom místě spojujeme praktický obsah, analýzy, data a nástroje, které vám šetří čas a dávají větší přehled nad vašimi financemi a investicemi. Bez zaručených receptů. Bez zbytečného balastu. Více přehledu a méně informačního chaosu.

Více na www.finex.cz