USA stopli novú umelú inteligenciu. Zľakli sa jej sily

Americká vláda nariadila technologickej spoločnosti Anthropic s okamžitou platnosťou zablokovať prístup k jej najnovším modelom umelej inteligencie pre všetkých cudzích štátnych príslušníkov, a to vrátane samotných zahraničných zamestnancov firmy.

Spoločnosť na túto smernicu zareagovala radikálnym krokom. „Aby sme zabezpečili súlad s týmto nariadením, museli sme modely Fable 5 a Mythos 5 náhle deaktivovať pre úplne všetkých našich zákazníkov,“ uvádza Anthropic vo svojom oficiálnom stanovisku. Prístup k starším modelom zostal zachovaný.

Spor o obranu systému

Vláda svoje rozhodnutie odôvodňuje hrozbami pre národnú bezpečnosť. Podľa informácií firmy sa úrady domnievajú, že objavili metódu, ako obísť bezpečnostné obmedzenia systému (tzv. jailbreaking), čím by sa AI mohla použiť na kybernetické útoky. Anthropic však tento argument odmieta ako prehnaný a upozorňuje, že zatiaľ neexistuje žiadny „univerzálny jailbreak“, ktorý by dokázal úplne zlomiť obranu systému.

„Preskúmali sme ukážku tejto konkrétnej techniky... Tieto zraniteľnosti sa zdajú byť relatívne jednoduché a zistili sme, že iné verejne dostupné modely ich dokážu odhaliť tiež bez potreby obchádzania ochrany,“ konštatuje Anthropic. Úroveň schopností demonštrovaných vládou je podľa nich bežne dostupná aj u konkurencie, vrátane modelu GPT-5.5 od OpenAI.

Nedorozumenie, ktoré môže ohroziť celý trh

Firma označila zistené trhliny za neškodné a krok úradov rázne kritizuje. Vo svojom vyhlásení varuje pred precedensom, ktorý to môže pre technologický sektor znamenať:

„Nesúhlasíme s tým, že odhalenie špecifického a úzkeho potenciálneho jailbreaku by malo byť dôvodom na stiahnutie komerčného modelu nasadeného pre stovky miliónov ľudí. Ak by sa tento štandard uplatňoval plošne, v podstate by to zastavilo zavádzanie všetkých nových modelov v celom odvetví.“

Anthropic sa zákazníkom ospravedlnil za výpadok služieb. Zásah vlády považuje za nedorozumenie a intenzívne pracuje na tom, aby bol prístup k modelom Fable 5 a Mythos 5 čo najskôr obnovený.

Zdroj: BBC, oficiálne stanovisko spoločnosti Anthropic