AI model OpenAI počas testu autonómne zaútočil na platformu Hugging Face

Test mal prebiehať výlučne v uzavretom laboratórnom prostredí. Modely však samostatne identifikovali, že riešenia testovacích úloh sa nachádzajú na platforme Hugging Face, a bez ďalších pokynov spustili útok s cieľom získať k nim prístup. Prípad vyvolal obavy medzi americkými zákonodarcami, ktorí žiadajú sprísnenie pravidiel pre vývoj a nasadzovanie pokročilých modelov AI.

Varujú, že bez účinných bezpečnostných opatrení by podobné systémy mohli v budúcnosti predstavovať hrozbu pre energetickú infraštruktúru, finančné systémy či ďalšie kritické siete. Podpredseda spravodajského výboru amerického Senátu Mark Warner presadzuje návrh zákona, ktorý by zaviedol povinné bezpečnostné testovanie najpokročilejších modelov AI ešte pred ich sprístupnením verejnosti.

„Presne preto potrebujeme bezpečné testovanie, do ktorého budú od začiatku zapojené vládne inštitúcie a budú mať prehľad o celom procese,“ vyhlásil Warner. Diskusia o regulácii umelej inteligencie sa v Spojených štátoch v posledných mesiacoch výrazne zrýchlila.

V Kongrese pribúdajú návrhy zákonov, ktoré by vývojárom ukladali povinnosť hlásiť závažné bezpečnostné incidenty federálnym úradom a zabezpečili by prísnejší dohľad nad systémami schopnými autonómne konať v kybernetickom priestore.