AI zneužila tvár europoslankyňe Ostrihoňovej: „Tancovala som aj súťažila. Všetko bolo falošné“

„Za posledné dva roky AI niekoľkokrát zneužila moju tvár. Tancovala som, robila súťaž o najlepšiu banku či účinkovala vo vedomostnej relácii. Nič z toho sa nikdy nestalo,“ napísala na sociálnej sieti. Podľa europoslankyne nejde o ojedinelé prípady. Ako príklady uviedla aj falošné obrázky a videá verejne známych osobností. Spomenula upravenú podobizeň Milana Rastislava Štefánika či zmanipulovaný záber českého prezidenta Petra Pavla.

Ostrihoňová pripomenula, že od 2. augusta platia v EÚ nové povinnosti pre poskytovateľov systémov umelej inteligencie. Podľa nových pravidiel musia byť jasne označené fotografie, videá alebo zvukové nahrávky vytvorené technológiou deepfake, ak môžu pôsobiť ako skutočné. Označovať sa má aj text vytvorený umelou inteligenciou o verejných témach, pokiaľ neprešiel ľudskou redakčnou kontrolou a nikto zaň neprevzal zodpovednosť.

Rovnako majú používatelia od začiatku vedieť, ak komunikujú s chatbotom alebo AI asistentom, a nie so skutočným človekom. „AI nám môže pomáhať, no nie za cenu klamania ľudí a oslabovania dôvery v to, čo vidíme a počujeme. V Európe nastavujeme pravidlá pre AI tak, aby sme vedeli, čo je skutočné a čo vytvorila alebo upravila umelá inteligencia,“ zdôraznila europoslankyňa.

Polícia varuje pred „falošnou nahotou“

Na riziká umelej inteligencie nedávno upozornil aj Policajný zbor SR, ktorý spustil preventívnu kampaň zameranú na zneužívanie AI v online priestore. Prvou témou kampane je takzvaná falošná nahota. Polícia upozorňuje, že moderné nástroje dokážu z obyčajnej fotografie zo sociálnych sietí vytvoriť realisticky pôsobiace explicitné snímky bez vedomia dotknutej osoby.

„Obeť pritom neprichádza len o kontrolu nad svojou podobou, ale aj o pocit bezpečia a dôstojnosť. Hanba, úzkosť a strach z reakcie okolia sú reálne následky,“ upozorňuje polícia.