Od příštího měsíce Čína zavede nová pravidla, která omezí jedno z nejnebezpečnějších použití umělé inteligence -- hluboké padělky. Pravidla, která má implementovat Správa kyberprostoru Čína od 10. ledna, který má chránit lidi před digitálním napodobováním jejich hlasu nebo obrazu bez jejich souhlasu.
Platformy a služby, které využívají technologii úpravy hlasu nebo obrazu osoby, jsou regulátory nazývány „poskytovateli hluboké syntézy“. Tyto technologie hluboké syntézy mohou zahrnovat použití algoritmů hlubokého učení a rozšířené reality pro generování textu, zvuku, obrázků nebo videa.
Podle nových pravidel ti, kteří toto využívají technika, musí nejprve kontaktovat jednotlivce a získat od nich souhlas, než upraví jejich hlas nebo obrázek. Pravidla, oficiálně nazývaná Deep Synthesis Administrative Regulations for Internet Information Services, jsou reakcí na vládní obavy, že by bezohlední aktéři mohli využít pokrok v tomto odvětví. AI za podvod nebo pomluvu.
Namísto uvalení úplného zákazu regulátor říká, že ve skutečnosti bude podporovat legální používání technologie a „poskytne silnou právní ochranu pro zajištění a usnadnění“ jejího vývoje. Zprávy vysílané pomocí této technologie musí pocházet z vládou schváleného seznamu zpravodajských agentur. Pravidla také vyžadují, aby všichni „poskytovatelé hluboké syntézy“ dodržovali místní zákony a udržovali „správné politické směřování a správnou orientaci na veřejné mínění“. Správnost zde samozřejmě určuje výhradně stát jednostranně.
Ačkoli některé státy USA, jako je New Jersey a Illinois, přijaly místní zákony na ochranu soukromí, které se zabývají deepfakesnedostatek smysluplných federálních zákonů omezuje schopnost regulátorů zabývat se touto technologií na národní úrovni. Pokud budou nová čínská pravidla úspěšná, mohla by položit politický základ, na kterém by mohly stavět další země.
Nebude to poprvé, co Čína zavedla přísné technologické reformy. Loni vedení země představilo rozsáhlé nové zákony na ochranu osobních údajů, které radikálně omezily způsoby, jakými mohou soukromé společnosti shromažďovat osobní údaje o jednotlivci. Po společnostech požadovali, aby před shromažďováním osobních údajů získaly souhlas.
V čínských zákonech na ochranu soukromí je ale jedna do očí bijící mezera. Zákon sice chrání lidi před soukromými společnostmi, které krmí jejich daty, ale jen málo brání stejným škodám, jaké může napáchat přímo vláda. Podobně v případě „hlubokých padělků“ není jasné, jak by nová navrhovaná pravidla mohla například zakázat vládní agentuře falšovat nebo manipulovat s určitými textovými nebo zvukovými nahrávkami za účelem ovlivnění vyprávění o kontroverzních nebo citlivých politických událostech.
Můžete pomoci Ukrajině v boji proti ruským vetřelcům. Nejlepším způsobem, jak toho dosáhnout, je darovat finanční prostředky ozbrojeným silám Ukrajiny prostřednictvím Zachraňte život nebo přes oficiální stránku NBÚ.
Zajímavé také: