Från och med nästa månad kommer Kina att införa nya regler som begränsar en av de farligaste användningarna av artificiell intelligens -- djupa förfalskningar. Regler som ska implementeras av Cyberspace Administration Kina sedan den 10 januari, utformad för att skydda människor från att få sin röst eller bild digital imiterad utan deras samtycke.
Plattformar och tjänster som använder tekniken för att redigera en persons röst eller bild kallas "deep syntes providers" av tillsynsmyndigheter. Dessa djupsyntesteknologier kan innefatta användningen av djupinlärningsalgoritmer och förstärkt verklighet för att generera text, ljud, bilder eller video.
Enligt de nya reglerna ska de som använder detta teknologi, måste först kontakta och inhämta samtycke från individer innan de redigerar deras röst eller bild. Reglerna, officiellt kallade Deep Synthesis Administrative Regulations for Internet Information Services, är ett svar på regeringens oro över att skrupelfria aktörer skulle kunna utnyttja framsteg i branschen AI för bedrägeri eller förtal.
Istället för att införa ett direkt förbud säger tillsynsmyndigheten att den faktiskt kommer att främja den lagliga användningen av tekniken och "tillhandahålla starka rättsliga skydd för att säkerställa och underlätta" dess utveckling. Nyhetssändningar med denna teknik måste komma från en lista över nyhetsbyråer som godkänts av regeringen. Reglerna kräver också att alla "leverantörer av djupsynteser" ska följa lokala lagar och upprätthålla "korrekt politisk riktning och korrekt orientering till den allmänna opinionen". Riktigheten här bestäms givetvis uteslutande av staten ensidigt.
Även om vissa delstater i USA, som New Jersey och Illinois, har antagit lokala integritetslagar som tar upp deepfakes, bristen på meningsfulla federala lagar begränsar tillsynsmyndigheternas förmåga att hantera denna teknik på nationell nivå. Om Kinas nya regler blir framgångsrika kan de lägga en politisk grund som andra länder kan bygga vidare på.
Det kommer inte att vara första gången som Kina genomför strikta tekniska reformer. Förra året införde landets ledning svepande nya dataskyddslagar som radikalt begränsade sätten på vilka privata företag kan samla in personlig information om en individ. De krävde att företag inhämtade samtycke innan de samlade in personuppgifter.
Men det finns ett påfallande kryphål i Kinas integritetslagar. Även om lagen skyddar människor från privata företag som matar deras data, gör den inte mycket för att förhindra samma skada som kan göras direkt av regeringen. På samma sätt, när det gäller "djupa förfalskningar", är det oklart hur de nya föreslagna reglerna till exempel skulle kunna förbjuda en statlig myndighet att förfalska eller manipulera viss text- eller ljudinspelningar för att påverka berättelsen om kontroversiella eller känsliga politiska händelser.
Du kan hjälpa Ukraina att slåss mot de ryska inkräktarna. Det bästa sättet att göra detta är att donera medel till Ukrainas väpnade styrkor genom Rädda liv eller via den officiella sidan NBU.
Också intressant: