A partir del próximo mes, China introducirá nuevas reglas que limitarán uno de los usos más peligrosos de la inteligencia artificial: la falsificación profunda/ deepfakes que consiste en una técnica de síntesis de imágenes humanas basada en la inteligencia artificial. Las reglas, que implementará la Administración del Ciberespacio de China a partir del 10 de enero, están diseñadas para proteger a las personas de la imitación digital de su voz o imagen sin su consentimiento.
Las plataformas y los servicios que utilizan la tecnología de edición de la voz o la imagen de una persona son llamados “proveedores de síntesis profunda” por los reguladores. Estas tecnologías de síntesis profunda pueden incluir el uso de algoritmos de aprendizaje profundo y realidad aumentada para generar texto, audio, imágenes o video.
Según las nuevas reglas, aquellos que usan la tecnología primero deben contactar y obtener el consentimiento de las personas antes de editar su voz o imagen. Las reglas, llamadas oficialmente Regulaciones Administrativas de Síntesis Profunda para Servicios de Información de Internet, son una respuesta a las preocupaciones del gobierno de que actores sin escrúpulos podrían usar los avances en IA para fraude o difamación.
En lugar de imponer una prohibición total, el regulador dice que en realidad promoverá el uso legal de la tecnología y “brindará fuertes protecciones legales para asegurar y facilitar” su desarrollo. La transmisión de noticias que utiliza esta tecnología debe provenir de una lista de agencias de noticias aprobada por el gobierno. Las reglas también requieren que todos los “proveedores de síntesis profunda” cumplan con las leyes locales y mantengan la “dirección política correcta y la orientación correcta hacia la opinión pública”. La corrección aquí, por supuesto, está determinada exclusivamente por el estado unilateralmente.
Si bien algunos estados de EE. UU., como Nueva Jersey e Illinois, han promulgado leyes de privacidad locales que abordan las falsificaciones profundas , la falta de leyes federales significativas limita la capacidad de los reguladores para combatir la tecnología a nivel nacional. Si las nuevas reglas de China tienen éxito, podrían sentar una base política sobre la que otros países puedan construir.
Esta no será la primera vez que China implementa reformas tecnológicas estrictas. El año pasado, el liderazgo del país introdujo nuevas y radicales leyes de privacidad de datos que limitaron radicalmente las formas en que las empresas privadas pueden recopilar información personal sobre un individuo. Exigieron a las empresas que obtuvieran el consentimiento antes de recopilar datos personales.
Pero hay una laguna flagrante en las leyes de privacidad de China. Si bien la ley protege a las personas de las empresas privadas que se alimentan de sus datos, hace poco para evitar el mismo daño que puede causar directamente el gobierno. De manera similar, en el caso de las “falsificaciones profundas”, no está claro cómo las nuevas reglas propuestas podrían, por ejemplo, prohibir que una agencia gubernamental falsifique o manipule ciertos textos o grabaciones de audio para influir en la narración de eventos políticos controvertidos o sensibles.
Aquí te dejamos una lista de noticias que de seguro vas a querer leer: