China prohíbe los medios generados por IA sin marcas de agua

Más recientemente, la Administración del Ciberespacio de China Se han emitido reglas Prohibir la creación de medios generados por IA sin etiquetas claras, como marcas de agua, entre otras políticasInformes Registro. Las nuevas reglas forman parte de la respuesta en evolución de China a la tendencia generativa de IA que dominará el mundo tecnológico en 2022 y entrará en vigencia el 10 de enero de 2023.

En China, el Administración del Ciberespacio Supervisa la regulación, el control y la censura de Internet. Bajo las nuevas reglas, la administración vigilará de cerca lo que llama tecnología de «síntesis profunda».

En una publicación de noticias en el sitio web de la Oficina de China de la Comisión Central de Asuntos del Ciberespacio, el gobierno explicó sus razones para emitir la regulación. Esto representó una ola reciente Texto, imagen, VozY Video Synthesis AI, identificada por China como importante para el crecimiento económico futuro (traducido por Google Translate):

En los últimos años, la tecnología de síntesis profunda se ha desarrollado rápidamente. Mientras atiende las necesidades del usuario y mejora la experiencia del usuario, algunas personas sin escrúpulos lo han utilizado para generar, copiar, publicar y difundir información ilegal y dañina, difamar y menospreciar la reputación y el honor de otros, e incluso falsificar la identidad de otros. El engaño, etc., afecta la comunicación y el orden social, daña los derechos e intereses legítimos de las personas y pone en peligro la seguridad nacional y la estabilidad social.

La introducción de «regulaciones» es necesaria para prevenir y abordar los riesgos de seguridad, y también es necesaria para promover el desarrollo saludable de los servicios de síntesis profunda y mejorar el nivel de las capacidades de monitoreo.

De acuerdo con las regulaciones, los nuevos productos de síntesis profunda están sujetos a una evaluación de seguridad por parte del gobierno. Cada producto debe cumplir con las regulaciones antes del lanzamiento. Además, la Administración enfatiza específicamente la necesidad de «marcas» claras (como marcas de agua) que indiquen contenido generado por IA:

Los proveedores de servicios de integración profunda deben agregar señales que no afecten la usabilidad del contenido de información creado o modificado utilizando sus servicios. Los servicios que brindan funciones como diálogo inteligente, voz humana sintetizada, generación de rostros humanos y escenarios de realidad inmersiva que crean o alteran significativamente el contenido de la información se identifican de manera destacada para evitar la confusión pública o la identificación errónea.

Ninguna organización o persona utilizará medios técnicos para eliminar, manipular u ocultar las marcas correspondientes.

Además, las empresas que brindan tecnología de síntesis profunda deben cumplir legalmente con sus registros, y las personas que usan la tecnología deben registrarse para cuentas con sus nombres reales para que se pueda rastrear su actividad de generación.

Al igual que EE. UU., China también ha visto un auge en las aplicaciones impulsadas por IA. Por ejemplo, una de las principales empresas tecnológicas de China produjo Baidu Un modelo de síntesis de imágenes es similar muñeca-e y difusión constante.

Recientemente, un número creciente de tecnólogos han notado que China y los Estados Unidos se enfrentan a una próxima ola de IA productiva que planteará desafíos para las estructuras energéticas, empezar a hacer trampa, o incluso dañar nuestro sentido de la historia. Hasta ahora, dos países han respondido con reacciones casi opuestas: Estados Unidos Directrices no vinculantes Contra las estrictas sanciones de China.

En 2019, China publicó sus primeras reglas Publicar deepfakes de «noticias falsas» sin marcar es ilegal. Esas reglas entraron en vigencia a principios de 2020.

Imagen de la lista a través de Ars Technica