Vea a través del cambio de cara de la celebridad "AI que cambia de cara" en un segundo, y no hay forma de ocultar las caras falsas.
Todo el mundo ha estado expuesto a la tecnología de cambio de rostro de IA hasta cierto punto. La aplicación de cambio de rostro "ZAO" se hizo popular de la noche a la mañana, porque subir una foto puede transformarte en un personaje del drama. , y puedes interactuar con Tony Leung Chiu-wai, Andy Lau, Yang Mi y otras estrellas que compitieron en el mismo escenario, pero fueron derrotados de la noche a la mañana por el riesgo de filtrar información facial. No hace mucho, el efecto especial "Ant Hey" que hace que las fotografías se muevan se hizo popular en las plataformas de vídeos cortos.
Estas aplicaciones de celebridades de Internet están basadas en tecnología Deepfake. Aunque también se utilizan en escenas como películas de posproducción e ídolos virtuales, las amenazas negativas de esta tecnología se amplifican.
¿Cómo saber si la cara del vídeo es real o falsa? En la Conferencia Mundial de Inteligencia Artificial de 2021, se presentó la plataforma de detección de contenido falso profundo Deep Real, un artefacto que puede identificar el "cambio de rostro de IA" en un segundo.
Las artes marciales en el mundo son rápidas e irrompibles. En 30 milisegundos se puede detectar un fotograma. En un segundo puedes reconocer una cara falsa.
Esta es la némesis de la plataforma de detección de contenido falso DeepReal "AI Face Changing" desarrollada por Beijing Ruilai Intelligent Technology Co., Ltd. (en adelante, Ruilai), una incubadora de Inteligencia Artificial de la Universidad de Tsinghua. Instituto.
¿Qué tan alta es su precisión de detección? Los resultados de las pruebas muestran que la precisión de DeepReal en conjuntos de datos académicos y datos de red generados por métodos convencionales como ZAO ha alcanzado el 99%, superando con creces los mejores resultados anunciados por el anterior DeepfakeDetection Challenge de Facebook.
Los datos de DeepReal han alcanzado decenas de millones y los conjuntos de datos han cubierto tres categorías principales: conjuntos de pseudodatos profundos académicos, conjuntos de pseudodatos profundos de red y conjuntos de pseudodatos profundos de desarrollo propio. Al combinar un marco de aprendizaje bayesiano y una red neuronal profunda, se estima la incertidumbre del modelo a la hora de predecir nuevas muestras.
Tang Jiahua, vicepresidente de RealAI, cree que en el futuro, DeepReal se podrá aplicar rápidamente en escenarios como la detección de contenido falso en Internet, la revisión de datos faciales y la inspección de autenticidad de evidencia de imágenes.
Legalmente, en 2020, está prohibido utilizar la tecnología de la información para falsificar los derechos de retrato y las voces de otros. Está escrito en el Código Civil, poniendo una "maldición" a la tecnología de falsificación profunda. Entonces, a nivel técnico, ¿cómo desarrollar continuamente herramientas de detección y craqueo de alta calidad?
Desarrollar estándares es el primer paso.
RealAI y el Centro Nacional para la Industria y la Seguridad de la Información desarrollaron conjuntamente los primeros estándares relacionados con la seguridad del país para algoritmos de modelos faciales, a saber, las "Especificaciones técnicas de seguridad para modelos de comparación facial en tecnología de seguridad de la información". RealAI y la Academia de Tecnología de la Información y las Comunicaciones, como segunda unidad de compilación, compilaron conjuntamente el "Libro Azul del Marco de Seguridad de la Inteligencia Artificial (2020)" bajo la dirección de la Oficina de Ciberseguridad del Ministerio de Industria y Tecnología de la Información. Actualmente, RealAI participa en la formulación de estándares nacionales relacionados con la seguridad de los algoritmos de aprendizaje automático, así como estándares de la industria relacionados con audio y video sintetizados por inteligencia artificial y biometría de inteligencia artificial.
Cada vez más organizaciones participan en las pruebas y el establecimiento de estándares de IA. "Estamos formulando varios estándares para la inteligencia artificial. Este año, Shanghai aprobó el establecimiento de un estándar local "Especificaciones para la clasificación y calificación de la aplicación del reconocimiento facial en lugares públicos". Chen Mingang, director ejecutivo del Instituto de Investigación de Gobernanza de Inteligencia Artificial del Centro de Desarrollo de Tecnología de Software Informático de Shanghai, dijo a IT Times 》Reportero, el reconocimiento facial se convertirá en el punto culminante de los estándares de IA y las herramientas de detección