Компанія Microsoft розповіла про свою нову технологію, розроблену для боротьби з діпфейкамі, які можуть використовуватися для поширення дезінформації. Інструмент під назвою Microsoft Video Authenticator використовує спеціальний алгоритм для визначення автентичності будь-якого зображення або відеоролика.
Технологія була розроблена командою Microsoft Research у співпраці з Microsoft Responsible AI і Комітетом Microsoft по ШІ(штучний інтелект), етики та наслідків в розробці і дослідженнях (Microsoft AI, Ethics and Effects in Engineering and Research, AETHER).
Microsoft Video Authenticator здатна здійснювати аналіз фото- і відеоконтенту, обробленого за допомогою ШІ-алгоритмів. Діпфейки – це зображення або відео, на яких після обробки демонструється те, чого не було насправді. Сучасні технології дозволяють створювати діпфейки, які практично неможливо відрізнити від реальних відео. Подібні підробки можуть використовуватися зловмисниками для поширення дезінформації, введення людей в оману і маніпуляцій.
Система може виявляти кордони змішання діпфейка з пікселями сірого кольору оригінального зображення, які важко помітити неозброєним поглядом. В ході процесу обробки відео система також здатна оцінювати дійсність кожного окремого кадру в режимі реального часу.
Дана ініціатива по боротьбі з дезінформацією є частиною програми Microsoft Defending Democracy Program, яка також включає такі технології, як ElectionGuard для захисту голосування, а також AccountGuard для захисту політичних кампаній.
Читайте також: