Facebook тестирует AI Rosetta, который может идентифицировать оскорбительные мемы

271
Facebook AI Rosetta

Модераторы Facebook не могут просматривать каждое изображение, которое публикуется на платформе, поэтому Facebook разрабатывает AI, чтобы помочь им. В своём блоге Facebook описывает систему под названием Rosetta, которая использует машинное обучение для идентификации текста в изображениях и видео, а затем транскрибирует его в нечто машиночитаемое. В частности, Facebook находит этот инструмент полезным для расшифровки текста в мемах.

Инструменты транскрипции текста не являются чем-то новым, но Facebook сталкивается с различными проблемами из-за размера своей платформы и разнообразия изображений на ней. Говорят, что Rosetta уже работает, извлекая текст из 1 миллиарда изображений и видеокадров в день как на Facebook, так и на Instagram.

Facebook AI Rosetta

Прямо сейчас, не совсем ясно, что Facebook делает с данными. Это полезно для базовых функций, таких как поиск фотографий и чтение с экрана. Но кажется, что Facebook начинает ставить перед собой гораздо большие цели. Например, выяснить, что было бы интересно поместить в вашу ленту новостей. Что более важно, выяснить, какие мемы на самом деле распространяют ненависть или другие оскорбительные комментарии.

Facebook говорит, что извлечение текста и машинное обучение используются для “автоматической идентификации контента, который нарушает их правила”. Похоже, что AI понимает несколько языков. Учитывая известные проблемы модерации, рабочая система, которая может автоматически помечать потенциально проблемные изображения, может быть реальной помощью.

Источник: theverge.com