16.1°
Соцсеть теперь будет автоматически выявлять и скрывать откровенные сцены.
Социальная сеть «Одноклассники» внедрила новую систему модерации, которая автоматически обнаруживает и размывает изображения и GIF-файлы, которые пользователи считают эротическими. Это стало очередным шагом платформы по поддержанию комфортной среды для своих пользователей.
Для того, чтобы лучше выявлять и ограничивать такой контент, «Одноклассники» провели исследование среди своих пользователей. Им предложили оценить, насколько изображения откровенны и неприемлемы, и выразить свое желание или нежелание сталкиваться с ними в социальной сети.
На основе примеров, которые респонденты посчитали нежелательными, инженеры «Одноклассников» обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали подобный контент. Всего было использовано более 6 млн файлов для разработки двух ML-моделей: одна сканирует изображения на предмет визуального содержания, а другая относит контент к определенному типу.
При этом обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. Пользователи по-прежнему могут пожаловаться на нежелательный контент любой категории через интерфейс соцсети или службу поддержки.
