«Одноклассники» начали автоматически ограничивать показ нежелательного контента

Поделиться
2_2560х1705_erotica
Фото: пресс-служба ОК

Соцсеть теперь будет автоматически выявлять и скрывать откровенные сцены.

Социальная сеть «Одноклассники» внедрила новую систему модерации, которая автоматически обнаруживает и размывает изображения и GIF-файлы, которые пользователи считают эротическими. Это стало очередным шагом платформы по поддержанию комфортной среды для своих пользователей.

Для того, чтобы лучше выявлять и ограничивать такой контент, «Одноклассники» провели исследование среди своих пользователей. Им предложили оценить, насколько изображения откровенны и неприемлемы, и выразить свое желание или нежелание сталкиваться с ними в социальной сети.

На основе примеров, которые респонденты посчитали нежелательными, инженеры «Одноклассников» обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали подобный контент. Всего было использовано более 6 млн файлов для разработки двух ML-моделей: одна сканирует изображения на предмет визуального содержания, а другая относит контент к определенному типу.

При этом обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. Пользователи по-прежнему могут пожаловаться на нежелательный контент любой категории через интерфейс соцсети или службу поддержки.

Создание комфортной среды для взаимодействия пользователей – один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть ещё меньше нежелательного контента,- отметил директор по продукту ОК Александр Москвичев.