13.3°
Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить количество негативных высказываний под постами, фотографиями и видео на 47%.
Авторов токсичных комментариев ограничивают в написании новых на срок от одного часа до 24 часов. ML-модель обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негатив. Ее запуск позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.
«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — сказал Александр Москвичев, директор по продукту ОК
Ранее в 2024 году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера.
