Главная / Новости / ОК сократили токсичность в комментариях с помощью ИИ

ОК сократили токсичность в комментариях с помощью ИИ

15:35 26.11.2024

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить количество негативных высказываний под постами, фотографиями и видео на 47%.

Авторов токсичных комментариев ограничивают в написании новых на срок от одного часа до 24 часов. ML-модель обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негатив. Ее запуск позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — сказал Александр Москвичев, директор по продукту ОК

Ранее в 2024 году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера.

Сергей Агутин

Теги

ИИ комментарии ОК

Новости Происшествия

Перминов: проект «Оберег 47» поможет подготовить добровольцев к ЧС

14:11 26.07.2026

В Ленобласти стартовал проект «Оберег 47», цель которого — подготовить добровольцев к работе в чрезвычайных ситуациях и гуманитарных миссиях. Первые участники уже прошли интенсивный курс на полигоне МЧС в Мурино, где освоили основы пожаротушения, оказания первой помощи, организации радиосвязи и взаимодействия с пострадавшими.

Как отметил сенатор РФ от Ленобласти Сергей Перминов в интервью Online47, подобные инициативы сегодня особенно важны для безопасности жителей региона.

По его словам, добровольцы не раз доказывали свою эффективность, помогая людям в сложных ситуациях и участвуя в гуманитарных проектах. Проект «Оберег 47», подчеркнул сенатор, призван дать им необходимые знания и практические навыки.

«Управленческая команда области во главе с губернатором Александром Дрозденко идет навстречу таким людям. И проект «Оберег 47» направлен на то, чтобы обеспечить добровольцев необходимыми навыками, методиками, позволяющими сделать помощь действенной и работать на ответственных участках. Такая подготовка действительно способна помочь спасти жизни», — заявил Сергей Перминов.

Он также подчеркнул, что в экстренных ситуациях решающее значение имеет скорость и грамотность действий, поэтому развитие сети подготовленных добровольцев в районах Ленинградской области станет важным вкладом в укрепление системы гражданской защиты.

Опубликован график отключения света в Ленобласти с 23 по 31 июля

Стало известно о плановых отключениях электричества в регионе на новой неделе.В Ленинградской области до конца этой и в течение следующей недели пройд...