«ВКонтакте» испытывает нейросеть для борьбы с травлей в комментариях

Эксперимент проходит в среду, 4 ноября, и продлится сутки. Результаты будут использованы для дальнейшего обучения и доработки нейросети.

Российская соцсеть «ВКонтакте» запустила эксперимент по применению нейросети для борьбы с оскорблениями в комментариях. Новая функция рассчитана на то, чтобы пользователи меньше сталкивались с угрозами и нетерпимостью по религиозному, национальному или иному признаку.

Администраторы сообществ могут включить фильтр враждебных высказываний в настройках группы. Комментаторам, в свою очередь, высвечивается предложение отказаться от обидных реплик. Инструменты работают на основе алгоритмов, в том числе нейросети, которая удаляет комментарии, содержащие прямые угрозы. Администратор при этом может увидеть все комментарии, отсеянные фильтром, и восстановить их или отправить автора в черный список.

Предупреждение могут увидеть все пользователи. Чтобы активировать фильтр, нужно зайти в настройки сообщества, перейти в раздел «Комментарии» и выбрать «Фильтр враждебных высказываний».

Позже начнется долгосрочный тест, рассчитанный на часть аудитории.

В прошлогоднем эксперименте, когда пользователям при написании комментариев высвечивалось уведомление о содержащейся в нем агрессии, а также совет не тратить на это свое время, количество оскорблений в соцсети сократилось на 36%.

Ранее Plus-one.ru рассказывал, что с кибербуллингом сталкиваются более половины российских пользователей.

Подписывайтесь на наш канал в Яндекс.Дзен