ВКонтакте разрабатывает нейронную сеть, которая будет удалять негативные комментарии
Соцсеть провела эксперимент по борьбе с оскорблениями и травлей в Сети в честь Дня народного единства.
На днях Вконтакте протестировали две функции, направленные против нетерпимости, — фильтр враждебных высказываний и автоматический поиск признаков оскорблений в тексте комментария.
Фильтр враждебных высказываний могли включить администраторы сообществ «ВКонтакте». При этом администратор мог увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список.
Вторая функция заключается в том, что алгоритмы смогут определять признаки оскорблений на этапе написания текста. В этом случае автор получает совет не тратить время на агрессию и отказаться от обидной реплики.
При этом компания обучила алгоритмы определять более широкий спектр оскорблений и угроз. Среди них — проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. По результатам эксперимента команда «ВКонтакте» примет решение о дальнейшем использовании функции.
Комментарии 0