«ВКонтакте» тестирует нейросеть для борьбы с языком вражды

«ВКонтакте» ведёт работу над искусственным интеллектом, который сможет автоматически распознавать материалы на наличие хейтспича (враждебных высказываний). Задача новой технологии — увеличить скорость обработки жалоб пользователей и снизить число материалов с проявлением нетерпимости, с которыми они сталкиваются.

Благодаря нейросети поиск материалов с враждебными высказываниями и публикациями, провоцирующими на агрессию, станет более оперативным. Искусственный интеллект обучается выявлять различные группы оскорблений и угроз: предрассудков типа расизма, гомофобии и сексизма, оскорблений касаемо религии, возраста, внешности и заболеваний.

Социальная сеть внедрила отдельную группу жалоб — «Враждебные высказывания», воспользоваться которой можно при нажатии опции «Пожаловаться» к конкретной публикации. Она автоматически направится модераторам.

За первое полугодие текущего года «ВКонтакте» удалены 520 тыс. единиц контента, разжигающего вражду и ненависть. 1340 профилей и 2470 групп были заблокированы по причине распространения враждебных материалов.

Источник: Пресс-релиз «ВКонтакте»