Нейросеть оградит пользователей ВКонтакте от недружелюбных комментариев

Специальные алгоритмы на основе машинного обучения будут выявлять недружелюбные комментарии с ругательствами или оскорблениями и скрывать их под специальной плашкой в отдельном блоке. Пользователь сможет самостоятельно выбрать, читать ли эти материалы. Запуск стал частью стратегии ВКонтакте по обеспечению комфортного цифрового пространства и формированию доверительной среды.

Команда ВКонтакте разработала уникальную нейросеть, которая способна автоматически распознавать ругательства, оскорбления и другие негативные высказывания в комментариях и скрывать их в отдельном блоке. При желании пользователь может раскрыть отфильтрованные комментарии. Функция станет доступна пользователям постепенно. Инициатива стала продолжением стратегии ВКонтакте по формированию комфортной цифровой среды для пользователей.

Забота о комфорте и безопасности пользователей является нашим ключевым приоритетом. Мы последовательно развиваем стратегию формирования комфортной цифровой среды, чтобы с помощью наших инструментов каждый пользователь мог создавать наиболее соответствующее его потребностям и пожеланиям онлайн-пространство с возможностью оградиться от нежелательного контента и других потенциально негативных явлений. При этом мы ориентируемся на обратную связь от аудитории. Так, сначала нейросеть, автоматически скрывающая недружелюбные комментарии, была запущена и протестирована в VK Клипах. Функция получила позитивный отклик пользователей, и поэтому мы решили интегрировать её и ВКонтакте

Иван Корнеев, директор по модерационной политике и взаимодействию с пользователями ВКонтакте

Ранее администраторы сообществ ВКонтакте получили возможность скрывать комментарии, содержащие враждебные высказывания. Также соцсеть представила специальный режим «Личное пространство», который позволяет оградиться от нежелательного внимания. Кроме того, пользователям стали доступны предупреждения о подозрительных собеседниках в VK Мессенджере, а также фильтр нецензурных выражений.

Фото: ВКонтакте