Одноклассники: "Клубничка" под запретом
Социальная сеть автоматически находит и скрывает эротические изображения в публикациях.
Одноклассники теперь автоматически находят и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление направлено на поддержание комфортной среды на платформе. Пользователи могут кликнуть для просмотра скрытого контента или пропустить его.
Для того, чтобы лучше находить и ограничивать "клубничный" контент, в ОК провели исследование среди пользователей, выяснив, что именно считается эротикой, которую они не хотят видеть. Так, специалисты предлагали оценить, насколько изображение откровенно и неприемлемо, а также выразить свое желание или нежелание видеть подобное в социальной сети.
На нежелательных по мнению респондентов примерах инженеры ОК обучали модели машинного обучения, чтобы те автоматически искали и размывали такой контент. Всего было использовано более 6 миллионов файлов и разработано две ML-модели. Первая сканирует изображения для определения визуального содержимого, в то время как вторая классифицирует контент по типу, что позволяет либо размывать его, либо оставлять без изменений.
Помимо этого, на основе результатов исследования было решено, какие категории изображений можно показывать пользователям. Например, изобразительное искусство, фотографии спортсменов и пляжные снимки остаются доступными. Пользователи также могут жаловаться на нежелательный контент любой категории через интерфейс соцсети или обратившись в службу поддержки.
Директор по продукту ОК Александр Москвичев подчеркнул, что создание комфортной среды для взаимодействия пользователей является приоритетом. Благодаря совместным усилиям пользователей и технологий, ОК уменьшает количество нежелательного контента на платформе.
Одноклассники активно внедряют новые технологии для обеспечения безопасности и комфорта пользователей. Это включает автоматическое обнаружение нецензурной лексики и модерацию контента, такую как блокировка материалов для взрослой аудитории и размытие изображений с насилием. В прошлом году была запущена также ML-модель для ограничения навязчивых знакомств и нежелательного общения на платформе.
Фото: Одноклассники
