Российская социальная сеть «Одноклассники» внедрила искусственный интеллект для борьбы с оскорбительными комментариями. Об этом сообщил директор по продукту платформы Александр Москвичев в пресс-релизе, поступившем в редакцию «Ленты.ру».
Новая модель машинного обучения автоматически выявляет токсичные высказывания и временно ограничивает их авторов в написании новых сообщений. Срок блокировки варьируется от одного часа до суток, в зависимости от частоты нарушений. Как уточнил Москвичев, внедрение технологии позволило сократить количество негативных комментариев на платформе почти на 47 процентов.
По результатам опроса, проведенного соцсетью, 40% пользователей признались, что сталкиваются с чувством злости из-за негативных постов. Треть всех жалоб на платформе связана с токсичными комментариями, а 80% обращений в службу поддержки касаются подобных случаев. «Мы стремимся создать пространство для безопасного общения, где пользователи смогут чувствовать себя комфортно», — подчеркнул Москвичев.
Для обучения ML-модели специалисты использовали базу из 400 тысяч недружелюбных высказываний. Это новшество не только ускорило обработку жалоб в три раза, но и помогло привлечь новых пользователей и вернуть тех, кто долго не заходил на платформу.
