ВКонтакте научили распознавать противоправный контент

ВКонтактеСеть ВКонтакте, которая имеет наибольшую аудиторию в Рунете, теперь имеет собственный алгоритм, способный обучаться. Он способен исследовать размещенные фотографии и присваивать каждой из них рейтинг.
 
На его основе система сможет понять, допустима ли публикация определенной фотографии.
 
Представители социальной сети уверены, что новый алгоритм позволит пресечь распространение нежелательного контента в поисковую выдачу ВКонтакте. Это касается и “умной” ленты новостей. В некоторых случаях контент может быть заблокирован вообще.
 
Специалисты утверждают, что новый алгоритм способен не только распознавать изображения, но и надписи на них. Кроме того, имеется возможность определить смысл и характер этих надписей.
 
В основе алгоритма лежит использование нейросетей. Они делают возможным определение сущностей и объектов внутри фотографий. Алгоритму под силу не только базовые объекты классов “растения”, “люди”, “животные”, но и различная символика, отдельные предметы одежды и т.д.
 
Нейросеть содержит тысячи различных классов, на основе которых можно будет выставить оценку изображению. Диапазон варьируется от 1 до 10, в основе оценки лежат различные параметры.
 
Если на основе вычислений алгоритма выяснится, что картинка имеет “опасный” характер, система отправит его на модерацию, которой будут заниматься сотрудники ВКонтакте. Также есть категория “умеренно опасный”. В этом случае картинку будет невозможно отыскать через внутренний поиск социальной сети. Что касается новостей, то материал с данным изображением будет иметь низкий приоритет.
 
Алгоритм направлен на борьбу с рекламой сомнительных услуг, спамом, порнографией и т.д. Разумеется, сюда входит и другая противоправная деятельность и призывы к ней на страницах ВКонтакте.