ВКонтакте тестирует нейросеть, борющуюся с оскорблениями

ВКонтакте тестирует автоматического распознавания материалов с враждебными высказываниями.

ВКонтакте тестирует решение автоматического распознавания материалов с враждебными высказываниями (так называемый хейтспич) на основе искусственного интеллекта.

Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Так, чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, ВКонтакте добавила новую категорию жалоб — Враждебные высказывания. Она позволит точнее откалибровать уже существующие инструменты и собрать набор данных для новых решений на основе нейросетей.

Обсудить на странице: вконтакте, фейсбук, твиттер