Яндекс Музыка будет автоматически выявлять контент "на чувствительные темы" — и удалять

Яндекс Музыка разработала автоматический алгоритм для работы "с опасным или неприятным контентом".

С инициативой появления такого алгоритма выступила Ассоциация музыкальной индустрии во главе с Валерием Дробышем, сыном музыкального продюсера Виктора Дробыша. "Вместе нам удалось найти решение, которое позволяет определить границы этичного и неэтичного контента", — говорит Валерий.

Как это будет работать на деле, пока неизвестно, то в пресс-релизе сказано, что "контент будет проверяться на соответствие правилам по гибридной модели: сначала при помощи технологий машинного обучения, а затем вручную. Это позволит с высокой точностью определить контент для взрослых, маркировать его соответствующим значком Explicit и защитить детей в детском режиме от такого контента".

Вопрос защиты детей от взрослого контента сейчас решается на этапе отправки песен на стриминговые платформы — автор или лейбл обязаны маркировать песни с матом. Правда, никто не мешает не указывать обсценную лексику, даже если она есть. Но больший интерес и опасения вызывают еще одна часть пресс-релиза: "Система будет также использоваться для выявления контента на чувствительные темы, который может вызвать дискомфорт у слушателей. В зависимости от характера контента он может быть отмечен специальными знаками, указывающими на ограничение по возрасту, исключен из рекомендаций или удалён с сервиса".

Какая тема будет считаться "чувствительной", Яндекс.Музыка не рассказывает, лишь приводит слова профессора-лингвиста Максима Кронгауза: "Перед экспертным советом стоит нетривиальная задача — создать методологию по определению контента, способного нанести вред, и сделать её максимально объективной и понятной. Любая попытка оценить творчество неизбежно сталкивается с субъективными факторами — личным мнением, восприятием и контекстом произведения. Наш экспертный совет разработает критерии оценки творческого контента, с помощью которых можно отличить, например, реальную агрессию от творческого приема, образа или просто особенностей жанра"

Правообладатели, чей контент будет признан нарушающим правила, как утверждает Яндекс.Музыка, смогут внести изменения в контент и загрузить заново или оспорить решение.