YouTube описывает свои развивающиеся усилия по борьбе с распространением вредоносной дезинформации

YouTube представил новый обзор своего развивающиеся усилия по борьбе с распространением дезинформации через клипы на YouTubeкоторый проливает свет на различные проблемы, с которыми сталкивается платформа, и на то, как она рассматривает варианты решения этих проблем.

Это критическая проблема, так как YouTube, наряду с Facebook, регулярно идентифицируется как ключевой источник вводящего в заблуждение и потенциально опасного контентасо зрителями, которых иногда снимают все более глубокие кроличьи норы дезинформации по рекомендациям YouTube.

YouTube говорит, что работает над решением этой проблемы и сосредоточился на трех ключевых элементах этого толчка.

Усилия YouTube по дезинформации

Первым элементом является обнаружение дезинформации до того, как она наберет обороты, что, как объясняет YouTube, может быть особенно сложным с новыми теориями заговора и распространением дезинформации, поскольку он не может обновлять свои алгоритмы автоматического обнаружения без значительного количества контента для обучения своих систем.

Автоматизированные процессы обнаружения основаны на примерах, и для старых теорий заговора это работает очень хорошо, потому что у YouTube достаточно данных для подачи, чтобы обучить свои классификаторы тому, что им нужно обнаруживать и ограничивать. Но новые сдвиги усложняют ситуацию, создавая другую проблему.

YouTube сообщает, что рассматривает различные способы обновления своих процессов на этом фронте и ограничивает распространение постоянно меняющегося вредоносного контента, особенно в связи с новостями.

«Для крупных новостных событий, таких как стихийное бедствие, мы разрабатываем новостные панели, чтобы направлять зрителей к текстовым статьям о крупных новостных событиях. Для нишевых тем, которые СМИ могут не освещать, мы предоставляем зрителям флажки для фактов. Но проверка фактов также требует времени, и не каждая возникающая тема будет освещена. В этих случаях мы изучаем дополнительные типы меток, которые можно добавить к видео или поверх результатов поиска, например, заявление об отказе от ответственности, предупреждающее зрителей об отсутствии высококачественной информации».

В идеале это расширит его возможности по обнаружению и ограничению возникающих нарративов, хотя во многих отношениях это всегда будет оставаться проблемой.

Вторым элементом внимания является кросс-платформенный обмен и распространение контента YouTube за пределами самого YouTube.

YouTube заявляет, что может реализовать все необходимые изменения в своем приложении, но если люди повторно делятся видео на других платформах или встраивают контент YouTube на другие веб-сайты, YouTube становится сложнее ограничить его распространение, что приводит к дальнейшим проблемы в смягчении таких.

«Один из возможных способов решить эту проблему — отключить кнопку «Поделиться» или разорвать ссылку на видео, которые мы уже ограничиваем в рекомендациях. Фактически это означает, что вы не можете встроить или дать ссылку на пограничное видео на другом сайте. Но мы боремся с тем, может ли предотвращение публикации зайти слишком далеко в ограничении свободы зрителя. Наши системы уменьшают пограничный контент в рекомендациях, но обмен ссылкой — это активный выбор, который может сделать человек, в отличие от более пассивного действия, такого как просмотр рекомендуемого видео».

Это ключевой момент: хотя YouTube хочет ограничить контент, который может распространять вредоносную дезинформацию, если он технически не нарушает правила платформы, насколько YouTube может работать над ограничением такого контента, не переступая черту?

Если YouTube не может ограничить распространение контента путем обмена, это по-прежнему является серьезным вектором вреда, поэтому ему нужно что-то делать, но компромиссы здесь значительны.

«Еще один подход может заключаться в том, чтобы отображать межстраничное объявление, которое появляется до того, как зритель сможет просмотреть встроенное или связанное видео, давая им понять, что контент может содержать дезинформацию. Межстраничные объявления похожи на «лежачего полицейского»: дополнительный шаг заставляет зрителя сделать паузу, прежде чем он посмотрит или поделится контентом. На самом деле, мы уже используем межстраничные объявления для контента с возрастными ограничениями, а также жестоких или графических видео и считаем их важным инструментом, позволяющим зрителям выбирать, что они собираются смотреть».

Каждое из этих предложений может показаться некоторым чрезмерным, но они также могут ограничить распространение вредоносного контента. В какой момент YouTube становится издателем, что может привести к тому, что он будет подчиняться существующим редакционным правилам и процедурам?

Ни в одной из этих категорий нет простых ответов, но интересно рассмотреть различные элементы игры.

Наконец, YouTube заявляет, что расширяет свои усилия по распространению дезинформации по всему миру из-за различного отношения и подходов к источникам информации.

«Культуры по-разному относятся к тому, что делает источник заслуживающим доверия. В некоторых странах общественные вещатели, такие как BBC в Великобритании, широко известны как поставщики авторитетных новостей. Между тем, в других случаях государственные вещатели могут быть ближе к пропаганде. Страны также демонстрируют широкий спектр контента в своей новостной и информационной экосистеме, от СМИ, которые требуют строгих стандартов проверки фактов, до тех, которые практически не контролируются или не проверяются. А политическая среда, исторический контекст и экстренные новости могут привести к гиперлокальным дезинформационным нарративам, которые не появляются больше нигде в мире. Например, во время вспышки вируса Зика в Бразилии некоторые обвиняли в этом заболевание международные заговоры. Или недавно в Японии в Интернете распространились ложные слухи о том, что землетрясение было вызвано вмешательством человека».

Единственный способ бороться с этим — нанять больше сотрудников в каждом регионе и создать более локализованные центры и процессы модерации контента, чтобы учесть региональные нюансы. Хотя даже в этом случае существуют соображения относительно того, как ограничения потенциально могут применяться за границей — должно ли предупреждение, отображаемое на контенте в одном регионе, также отображаться в других?

Опять же, окончательных ответов нет, и интересно рассмотреть различные проблемы, с которыми сталкивается YouTube, поскольку он работает над развитием своих процессов.

Вы можете прочитать полный обзор YouTube о его усилиях по предотвращению распространения дезинформации. здесь.

Похожие записи

Добавить комментарий

Ваш адрес email не будет опубликован.