Платформа микроблогов Tumblr оказалась в центре внимания из-за многочисленных жалоб пользователей на некорректную работу автоматизированной системы фильтрации контента. Пользователи сообщают, что их посты, которые не содержат ничего запрещенного, включая фотографии домашних животных, фанатские иллюстрации, рисунки или даже изображения рук, получают метку «для взрослых». Это существенно снижает видимость таких публикаций на платформе.
Об этом сообщает News IO
Массовая ошибочная модерация и роль искусственного интеллекта
Множество пользователей считают, что к данной ситуации привела автоматизированная система модерации, основанная на искусственном интеллекте. Похожие трудности недавно возникали и на других социальных платформах: Pinterest признал технический сбой, который вызвал массовые блокировки, а Instagram избегает открытых объяснений касательно собственных проблем с блокировками. Однако Tumblr на данный момент не раскрывает, стал ли именно искусственный интеллект причиной массовых ложных пометок.
«Работая над тем, чтобы сделать Tumblr более безопасным местом для всех пользователей, мы стремимся учитывать разнообразные интересы и предпочтения контента, которые можно настроить в параметрах. Мы рассматриваем это как непрерывный процесс, поскольку продолжаем уточнять, как мы обнаруживаем и решаем проблемы с контентом для взрослых», – отметил представитель Tumblr в своем заявлении по электронной почте.
Тестирование новой модерации и реакция компании
Согласно официальной информации, проблема возникла после запуска нового обновления для приложения Tumblr на Android, в рамках которого тестируются новые уровни модерации и усовершенствования механизмов маркировки контента. Представители компании подтвердили, что эксперименты продолжаются и, учитывая отзывы пользователей, система будет доработана перед внедрением на других платформах.
Команда Tumblr также публично признала на своем блоге, что им известно о «ошибках в классификации» контента. В настоящее время ведется активная работа над устранением этих недостатков. Кроме того, в ближайшее время планируется обновление процедуры обжалования решений модерации, чтобы эффективнее рассматривать жалобы пользователей.
Причины роста количества ложных блокировок пока что остаются не до конца выясненными. Среди возможных факторов упоминается и сокращение персонала платформы. После того как Tumblr в 2019 году была приобретена компанией Automattic, часть сотрудников перешла на другие проекты, а в прошлом году было анонсировано миграцию внутренней инфраструктуры Tumblr на WordPress с целью оптимизации управления ресурсами и сокращения финансовых затрат.