Платформа мікроблогів Tumblr опинилася у центрі уваги через численні скарги користувачів на некоректну роботу автоматизованої системи фільтрації контенту. Користувачі повідомляють, що їхні пости, які не містять нічого забороненого, у тому числі фотографії домашніх тварин, фанатські ілюстрації, малюнки або навіть зображення рук, отримують мітку «для дорослих». Це суттєво знижує видимість таких публікацій на платформі.
Про це розповідає News IO
Масова помилкова модерація та роль штучного інтелекту
Чимало користувачів вважають, що до цієї ситуації призвела автоматизована система модерації, заснована на штучному інтелекті. Схожі труднощі нещодавно виникали й на інших соціальних платформах: Pinterest визнав технічний збій, який спричинив масові блокування, а Instagram уникає відкритих пояснень стосовно власних проблем із блокуваннями. Однак Tumblr наразі не розкриває, чи саме штучний інтелект став причиною масових хибних позначок.
«As we work to make Tumblr a safer place for all users, we aim to respect a diverse set of interests and content preferences, which can be adjusted in settings. We view this as an ongoing process as we continue to fine-tune how we detect and address mature content», – зазначив представник Tumblr у своїй заяві електронною поштою.
Тестування нової модерації та реакція компанії
За офіційною інформацією, проблема виникла після запуску нового оновлення для додатку Tumblr на Android, у рамках якого тестуються нові рівні модерації та удосконалення механізмів маркування контенту. Представники компанії підтвердили, що експерименти тривають і, з урахуванням відгуків користувачів, система буде доопрацьована перед впровадженням на інших платформах.
Команда Tumblr також публічно визнала на своєму блозі, що їм відомо про «помилки у класифікації» контенту. Зараз ведеться активна робота над усуненням цих недоліків. Крім того, невдовзі планується оновлення процедури оскарження рішень модерації, щоб ефективніше розглядати скарги користувачів.
Причини зростання кількості хибних блокувань поки що залишаються не до кінця з’ясованими. Серед можливих факторів згадується і скорочення персоналу платформи. Після того, як Tumblr у 2019 році придбала компанія Automattic, частина співробітників перейшла на інші проєкти, а торік було анонсовано міграцію внутрішньої інфраструктури Tumblr на WordPress задля оптимізації управління ресурсами та скорочення фінансових витрат.