Пользователи Твиттера после запуска функции голосовых твитов начали публиковать аудио с порно. Под твитом, где компания анонсировала голосовые записи, пользователь Дэнни Уолтер репостнул аудио-твит со звуками порно. Соцсеть не отметила сообщение пометкой «медиафайл деликатного характера», которую ставит возле контента с порно и сценами насилия.
Лектор Гарвардского университета Эвелин Доек, которая изучает модерацию, посчитала, что соцсеть не подготовилась к последствиям введения новой функции: «На любой новой платформе неизбежно появляются ксенофобские высказывания, ложная информация, угрозы и харрасмент. Поэтому когда вы представляете новую функцию, вы должны подумать о том, как будете бороться с этим. В Twitter, видимо, не слишком об этом побеспокоились».
Аудио-контент нельзя регулировать так же, как текст или видео, поскольку с модерацией публичных голосовых сообщений возникают новые проблемы. Вдруг запись сделали без согласия говорившего? Что делать, если пользователь сделает аудио самоубийства? Как регулировать звуки криков? Живых модераторов на все аудио не хватит, а системы автоматического распознавания речи работают не идеально.
В OneZero предположили, что Twitter может заняться модерацией голосовых твитов с помощью искусственного интеллекта, который бы автоматически транскрибировал аудио. Но для модерации такое решение в OneZero назвали неидеальным, поскольку алгоритмы распознавания голоса часто ошибаются, не определяют акценты и не способны определять некоторые звуки.
Какое решение бы не выбрала компания, все это требует немалых затрат — и в плане вычислительных мощностей, и в плане живых модераторов.
