Попытка социальных площадок угодить всем прогрессивным движениям разом нередко бьет по кошельку. В очередной раз жертвой «борьбы за равенство» стал Twitter: собственные программисты не смогли эффективно настроить алгоритмы, и компания предложила награду за нахождение ошибок всем желающим!
Общественный суд
Внимание аудитории привлекла программа Bug Bounty, в рамках которой соцсеть опубликовала код алгоритма распознавания изображения и центрирования кадра на его уменьшенной версии. Изначально предполагалось, что функция позволит рядовым пользователям не открывать все вложения в твите, выделив наиболее значимые моменты. Результат не понравился, и в блоге компании появилась запись:
Мы хотим продвинуть эту работу еще дальше, приглашая и мотивируя сообщество помочь определить потенциальный вред этого алгоритма, выходящий за рамки того, что мы сами идентифицировали.
Проект длился с мая и уже подходит к концу. Желающие могли отослать сообщение со своими предложениями правок, чтобы в результате получить награду размером до $3500, причем количество «победителей» не ограничено. Как заявил Румман Чоудхури, ответственный директор по вопросам этики, прозрачности и подотчетности машинного обучения:
Мы считаем, что люди должны быть вознаграждены за выявление этих проблем, мы не можем решить эти проблемы в одиночку.
Уже 8 августа результаты программы объявят на DEF CON AI Village, в сообществе специалистов по обработке данных.
Разрывной контент
Что же пошло не так? Алгоритм по центрированию превью начал работу еще в 2018-м, но уже через девять месяцев количество претензий превысило разумные пределы. Как ни странно, в центре внимания оказались вопросы расовой сегрегации и объективации женского тела. Камера регулярно фокусировалась:
- на людях со светлой кожей;
- на женских груди и ногах.
Хотя предпочтение светлокожим людям в качестве центрального объекта в предпросмотре фотографии отдавалось лишь в 4% случаев:
- 2% — для мужчин;
- 7% — для женщин.
Сложно сказать, насколько проблема актуальна. Возможно, дело в количестве соответствующих фотографий? Или сама расстановка каждого конкретного кадра предполагала акцент на определенном участнике? В любом случае, тогда Чоудхури заявил:
Один из наших выводов состоит в том, что не все в алгоритме Twitter работает хорошо. В этом случае решение о том, как кадрировать изображение, лучше всего принимают люди.
Проблема в том, что прогностический алгоритм пытался предугадать желания пользователей. А создавался он на основе статистических данных слежения за направлением взгляда человека. В таком случае сложно говорить о наличии ошибок непосредственно в алгоритме.
Так, если кадр достаточно темный, естественно желание сфокусироваться на ярком пятне, и наоборот. Не исключено, что в процессе обучения алгоритма изображения чуть больше располагали к изучению светлокожих людей. А что касается фокуса на женской груди: скорее всего, в фокус-группе тогда оказалось больше мужчин.
Ошибочное решение
Технически существующие алгоритмы Twitter исправны и работают в соответствии с тем, чему научили люди. Просто кому-то не нравятся реальные предпочтения современников: хочется протолкнуть собственную повестку и научить пользователей «правильно» расставлять акценты.
Это особенно смешно на фоне признания, что люди кадрируют миниатюры правильней. Но почему-то вместо предоставления соответствующей опции пользователям, соцсеть пытается избавиться от «ошибок» в коде.
