Рубрики

Twitter установил программу Bug Bounty. Нашедшим проблемы с алгоритмом изображений соцсеть заплатит 3500 $

Попытка социальных площадок угодить всем прогрессивным движениям разом нередко бьет по кошельку. В очередной раз жертвой «борьбы за равенство» стал Twitter: собственные программисты не смогли эффективно настроить алгоритмы, и компания предложила награду за нахождение ошибок всем желающим!

Общественный суд

Внимание аудитории привлекла программа Bug Bounty, в рамках которой соцсеть опубликовала код алгоритма распознавания изображения и центрирования кадра на его уменьшенной версии. Изначально предполагалось, что функция позволит рядовым пользователям не открывать все вложения в твите, выделив наиболее значимые моменты. Результат не понравился, и в блоге компании появилась запись:

Мы хотим продвинуть эту работу еще дальше, приглашая и мотивируя сообщество помочь определить потенциальный вред этого алгоритма, выходящий за рамки того, что мы сами идентифицировали.

Проект длился с мая и уже подходит к концу. Желающие могли отослать сообщение со своими предложениями правок, чтобы в результате получить награду размером до $3500, причем количество «победителей» не ограничено. Как заявил Румман Чоудхури, ответственный директор по вопросам этики, прозрачности и подотчетности машинного обучения:

Мы считаем, что люди должны быть вознаграждены за выявление этих проблем, мы не можем решить эти проблемы в одиночку.

Уже 8 августа результаты программы объявят на DEF CON AI Village, в сообществе специалистов по обработке данных.

Разрывной контент

Что же пошло не так? Алгоритм по центрированию превью начал работу еще в 2018-м, но уже через девять месяцев количество претензий превысило разумные пределы. Как ни странно, в центре внимания оказались вопросы расовой сегрегации и объективации женского тела. Камера регулярно фокусировалась:

  • на людях со светлой кожей;
  • на женских груди и ногах.

Хотя предпочтение светлокожим людям в качестве центрального объекта в предпросмотре фотографии отдавалось лишь в 4% случаев:

  • 2% — для мужчин;
  • 7% — для женщин.

Сложно сказать, насколько проблема актуальна. Возможно, дело в количестве соответствующих фотографий? Или сама расстановка каждого конкретного кадра предполагала акцент на определенном участнике? В любом случае, тогда Чоудхури заявил:

Один из наших выводов состоит в том, что не все в алгоритме Twitter работает хорошо. В этом случае решение о том, как кадрировать изображение, лучше всего принимают люди.

Проблема в том, что прогностический алгоритм пытался предугадать желания пользователей. А создавался он на основе статистических данных слежения за направлением взгляда человека. В таком случае сложно говорить о наличии ошибок непосредственно в алгоритме.

Так, если кадр достаточно темный, естественно желание сфокусироваться на ярком пятне, и наоборот. Не исключено, что в процессе обучения алгоритма изображения чуть больше располагали к изучению светлокожих людей. А что касается фокуса на женской груди: скорее всего, в фокус-группе тогда оказалось больше мужчин.

Ошибочное решение

Технически существующие алгоритмы Twitter исправны и работают в соответствии с тем, чему научили люди. Просто кому-то не нравятся реальные предпочтения современников: хочется протолкнуть собственную повестку и научить пользователей «правильно» расставлять акценты.

Это особенно смешно на фоне признания, что люди кадрируют миниатюры правильней. Но почему-то вместо предоставления соответствующей опции пользователям, соцсеть пытается избавиться от «ошибок» в коде.

Нашли нарушение? Пожаловаться на содержание