Возможности систем биометрического контроля стремительно расширяются, открывая новые горизонты для обеспечения безопасности. Но, как у любой медали, в этих технологиях есть вторая сторона и она относится к вопросам этики, которые неизбежно возникают вследствие конфликта человеческого и искусственного интеллекта.
Жизнь под микроскопом
В не столь отдаленном будущем биомониторинг сможет предоставить работодателю данные о состоянии здоровья любого сотрудника, включая количество холестерина в крови, давление и уровень стресса, а также сделать выкладки о личности работника.
Может произойти так, что технология проведет этот анализ по неверному алгоритму, однозначно оценивая несколько фраз и сварливый взгляд на фото в социальных сетях как депрессию или агрессивность. У большинства людей сложилось неверное мнение об искусственном интеллекте, и благодарить за это нужно киноиндустрию. На самом деле дело обстоит немного по-другому, но не менее пугающе.
Сегодня правительства многих стран используют биометрические данные, такие как отпечатки пальцев, фото для идентификации людей в целях безопасности границ, для защиты от мошенничества в области использования личных данных. Страховые компании собирают данные о своих клиентах, отслеживая их поведение на дорогах, а правоохранительные органы используют фото из водительских удостоверений для выявления преступников и лиц, подозреваемых в правонарушениях.
Биометрическое зеркало
Доктор Нильс Уотерс, научный сотрудник Мельбурнского университета, считает, что некоторые технологии мониторинга выполняют полезные задачи, но часть из них становятся оружием давления в руках работодателя.
Уотерс создал то, что сегодня называется биометрическим зеркалом - компьютерным алгоритмом, анализирующим черты личности и темперамент на основе ряда характеристик лица, взятых из фотографии. Технология сравнивает данные с тысячами других лиц, оцененных группой людей по всей территории Соединенных Штатов. Программа «представляет» то, что другие люди думают, когда они видят лицо незнакомца.
Набор данных используется для оценки личности по таким характеристикам, как эмоциональная стабильность, агрессивность, привлекательность, этническая принадлежность, доброта, счастье, общительность, ответственность и интроверсия. Созданный алгоритм не безупречен в своих оценках, но уже оказывает влияние на судьбы тысяч людей.
Доктор Уотерс приводит простой пример использования такой программы: собрав все данные о человеке, ИИ сделал вывод, что изученная им персона является агрессивной, безответственной личностью. Руководитель службы занятости, основываясь на этих данных, решает, что этот сотрудник не будет продвигаться по карьерной лестнице, или соискателю будет отказано в интервью.
Биометрическое зеркало, по мнению создателя, должно было продемонстрировать людям, на что способны современные технологии. Целью создания программы было выявление границ искусственного интеллекта и то, насколько легко он может проводить анализ и делать неправильные выводы. Проект ярко продемонстрировал, как технологии могут быть использованы для создания суждения о людях и непосредственно влиять на их карьеру и свободу.
Предупреждение
Нынешние технологии отслеживают каждое нажатие клавиши на клавиатуре домашнего ПК в любой точке мира, считывают и другие действия человека в Сети, а затем используются для отслеживания производительности техники, эффективности рекламы или намерений какой-либо персоны. В последнее время появились алгоритмы, изучающие психологическое поведение и психическое состояние личности.
Доктор Уотерс озвучил этическую проблему бесконтрольности алгоритмов программы. В частности, он предложил представить, что на социальное положение, карьерный рост, гражданские права влияют только выводы программы, а не профессиональная квалификация, образование, опыт работы. При неверно составленном алгоритме программы человек может быть лишен возможности работать, получить страховку или купить дом, его личные фото будут размещены в Сети без согласия.
Предложение
Нильс Уотерс считает, что существует настоятельная необходимость общественного обсуждения этических проблем ИИ и того, как он используется. По его словам, необходима прозрачность и технологий широкому кругу граждан, особенно потому, что система может быть настроена необъективно. Ошибочность, заложенная в программе, может иметь огромные негативные последствия для людей и только потому, что существует алгоритмическая предвзятость предположений.
Эксперт напоминает, что при создании биометрического зеркала не применялись никакие оценки методов мониторинга, и уже по этой причине опытная программа не может давать объективную оценку и делать верные выводы.
Проблема использования
Уотерс считает, что есть глобальные случаи использования алгоритма в сомнительных целях. Например, в США он используется для оценки нянь. Для сбора данных осуществляется мониторинг сообщений претендента на должность в популярных социальных сетях, чтобы составить профиль личности. При этом в алгоритме заложен поиск по сходству с признаками наркомании, девиантного поведения, склонности к жестокости или домогательствам.
Можно понять родителей, желающих получить ответственную няню для своего ребенка, но нужно учесть, что ИИ может привнести дискриминацию в процесс найма на работу. Случайная шутка или политическая активность в социальной сети не обязательно являются индикаторами антисоциального поведения, но могут быть помечены как таковые действующими алгоритмами.
На первый взгляд карта безопасности персонала может показаться безобидной, но она предоставляет работодателю подробную информацию о том, в какое время сотрудник открыл определенные двери, когда покинул здание. В соединении с другими сенсорными технологиями картина слежения за сотрудниками становится устрашающей. Например, скрупулезный анализ поведения может сподвигнуть ретивого работника службы персонала на выяснение того, почему сотрудник был напряжен возле принтера – украл бумагу, ручку, тиражировал документы компании?
Плюсы
В целом доктор Уотерс считает, что технология имеет ряд положительных эффектов. Ее применение в медицине облегчило обнаружение болезни Паркинсона на самом раннем этапе. Не менее эффективно она проявила себя в бизнесе, определяя корпоративные инвестиционные стратегии. Большинство пользователей смартфонов могут самостоятельно оценить помощь, которую они получают от Siri и Alexa.
По мнению эксперта, над программой нужно продолжать работать, выявляя ее уязвимые места и несовершенства. К примеру, одна из банковских систем успешно применила биометрическое зеркало для улучшения работы с клиентами, включая виртуального помощника. Некоторые компании используют технологию для удержания персонала, его обучения и профилактики травматизма на производстве.
Большинство специалистов считают, что биометрическое зеркало – это инструмент, имеющий огромный потенциал для развития и применения. Проблема состоит в том, что человеку не нужно полностью полагаться на ИИ, следует относиться к нему как к дополнительной возможности и помнить о его ограниченности.
А что думаете вы по этому поводу?
