Несмотря на потенциальные преимущества системы распознавания лиц в режиме реального времени в целях предупреждения преступности, ошибок и злоупотреблений не избежать

Представьте себе оживленную улицу. Полиция ищет человека, который, как считается, совершил насильственное преступление. Чтобы найти его, полицейские передают фотографию в сеть видеонаблюдения, которой управляет искусственный интеллект.

Одна из тысяч камер сканирует улицу, мгновенно анализируя лица всех, кто попадает в ее объектив. Затем раздается предупреждающий сигнал: алгоритмы нашли в толпе подходящего по внешности человека. Офицеры спешат к нужному месту и берут подозреваемого под стражу.

Но оказывается, что задержанный – вовсе не тот, кого они ищут, - он просто очень на него похож. Машины были неправы.

Именно такой ситуации некоторые производители этой технологии опасаются, если полиция начнет пользоваться расширенной формой распознавания лиц, облегчающей отслеживание разыскиваемых преступников, пропавших без вести людей и предполагаемых террористов, в то же самое время увеличивая возможности правительственного контроля над общественностью.

Несмотря на потенциальные преимущества системы распознавания лиц в режиме реального времени в целях предупреждения преступности, ошибок и злоупотреблений не избежать. Об этих опасениях говорят не только активисты, выступающие за защиту прав на частную жизнь и гражданских свобод, но и сами технологические фирмы.

В последние месяцы один руководитель такой компании поклялся никогда не продавать свои программы для распознавания лиц полицейским департаментам, а другой призвал Конгресс вмешаться. Одна фирма сформировала совет по этике, сотрудники и акционеры некоторых крупнейших мировых технологических корпораций вынуждают свое руководство отказаться от сотрудничества с правоохранительными органами.

 «Время истекает, но еще не слишком поздно кому-то вмешаться и этого не допустить», - говорит Брайан Брэккин, генеральный директор фирмы Kairos, занимающейся разработкой систем опознавания лиц. Он призывает другие фирмы не передавать эту технологию в руки правоохранительных органов.

Брэккин, будучи афроамериканцем, говорит, что он долгое время был обеспокоен изъянами алгоритмов распознавания лиц, которые зачастую не способны правильно опознать людей с темной кожей, и последствиями их использования правительством и полицией. «Просто невозможно, чтобы программное обеспечение по распознаванию лиц не использовалось в ущерб гражданам», - пишет он.

Учитывая немногочисленность научных стандартов и правительственных постановлений, мало что помешает полицейским департаментам использовать распознавание лиц для отслеживания иммигрантов или идентификации участников политических протестов, говорят критики.

«Необходимо обеспечить большую прозрачность в использовании этих технологий, - говорит Рашида Ричардсон, директор исследовательского отдела в AI Now Institute при Нью-Йоркском университете. – Нужен более открытый, публичный диалог о том, какие типы случаев использования этой системы допустимы - и какие варианты использования должны быть под запретом».

Распространение технологии

Распознавание лиц - использование алгоритмов для соотнесения черт лица по фотографиям и видео - уже является обычным явлением во многих аспектах современной жизни. Оно используется для проставления меток на Facebook, разблокировки iPhone и PlayStation и фокусировке при съемке на сотовых телефонах, и вскоре оно будет использоваться при пропуске фанатов на бейсбольные матчи. Согласно Центру по вопросам конфиденциальности и технологий Джорджтаунского университета, большинство совершеннолетних американцев уже находятся в той или иной базе данных распознания лиц, что является результатом того, что правительства разрешили использование фотографий с водительских прав и паспортов для подобных целей.

Многие правоохранительные органы, в том числе ФБР, офис шерифа округа Пинеллас во Флориде, Бюро уголовного расследования штата Огайо и несколько полицейских участков в Сан-Диего, уже много лет пользуются этими базами данных, как правило, в статических ситуациях – при сравнении фото или скриншота с видео с фотографиями подозреваемых, уже имеющимися в базе. Система Мэриленда использовалась для установления личности подозреваемого, который, как утверждается, в прошлом месяце устроил вооруженное нападение на журналистов Capital Gazette в Аннаполисе и для отслеживания участников протеста после смерти Фредди Грея в Балтиморе в 2015 году.

По мере развития технологий, распознавание лиц в режиме реального времени, подразумевающее постоянное сканирование видеопотоков для нахождения соответствий с базой данных неподвижных изображений, становится все более распространенным. Полиция Китая, как сообщается, использует эту систему для обнаружения подозреваемых в толпе, а ритейлеры используют ее для идентификации клиентов и их покупательских предпочтений. Агентства безопасности США пробуют применять данную технологию в некоторых аэропортах и ​​пограничных пунктах. И теперь системы разрабатываются для использования местной полицией.

«Эта технология развивается так стремительно и так быстро дешевеет, что в будущем мы должны ожидать, что она будет эффективной и общедоступной», - говорит Грегори К. Аллен из аналитического центра Center for a New American Security.

Слишком много ошибок?

И все же, новый тип технологии распознавания лиц усугубил озабоченность по поводу массового наблюдения, ошибочной идентификации и несправедливого преследования меньшинств.

Причина кроется в том, что технология распознавания лиц никогда не была совершенной и, вероятно, никогда не будет. Она не может сказать со стопроцентной уверенностью, что лица, изображенные на двух снимках, одинаковы; большинство современных систем дают оценку точности соответствия. Полицейские агентства могут устанавливать пороговые значения, и затем решать, как действовать по результатам.

Точность системы зависит от нескольких факторов, начиная с данных, используемых для «обучения» алгоритмов. Чем больше база данных лиц и условий - людей с различными оттенками кожи, сфотографированных под разными углами, на разных расстояниях и при разных условиях освещения, тем более точным будет алгоритм.

Технологические достижения улучшили точность систем распознавания лиц, которые эволюционировали от старинного машинного обучения, основанного на сравнении некоторых характеристик, до «нейронных сетей», которые имеют более целостное представление о лицах. Но системы все еще подвержены ошибкам при распознании людей определенных рас. Недавнее исследование MIT показало, что алгоритмы распознавания лиц, разработанные Microsoft, IBM и китайским Face++, гораздо чаще не смогли идентифицировать чернокожих женщин, чем белых мужчин. Одна из исследователей MIT, Джой Буоламвини, также доказала, что системы распознавания лиц не могут определить пол знаменитых чернокожих женщин, включая Опру Уинфри, Серену Уильямс и Мишель Обаму. Microsoft и IBM с тех пор объявили, что они стараются уменьшить фактор предвзятости в своих алгоритмах.

Это сигнализирует о сдвиге в мышлении за последние два года, так как стало ясно, что алгоритмы распознавания лиц не являются «расово нейтральными», говорит Клэр Гарви, исследователь Центра конфиденциальности и технологий. «Компании начали осознавать, что в этой технологии нет ничего волшебного, - говорит она. -
Точность системы также может варьироваться в зависимости от качества камер, снимающих видеоматериалы, условий освещения и расстояния от камеры до лица».

Когда полиция в Кардиффе, Уэльс, провела свой первый тест системы распознавания лиц во время футбольного матча в июне 2017 года, ошибки были выявлены при опознании тысячи человек. Власти объяснили это плохим освещением, недостатками алгоритма и новизной системы. Оказалось, что система распознавания лиц ФБР ошибочно идентифицирует людей в 14% случаев.

«Наступил тот момент, когда распознавание лиц представляется публике как нечто идеальное, без проверки», - объясняет Мэтт Кэгл, адвокат Американского союза гражданских свобод Северной Калифорнии, который разоблачил попытки Amazon продать свою систему распознавания лиц полицейским участкам, а затем, проверив ее, обнаружил, что она приняла 28 членов Конгресса за преступников. - Мы считаем, что оно вредно, потому что оно не прошло проверку, и используется в некоторых областях без всяких правил».

Это отсутствие контроля порождает недоверие - не только общественности, но и технологической индустрии.

Информационная служба 7days.us