Раскрыть 
  Расширенный 
 

Как алгоритмы втайне управляют миром

04/13/2017 7 Дней
Algorithms

Сложные математические формулы играют важную роль в разных сферах жизни, начиная от определения рака кожи и поиска новых друзей в Facebook и заканчивая решением, кого принять на работу и как распределить ресурсы полиции.

Алгоритмы используются – пока экспериментально – для написания новостных статей, они же помогли советникам президента Дональда Трампа установить местонахождение избирателей, «поддающихся убеждению», во время предвыборной кампании.

И хотя автоматизированные инструменты внесли долю объективности в некогда субъективные решения, появились опасения в недостаточной прозрачности алгоритмов.

Специалист по обработке данных Кэти О’Нил предупреждает о «слепой уверенности» в достоверности формул.

«По своей сути алгоритмы недостаточно честны, ведь человек, который придумывает их, хочет добиться успеха», – объясняет она.

С точки зрения О’Нил, одни алгоритмы могут принести пользу, в то время как другие – нанести вред. В своей книге «Оружия математического разрушения» (2016) она приводит несколько примеров:

  • Руководство общественных школ в Вашингтоне в 2010 году уволило более 200 учителей, в том числе несколько уважаемых преподавателей, основываясь на результатах формулы, оценивающей эффективность образования.
  • Мужчине, которому поставили диагноз «маниакально-депрессивный психоз», отказали в трудоустройстве семь крупных компаний после прохождения «личностного» теста, по результатам которого он попал в группу риска.
  • Некоторые суды полагаются на компьютерные формулы при вынесении приговора, которые опираются на такие факторы «риска», как окружение и дружеские или семейные связи.

Ее заключения были изложены в прошлогоднем отчете для Белого дома, в котором говорилось, что алгоритмические системы «вовсе не так непогрешимы. Они опираются на ошибочные исходные данные, процент вероятности и логику людей, которые разработали их».

Из ее отчета следует, что системы данных могут устранить субъективные ошибки оператора, но при этом «систематически вредят определенным группам людей».

Зейнеп Тюфекчи, профессор Университета Северной Каролины, считает, что автоматические решения часто строятся на данных, собранных о людях (порой без их ведома).

«Компьютерные системы делают выводы о людях, опираясь на их действия в цифровом мире, – сказала Тюфекчи на недавней лекции в рамках конференции TED. - Они определят вашу сексуальную ориентацию, личностные качества, политические симпатии. И вряд ли ошибутся».

Такие методы могут пригодиться в определенных ситуациях, например, чтобы помочь врачам диагностировать послеродовую депрессию, но применять их по отношению к другим людям бесчестно.

Также Тюфекчи упомянула о неуместности задавать компьютерам вопросы, на которых заведомо нет единственно правильного ответа.

«Существуют субъективные вопросы, связанные с суждением о ценностях. Например, кого следует принять на работу в компанию, какой преступник может снова нарушить закон, какое обновление на странице друга вы хотите видеть».

Фрэнк Паскаль, профессор права в Мэрилендском университете и автор книги «Общество черного ящика: секретные алгоритмы, которые управляют деньгами и информацией», разделяет опасения Тюфекчи.

Он считает, что справиться с нечестными действиями авторов алгоритмов можно за счет ужесточения существующих законов о защите прав потребителя или направленных против мошенничества. В качестве примера Паскаль приводит закон о защите данных ЕС.

Кое-кто считает, что не стоит делать из алгоритмов козла отпущения, ответственного за проблемы общества.

«Люди злятся и ищут виноватых, – сказал Дэниел Кастро, вице-президент Фонда информационных технологий и инноваций. – Мы обеспокоены вопросами предвзятости, ответственности и этических ценностей, но они существуют независимо от того, используются алгоритмы или нет».

Информационная служба 7days.us

 
 
 

Похожие новости


Газета «7 Дней» выходит в Чикаго с 1995 года. Русские в Америке, мнение американцев о России, взгляд на Россию из-за рубежа — основные темы издания. Старейшее русскоязычное СМИ в Чикаго. «7 Дней» это политические обзоры, колонки аналитиков и удобный сервис для тех, кто ищет работу в Чикаго или заработки в США. Американцы о России по-русски!

Подписка на рассылку

Получать новости на почту