Газета выходит с 1995 года!
 

Как алгоритмы втайне управляют миром

Сложные математические формулы играют важную роль в разных сферах жизни, начиная от определения рака кожи и поиска новых друзей в Facebook и заканчивая решением, кого принять на работу и как распределить ресурсы полиции.

Алгоритмы используются – пока экспериментально – для написания новостных статей, они же помогли советникам президента Дональда Трампа установить местонахождение избирателей, «поддающихся убеждению», во время предвыборной кампании.

И хотя автоматизированные инструменты внесли долю объективности в некогда субъективные решения, появились опасения в недостаточной прозрачности алгоритмов.

Специалист по обработке данных Кэти О’Нил предупреждает о «слепой уверенности» в достоверности формул.

«По своей сути алгоритмы недостаточно честны, ведь человек, который придумывает их, хочет добиться успеха», – объясняет она.

С точки зрения О’Нил, одни алгоритмы могут принести пользу, в то время как другие – нанести вред. В своей книге «Оружия математического разрушения» (2016) она приводит несколько примеров:

  • Руководство общественных школ в Вашингтоне в 2010 году уволило более 200 учителей, в том числе несколько уважаемых преподавателей, основываясь на результатах формулы, оценивающей эффективность образования.
  • Мужчине, которому поставили диагноз «маниакально-депрессивный психоз», отказали в трудоустройстве семь крупных компаний после прохождения «личностного» теста, по результатам которого он попал в группу риска.
  • Некоторые суды полагаются на компьютерные формулы при вынесении приговора, которые опираются на такие факторы «риска», как окружение и дружеские или семейные связи.

Ее заключения были изложены в прошлогоднем отчете для Белого дома, в котором говорилось, что алгоритмические системы «вовсе не так непогрешимы. Они опираются на ошибочные исходные данные, процент вероятности и логику людей, которые разработали их».

Из ее отчета следует, что системы данных могут устранить субъективные ошибки оператора, но при этом «систематически вредят определенным группам людей».

Зейнеп Тюфекчи, профессор Университета Северной Каролины, считает, что автоматические решения часто строятся на данных, собранных о людях (порой без их ведома).

«Компьютерные системы делают выводы о людях, опираясь на их действия в цифровом мире, – сказала Тюфекчи на недавней лекции в рамках конференции TED. – Они определят вашу сексуальную ориентацию, личностные качества, политические симпатии. И вряд ли ошибутся».

Такие методы могут пригодиться в определенных ситуациях, например, чтобы помочь врачам диагностировать послеродовую депрессию, но применять их по отношению к другим людям бесчестно.

Также Тюфекчи упомянула о неуместности задавать компьютерам вопросы, на которых заведомо нет единственно правильного ответа.

«Существуют субъективные вопросы, связанные с суждением о ценностях. Например, кого следует принять на работу в компанию, какой преступник может снова нарушить закон, какое обновление на странице друга вы хотите видеть».

Фрэнк Паскаль, профессор права в Мэрилендском университете и автор книги «Общество черного ящика: секретные алгоритмы, которые управляют деньгами и информацией», разделяет опасения Тюфекчи.

Он считает, что справиться с нечестными действиями авторов алгоритмов можно за счет ужесточения существующих законов о защите прав потребителя или направленных против мошенничества. В качестве примера Паскаль приводит закон о защите данных ЕС.

Кое-кто считает, что не стоит делать из алгоритмов козла отпущения, ответственного за проблемы общества.

«Люди злятся и ищут виноватых, – сказал Дэниел Кастро, вице-президент Фонда информационных технологий и инноваций. – Мы обеспокоены вопросами предвзятости, ответственности и этических ценностей, но они существуют независимо от того, используются алгоритмы или нет».

Информационная служба 7days.us

sotnik-tv.com
ПОХОЖИЕ СТАТЬИ

Странные и поразительные инновации 2014 года

2014 год был годом бесчисленных достижений в области науки, технологии, дизайна, еды и бизнеса. Вот только десять новшеств, которые впечатлили и радовали нас на протяжении последних двенадцати месяцев. 1. Беспилотные автомобили. Компания Google весной представила прототип беспилотного автомобиля, который разраба
подробнее

Фундаментальная ошибка

Проблема взаимоотношений робота и человека волнует мыслителей без малого сотню лет. Айзек Азимов придумал три закона робототехники, Карел Чапек придумал само слово «робот», Джеймс Кэмерон придумал, что роботы могут быть злыми и добрыми. Но люди искусства оперируют своими фантазиями, а реальная жизнь никогда никаким
подробнее

Apple подтвердила презентацию нового iPhone 7

Компания Apple разослала некоторым СМИ официальные приглашения на презентацию своего нового смартфона, которая пройдет в Сан-Франциско 7 сентября. Ни для кого не секрет, что на презентации расскажут о новых смартфонах iPhone 7 и iPhone 7 Plus. Весьма вероятно, что публике также будет представлено второе поколение с
подробнее