Компании практически во всех сферах экономической деятельности применяют искусственный интеллект (ИИ), чтобы сделать работу своих сотрудников проще.

Программное обеспечение обучает сотрудников службы поддержки клиентов, как быть более участливыми. Школы используют машинное обучение для проведения сканирования и обнаружения оружия и преступников на кампусах. Врачи применяют ИИ, чтобы выявить коренную причину заболевания.

Специалисты по кибербезопасности, онлайн-развлечениям и розничной торговли используют эти технологии в сочетании с обширными базами данных клиентов, чтобы совершенно по-новому предлагать им свои услуги.

Хотя эти виды применения могут показаться безвредными и даже полезными, ИИ – это фактически то, какую информацию ему предоставили. В некоторых случаях его использование может иметь серьезные последствия.

Возможно, вы об этом не знали, но ИИ в некоторых случаях помогает определить, можно ли вам выдать заём. В разработке уже находятся такие продукты, из-за которых офицеры полиции смогут остановить вас на улице, потому что программное обеспечение приняло вас за другого человека.

Представьте, если бы люди на улице сделали ваше фото. Компьютер просканировал бы базу данных и рассказал им все, что он о вас знает. Или в аэропорту камеры системы безопасности пометили бы ваше лицо, в то время как злоумышленник прошел бы контроль безопасности без всяких проблем.

Все это вполне реальные варианты, при которых технологии, созданные для повышения уверенности, в основе своей используют субъективную систематическую ошибку.

«Искусственный интеллект – крайне мощный инструмент, и как любой другой мощный инструмент, его можно использовать в разных целях. Некоторые из них будут добрыми, другие создадут проблемы», - говорит Эрик Сайделл, исполнительный вице-президент по инновациям в компании Shaker International, которая разрабатывает программное обеспечение с ИИ.

«На ранних стадиях разработки любой новой технологии многие компании пытаются понять, как использовать ее в своем виде деятельности, - сказал Сайделл. – И некоторым это удается лучше, чем другим».

Искусственный интеллект превращается во всеобъемлющее понятие. Оно описывает задачи, выполняемые компьютером, для реализации которых обычно требуется человек. К примеру, это распознавание речи и процесс принятия решений.

Намеренно или ненамеренно, но люди принимают решения, которые иногда переносятся в код, созданный для работы ИИ. Это значит, что ИИ может «унаследовать» значительные расовые, половые или идеологические искажения. Чтобы этого не произошло, уже сейчас принимаются нормативно-правовые усилия на уровне всей страны и штатов.

Уголовная юстиция

В июне конгрессмен Дон Бейер, D-Va., предложил две поправки в законопроект об ассигнованиях Палаты представителей, которые запрещают расходование федеральных средств на разработку технологии распознавания лиц правоохранительными органами.

«Наверное, нам не стоит полностью перекрывать федеральное финансирование разработки всех форм ИИ. Нам просто нужно делать это продуманно», - считает Бейер. Он говорит, что компьютерное обучение и технология распознавания лиц могут ввести офицеров в заблуждение, ложно идентифицировать человека и в крайних случаях взяться за оружие.

ИИ используется в процессе прогнозного анализа, во время которого компьютер указывает, насколько вероятно совершение преступления тем или иным лицом. Конечно, пока до уровня полиции «профилактики преступлений» как в фильме «Особое мнение» с Томом Крузом этой технологии далеко, однако уже сейчас появились вопросы о том, помогает ли она повысить уровень безопасности или просто закрепляет распространенные предубеждения.

Рабочие места

Многочисленные исследования говорят о том, что автоматизация отнимет рабочие места у людей. К примеру, преподаватели Оксфордского университета Карл Бенедикт и Майкл Осборн считают, что 47% рабочих мест в Америке находятся под угрозой автоматизации к середине 30-х годов этого века.

Но пока одни работники переживают из-за того, что их заменят компьютеры, другие получают работу благодаря программному обеспечению с ИИ.

Данная технология может соединить работников с идеальной квалификацией в определенной рабочей среде с работодателями, у которых нет времени и сотрудников на проверку кандидатов.

Компания Shaker International использует данные, полученные во время прохождения тестов, аудиоинтервью и резюме, чтобы предсказать поведение кандидата на рабочем месте.

«Значимые части» информации включают в себя то, как человек будет работать, как долго он пробудет на этом рабочем месте, станет ли он лучшим продавцом или первоклассным работником», - рассказывает Сайделл.

При помощи ИИ «мы можем избавиться от процессов, которые не приносят желаемых результатов или стали излишними. Мы можем обеспечить кандидатов ответной реакцией в режиме реального времени», - говорит он.

Сайделл уверен, что если ИИ применяют недолжным образом, рабочая обстановка может ухудшиться, но если все сделать правильно, работать станет лучше и проще.

Финансы

Как бы там ни было, но искусственный интеллект  влияет на финансовые решения, которые принимают люди. И так происходит уже не один год. Он играет все более значимую роль  в том, как трейдеры инвестируют. А еще он особенно эффективен в предотвращении случаев мошенничества с кредитными картами.

Но сомнения вызывают те случаи, когда технологии используются для определения, стоит ли вам выдавать деньги в кредит в банке или не стоит.

«Каждый раз, когда вы подаете заявление на получение займа, ИИ определяет, выдавать его вам или нет, - говорит Кунал Верма, один из основателей AppZenn, ИИ-платформы для финансовых команд, работающих с клиентами, таких как WeWork и Amazon.

Считается, что эта технология быстрее и точнее оценивает потенциального получателя займа, так как она за несколько секунд может проанализировать огромное количество данных. Но, как и всегда, вероятность ошибки остается.

Если информация, которую получил алгоритм, укажет на то, что вы проживаете в районе, где многие не выполняют своих обязательств по займам, система может посчитать, что вы ненадежный клиент, говорит Верма.

«Такое также может произойти, если в вашем районе живут представители определенных национальных меньшинств. На решение алгоритма могут повлиять и другие факторы», - предупреждает он.

Решение проблемы предвзятости

Предвзятость может закрасться практически на любом этапе глубокого обучения. Тем не менее алгоритмы могут сократить диспропорцию, появившуюся из-за неверных суждений людей.

Один тип решения включает изменение чувствительных атрибутов в наборе данных, чтобы компенсировать результат. Другой - предварительный просмотр данных для сохранения точности. В любом случае, чем больше данных у компании, тем честнее может быть ИИ, сказал Сайделл.

«Google, Facebook и Amazon не зря являются лидерами в области искусственного интеллекта, - сказал Сайделл. - Это потому, что у них есть тонны данных, которые можно обработать. Другие компании имеют доступ к тому же типу технологии искусственного интеллекта, но они могут не иметь больших объемов данных, которые можно использовать и применять. Это камень преткновения».

Бейер, политик, который хочет регулировать ИИ, выступает за то, чтобы люди перепроверяли решения, принимаемые компьютерами, «пока технология не станет совершенной, если она когда-либо будет таковой».

Он сказал, что, возможно, стоит задаться вопросом, должен ли ИИ быть подходящим решением для любой проблемы, включая вопрос о том, попадет ли кто-то в тюрьму.

«А когда все будет идеально, мы должны начать думать о конфиденциальности. Например, разумно ли сфотографировать кого-то и пропустить фото через базу данных? – отмечает Бейер. - Если ИИ сможет читать рентгеновские снимки намного быстрее, гораздо точнее и с меньшей предвзятостью, чем человек, это потрясающе. Если мы даем ИИ возможность объявлять войну, у нас большие проблемы».