Вероятно, мы будем вспоминать 2018 год как год, когда очевидным стал антиутопический потенциал технологии, начиная с роли Facebook, позволяющей собирать наши личные данные для вмешательства в выборы, и заканчивая, казалось бы, бесконечной серией откровений о темной стороне Силиконовой долины.

Список можно продолжать и дальше: высокотехнологичные инструменты для борьбы с иммиграцией. Страх зависимости от смартфона. Алгоритмы YouTube, подталкивающие молодежь к экстремизму. Эксперименты по генной инженерии. Использование генеалогических сайтов для поиска предполагаемых преступников на основе ДНК их родственников. Автоматизированные системы, которые отслеживают передвижения и привычки рабочих. Электромобили в Шанхае, передающие каждое их движение правительству.

Этого было достаточно, чтобы истощить воображение даже самых изобретательных фантастов.

«Сейчас кажется, что мы живем не столько в будущем, сколько в ретро-будущем», - пишет романист Уильям Гибсон. - Темном, глуповатом ретро-будущем 90-х».

В 2019 году нас ждет еще больше неприятных открытий, поскольку меры по надзору и сбору данных усиливаются, а системы искусственного интеллекта начинают считывать выражения лица и генерировать поддельные видеоизображения, настолько реалистичные, что злонамеренные искажения правды будет труднее обнаружить.

Но в Конгрессе и правительстве штата готовятся и меры противодействия - и даже среди сотрудников технологических фирм, которые хотят, чтобы их работа была направлена на достижение положительных целей.

«В прошлом году отрадно было то, что этот парад скандалов сопровождал рост общественной осведомленности о существовании кризиса ответственности в области технологий», - говорит Мередит Уиттакер, соучредитель AI Now Institute при Нью-Йоркском университете, изучающая социальные последствия влияния искусственного интеллекта.

Организация составила длинный список того, что сделало 2018 год таким зловещим, хотя многие из них просто говорят, что публика начала осознавать проблемы, которые накапливались годами. Одним из наиболее тревожных случаев была новость о том, что компания по сбору политических данных Cambridge Analytica собрала личную информацию миллионов пользователей Facebook с целью манипулирования национальными выборами.

«Это помогло людям осознать тот факт, что данные системы действительно затрагивают суть нашей жизни и формируют наши социальные институты», - говорит Уиттакер.

Это неприятное открытие сопровождалось и другими бедствиями, связанными с Facebook, в том числе с его ролью в разжигании насилия в Мьянме, серьезными нарушениями данных и сохраняющейся обеспокоенностью по поводу фальшивых аккаунтов, использующихся российской пропагандой.

И дело было не только в Facebook. Google вызвал беспокойство постоянным наблюдением за пользователями, после того, как агентство Associated Press сообщило, что он отслеживает передвижения людей, нравится им это или нет.

Он также столкнулся с критикой из-за своего сотрудничества с вооруженными силами США по созданию беспилотников с «компьютерным зрением», которое предназначено для обнаружения целей на поле боя, и секретного предложения о запуске поисковой системы с цензурой в Китае. А еще Google продемонстрировал удивительно похожего на человека голосового помощника, который говорит так, что люди на другом конце телефона не догадываются, что общаются с компьютером.

Эти и другие опасения разгорелись в декабре, когда законодатели пригласили на слушания в Конгрессе генерального директора Google Сундара Пичаи– в продолжении аналогичных публичных расспросов генерального директора Facebook Марка Цукерберга и других руководителей технических компаний.

«Было необходимо созвать это слушание из-за растущей пропасти недоверия между технологическими компаниями и американским народом», - сказал лидер республиканского большинства палаты Кевин Маккарти.

Пионер Интернета Винт Серф сказал, что он и другие инженеры никогда не предполагали, что их видение всемирной сети соединенных друг с другом компьютеров через 45 лет превратится в систему наблюдения, которая собирает личную информацию, или пропагандистскую машину, которая способна повлиять на выборы.

«Мы просто пытались заставить ее работать, - вспоминает Серф. - Но теперь, когда она находится в руках широкой публики, есть люди, которые хотят с ее помощью наносить явный ущерб другим или извлекать выгоды для самих себя. Поэтому нам придется с этим разбираться».

Вопреки футуристическим опасениям, что «сверхинтеллектуальные» роботы поработят человечество, реальные опасности нашей технической эры более прозаичны – и часто имеют форму технологических инноваций, которые должны были сделать жизнь более удобной.

Одна из проблем заключается в том, что технологии все еще несовершенны и подвержены влиянию человеческих ошибок и предрассудков. Uber и Tesla были причастны к летальным автокатастрофам в марте, IBM подверглась расследованию за сотрудничество с полицией Нью-Йорка за создание системы распознавания лиц, способной различать этническую принадлежность, а Amazon потратила много сил на разработку собственной неполноценной службы распознавания лиц.
В некоторых случаях оппозиция стремлению технологической индустрии применять свои новейшие инновации в сомнительных коммерческих целях исходила от ее собственных сотрудников.

«Для многих стало очевидным, что стремление делать добро и приносить пользу обществу и девиз «не твори зла» не соответствуют поступкам этих корпораций», - говорит Уиттакер, которая также является научным сотрудником Google.

Информационная служба 7days.us