В дискуссиях о последствиях использования искусственного интеллекта (ИИ) кто-нибудь всегда вспоминает древнегреческий миф о ящике Пандоры. В современной сказочной версии этой истории Пандора представляется трагически любопытной молодой женщиной, которая, открыв запечатанную урну, случайно насылает на человечество вечные бедствия. Этот миф стал таким же клише, как джин, вырвавшийся из бутылки, лошадь, сбежавшая из конюшни, или поезд, отправившийся со станции.
Однако реальная история Пандоры имеет намного более актуальное значение для дискуссий об ИИ и машинном обучении, чем многие полагают. И она демонстрирует, что лучше прислушаться к «прометейцам», озабоченным будущим человечества, чем к «эпиметейцам», которых легко ослепить перспективами краткосрочного выигрыша.
Будучи одним из самых древних греческих мифов, история Пандоры впервые была записана более 2500 лет назад во времена Гомера. В изначальной версии Пандора не была невинной девочкой, которая поддаётся искушению открыть запретный сосуд. Как рассказывает нам поэт Гесиод, Пандора была «сделана, а не рождена». По заказу всемогущего Зевса её изготовил, согласно безжалостным спецификациям самого Зевса, бог инноваций Гефест. Пандора была как будто ожившим андроидом, специально созданным так, чтобы выглядеть очаровательной девушкой. Её предназначением был обман смертных в соответствии с принципом kalos kakon – «зло, скрытое в красоте».
Имя Пандора означает «все дары» и объясняется тем фактом, что все боги внесли вклад в её создание. После того как Гефест изготовил её в своей кузнице, Гермес отправился с восхитительной молодой «женщиной» на землю и представил её Эпиметею в качестве невесты. Её приданным стал роковой запечатанный сосуд, содержащий ещё больше «даров».
Эпиметей был братом Прометея, восставшего титана, который защищал (а по некоторым данным, создал) человечество. Прометея тревожила очевидная уязвимость людей, поэтому он научил мужчин и женщин ответственно пользоваться огнём и другими инструментами. Но это разгневало Зевса, безжалостного тирана, который ревностно охранял свой эксклюзивный доступ к невероятным технологиям. В качестве наказания Зевс приковал Прометея к скале и отправил орла, который подобно дрону тоже был выкован Гефестом, пожирать его печень.
Пандора, в свою очередь, была преднамеренно создана в наказание человечеству за то, что оно приняло огонь в дар от Прометея. По сути, она была соблазнительным женским ботом с искусственным интеллектом; у неё не было родителей, воспоминаний о детстве или каких-либо эмоций, она не могла состариться или умереть. Она была запрограммирована на выполнение одной зловещей миссии: проникнуть в поселение смертных, а потом открыть сосуд.
Впрочем, это ещё не вся история. Как рассказывает нам Платон, имя Прометея означает «предвидение», потому что он всегда смотрел вперёд, в отличие от своего беззаботного брата Эпиметея, чьё имя означает «думающий потом». Будучи более рациональным и оправданно параноидальным из двух братьев, Прометей пытался предупредить брата, чтобы тот не принимал опасный подарок Зевса. Но Эпитемей был очарован Пандорой и безрассудно согласился принять её в свою жизнь. Лишь позднее он осознал свою ужасающую ошибку.
Тем самым, популярное изображение Пандоры, которая в ужасе отпрянула от облака зла, вылетающего из ящика, является современным изобретением. Равно как и слащавое изображение Надежды, которая появляется последней для утешения человеческих душ. В классической греческой трактовке Пандора представляется искусным автоматом. На самой известной вазовой росписи с её изображением мы видим молодую женщину, которая напряжённо стоит с натянутой улыбкой.
Более того, в древности Надежда персонифицировалась в виде молодой женщины по имени Элпис (Эльпида), которая отличалась отсутствием способности предвидеть. Надежда означала не благо, а неспособность смотреть вперёд или делать разумный выбор среди имеющихся вариантов развития событий; она олицетворяла собой пустые мечты, а не поддерживающий жизнь оптимизм. Для греков она была лишь ещё одним проявлением «kalos kakon» – красивым злом, спущенным на людей. Именно поэтому, как минимум, один древний художник изобразил Элпис-Надежду похожей на Пандору, с кривой ухмылкой.
Технологии искусственного интеллекта и машинного обучения быстро эволюционируют в технологию «чёрного ящика», поэтому символ запечатанного сосуда Пандоры обретает новое значение. Операционная логика систем принятия решений с искусственным интеллектом будет вскоре непостижима не только их пользователям, но и создателям. Есть и другие угрозы, которые сейчас начинают выглядеть весьма серьёзно: системы ИИ могут быть взломаны злоумышленниками или использованы террористами и тиранами.
Когда основатель Facebook Марк Цукерберг, Эндрю Макафи из МИТ, Лили Чен из Microsoft и другие оптимисты искусственного интеллекта уверяют нас, что ИИ принесёт огромную пользу, трудно не вспомнить об Эпиметее и Элпис. Можем ли мы действительно поверить, что человечество будет способно корректировать и устранять проблемы, постепенно создаваемые ИИ?
Представляется, что будет мудрее прислушаться к современным прометеевским мыслителям, таким как покойный Стивен Хокинг, основатель Microsoft Билл Гейтс и ещё 115 лидеров технологического сектора, которые в 2017 году высказались по поводу угрозы превращения роботов и ИИ в оружие. «У нас не так много времени для действий, – предупреждали они. – Как только этот ящик Пандоры будет открыт, закрыть его будет очень трудно». Подобные прометеевские тревоги высказывали также со-основатель Google Сергей Брин и специалисты по этике ИИ Джоанна Брайсон и Патрик Лин, предостерегавшие против бездумного принятия «даров» ИИ до того, как удастся понять, как их можно контролировать.
Результаты последних опросов позволяют сделать вывод, что у тех, кто реально разрабатывает системы ИИ, оптимизм относительно их потенциальных выгод значительно снизился. Наше понимание принципов работы ИИ будет, видимо, коррелировать с повышением реалистичности ожиданий. Не слепая надежда, а предвидение, основанное на знаниях и опыте, должны руководить нашими действиями, формирующими будущее этой технологии и наше отношение к ней.
