На прошлой неделе появились новости о том, что регулирующие органы США проводят расследование гибели водителя, использовавшего автопилот в Tesla Model S. Эта смерть стала первой в своем роде, и хотя это первый и, прежде всего, трагический случай гибели человека, он также стал точкой отсчета целого ряда проблем, этических споров и вопросов без ответов в процессе создания самоуправляющихся автомобилей. То, что еще недавно было теоретическими спорами, внезапно стало вполне реальным.
По большому счету, никто не ждет, что это происшествие как-то замедлит прогресс автоматизации транспортных средств. Акции компании Tesla немного потеряли после сообщений о гибели испытателя, а аналитики отнесли это к «риску негативного освещения в СМИ».
Отчасти это произошло потому, что, хотя расследование все еще не завершено, пока что не возникает подозрений в том, что именно автопилот Tesla стал причиной аварии. Появились слухи о том, что испытатель Tesla, возможно, отвлекся или даже превысил скорость. Но более важно то, что в большинстве сообщений говорится об очень опасном повороте, который водитель совершал перед встречным движением. Ясно, что автопилот – не идеален, но, судя по всему, два водителя-человека создали ситуацию, от которой автоматизированная система не смогла их спасти (и это не автоматизированная система совершила грубую ошибку).
В более широком смысле этот инцидент был, так сказать, неизбежен: никто не говорит о том, что автоматизированная система может предотвратить все столкновения. Кроме того, компания Tesla, обладающая самыми прогрессивными из имеющихся на рынке системами автоуправления, в какой-то степени сознательно приняла на себя риск оказаться в центре внимания в случае подобного столкновения. Представители Tesla отреагировали на аварию, отметив, что это первый инцидент за 130 млн миль пробега на автопилоте, в то время как водители в США в среднем гибнут после 100 млн миль пробега. Хотя размер опытной партии Tesla недостаточно велик для проведения достойного сравнения, он по крайней мере может служить ранним указателем на то, что автопилот не делает автомобили более безопасными.
Кроме того, этот инцидент может стать причиной определенного риска. К примеру, он может привести к усилению политического давления и ужесточению норм использования автопилотов, которые в настоящее время относительно ограничены. Более жесткие нормы могут замедлить развитие технологии. Правовые последствия инцидента также пока не ясны – если кому-то удастся убедить судью или присяжных в том, что Tesla несет ответственность за аварию, перспективы для автопилота и систем автоматизации могут измениться очень быстро.
Вопросы регуляции и ответственности могут упереться в неоднократные заявления представителей Tesla о том, что автопилот – «бета»-продукт, и о том, что водитель должен постоянно держать руки на руле, даже если включен автопилот. Хотя в мире технологий часто выпускают продукты, далекие от идеала, - и Илон Маск, как все мы знаем, начинал именно в области технологий – эта авария напоминает нам, что, когда дело доходит до автомобилей, тут действуют другие законы и правила. «Бета»-программа играла очень важную роль для Tesla, которая стремилась улучшить свой Автопилот, но судьи и законодатели в итоге должны решить, стоит ли компромиссное решение риска гибели водителей, использующих слабо контролируемый и явно несовершенный продукт.
В итоге, все сводится к тому, что мы знаем уже давно: автомобили – мощные, опасные устройства. Возможно, полная автоматизация когда-нибудь и сделает их более безопасными и поможет предотвратить большинство или вообще все случаи гибели людей на дорогах.
Но до этого пройдет еще какое-то время.
