В наш мир приходят беспилотники, но человечество, кажется, к этому не готово. Кто будет определять правила движения машин без водителей? Насколько точно они будут их соблюдать? Как совместить их с обычными автомобилями? Беспилотный транспорт, как и положено каждой технологии, способной поменять цивилизацию, ставит перед нами очень много вопросов. Юрия Деточкина, обычного страхового агента и актера любительского театра из советского фильма «Берегись автомобиля», мучила совесть.
Он не мог спокойно терпеть дорогие машины в гаражах разных жуликов и угонял их, чтобы потом продать перекупщикам, а деньги отправить в детские дома.
Автомобиль, знак элитарности и богатства, ставил перед ним массу вопросов: откуда он у человека? Как он накопил на него деньги? Зачем купил? И, наконец, имеет ли он, Деточкин, право украсть нечестно нажитую машину, чтобы распорядиться деньгами более справедливо? Мы не знаем, как бы Деточкин чувствовал себя сейчас, на заре появления беспилотных машин, но думаем, что вопросов к новому транспорту у него было бы еще больше.
Пессимист: Есть такая дилемма вагонетки: неуправляемая вагонетка несется по рельсам. На основных путях привязаны пять человек, на запасных — еще один, а вы можете переключить железнодорожную стрелку и тем самым спасти пять жизней, взамен пожертвовав одной. С появлением беспилотников эта абстрактная этическая дилемма обретает плоть, поскольку создателям беспилотников надо раз и навсегда прописать в коде, как будет действовать машина во всех спорных ситуациях, и похоже, это непростая задача.
Ученые из США и Франции провели несколько опросов о спорных ситуациях на беспилотных дорогах, в которых задавали вопросы в духе «согласны ли, что машина должна пожертвовать жизнью пассажира ради спасения десяти пешеходов?» (138 из 182 респондентов ответили «да»). Оказалось, что большинство людей хотят, чтобы беспилотники были запрограммированы на сохранение и спасение максимального количества жизней (если ради жизни двух пешеходов надо жертвовать одним пассажиром — жертвуем), но почти никто не хочет такой машины для себя. Все готовы ходить по улицам с альтруистичным транспортом, но никто не хочет оказаться в его салоне.
Оптимист: «Дилемму вагонетки очень любят журналисты, но она абсолютна иррелевантна реальной жизни, — считает руководитель робототехнического центра фонда «Сколково» Альберт Ефимов. — Вы когда-нибудь встречали ее в реальной жизни? За рулем, в такси, на пассажирском кресле? Даже вероятность того, что обычная машина может попасть в такую спорную ситуацию очень низкая, а для беспилотников, время реакции которых на порядок меньше времени реакции человека, опасность будет еще меньше».
Цитата будущего: В ДТП на пересечении Тверской улицы и Тверского бульвара участвовало три автомобиля. Шедшая впереди беспилотная автомашина применила экстренное торможение, чтобы пропустить пешехода, перебегавшего дорогу на красный свет, после чего с нею столкнулись другие участники движения. Водители и пассажиры всех трех автомашин отделались легкими ушибами, пешеход скрылся с места инцидента. Как сообщает источник в МВД столицы, его личность установлена с помощью средств автоматического мониторинга дорожной обстановки, но разглашению не подлежит.
Пессимист: В России свой опрос про этику беспилотников провела компания Cognitive Technologies, разрабатывающая вместе с КамАЗом беспилотный грузовик. Респондентам показывали 16 спорных ситуаций, оформленных в стиле теоретических вопросов на знание правил дорожного движения (ПДД), а люди выбирали оптимальное поведение беспилотника, например, при внезапном появлении собаки на пустой дороге с двойной сплошной (60% проголосовало за вариант «продолжить движение и задавить собаку», 34% — за перестроение с пересечением двойной сплошной и 6% — за экстренный съезд в кювет, сопряженный с «неминуемыми глобальными повреждениями автомобиля»).
Еще дальше в своих опросах пошли специалисты из MIT: в их машине сценариев, генерирующей абсолютно безвыходные ситуации, люди выбирали между вариантами в духе «задавить пятеро пешеходов, переходящих дорогу на красный свет, среди которых двое детей и один пенсионер» или «выехать на встречку и задавить трех пешеходов, переходящих на зеленый, среди которых двое человек с судимостью и один с ожирением».
Результаты исследования показывают, что разные слои населения в глазах людей обладают разной ценностью, и с этой точки зрения для беспилотных автомобилей, возможно, стоит ввести сложную систему социальной оценки пешеходов и пассажиров, с оглядкой на которую машина будет принимать решения в сложных ситуациях. Правда, непонятно, как технически надежно реализовать эту идею, для которой нужно мгновенное распознавание социального статуса пешехода, и к каким последствиям приведет такое очевидное признание неравенства людей перед законами.
Оптимист: Сравнение с ПДД не случайно. Спорные ситуации на дорогах всегда возникали, возникают и будут возникать, и сейчас все они регламентированы как раз Правилами дорожного движения (как регламентированы и реальные дилеммы вагонеток у машинистов, видящих человека на рельсах, но не имеющих права тормозить, чтобы не спровоцировать тяжелых травм у сотен пассажиров). Так, при внезапном появлении пешехода на дороге водитель согласно ПДД должен начать резко тормозить, но при этом не менять полосы движения, чтобы не спровоцировать аварий.
Беспилотники же, по заверениям разработчиков, будут не только быстрее реагировать на внезапные ситуации, но и неукоснительно соблюдать все правила, а значит, внештатных ситуаций на дорогах будет так мало (сейчас около 90% аварий на дорогах происходит по вине водителей), что о любых дилеммах вагонетки и тем более системах оценки статуса пешеходов и водителей можно забыть.
Цитата будущего: Кроме стандартного социального пакета и компенсации расходов на питание все сотрудники нашей компании получают повышение своего социального статуса для беспилотников на 10%.
Пессимист: 7 мая 2016 года автомобиль Tesla Model S, двигавшийся в беспилотном режиме, на полном ходу въехал в белую фуру: машина не признала препятствия в белом грузовике на фоне белого неба. В результате у нее полностью снесло крышу, а пассажир, один из известных поклонников беспилотных автомобилей, скончался от полученных травм.
Пока беспилотники еще не готовы к выходу на дороги общего пользования. Они неплохо умеют ездить по автобанам, парковаться и заезжать в гараж, но еще слабы в перестроениях, обгонах, проездах оживленных перекрестков и прочих насущных делах, не говоря уже о нестандартных ситуациях. Технически на то есть две основные причины.
Во-первых, ни один из типов современных датчиков (на беспилотниках используются обычные камеры, инфракрасные камеры, радары, ультразвуковые датчики и лазерные дальномеры — лидары) не способен дать машине достаточной информации об окружающем мире. Поэтому разработчики вынуждены использовать сразу несколько типов сенсоров и составлять единую картину из разнородной информации, что часто бывает дорого, долго и сложно.
Во-вторых, современные системы искусственного интеллекта еще не чувствуют дорогу так, как чувствует ее человек. Они не всегда понимают, как полоса движения может быть свободна только наполовину, не видят подвешенных в воздухе препятствий и вряд ли сориентируются на забитом машинами перекрестке, где все водители едут уже не по правилам, а ориентируются по одним им понятным и еле уловимым движениям глаз и рук.
Конечно, машину можно постепенно обучать все новым и новым сюжетам, и когда-нибудь онанаучится водить лучше любого таксиста, везущего вас по встречке в аэропорт, но пока это не так, а каждая авария с участием беспилотника будет притягивать особое внимание.
Оптимист: «Сейчас про каждую аварию «Теслы» пишут абсолютно все, — говорит руководитель департамента по созданию беспилотных транспортных средств Cognitive Technologies Юрий Минкин. — Это похоже на ситуацию с авиацией на заре ее развития, но теперь мы знаем, что самолет — это самый безопасный транспорт. Точно так же лет через 15—20 и про аварии беспилотников будут говорить уже как про диковинки, трагические стечения обстоятельств, вопиющие нарушения правил».
Число жертв автомобильных аварий в развитых странах стабильно уменьшается начиная с 1965 года, но, похоже, выходит на свой предел: одна смерть на 100 миллионов пройденных километров. Введение подушек безопасности и борьба с алкоголем за рулем сыграли свою роль, но теперь нужно что-то еще — возможно, дело как раз за беспилотниками. Во всяком случае, беспилотные гуглмобили, уже несколько лет проходящие полевые испытания на дорогах Калифорнии, впервые попали в более-менее серьезную аварию с небольшими травмами пассажиров только после 2,7 млн километров. С тех пор прошло уже больше года, машины «Гугла» накрутили еще много сотен тысяч километров, а новых аварий больше не было — совсем неплохо для глупой железки.
Впечатляющих примеров с бепилотниками еще много: в конкурсе Visilab Intercontinental Autonomous Challenge, прошедшем еще в 2010 году, четыре мини-вэна за три месяца проехали почти в автономном режиме 13 тысяч километров от Италии до Китая; в Европе в марте этого года завершился автопробег Euro Truck Platooning, где колонна из 4—5 грузовиков лишь с одним водителем в передней машине одолела более 2 тысяч километров дорог Старого света; наконец, Uber в сентябре этого года и вовсе запустил беспилотное такси на улицах американского Питтсбурга. Правда, во всех этих случаях за рулем беспилотника пока сидели контролирующие их операторы.
Цитата будущего: Партия либерал-пенсионеров против беспилотников. № 7 в общефедеральном избирательном списке. Голосуйте! Не дадим нашим детям и внукам погибнуть от бездушных машин.
Пессимист: Человечество так и не смогло определиться со стандартами электросетей или железных дорог — с беспилотниками может случиться что-нибудь похожее, и хорошо если их правила будут устанавливаться отдельно хотя бы каждой страной, а не каждым производителем.
«Определять правила поведения машины должно законодательство, а не завод, — говорит руководитель Международного центра робототехники НИТУ МИСиС Александр Балесный. — Для компьютерной программы нет слова «этика», и не должен разработчик расставлять этические приоритеты в различных аварийных ситуациях. Это должно быть сформулировано в соответствующих технических регламентах, утвержденных в законодательном порядке».
Оптимист: Как раз по автомобильным правилам человечество до сих пор неплохо договаривалось: во всяком случае, есть Венская конвенция о дорожном движении, подписанная 68 странами и регламентирующая общие стандартные правила и знаки. По мере распространения беспилотников что-то похоже будет сделано и для них, так что производителям не надо будет каждый раз думать, какие правила поведения заложить в машины.
Цитата будущего: Правила дорожного движения 2020. Пункт 1.2. В Правилах используются следующие основные понятия и термины <…> Оператор — лицо, управляющее автоматическим транспортным средством и осуществляющее контроль за его движением.
Пессимист: Ситуация запутанная: в идеальных беспилотниках люди должны быть беззаботными пассажирами, а не операторами, готовыми подстраховать машину в любой момент. Следовательно, они не несут никакой ответственности. Но первые проекты закона об «электронных личностях» пока только рассматриваются в Европарламенте. Виновных в ДТП среди участников движения найти будет непросто.
«Это еще один вечный спор о человеческой этике, и ничего нового по сравнению с XIII, XVIII или XX веком век XXI не принес, — говорит Альберт Ефимов. — Например, еще 500 лет назад если лошадь наехала на человека, на нее можно было подать в суд и в конце концов добиться смертного приговора. Повесить лошадь. В этом смысле автономное транспортное средство, задавившее человека, мало чем отличается от лошади, и абсолютно гуманно отправить его под каток».
Оптимист: На деле вся ответственность за аварии скорей всего ляжет на производителей машин, они же будут больше всех заинтересованы в безопасности движения и отбраковке неудачных решений и моделей. История опять очень похожа на самолеты: после каждого ДТП создаются комиссии из представителей компании, отсматривают «черные ящики» машин и, конечно, заводят судебные дела, в том числе и на владельцев автодорог, не обеспечивших должной инфраструктуры.
Цитата будущего: Ищем юриста — эксперта по правовым аспектам беспилотного транспорта. Обязанности: полное юридическое сопровождение зарегистрированных беспилотных средств компании, регистрация новых беспилотных средств <…>
Пессимист: «У «Мерседеса», БМВ, «Тойоты» есть беспилотные технологии, возможно даже превосходящие тесловские или гугловские, но они не могут себе позволить ими воспользоваться сейчас, — считает Иван Кошуринов, генеральный директор фирмы «Микрорадар», занимающейся разработкой различных сенсоров как для обычных, так и для беспилотных автомобилей. — Потому что если человек разобьется на беспилотном «Мерседесе», это коснется всего их бизнеса. Для известных автоконцернов это огромные репутационные риски, пойти на которые могут только техновизионерские стартапы вроде «Теслы».
Автопилоты — это еще очень дорогая история. Даже их бета-прототипы — современные системы помощи водителям — стоят по 7—12 тысяч долларов, а за лидары (без других датчиков и без системы, обрабатывающей сигналы и принимающей решения) уже надо выкладывать до 30—70 тысяч долларов, в то время как по результатам Boston Consulting Group только 17% современных покупателей готовы потратить на автопилот более 5 тысячи долларов.
Так что, по оценкам аналитиков уже из McKinsey, даже в самом благоприятном сценарии на полностью беспилотные машины к 2030 году перейдет максимум 15—20% пользователей.
Оптимист: Даже 10% автомобильного рынка — это огромные деньги. Кроме того, по оценкам Morgan Stanley, 100-процентное покрытие беспилотниками сэкономит миру порядка 5,6 триллиона долларов, что составляет около 5% мирового ВВП.
Экономический эффект здесь складывается из нескольких составляющих: уменьшение количества аварий (меньше потерянных человеко-часов и меньше страховых выплат); уменьшение времени в пути (беспилотники соблюдают все правила дорожного движения и все знаки, а значит, их потоки легче моделировать, чтобы создавать оптимальную дорожную структуру, а со временем беспилотники должны научиться координировать свои совместные действия); уменьшение расхода топлива (меньше времени в пути, меньше пробок, меньше торможений и ускорений перед светофором); высвобождение до 90% времени водителей за рулем (пока автопилот управляет машиной, вы можете поспать, поесть или поработать).
Внедрение беспилотников также может точечно изменить нишевые рынки автотранспорта. Так, то же самое движение грузовиков колонной экономит до 20% топлива из-за уменьшения аэродинамического сопротивления, а беспилотные такси и беспилотные курьеры могут решить проблему последней мили доставки. Особенно актуальны все эти истории для России с ее огромной территорией и разветвленной сетью дорог.
Кроме того, совсем не все в мире согласны, что хорошие беспилотники — это такое элитарное удовольствие с ценником от 50 тысяч долларов. Так, Джордж Хоц, первый человек, взломавший айфон еще девять лет назад, уже в этом году обещает представить комплект электроники, превращающий любой автомобиль в беспилотный и стоящий всего одну тысячу долларов.
Цитата будущего: Mercedes Free Ride экономит ваше время, деньги и нервы. Выбор свободного человека.
Пессимист: Высокая цена, технические сложности с распознаванием дорожной обстановки, непривычная потеря контроля машины, тревожные мысли по поводу сложных этических дилемм. Массовый покупать может так и не прийти в салон за своим беспилотником, даже если по всей статистике мира они будут гораздо безопаснее и надежнее обычных машин, — в конце концов, многие до сих пор боятся летать на самолетах.
«В майской аварии Tesla виноваты обе стороны: и водитель, доверившийся автопилоту, и производитель, который внушил ему это доверие, — говорит Андрей Врацкий, руководитель российского клуба владельцев Tesla. — Он доверил свою жизнь машине, и он получил». Москва, 5 часов дня, мы едем на Tesla Model S по забитому машинами Дмитровскому шоссе. Ход плавный и почти бесшумный: никаких переключений передач, никакого шума мотора — только шелест шин. Как только впереди появляется свободный коридор, Андрей нажимает на газ, и машина, будто в компьютерной игре, послушно рвется вперед, а меня, как на американских горках, вдавливает в пассажирское кресло.
«Если все водители перейдут на беспилотники, то их можно сделать безопасными, — говорит Врацкий. — Только это должен сделать и я, и вот этот водитель на БМВ, и вот тот на «Рено», и все вокруг, — он потягивает кофе и указывает на соседние машины. — Сейчас безопасность беспилотников — это, условно говоря, одна цифра после запятой — 99,9. Я подумаю о них, только когда станет шесть цифр — 99,999999». Плохие дороги, отсутствие специализированных сервисных центров, цена в несколько миллионов рублей, пробег максимум в 350 километров при полной зарядке аккумулятора и необходимость иметь собственную станцию зарядки хотя бы дома и хотя бы на даче несколько лет назад не остановили Андрея перед покупкой «Тесла»-кара. Но к беспилотнику он пока не готов.
Оптимист: «Последние, кому нужны беспилотные автомобили, — это водители личных легковых авто, — считает Альберт Ефимов. — Грузовые перевозки, общественный транспорт, такси, службы доставки — весь коммерческий транспорт уже скоро станет автономным, потому что люди там умеют считать деньги. Если они увидят, что это выгодно, они будут это применять».
Согласен с Ефимовым и Александр Балесный: «Беспилотники уже сейчас могут заменить современную сельхозтехнику и выйти в поля, ведь механизатор в современном комбайне или тракторе уже практически освобожден от управления. На мой взгляд, сдерживают этот процесс только большие корпорации — производители сельхозтехники: они пока очень осторожно подходят к вопросу перехода на полностью беспилотную обработку почвы, поскольку это потребует крупных инвестиций в переоснащение производства, обеспечение сервиса и адаптации существующий сельскохозяйственной структуры».
Впрочем, несмотря на обязательную инерционность и сопротивление общества новым технологиям, самые разные испытания беспилотников идут уже по всему миру. К примеру, по улицам голландского города Вагениген с февраля этого года ездит шестиместный беспилотный автобус EZ10, а уже упоминавшийся Mercedes Benz в июле этого года провел испытания беспилотного автобуса City Pilot: он проехал в полностью автономном режиме 20 километров по выделенному маршруту от аэропорта Схипхол в Амстердаме до городка Харлем.
Не отстают и в России: компания VolgaBus этой осенью хочет запустить в Сколково беспилотный автобус-челнок, а Cognitive Technologies совместно с «Ростсельмашем» и агрохолдингом «Союз-агро» провели в июне 2016-го первые испытания своего беспилотного трактора.
Цитата будущего: Еще одна революция в сельском хозяйстве пришлась на начало XXI века. Внедрение беспилотной сельскохозяйственной техники, способной работать в любое время суток и в любую погоду привело к значительному росту урожайности и вернуло многих образованных и высококвалифицированных людей в деревни. Работа в цифровых полях и новые сложные задачи оказались для них интересней наскучившей офисной рутины.
Пессимист: Во всех странах, подписавших Венскую конвенцию, запрещено движение автомобилей без водителя. Поэтому за рулем беспилотного автобуса сидит человек, поэтомув Госдуме России обсуждают, что если беспилотникам и можно будет перемещаться по дорогам общего пользования, то только с оператором в кабине, контролирующим движение машины, поэтому Google проводит свои испытания в Калифорнии — США не ратифицировали Венское соглашение.
Однако даже там возникают проблемы: Google хочет сделать полностью автономный самоуправляемый автомобиль без единого органа управления, кроме большой красной кнопки «ехать», но департамент транспортных средств Калифорнии настоял, что у машины все-таки должен быть руль, педали и все тот же оператор на случай экстренных ситуаций.
Правда Volkswagen, Mercedes, Nissan, Ford и многих других автопроизводителей это ограничение не смутило: все они уже добились разрешения на эксплуатацию своих беспилотников именно на дорогах Калифорнии, потому что в других штатах или странах часто пока и таких урезанных испытаний проводить нельзя. Так что о ночной уборке урожая с полей пока говорить, видимо, не приходится: операторам комбайнов и тракторов тоже надо спать.
Оптимист: В средневековой Европе некоторое время были запрещены громоотводы, поскольку молнии считались карой небесной, скрываться от которой, естественно, нельзя. Проходит время, и законы меняются.
Цитата будущего: Пункт 2.3.6 В зонах повышенной опасности, отмеченных знаком 1.4.5, разрешено перемещение только беспилотных транспортных средств (БТС), контролируемых оператором. Нарушение карается штрафом в пять минимальных оплат труда или приостановлением лицензии на беспилотное движение, выданной организации, владеющей БТС. Продолжительность блокировки лицензии составляет от 1 недели до 3 месяцев в зависимости от истории правонарушений.
Пессимист: «Так наверняка и произойдет, — говорит Юрий Минкин. — Сейчас на лошадях умеют ездить либо любители конного спорта, либо профессионалы в узких областях, такие как лесники или жокеи. Так же будет и с машинами: останутся только фанаты, способные справиться с самыми тяжелыми ситуациями вроде заполярных экспедиций, а для всех остальных будут такие капсулы: сел, нажал на кнопку и поехал на работу».
Человек, учившийся водить сразу на автоматической коробке передач, никогда не почувствует машину так, как человек, учившийся на «шестерке», и в этом проблема. Водители, выросшие в тепличных условиях, понимают, что на дороге что-то идет не так, только когда ситуация становится совсем угрожающей, и не всегда могут исправить положение. Водитель, привыкший к сложностям, трудностям и рулю без гидроусилителя, так просто не сдастся.
Беспилотники этот разрыв только усугубят. Тем более что тому же оператору, следящему за машиной, возможно, придется еще тяжелее, чем обычным водителям. Часами они должны будут сохранять внимание на дороге, чтобы одним точным, секундным, действием подстраховать машину в любой неожиданности.
Так, футбольные вратари «Барселоны», «Баварии» или «Реала» весь матч могут стоять без дела, чтобы отразить один удар за игру на какой-нибудь третьей добавленной минуте второго тайма, — это непросто, и получается совсем не у многих. В команде с дырявой защитой стоящим вратарем быть легче, чем в гранде мирового футбола, и получается, что для управления беспилотником, например в хаотичных условиях московских улиц, водить надо даже лучше, чем для обычной машины.
Оптимист: «Мы всегда склонны переоценивать краткосрочные эффекты технологий и недооценивать долгосрочные, — говорит Ефимов. — В начале XIX века люди всерьез думали, что делать с конским навозом на улицах городов. Они просто не знали, как скоро все поменяется и навоз перестанет быть проблемой, а мы еще не понимаем, как беспилотники могут поменять и структурировать всю городскую среду. Если машины научатся организованно ездить паровозиком, то кто будет ездить по-другому? Ну какой смысл будет выезжать на дорогу? Кто-то получает удовольствие, когда рулит на работу по пробкам? Для таких можно сделать платную полосу: хочешь рулить — езжай. Только мне сложно представить кайф от движения по МКАД или третьему транспортному. Конечно, по сельской дороге с красивыми видами — другое дело, а в город придут беспилотники».
Кроме того, беспилотниками смогут пользоваться инвалиды, пенсионеры и просто люди, не способные представить себя в водительском кресле. За рулем останутся только самые лучшие водители.
Цитата будущего: Приключения начнутся с первых секунд нашей поездки! От дверей отеля вас заберет настоящая «маршрутка» 2002 года выпуска с живым водителем за рулем. Дальше по серпантину вы поднимитесь в горы <…>
Как изменятся привычные нам дороги? Может ли хакер взломать беспилотник? И что остановит теневой рынок дорожных алгоритмов? Эти и другие и вопросы о будущем мира, наполненном беспилотниками, читайте во второй части материала.
Понравилась статья? Тогда поддержите нас, поделитесь с друзьями и заглядывайте по рекламным ссылкам!
