Учёные не могут научить роботов нарушать закон

Приказав автомобилю «Гугла» прижаться к обочине, сержант полиции американского города Маунтин-Вью Сол Джагер стал первым полицейским, остановившем автомобиль без водителя.
Запишитесь в клуб Открытого телеканала, чтобы получать уведомления о новых проектах, приглашения в студию на телепередачи и на мероприятия в городах.
@

Поделиться проектом с друзьями:

Дело, разумеется, обошлось без штрафа – ведь кому бы он мог его выписать? Однако сидевших в машине инженеров полицейский предупредил, что их автомобиль не должен создавать помехи на трассе, двигаясь со скоростью ниже разрешенной на 25 км/ч.

Движение с низкой скоростью – не единственная проблема водителей-роботов. В мире, где все ежедневно нарушают правила дорожного движения, разработчики не в состоянии «объяснить» им, когда нарушение правил действительно допустимо, а когда нет. Поэтому поведение роботов на дороге часто застаёт водителей врасплох. Так что, пока автомобили без водителей, призванные уменьшить количество аварий на дорогах, приводят к обратному эффекту. Они становятся участниками аварий в 2 раза чаще, чем автомобили с водителями.

И происходит это по одной простой причине — они соблюдают правила. Всегда и все без исключения. На первый взгляд в этом как раз и заключается их преимущество, однако попробуйте сами, соблюдая правила, встроиться в непрерывный поток машин, двигающихся по скоростной трассе со скоростью, намного превышающую разрешенную. Уверен, такая попытка будет не очень успешной. Как минимум, она будет стоить вам огромных нервов.

Потому-то между программистами «Гугла» и университета Карнеги-Меллона не утихают споры: должны ли они программировать автомобили на нарушение правил, чтобы избежать проблем?

«Это давняя дискуссия в нашей группе, — говорит Радж Ражкумар, партнёр-руководитель Питтсбургской совместной научно-исследовательской лаборатории General Motors и университета Карнеги-Меллона. — Мы решили, что необходимо придерживаться ограничения скорости. Но когда мы едем по скоростной трассе с соблюдением скорости, почти все автомобили пролетают мимо вас очень быстро».

В прошлом году Ражкумар предложил американским конгрессменам проехаться на Кадиллаке SRX — автомобиле без водителя, разработанном в их экспериментальной лаборатории. Кадиллак работал отлично, до тех пор пока ему не понадобилось выехать на скоростное шоссе, чтобы за 137 метров пересечь три полосы движения и свернуть в направлении Пентагона. Камеры и лазерные датчики автомобиля просто впали в ступор и не смогли выдать алгоритм вливания в поток, так что управление был вынужден взять на себя человек.

«В конечном итоге мы выбираем осторожность, — говорит Ражкумар. — Мы не хотим становится участниками аварии, так как это немедленно попадет в заголовки». Хотя надо отдать должное, автомобили без водителей никогда не становились виновниками аварий.

Одна из серьёзных проблем, с которыми сталкиваются производители автомобилей без водителя, — этическая, если нужно разработать алгоритм принятия решения в ситуации, когда речь идёт о жизни и смерти. Например, должен ли автомобиль без водителя пожертвовать жизнью своих пассажиров и упасть с обрыва, чтобы избежать столкновения с автобусом, везущим детей.

Зная о подобных проблемах в Калифорнии был опубликован законодательный проект поправок, согласно которым в автомобиле без водителя всегда должен находиться человек, который сможет взять управление на себя.

На что «Гугл», разработавший модель автомобиля без руля и педали газа, заявил, что он «серьезно разочарован» этими предложениями, так как они могут повлиять на установление всемирных стандартов в отношении автомобилей без водителей.

В наступившем году «Гугл» планирует предлагать поездки в автомобилях без водителей в качестве платной услуги. И заявляет, что для опасений нет оснований — на 3,2 миллиона пройденных километров автомобили «Гугла» стали участниками лишь 17 незначительных аварий. Однако, согласно данным Мичиганского университета, в большинстве случаев именно они несут за них ответственность. Однако «Гугл» это отвергает.

«Мы всегда делаем выбор в пользу осторожного вождения», — говорит главный инженер Дмитрий Долгов. По его словам, их автомобили «немного напоминают водителя-ученика или старушку». И «Гугл» работает над тем, чтобы сделать свои автомобили более агрессивными, но законопослушными, чтобы они могли «естественно вписываться в движение».

«Гугл» уже перепрограммировал свои автомобили на более знакомое для других водителей вождение. На перекрестках со знаками «Стоп» их роботы уже умеют постепенно выдвигаться, сигнализируя, что они намерены въехать на перекрёсток. Однако автоматические модели всё ещё способны преподнести сюрпризы своими внезапными остановками. Например, если их датчики распознают пешеходов на тротуаре, готовящихся выйти на проезжую часть.

И пока неясно, как специалисты будут решать эти проблемы. Некоторые из них склоняются к тому, чтобы всё же научить автомобиль нарушать правила, когда это допустимо. Например, пересекать сплошную разделительную линию, чтобы избежать наезда на велосипедистов или дорожных рабочих.

Согласно прогнозам, после того как автомобили без водителей массово выедут на дороги, количество аварий возрастёт, однако серьёзный травматизм уменьшится.

А пока открытым остается вопрос: станем ли меньше нарушать правила дорожного движения, тем самым облегчив роботам вхождение в нашу жизнь, или научим их вести себя так, как ведём себя сами?