Заложники роботов

8 ноября 2007 в 15:08, просмотров: 253

Реклама автоматических пылесосов, которые в отсутствие хозяев самостоятельно уберут квартиру, далеко не редкость. Одна из японских фирм выпускает собак-роботов. Киборги из героев фильмов фэнтези перекочевывают в повседневную жизнь человека и даже облегчают ее. Все это хорошо, но кто будет отвечать, если пылесос, иное техническое устройство вдруг выйдет из-под контроля или собака-терминатор кого-нибудь покусает?

Термину «робот» всего шестьдесят лет. Придумал и впервые употребил его в своей пьесе «R. U. R.» чешский драматург Карел Чапек. На чешском это слово означает «рабочий». Впрочем, сама идея умного, не устающего, сильного механического слуги возникла значительно раньше. Интеллект человечества неустанно работает, претворяя в жизнь эту идею.

Последние несколько лет ученые уделяют серьезное внимание изучению технологии производства роботов. Одно из последних достижений в этой области – «существо», которое может проверять нефтегазопроводы на дне моря. Перемещаясь по трубам и проверяя их с помощью ультразвуковых технологий и рентгена, робот посылает нужные данные по поводу его состояния.

Но особого внимания заслуживает идея массового создания бытовой робототехники. Для реализации этих замыслов должно пройти много времени. Например, китайские инженеры утверждают, что роботы войдут в жизнь населения страны и будут обслуживать человека, обеспечивать безопасность членов семей в последующие 15–20 лет.

Тем не менее рекламные объявления призывают нетерпеливых уже сегодня заказать в подарок терминатора.

Робот-кулинар, получив нужные продукты, может за считаные минуты приготовить то или иное блюдо. Домашний робот, получив по мобильному телефону приказ хозяина, выдаст информацию о том, все ли в порядке в жилище.

Глаза потребителей горят. Это так соблазнительно – позволить роботам немного изменить свою жизнь. Тем более что сфера их деятельности становится все более разнообразной: газонокосилки, пылесосы, конструкторы, музыкальные и дендроидные роботы. А в некоторых местах они уже с успехом заменяют обслуживающий персонал ресторанов. Проникновение роботов в жизнь идет полным ходом.

РОБОЭТИКА

Но будущее роботов беспокоит не только инженеров, ученых и фантастов. О них размышляют философы, социологи, антропологи, литераторы. Как искусственные помощники будут в дальнейшем взаимодействовать с обществом людей? Не обладают ли интеллектуальные роботы сознанием? Думают ли они? Не придет ли им «в голову» со временем начать манипулировать людьми? И вообще, может ли робот представлять опасность для человечества?

Специалисты определяют несколько направлений, вызывающих опасения.

Прежде всего, конечно, военная сфера. Машины с дистанционным управлением, которые отслеживают и убивают, уже есть. В процессе разработки – автономные роботы, создающиеся с той же целью. Естественно, перспективы развития автономного оружия неизбежно поднимают этические вопросы.

Например, кто должен нести нравственную ответственность за военное преступление, совершенное беспилотным самолетом или танком? Позволено ли, например, машинам отдавать приказы?

Другой факт, вызывающий обоснованное беспокойство специалистов, – наращивание физической силы роботов, увеличение их размеров. Ведь интеллектуальное развитие таких машин заметно отстает.

В данном случае ярким примером являются японские и американские робототехники, предлагающие пожилым людям и инвалидам механических помощников, шагающие кресла, мобильные руки и тому подобное. Проблема в том, утверждают ученые, что в роли центрального процессора выступает слабый, уязвимый, старый или больной человек. Это неравенство и вызывает беспокойство.

Еще одна опасность носит социальный характер – это человеческая реакция на присутствие гуманоида в непосредственной близости.

На одном из симпозиумов, где обсуждались все эти проблемы, в качестве примера была приведена разработанная компанией Sony робот-собака Aibo. При всем техническом совершенстве она не имеет представления об этике, морали и нравственности.

А вдруг сбой в программе? Не причинит ли робот, находящийся в тесном контакте с человеком, ему вреда? У него нет никаких останавливающих мотивов.

Писатель-фантаст Айзек Азимов считает, что роботы – это не проклятая богом святотатственная имитация жизни, а всего лишь высокоразвитые машины. Машина, если она правильно сконструирована, не может выступить против своего создателя. Но это мнение литератора...

ЗАСТРАХОВАТЬ ТЕРМИНАТОРА

Намечающиеся тенденции ставят перед производителями, теми, кто использует или готов использовать роботов, и страховщиками множество новых вопросов. В зависимости от сложности и состава задачи машины могут взаимодействовать одновременно с человеком, c себе подобными и одним или несколькими специализированными центрами управления. Например, роботы можно использовать для контроля над объектами и инспекции рисков, для обнаружения пожаров и протечек в недоступных зонах – на строительных площадках, в зараженных помещениях и местности, под водой, в вакууме и так далее.

Сфера применения роботов увеличивается еще и потому, что технические устройства обладают таким качеством, как неподкупность.

Они смогут, например, незаметно информировать полицию о происшествии. Кроме этого, они обходятся дешевле, чем охранники. Им не нужны перерывы для отдыха и перекура. При использовании роботов отсутствуют расходы на страхование от несчастных случаев или на выплату соответствующих компенсаций, не оплачиваются бюллетени нетрудоспособности по болезни. Кроме того, уже не будет охранников, которые во время несения службы могут пострадать от грабителей или даже погибнуть. Пользователь наверняка будет также брать в расчет отпугивающий эффект.

Не исключено, что вскоре в страховой анкете или при определении скидки на страховые услуги, например, при страховании от пожара, могут появиться вопросы: контролируется ли здание, земельный участок роботом (или роботами)? Какими типами роботов охраняется объект? Имеет ли ваш робот связь с ближайшим полицейским участком? Есть ли у вас автоматический робот пожаротушения?

ТЕРМИНАТОРСКИЕ РИСКИ

По мере вхождения робота в жизнь и уменьшения непосредственного управления им людьми увеличивается потенциальная опасность причинения вреда. Стало быть, возникает необходимость страхования деятельности роботов.

Если речь идет о страховании их как имущества, проблем тут не возникает. Более того, как показывает практика, роботы-ассистенты могут представлять собой довольно высокую ценность. Высокопрочные и легкие материалы и дорогостоящая интегрированная техника (до 40 микродвигателей, сложные чувствительные элементы и системы, батареи или генераторы энергии, эксклюзивное аппаратное и программное обеспечение, мультимедийная техника), а также их сложная и компактная обработка даже в условиях массового производства имеют значительную стоимость. На цену оказывают влияние также высокая стоимость научно-исследовательских работ по проектированию и затраты на перспективные разработки.

Особый случай – страхование робота от хищения. Здесь предусматривается множество вариантов обеспечения безопасности. Например, вводить в эксплуатацию машины только через применение кодов. Применимы биометрическое распознавание роботом лиц, имеющих право пользования, внешние системы контроля и определение места нахождения, которые выключают робота при подозрении на его похищение.

Если роботы выпускаются в массовых сериях и при этом имеют высокую степень стандартизации, есть опасность, что их будут похищать с целью добычи определенных их деталей и узлов. По этой причине представляется также целесообразным страховать от хищения отдельные узлы роботов.

А вот при имущественном страховании роботов-ассистентов оценка их стоимости может представлять определенные трудности. Как определить, скажем, стоимость узла управления, центрального запоминающего устройства, «мозга» робота, если его «цена» за время взаимодействия робота с человеком и обретения новых сложных свойств постоянно будет увеличиваться?

КТО ВИНОВАТ

Но наиболее интересной областью представляется страхование ответственности. То есть надо предусмотреть ситуацию, при которой роботы могут причинить вред. При этом речь идет, естественно, не только о том, что «невозмутимый дворецкий по недоразумению вылил суп на брюки гостя, вместо того чтобы наполнить супом тарелку».

Робот может стать источником повышенной опасности, если его применяют в массовом порядке и в высокочувствительных областях. То есть если он становится частью человеческого окружения. Кто несет ответственность за этот вред? Можно ли застраховаться от такой ответственности?

Поскольку роботы все-таки являются высокотехнологичными, но в какой-то степени массовыми продуктами, видимо, именно производитель машин будет вынужден нести за свой продукт ответственность. Ее и следует застраховать.

Определить эту ответственность несложно, если речь идет о нарушениях или ошибках, допущенных в процессе изготовления отдельных компонентов или во время монтажа, в блокировке или неисправности механических устройств, отказе электронных устройств и так далее. Сложнее, если речь идет об ответственности за отказ частей системы безопасности или же если сбой дала концепция безопасности изготовителя.

Все вопросы ответственности за продукт существенно осложняются там, где речь идет об ошибочных функциях или «неправильных» действиях робота, причиной которых является программное обеспечение. Так как робот должен развивать «собственный интеллект», ответственность производителя может распространяться максимум на «предварительно определенную функциональность».

Насколько ненамеренно были запрограммированы характеристики в программном обеспечении? Какая часть программного обеспечения отказала? Вопросов немало. К ним нужно причислить и множество факторов, исходящих от окружающей среды.

Уже сегодня очевидно, сколько спорных вопросов может возникнуть из ограничения ответственности за продукт и гражданской ответственности. Эти границы явно расплывчаты и трудноопределимы.

ИСТИНА В «ЧЕРНОМ ЯЩИКЕ»

Еще более интересна ситуация, связанная с гражданской ответственностью перед третьими лицами. Ведь сам по себе робот, являющийся с правовой точки зрения предметом, не может нести никакой ответственности. Ее могут нести владелец или пользователь робота.

Условием ответственности является доказательство того, что вред причинил именно робот, а не посредством него владелец или пользователь. Это предполагает, что каждый робот должен быть зарегистрирован, он должен быть идентифицируемым.

Может быть, для этого необходимо предусмотреть своего рода «черный ящик», регистрирующий любое действие робота во времени и в пространстве.

Какие обязанности в этом случае ложатся на владельца робота? Заявлять об использовании робота и регистрировать его, соблюдать правила технического обслуживания, немедленно информировать правоохранительные органы о хищении или попытках несанкционированного вмешательства, о действиях хакеров.

Видимо, в этой ситуации грубыми нарушениями могут быть: передача андроида посторонним лицам, применение его не по назначению, намеренная перегрузка, манипуляция системами и так далее. Особую форму тяжких преступлений сегодня, судя по развитию современной техники, представляет возможность использования роботов для исполнения террористических актов. Эти случаи рассматриваются уже в рамках соответствующего уголовного законодательства о терроризме.

РЕАЛЬНОСТЬ НА ГРАНИ ФАНТАСТИКИ

Самостоятельность и взаимодействие роботов с человеком повышаются от одного технического поколения к другому. Наивысшая ступень этого развития достигается у так называемых автономных систем – нового поколения роботов, которые, возможно, появятся в будущем. Если они будут созданы, они будут сами решать, как воздействовать на окружающую среду, взаимодействовать с человеком. Не исключено, что в ближайшие пятьдесят лет интеллект среднего персонального компьютера будет выше, чем интеллект человека.

Для этого необходимо совершить прорыв в нанотехнике или в практическом использовании квантовой физики, что позволит значительно увеличить скорость вычислений систем.

Естественно, трудно предсказать сегодня, с какими проблемами может столкнуться страховая компания, которая поставила своей задачей страховать роботов, искусственный интеллект которых в состоянии обеспечить независимость от человека. И кто, например, будет получателем страховки, если нет собственника?

Не превратится ли для таких систем, роботов-индивидов, которые не являются собственностью человека, страхование имущества в собственно страхование жизни человекоподобных машин?

На многие из этих вопросов сегодня ответов еще нет. Может, будут такие системы, которые смогут понять, что такое страхование. Некоторые профессионалы полагают, что лучшим страхованием было бы не позволить этим машинам вообще появиться на свет.    



Партнеры