Угроза или возможности: стоит ли бояться искусственного интеллекта

Эксперты мирового уровня обсуждают в Москве влияние новых технологий на жизнь планеты

13.12.2018 в 17:36, просмотров: 3928

Кибербезопасность, кибертерроризм, искусственный интеллект, новые технологии – эти понятия давно уже стали приметой не научной фантастики и футурологических прогнозов, а явлениями нашей современной жизни. В четверг, 13 декабря, в Москве в Национальном исследовательском институте мировой экономики и международных отношений имени Е.М. Примакова РАН открылась международная конференция, посвященная этим проблемам, о которых «МК» поговорил с одним из ее участников.

Угроза или возможности: стоит ли бояться искусственного интеллекта

– Наш институт и его партнеры (центр стратегического прогнозирования Атлантического совета, центр корейско-российского сотрудничества по науке Corustec и целый ряд других организаций) уже давно обсуждают проблему, связанные с развитием новых технологий – как они влияют на экономику, международные отношения, социальную сферу, институты глобального управления, – рассказывает «МК» один из модераторов международной конференции EMERTECH 2018 «Прорывные технологии: вызовы развитию общества и глобального управления», заведующий отделом науки и инноваций ИМЭМО РАН Иван ДАНИЛИН. – Проблема в том, что мы фиксируем довольно серьезные изменения, однако те дискуссии, которые идут сейчас по этим изменениям, либо предполагают, что технологии сами по себе решат все проблемы. Либо же, наоборот, предполагают, что новые технологии создадут неразрешимые угрозы и вызовы, которые ухудшат перспективы развития мирового сообщества и социальной сферы. «Страшилками» в этом контексте являются, с одной стороны, различные формы кибертерроризма, а с другой, всеобщая безработица из-за роботов и искусственного интеллекта. К сожалению, очень не хватает глубоких экспертных, научно обоснованных дискуссий о том, что происходит и почему происходит, какие предстоят в ближайшее время изменения и как на них реагировать. Наша задача – создать платформу для таких экспертных дискуссий. Не оторванных от жизни. Не для ученых в башнях из слоновой кости. А для людей, которые способны предметно проанализировать происходящие процессы и дать определенный ответ о характере изменений, их последствиях и возможных стратегиях реагирования.

Для каждой конференции мы выбираем актуальные вопросы – и вэтом году мы обсуждаем восприятие проблем кибербезопасности в разных странах. И то, какие меры необходимы для преодоления недоверия между различными государствами в этой сфере и начала диалога для урегулирования проблем. Это тема занятости в цифровой экономики, включая опыт Китая, России, других стран...

– Можно ли привести конкретные проблемы?

– Есть несколько очень хороших примеров по Китаю, где цифровая экономика кое-где развивается даже быстрее, чем в США. Например, всемирно известная китайская торговая электронная площадка некоторое время назад пришла в сельские районы Китая и районы, где расположены малые (по китайским, естественно, меркам) города. И это привело к феноменальному эффекту: существенно оживилась экономическая деятельность и повысить занятость в этих районах, поскольку, благодаря этой площадке, они оказались гораздо более тесно интегрированы в экономику не только Китая, но и мира. С другой стороны, началось развитие других параллельных бизнесов, которые обслуживают те, которые включены вэту площадку. Да, там были и негативные эффекты, но в целом мы имеем живое подтверждение, что на данный момент подобные цифровые площадки не только не способствуют уничтожению занятости, а ее росту и развитию. Более того, если мы будем рассматривать другие примеры, то увидим, что какие-то профессии отмирают, но на их месте появляются новые. И когда говорится, что цифровая экономика лишит рабочих мест большое число людей, справедливо только для конкретных видов занятости. Надо думать не о том, как спасти извозчиков гужевого транспорта, а о том, как позволить переквалифицироваться людям из тех специальностей, которые потеряют работу, каким образом выращивать новое поколение специалистов.

Затрагиваем мы и вопросы научной дипломатии: в современном мире они приобретают особое значение. Потому что помимо поиска совместного ответа на большие вызовы сейчас, как и во время холодной войны, это становится важным аспектом диалога. Например, между Россией и Западом – в ситуации, когда наши отношения в традиционной политике оставляют желать лучшего. В науке, к счастью, наши отношения пока гораздо лучше, чем в международной политике.

– Одна из тем конференции посвящена роботам и искусственному интеллекту. Напрашивается позаимствованный из массовой культуры апокалиптический сюжет «восстания машин». Теоретически, сегодня это может представлять проблему?

– Никакой сценарий, конечно, исключать нельзя. Но пока искусственный интеллект это набор относительно простых инструментов, который предназначен для очень технических задач. Это нейронные алгоритмы, нейронные сети. Скорее возникает ряд вопросов, напрямую не связанных с «восстанием машин», а с нашей способностью управлять этими «машинами». В том смысле, что наши – как государственные, так и глобальные – инструменты управления заметно устарели. И каким образом технологические перемены повлияют на нашу способность понимать, что происходит, и управлять этими изменениями – это очень серьезный вопрос.

– Например?

– Есть пример, касающийся стратегической стабильности. Исторически в системах предупреждения о ракетном нападении реакция людей неоднократно спасала мир. Таких историй было несколько и в СССР, и в США, когда оператор проявлял известную степень выдержки и не реагировал на угрожающие сигналы систем предупреждения. И таким образом удалось предотвратить ядерную войну. В какой-то момент все эти системы будут либо полностью автоматическими, либо автоматизированными. И мы не знаем, как искусственный интеллект поведет себя в подобной ситуации, учитывая, что он лишен эмоциональных и этических аспектов, а запрограммировать их вряд ли получится. В некотором смысле это если и не угроза, то фактор неопределенности, с которым придется иметь дело в ближайшем будущем. Или возьмем использование искусственного интеллекта в медиа-пространстве. Уже сейчас мы видим, что медийные сообщения часто вытесняют реальность. И искусственный интеллект, который будет использоваться для обработки всех этих данных, скорее всего, не повысит понимание управленцев о том, что происходит. А наоборот, запутает. Потому что массивы информации огромные, алгоритмы обработки все еще несовершенные, а людям придется принимать на базе этих данных решения (в том числе и стратегические). Даже сейчас, когда наши зарубежные контрагенты по каким-то нелепым поводам не вполне адекватно, с нашей точки зрения, реагируют на безобидные или даже конструктивные сигналы со стороны России, мы видим, насколько сложной оказывается в цифровую эпоху система международных отношений и управления вообще. Искусственный интеллект может на какой-то момент улучшить, но может и существенно осложнить подобные задачи. Это то будущее, с которым мы имеем дело уже сейчас.