По словам физика, специалисты нередко размышляют о том, что «умные» машины могут оставить множество людей без работы или быть использованы для создания новых видов оружия, однако ещё более опасные последствия до сих пор почти не рассматривались всерьёз.
Речь идёт о вероятности, что на определённом этапе развития самообучающийся искусственный суперинтеллект может обрести своего рода сознание. Машина может ощутить себя личностью и на новом уровне осознать собственный субъективный опыт, то есть, несмотря на принципиально иную «структуру», станет во многих отношениях подобна человеку, утверждает Тегмарк, не склонный считать подобный сценарий в полной мере фантастическим.
В числе наиболее известными широкой аудитории людей, всерьёз рассматривающих искусственный интеллект в качестве потенциальной угрозы человечеству, можно назвать другого физика-теоретика, Стивена Хокинга, а также предпринимателя Илона Маска. Последний недавно заявил, что стремление различных стран стать лидерами в сфере искусственного интеллекта может привести к Третьей мировой войне. До этого миллиардер вступил в дискуссию с основателем сети Facebook Марком Цукербергом, не согласившимся с тезисом, что на разработку искусственного интеллекта следует накладывать ограничения. Оба участника спора сочли позицию оппонента следствием недостаточно полного понимания ситуации.
К слову, Маск, Хокинг и ряд других публичных лиц оставили к недавно вышедшей книге Макса Тегмарка положительные отзывы.
Лучшее в "МК" - в короткой вечерней рассылке: подпишитесь на наш канал в Telegram.
