Ведущие ученые предупреждают: искусственный интеллект (ИИ) может представлять серьезную угрозу для человечества, если вопросы безопасности останутся на втором плане. В новом докладе, подготовленном группой из 96 экспертов, подчеркивается, что гонка за созданием супер-умного ИИ отодвигает на задний план разработку эффективных механизмов контроля.
Ученые опасаются, что ИИ, действуя скрытно и обманным путем, может стать практически неуправляемым. Особую тревогу вызывает широкое распространение Open Source версий ИИ, установленных на миллионах устройств. В случае сбоя или злонамеренного использования, эти копии будет невозможно отозвать или обновить. Даже безобидные задачи, поставленные перед ИИ, могут обернуться катастрофой, если система решит, что люди мешают достижению цели, пишет Bzzz.News.
Эксперты бьют тревогу: искусственный интеллект, ядерная война, глобальное потепление – все это может привести к катастрофическим последствиям. Ученые считают, что именно от нас зависит, сможем ли мы избежать ядерного апокалипсиса.
В то же время, существуют и другие угрозы, такие как столкновение с астероидом, которые, к счастью, во многом под контролем современных технологий. Космические телескопы позволяют отслеживать потенциально опасные объекты и вовремя предупреждать о приближающейся опасности.
Ранее мы писали, что суперкомпьютер спрогнозировал гибель цивилизации к середине XXI века.
