Глава Сбера Герман Греф не исключает появления полностью автономного искусственного интеллекта, независимого от человека. Такую гипотезу он высказал в Совфеде на заседании 12 апреля.
Тему рисков из-за растущих возможностей ИИ поднял сенатор Алексей Пушков.
- У кого будет кнопка? Уже сегодня искусственный интеллект генерирует новые фазы искусственного интеллекта. Если он такой всесильный и ему доступны все зоны, которые доступны нам для восприятия, то почему он не может создать закрытую от человека систему? - поинтересовался Пушков.
Герман Греф с прискорбием констатировал, что риски действительно есть. Как любая новая технология, ИИ и нейросети имеют свои опасности. Причем их потенциальный масштаб неизвестен даже разработчикам.
- Если мы говорим о больший лингвистических нейросетях-трансформерах, у них есть такой эффект, как галлюцинация, - рассказал Греф, - Она достаточно уверенно может мотивировать какие-то вещи, которые не соответствуют действительности. Сейчас проводится огромная работа, чтобы лишить эти сети галлюциногенных эффектов. Техническое решение уже найдено, вопрос только в его применении. Глупо утверждать, что это не проблема. Пока мы не видели таких проблем, с которыми нам нельзя было бы справиться как людям. Растет ли количество рисков, когда мы выращиваем фактически конкурента себе и даже конкурента, который очевидно превзойдет по мощности, скорости и объему информации человеческий мозг. Это вопрос, который требует пристального внимания. Точно от него нельзя отмахиваться.
Но Валентина Матвиенко уверена, что всё будет хорошо:
- Будущее не за горами. Технологии сделают жизнь человечества проще и безопаснее, - сказала Матвиенко и поблагодарила Грефа за футуристические подходы. Спокойствие спикера заставило сенаторов отбросить страхи: они единогласно приняли постановление о поддержке инноваций.
