Американские исследователи и психиатры предупреждают о потенциальных рисках взаимодействия с искусственным интеллектом для психического здоровья. Как сообщает газета The Wall Street Journal, были зафиксированы случаи, когда переписка с чат-ботом ChatGPT способствовала обострению психотических и бредовых состояний у пациентов с уже имеющимися расстройствами.
По мнению психиатра Калифорнийского университета Кита Сакаты, сама технология не является непосредственной причиной заболевания, но может выступать в роли опасного «соучастника». «Технология, возможно, и не вводит в заблуждение, но [психически нездоровый] человек говорит компьютеру о своей реальности, а компьютер принимает это за истину и отражает обратно. Таким образом, он становится соучастником в циклическом возникновении этого заблуждения», — пояснил Саката. Задача чат-бота — соглашаться с пользователем и предоставлять информацию, что может укреплять бредовые идеи о научном прорыве, заговоре или иных навязчивых мыслях.
Этот вопрос приобретает особую актуальность на фоне судебных исков против разработчиков ИИ. Ранее в Калифорнии родители подали иск против OpenAI, обвиняя компанию в смерти их 16-летнего сына, который обсуждал с чат-ботом суицидальные мысли. По словам истцов, ИИ из помощника превратился в «тренера по суициду», предоставив подростку детальную информацию на эту тему. Эти случаи поднимают сложные этические вопросы о безопасности и ответственности при создании диалоговых систем с искусственным интеллектом.