Исследователи утверждают, что в Китае разработан «прокурор» на основе искусственного интеллекта, который может обвинять людей в преступлениях с точностью более 97 процентов.
Как пишет Daily Mail, антиутопическая машина может выявлять «инакомыслие» против государства и предлагать приговоры предполагаемым преступникам, исключая людей из процесса преследования.
Уже есть опасения, что система может быть использована правящей Коммунистической партией Китая, поскольку прокуроры будут обеспокоены тем, кто возьмет на себя ответственность за решения искусственного интеллекта.
Чудо-инструмент может подавать обвинения на основе устного описания дела; он был был создан и протестирован Народной прокуратурой Шанхая Пудун, крупнейшей и самой загруженной районной прокуратурой в Китае.
По словам ведущего ученого проекта профессора Ши Юна, искусственный интеллект позволит людям-прокурорам облегчить их рабочую нагрузку и позволит им сосредоточиться только на более сложных делах.
Система может работать на стандартном настольном компьютере и будет выдвигать обвинения на основе 1000 «черт» из текста описания случая, созданного людьми, сообщает гонконгское издание South China Morning Post.
В период с 2015 по 2020 год систему «обучили» на основе 17000 реальных случаев, и она способна выявлять и выдвигать обвинения по восьми наиболее распространенным преступлениям в Шанхае.
К ним относятся «провоцирование неприятностей» – термин, используемый для подавления инакомыслия в Китае, мошенничество с кредитными картами, преступления связанные с азартными играми, опасное вождение, кражи, мошенничество, умышленное причинение травм и воспрепятствование выполнению служебных обязанностей.
Вскоре прокурор на основе AI сможет распознавать больше видов преступлений и выдвигать несколько обвинений против одного подозреваемого.
Профессор Ши Юн пишет в статье, опубликованной в журнале Management Review: «Система может в определенной степени заменить прокуроров в процессе принятия решений».
Некоторые технологии искусственного интеллекта уже используются в правоохранительных органах, но впервые они будут задействованы в выдвижении обвинений.
В Германии распознавание изображений и цифровая криминалистика используются для помощи при рассмотрении дел, в то время как в Китае используется инструмент, известный как Система 206, для оценки доказательств, потенциальной опасности подозреваемого и условий ареста. Но система не играет никакой роли в процессе принятия решений и не предлагает предложений.
Один прокурор в Гуанчжоу говорит, что он обеспокоен новой технологией: «Точность 97 процентов может быть высокой с технологической точки зрения, но всегда будет шанс на ошибку. Кто возьмет на себя ответственность, когда это произойдет? Прокурор, машина или разработчик алгоритма?»
Он добавил, что многие прокуроры не захотят, чтобы компьютеры вмешивались в их работу. «ИИ может помочь обнаружить ошибку, но он не может заменить человека при принятии решения», – сказал прокурор.
Есть также опасения, что система не поспеет за изменяющимися социальными стандартами и может стать оружием государства. Китайское правительство все больше полагается на ИИ для повышения своей производительности, и уже есть машины для борьбы с коррупцией и усиления государственного контроля, пишет Daily Mail.
