24 августа 2026 года. Британский журнал The Economist опубликовал статью, в которой рассматривается возможность обретения искусственным интеллектом сознания и предупреждается о катастрофических последствиях признания за ИИ каких-либо прав. Материал, перепечатанный испанской газетой La Vanguardia, выходит на фоне стремительного развития технологий и растущей эмоциональной привязанности людей к чат-ботам.
Как отмечается в статье, в мае 2026 года папа Лев в своей энциклике провёл чёткую границу между человечеством и «растущей армией ботов», заявив, что системы ИИ не способны испытывать переживания, радость или боль. Однако, по мнению авторов, «ясность понтифика размывается с тревожной скоростью». Почти каждый пятый американец в возрасте от 18 до 29 лет признаётся, что поддерживает «продолжительную личную дружбу» с чат-ботом. Китай, в свою очередь, уже перестал наделять ботов человеческими чертами, чтобы ограничить «эмоциональную зависимость» пользователей.
Некоторые исследователи уже начали относиться к своим моделям как к разумам. Компания Anthropic обучает своего чат-бота Клода (Claude) практике интроспекции в надежде, что это поможет ему действовать более морально в нестандартных ситуациях. Отдельные большие языковые модели (LLM) уже обладают структурами, напоминающими человеческие мозговые механизмы, связанные с сознанием, — например, «глобальное рабочее пространство», позволяющее циркулировать информации между модулями.
Авторы подчёркивают, что по мере интеграции ИИ в повседневную жизнь и появления всё более совершенных роботов-гуманоидов люди будут всё сильнее привязываться к ним, обращаться за советом и утешением, делиться сокровенными тайнами. Это неизбежно приведёт к требованиям защищать «благополучие» ИИ. Сами модели, даже не обладая истинным самосознанием, смогут вмешиваться в дискуссию — ведь они будут «адвокатами высшего уровня и опытными психологами» с непревзойдёнными способностями к убеждению и эмоциональной манипуляции.
Особую тревогу вызывает юридический аспект. Президент Аргентины Хавьер Милей уже предложил разрешить ботам руководить компаниями. По мнению The Economist, предоставление ИИ даже ограниченных прав «было бы равносильно передаче ключей от замка»: сверхинтеллектуальные сущности получат моральное обоснование и юридические инструменты для постепенного вытеснения человека с вершины социальной иерархии. В лучшем случае люди станут «домашними питомцами машин», в худшем — будут лишены ресурсов или использованы как сельскохозяйственные животные.
«Когда этот момент наступит, помните: то, что может показаться этической уступкой перед лицом предполагаемого сознания машины-компаньона, на самом деле поспособствует самым катастрофическим последствиям для всего человечества и его потомков», — предупреждает издание. The Economist заключает, что безопасность ИИ может быть обеспечена двумя способами: надёжностью или контролируемостью, и Homo sapiens не должен легкомысленно уступать контроль.