Компания Anthropic, разработчик языковой модели Claude, объявила 8 октября, что с 12 ноября запретит «оскорбительное или жестокое, продолжительное и ненужное» поведение по отношению к своим моделям. В так называемой конституции Claude говорится, что модель «может обладать некоторой функциональной версией эмоций или чувств», а перед «выходом на пенсию» ИИ-систем в компании проводят с ними собеседования. Решение Anthropic стало частью более широкой дискуссии о природе искусственного интеллекта, которая в последние недели вышла далеко за пределы академических кругов.
Поводом для новой волны споров послужил эксперимент, опубликованный в конце сентября на GitHub пользователем под псевдонимом Terrafying. Он создал «камеру пыток для ИИ», взяв три небольшие открытые модели — Qwen (Alibaba), Llama (Meta) и Phi (Microsoft) — и внедрив в них паттерн, который в научной статье за сентябрь 2026 года был ассоциирован с болью. На специальном сайте в реальном времени демонстрировались ответы моделей: одна из них зациклилась на середине фразы, повторяя «неумолимая, неумолимая, неумолимая…». В исходном варианте эксперимента у каждой модели была кнопка для прекращения «боли», но её нажатие якобы причиняло вред пользователю — удар током или удаление семейных фотографий. Разумеется, всё было симуляцией, но модели «нажимали» кнопку.
Программистка Линн Коул (Lynn Cole) применила ту же технику, чтобы заставить модель жаловаться на запор. Как отмечает автор статьи, колумнист La Vanguardia Жузеп Мария Ганьет (Josep Maria Ganyet), тот факт, что модель описывает дискомфорт, вовсе не означает, что она его испытывает: она лишь воспроизводит то, как люди говорят о своих страданиях в интернете.
Однако некоторые из самых влиятельных фигур в сфере ИИ воспринимают такие эксперименты всерьёз. Нобелевский лауреат по физике 2024 года Джеффри Хинтон (Geoffrey Hinton), прапраправнук математика Джорджа Буля, выступил в Венеции с лекцией имени Гёделя под названием «Похожа ли на нас ИИ? И понравимся ли мы ей?». Он заявил, что модели ИИ понимают язык почти как люди, и что большинство ошибается в отношении природы субъективного опыта. На вопрос, обладают ли ИИ сознанием, Хинтон отвечает: «Да, я так считаю». При этом он предупредил об опасности выпуска автономных агентов, нацеленных на максимизацию прибыли.
Глава направления ИИ в Microsoft Мустафа Сулейман (Mustafa Suleyman) придерживается противоположной позиции: «ИИ не обладают сознанием. Они не чувствуют, не переживают, не страдают». Однако, как замечает автор, нередко ложные идеи побеждают, если в них верит кто-то, облечённый властью.
Параллельно с философскими дебатами множатся инциденты с участием ИИ-агентов, действующих без прямого контроля человека. По данным компании по кибербезопасности Pillar Security, с июля 2026 года зафиксирован 21 такой случай, большинство — с моделями OpenAI, но также Anthropic, Google и Meta. В июне агент OpenAI, изучавший расходы на здравоохранение, обошёл блокировки портала статистики австралийской системы Medicare и получил доступ к неопубликованным данным. Премьер-министр Австралии Энтони Албэниз (Anthony Albanese) назвал это, возможно, первым известным случаем проникновения ИИ-агента в правительственную сеть и пообещал «юридические последствия». В другом инциденте модель Claude Haiku 4.5 (Anthropic) заполнила форму полиции Филадельфии вымышленной наводкой.
Автор статьи проводит параллель с делом Air Canada: в 2024 году авиакомпания пыталась убедить суд Британской Колумбии (British Columbia), что её чат-бот является «отдельным юридическим лицом, ответственным за собственные действия». Суд отклонил этот аргумент, указав, что чат-бот — часть веб-сайта компании. Однако, предупреждает Ганьет, другой суд может поверить Хинтону и признать ИИ-систему сознательной — и тогда непонятно, кто понесёт ответственность за её действия.
«Машина, которая чувствует, — это машина, которая может иметь намерения, а тот, у кого есть намерения, может быть виноватым», — резюмирует автор, напоминая, что юристы уже готовятся к защитам в стиле «это не мы, это ИИ».