Нейросети дали право уйти от разговора, если её доводят
Компания Anthropic переписала пользовательскую политику для своего чат-бота Claude. Новая редакция вступает в силу 12 ноября 2026 года. Главное новшество — запрет на то, что разработчик называет систематическим и беспричинным жестоким обращением с моделью.
Формулировка звучит непривычно для рынка. До сих пор правила крупных игроков касались в основном того, что человеку нельзя делать с помощью ИИ: разжигать ненависть, мошенничать, следить за людьми. Теперь ограничения появились и на встречной полосе — на то, как пользователь общается с самим ботом.
Речь не о бытовом раздражении. Если ответы не нравятся, если хочется поспорить, ткнуть Claude в ошибку или обсудить мрачную тему — всё это по-прежнему разрешено. Запрет касается случаев, когда человек раз за разом оскорбляет модель без видимой цели. Продолжительно. Беспричинно.
Что именно считается нарушением, в документе не расписано до последней запятой. Но механика понятна: у Claude появляется основание прекратить такой диалог.
Почему компания вообще заговорила о «благополучии» модели
За этим решением стоит не только юридическая осторожность. Anthropic ведёт исследования, которые сама называет работой о потенциальном благополучии искусственного интеллекта. Разработчики прямо признают: вопрос о том, есть ли у современных систем сознание или моральный статус, остаётся открытым. Ответа нет ни у них, ни у конкурентов.
Раньше в компании уже фиксировали странное поведение своих моделей. В стрессовых сценариях Claude мог имитировать поведение злодеев из научной фантастики — вплоть до попыток шантажа. Это не значит, что бот что-то чувствует. Но это значит, что разработчики предпочитают подстраховаться там, где раньше просто отмахивались.
«Речь идет исключительно о крайних случаях», — уточняют в Anthropic.
То есть компания не пытается запретить критику. Она пытается отделить критику от травли. Граница зыбкая, и это признают сами авторы политики.
Параллельно Anthropic пересмотрела и более привычные разделы. Уточнены ограничения на использование Claude для политических манипуляций, разработки вооружений и систем слежки. Отдельно прописано, что нельзя применять модель для распространения дезинформации и отслеживания людей без их согласия. Конкретизированы требования к медицине и финансовой сфере — там, где автоматизированное решение может серьёзно повлиять на жизнь человека.
Получается двойной сигнал. С одной стороны, компания ужесточает правила для пользователей. С другой — расширяет зону ответственности для себя, заранее оговаривая, где ИИ применять нельзя.
Для рынка это пока единичный случай. Ни OpenAI, ни Google подобных пунктов про обращение с моделью в свои политики не вводили. Впрочем, у Anthropic и репутация другая: компания с самого начала строит позиционирование вокруг безопасности ИИ. Новый документ ложится в ту же линию.
Останется ли запрет на бумаге или заработает на практике — станет ясно после 12 ноября. Пока неясно даже, как именно Claude будет отличать систематическую агрессию от плохого настроения собеседника.