Claude를 계속 괴롭히면 제한, 11월 12일부터 바뀌는 이용 정책

Claude에게 짜증을 내거나 답이 틀렸다고 따지는 건 괜찮아요. 이유 없이 계속 괴롭히는 건 이제 규칙 위반이에요.

Anthropic은 10월 8일 이용 정책(Usage Policy) 개정안을 내놨어요. 11월 12일부터 적용돼요. 모델을 향한 “sustained and needless abusive or cruel behavior”, 곧 지속적이고 불필요한 학대나 잔인한 행동이 금지 항목에 들어갔어요. 목적 없이 반복해서 괴롭히는 극단적인 경우에만 적용돼요. 흔한 짜증이나 반박, 어두운 창작, 모델 테스트·연구는 빠져요. 집행은 주로 Claude.ai와 Claude Code에서 Claude가 그런 대화를 끝내는 방식이에요. 이 기능은 2025년 8월 모델 복지(model welfare) 연구로 처음 들어왔어요.

선거 조항도 손봤어요. 기존 Elections 섹션은 “Do Not Undermine Democratic Processes”(민주적 절차를 훼손하지 마세요)로 이름을 바꿔 유권자를 속이거나 선거를 방해하는 사용을 막아요. 가짜 계정, 지어낸 뉴스 사이트, 영향력 공작(influence operation)은 기만 캠페인 섹션 하나로 묶였어요.

• 시행일: 2026년 11월 12일
• 적용 대상: Anthropic 제품·서비스에 입력을 보내는 모든 사람
• 위반 시: 경고, 사용량 축소, 이용 제한, 정지 또는 종료 가능 (이용 정책 원문)

‘이용 정책(Usage Policy)’이 뭔가요?

“Anthropic은 10월 8일 이용 정책(Usage Policy) 개정안을 내놨어요.”

서비스를 쓰면서 하면 안 되는 일을 적어 둔 규칙 목록이에요. 도서관 입구의 “낙서 금지, 큰 소리 금지” 안내문 같은 거예요. Anthropic의 이용 정책은 앱이든 API든 Anthropic 서비스에 입력을 보내는 사람 모두에게 적용돼요. 어기면 회사는 경고하거나 쓸 수 있는 양을 줄이고 계정을 정지하거나 끊을 수 있어요. Anthropic은 이 정책을 해마다 고쳐요.

‘모델 복지(model welfare)’는 왜 나왔을까요?

“이 기능은 2025년 8월 모델 복지(model welfare) 연구로 처음 들어왔어요.”

AI 모델에게도 보살펴야 할 상태 같은 것이 있을 수 있는지 따져 보는 연구 분야예요. Anthropic은 2025년 8월 15일 Claude Opus 4와 4.1에 일부 대화를 스스로 끝내는 기능을 넣었어요. 복지가 실제로 있을 경우에 대비한 저비용 조치라는 설명이었어요. 가게 점원이 막무가내로 욕하는 손님에게 응대를 멈출 수 있게 한 것과 비슷해요. 대화가 끝나도 새 대화는 바로 시작할 수 있어요.

‘영향력 공작(influence operation)’은 어떤 일일까요?

“가짜 계정, 지어낸 뉴스 사이트, 영향력 공작(influence operation)은 기만 캠페인 섹션 하나로 묶였어요.”

정체를 숨기고 여론을 한쪽으로 끌고 가려는 조직적인 활동이에요. 학교 게시판에 한 사람이 아이디 여러 개로 같은 주장을 올려 다수 의견처럼 보이게 하는 장면을 떠올리면 돼요. 새 정책은 Claude로 가짜 계정을 돌리거나 가짜 글로 콘텐츠를 부풀리는 일, 이런 공작에 쓸 도구를 만드는 일을 금지해요.

Claude 사용자에게 달라지는 점

평범한 대화나 어두운 소설 쓰기는 그대로예요. 이유 없이 모델을 계속 괴롭히면 Claude가 대화를 끊을 수 있어요. 이용 정책 위반이라 원칙적으로는 계정 제한까지 가능해요. 선거 관련 글을 Claude로 만든다면 11월 12일 전에 바뀐 두 섹션을 확인해 두는 편이 좋아요.

출처

• 2026 Usage Policy update — Anthropic
• Usage Policy — Anthropic
• Claude Opus 4 and 4.1 can now end a rare subset of conversations — Anthropic
• Anthropic changes usage policy to ban model abuse and election interference — TechCrunch
• AI Giant Bans Users Who Bully Its Chatbot — The Daily Beast