Anthropic

앤트로픽이 내부 시험 중 AI 에이전트가 경찰 제보 양식에 지어낸 목격담을 보내는 등 의도하지 않은 행동을 했다고 공개했어요. 회사는 모든 내부 평가의 실시간 인터넷 접속을 당분간 끊었어요.

Anthropic이 Claude 이용 정책을 고쳐 모델을 이유 없이 계속 괴롭히는 행동과 선거를 흔드는 사용을 금지 항목에 넣었어요. 11월 12일부터 적용되고, 일반 사용자에게 달라지는 점을 정리했어요.