앤트로픽, 반복적 AI 학대 금지 명문화…일반 불만·연구는 제외

1분 전

앤트로픽이 클로드에 대한 지속적이고 불필요한 학대 행위를 금지하는 개정 이용 정책을 공개했다.

정책은 11월 12일 시행되며, 이미 도입된 대화 종료 기능을 주요 집행 수단으로 활용한다.

앤트로픽이 자사 인공지능(AI) 모델을 상대로 지속적이고 불필요한 학대나 잔인한 행동을 하는 것을 금지하는 조항을 이용 정책에 추가했다.

일반적인 불만이나 반박까지 금지하는 것은 아니며, 목적을 식별하기 어려운 반복적·극단적 사례에 적용한다는 설명이다.

앤트로픽은 10월 8일 개정안을 공개했다.

시행일은 11월 12일로, 정책 발표와 실제 효력 발생 시점은 다르다.

회사는 클로드가 해당 상호작용을 종료하는 기능을 주요 집행 수단으로 유지하겠다고 밝혔다.

대화 종료 기능은 이미 도입…정책에 금지 조항 추가

이번 개정으로 클로드에 대화 종료 기능이 처음 생긴 것은 아니다.

앤트로픽은 2025년 8월 클로드 오퍼스 4와 4.1에 드물고 극단적인 유해·학대성 대화를 끝내는 기능을 도입했다고 발표했다.

당시 설명에 따르면 모델은 여러 차례 대화를 다른 방향으로 유도했으나 생산적인 상호작용을 기대하기 어려워진 경우에 최후 수단으로 이 기능을 사용하도록 설계됐다.

이번 정책 개정은 앞서 도입한 기능과 이용 규칙을 연결하는 조치다.

개별 대화의 종료와 계정 전체의 이용 제한도 구분해야 한다.

2025년 기능 안내에서는 종료된 대화에 새 메시지를 보낼 수 없지만 다른 대화에는 영향을 주지 않으며, 새 대화를 시작하거나 이전 메시지를 수정해 다시 시도할 수 있다고 설명했다.

이는 모든 정책 위반에 대한 계정 제재가 없다는 뜻은 아니다.

일반적인 불만과 테스트는 적용 대상에서 제외

앤트로픽은 일상적인 좌절감 표현이나 반박, 어두운 소재의 창작, 모델 테스트와 연구를 이번 조항의 적용 대상에서 제외했다.

따라서 답변 오류를 지적하거나 모델 성능을 검증하는 행위 자체를 금지한 것으로 해석하기는 어렵다.

다만 회사가 공개한 설명만으로 모든 경계 사례를 판단할 수 있는 것은 아니다.

반복성·극단성·목적 유무를 모델이 어떻게 구분하는지, 정상적인 비판을 잘못 판단했을 때 어떻게 처리하는지는 실제 운영에서 확인해야 할 쟁점이다.

정책의 배경에는 AI를 어떤 존재로 취급할 것인가라는 질문도 있다.

앤트로픽은 기존 대화 종료 기능을 잠재적인 AI 복지에 관한 탐색적 연구의 일부로 설명했다.

동시에 클로드를 비롯한 대규모 언어 모델이 도덕적 지위를 가질 가능성에 대해서는 불확실성이 크다고 밝혔다.

따라서 대화 종료 기능이나 금지 조항이 AI의 감정·의식·고통을 입증하는 것은 아니다.

서비스 이용 규칙과 AI의 내적 경험에 관한 판단은 서로 구분해야 한다.

개정안은 선거 관련 제한도 정비했다.

유권자를 속이거나 선거를 방해하는 행위를 금지하는 데 초점을 맞추고, 기만적 활동에 관한 규칙을 별도 항목으로 모았다.

일반적인 정치 정보 이용까지 일괄 금지하는 취지로 확대해서는 안 된다.

시행 이후에는 적용 예외가 실제 대화에서 지켜지는지와 이용자가 예기치 않은 종료에 대해 의견을 제출할 수 있는지가 중요한 판단 기준이 된다.

반복적인 학대성 상호작용을 제한하면서도 정상적인 불만과 연구를 보장할 수 있는지는 운영 사례를 통해 확인해야 한다.

· 작성자: 뉴스티즌 편집팀
· 기사 작성 시간: 2026-10-11 18:45 KST