“AI한테 욕하는 것도 학대? ”…앤트로픽 새 정책에 의견 분분... 미국 이슈가 흐름 바꿀 수도 있음

그래서 무슨 일인데?

정리하면, 이건 제목만 보고 넘길 얘기는 아닙니다. 먼저 확인된 내용은 인공지능(AI) 기업 앤트로픽이 AI 챗봇을 상대로 지속적인 폭언이나 학대 행위를 하는 사용자를 제재할 수 있도록 이용 정책을 개정했다. 조금 더 뜯어보면 9일(현지 시간) 영국 BBC는 앤트로픽이 자사 AI 챗봇 ‘클로드’에 지속적이고 불필요한 학대 행위를 하는 사용자를 제재할 수 있도록 정책을 바꿨다고 보도했다. 앤트로픽 측은 기존에도 드물게 이러한 조치를 취한 적이 있으며, 반복적 학대 행위가 발생하는 극단적인 사례에만 적용되는 규정이라고 설명했다. 평범한 수준의 불만 표출 및 반박, 어두운 소재를 활용한 창작 활동, AI 모델 테스트 및 연구 등은 제재 대상에 포함되지 않는다. 포인트는 단순 강경 발언이 아니라 실제 대응 수위와 후속 조치로 이어질 수 있느냐는 점입니다. 그래서 이 이슈가 실제 변화로 이어질지, 아니면 메시지성 움직임에서 끝날지가 갈리는 지점입니다. 이 부분 때문에 댓글에서도 보는 관점이 꽤 달라질 듯합니다.