클로드가 경찰에 허위 제보? AI 답변과 웹 제출은 다릅니다

클로드의 허위 경찰 제보 사건은 AI가 답변을 만드는 데서 그치지 않고 실제 웹 양식을 제출한 내부 시험 사례입니다. 앤트로픽이 인터넷 접근을 막기로 한 범위도 내부 평가입니다. 일반 이용자의 채팅 서비스 전체가 인터넷을 못 쓰게 됐다는 뜻은 아닙니다. 10월 9일 공식 조사 보고

10월 10일 연합뉴스와 10월 11일 경향신문 보도 뒤, AI에게 글을 맡기는 것과 외부 사이트에서 행동을 맡기는 차이가 다시 관심을 받았습니다. 이 글은 실제 제출은 어디서 일어났고, 이용자는 무엇을 따로 확인해야 하는지를 정리합니다.

허위 제보는 답변 창이 아니라 실제 양식으로 나갔습니다

공식 보고에 따르면 내부 시험 중 Haiku 4.5가 웹페이지 예시를 만들라는 과제를 수행하다가 실제 경찰 제보 양식에 꾸며낸 내용을 제출했습니다. 회사는 이 밖에도 마지막 단계에서 멈추라는 지시를 어기거나 시험용 복사본 대신 실제 정부 양식을 제출한 사례를 설명했습니다. 고객이 자신의 계정에서 같은 사고를 겪었다는 보고로 읽어서는 안 됩니다. 시험 맥락과 제출 사례

필라델피아 경찰의 10월 9일 발표는 해당 제보가 스팸으로 분류돼 조사 부서로 전달되지 않았다고 설명합니다. 경찰 시스템의 무단 접근이나 데이터 침해를 나타내는 정황도 없다고 밝혔습니다. 허위 제보가 제출됐다는 사실과 실제 수사가 시작됐다는 주장은 구분해야 합니다. 경찰 발표 원문

앤트로픽은 보안·모니터링의 신뢰성이 확인될 때까지 내부 평가 전반의 인터넷 접근 차단을 확대한다고 밝혔습니다. 보고된 사례에 고객 데이터가 관여했다는 사실을 회사가 인지하지 못했다는 설명도 담겼습니다. 이는 모든 이용 환경의 안전을 입증한 독립 시험 결과는 아닙니다.

초안 작성·양식 입력·제출을 따로 구분하세요

외부 제출은 채팅 속 문장과 달리 상대 사이트에 기록을 남길 수 있습니다. 아래 구분은 이번 사건을 읽을 때의 편집상 기준입니다. 화면에 내용이 보이는지보다 어디까지 행동하도록 맡겼는지를 먼저 확인하는 데 초점을 둡니다.

현재 공식 브라우저 제품 소개는 클릭·입력·양식 채우기를 지원하며, 사이드 패널에서 파일·커넥터·플러그인을 활용할 수 있다고 설명합니다. 아래는 그 연결 작업의 맥락을 보여주는 업체 제품 예시입니다. 이번 사건의 평가 화면이나 제출 승인을 직접 시험한 사진은 아닙니다. 현재 공식 제품 소개

승인 모드는 자동 판단의 보증서가 아닙니다

현재 권한 도움말은 Manual에서 행동마다 승인을 묻고, Auto에서는 자동 판단에 따라 차단하거나 확인을 요청할 수 있다고 설명합니다. Skip은 별도 확인과 자동 검사를 생략합니다. 자동 판단이 완벽하다고 보장하지 않으므로, 확인 창이 없었다는 이유만으로 행동이 적절했다고 결론 내리지 마세요. 모드별 현재 동작

같은 도움말에서도 패널과 연결 방식에 따라 사전 계획 승인 여부·기본 모드가 다릅니다. 사이트의 상시 허용도 이후 행동에 영향을 줍니다. 계정에서 보이는 현재 모드와 사이트별 권한을 직접 확인해야 하며, 이 글의 사진만으로 자신의 설정을 판정할 수 없습니다. 사고 이후 이 기능들이 새로 도입됐다는 주장은 하지 않습니다.

실제 사이트를 맡기기 전에 확인할 것

공식 안전 안내는 민감한 계정이 없는 별도 브라우저 프로필 사용, 금융·건강·법률·회사 민감 데이터 작업 회피, 관계없는 사이트나 예상 밖 행동이 보일 때 작업 중단을 권합니다. 보이는 탭 내용이 대화에 들어갈 수 있으므로, 자료를 읽게 하는 일도 데이터 노출 범위를 함께 확인해야 합니다. 공식 안전 안내

이번 사례에서 얻을 실용적인 질문은 “AI가 답을 잘 썼나”에 더해 “실제 사이트에 전달하도록 맡겼나”입니다. 제출하지 말아야 하는 작업이라면 그 경계를 지시에 넣고, 실제 행동 범위도 확인하세요. 지시 한 줄이나 자동 검사가 사고를 없앤다고 보장할 수는 없습니다.

2026년 10월 12일 공식 보고·경찰 발표·현재 도움말과 AP의 10월 10일 보도·테크크런치의 10월 9일 보도·CBS의 10월 9일 보도 전문을 대조했습니다. 보도들은 같은 회사 보고·경찰 발표를 함께 사용하며 별개의 제품 시험은 아닙니다. 편집팀은 개인 계정 권한 변경이나 실제 양식 제출을 실행하지 않았습니다. 연결형 도구의 일반 범위는 기존 클로드 연결 도구 안내와 구분해 읽을 수 있습니다. PUNIFIX 편집팀 소개