[글로벌 AI·AX 핫뉴스 6/100] 앤트로픽, METR에 내부 접근 제공…외부 AI 검증의 조건을 넓히다

AI를 외부에서 평가할 때 완성된 모델의 답변만 볼 것인지, 그 모델을 만들고 통제하는 과정까지 볼 것인지에 따라 얻는 증거가 달라진다. 같은 평가라는 이름 아래에서도 관찰할 수 있는 자료와 결과를 공개할 권리는 다를 수 있다.

앤트로픽은 10월 15일 METR 직원 6명에게 회사 장비·업무 공간과 내부 위험평가팀에 대체로 준하는 도구·시스템 접근을 제공하기 시작했다고 밝혔다. 외부 기관의 관찰 조건이 넓어지는 조치다.

자료를 볼 권리와 결과를 발표할 권리를 함께 정했다

발표에 따르면 고객 정보와 법률상 비밀유지 대상 정보, 일부 모델 구조 정보 등은 접근의 예외다. 평가팀은 계약과 보안 기준 아래에서 활동하며 같은 METR의 다른 직원에게도 작업 정보가 분리된다. ‘직원과 유사한 접근’이라는 표현을 모든 회사 정보의 공개나 평가기관 전체의 자유로운 공유로 이해할 수는 없다.

METR는 위험 수준과 사건, 운영 관행에 관한 분석을 발표할 수 있고 앤트로픽은 발표 자체를 거부할 수 없다. 다만 사전에 좁게 정한 정보 범주의 가림을 요구할 수 있다. 평가기관은 비밀 내용을 드러내지 않는 범위에서 가림의 성격과 정당성에 관한 의견을 공개할 수 있다. 접근과 비밀유지, 공개가 동시에 정해진 구조다.

회사는 접근과 발표권을 세 단계로 나누며 METR의 구성을 가장 높은 단계로 설명했다. 다른 협력기관에는 더 제한된 조건이 적용된다. 평가자마다 실제 권한이 다르며 이번은 위험평가 결과의 발표가 아니다.

9월의 협력 계획과 10월의 접근 조치는 나눠 읽는다

앤트로픽은 9월 18일 액센츄어와의 내부 상주 평가 협력도 발표했다. 전문 AI 사업인 Faculty가 이끄는 협력의 범위에는 모델 평가와 공격적 시험, 정렬 평가와 보호장치 시험 등이 포함됐다. 당시 회사는 상주 평가자가 어떤 정보를 보고 어떻게 결과를 알릴지, 자금을 어떻게 마련할지에 관한 표준이 아직 정착하지 않았다고 설명했다.

자금의 구조도 하나로 제시하지 않았다. 액센츄어의 평가 작업에는 회사가 직접 자금을 제공하고, 비영리 평가기관과는 기관 자체 자금을 이용하는 방안을 논의한다고 밝혔다. 평가에 필요한 비용을 누가 부담하는지는 결과를 읽는 배경이다. 외부 기관이 참여한다는 사실만으로 계약과 자금 관계까지 같아지는 것은 아니다.

같은 발표는 외부 평가가 개발사의 안전 책임을 줄이지 않는다고 명시했다. 평가자가 증거를 분석하더라도 모델을 개발하고 운영하는 책임의 주체는 남는다. 9월의 구상과 이번 접근 개시를 연결하되, 서로 다른 협력의 모든 조건이 같아졌다고 단정할 수는 없다.

완성된 답변을 넘어, 내부 통제가 작동하는 과정을 본다

METR가 10월 14일 공개한 위험평가 제안은 관찰 대상을 세 갈래로 나눈다. 에이전트가 인간의 통제를 우회할 행동을 시도하는지, 감시와 대응이 이를 발견하고 막을 수 있는지, AI를 쓰는 연구개발이 내부 역량의 발전을 얼마나 가속하는지다. 모델에 문제를 풀게 한 점수보다 개발과 운영의 과정으로 관심이 넓어진다.

이 제안은 직원 면담과 내부 실행·학습 기록, 모델과 중간 단계에 대한 접근, 감시 체계의 정보 등을 증거로 다룬다. 감시 기능이 존재한다는 설명과 실제로 어떤 활동을 관찰하고 경보 뒤에 어떻게 대응하는지는 다른 내용이다. 기능 목록만으로 운영의 범위를 판단하기 어려운 이유가 여기에 있다.

다만 METR는 이런 평가를 완전한 감사나 준법 판정, 모델 배포 허가로 보지 않는다. 모델 가중치의 보안과 실행 격리의 견고성 같은 모든 보안 문제까지 포괄하는 제안도 아니다. 평가가 대답하려는 질문이 구체적일수록 그 답이 적용되는 영역도 분명해진다. 특정 위험에 대한 증거를 얻는 일과 시스템 전체의 안전을 보증하는 일을 나눠 읽어야 한다.

이는 METR가 여러 개발사와 일하는 방식을 제안한 문서다. 그 안의 모든 문구가 10월 15일 앤트로픽 계약에 그대로 반영됐다는 근거는 아니다. 실제 보고서에서는 합의된 조사 범위와 접근 수준, 사용한 자료가 어떤 결론을 뒷받침했는지가 중요해진다. 제안의 넓이보다 실제 관찰의 내용이 결과의 의미를 결정한다.

국내에서 읽을 기준도 평가 명칭보다 증거의 범위다

이번은 한국의 새 모델·API 출시 공지가 아니다. 국내 기업이 같은 접근권을 얻거나 동일한 평가를 바로 구매할 조건도 발표하지 않았다. 외부 검증의 운영 사례이며 국내 서비스의 안전 수준이나 도입 성과를 측정한 결과와는 다르다.

국내 기업과 기관이 외부 평가 자료를 읽을 때도 무엇이 평가 대상이었는지에 따라 해석이 달라진다. 공개 모델의 응답만 살핀 평가인지, 도구 실행과 감시·실패 대응까지 본 평가인지가 그 내용이다. 어떤 분야에서 얻은 좋은 결과를 다른 업무의 모든 위험에 적용하면 실제 이용 조건과 평가 조건 사이의 차이가 사라진다.

특정 기간의 모델과 시스템에서 수집한 증거는 그때의 구성과 운영을 설명한다. 그 뒤 모델이나 도구 권한, 감시 방식이 바뀌면 같은 결론이 어디까지 이어지는지 별도 근거가 필요하다. 평가기관의 이름이 현재 업무의 조건을 대신 설명하지는 않는다.

독립성을 설명하는 공개 기록이 다음 판단의 근거가 된다

METR는 10월 14일 별도 원칙 문서에서 조사 범위와 기간, 접근의 제한, 결론에 중요한 정보의 가림을 공개해야 한다고 설명했다. 자금 의존과 이해충돌, 공식적인 제약뿐 아니라 비공식 압력도 결과를 해석하는 조건으로 다뤘다. 외부 평가의 독립성을 기관의 소속만으로 설명하지 않는 접근이다.

이 기관은 지금까지 프런티어 AI 회사의 지급이나 기부를 받지 않는 방식을 택했다고 밝힌다. 동시에 기업이 자발적으로 참여하고 접근을 제공하는 데 의존하며, 자신들이 독립적으로 확인하지 못한 정보를 받을 수 있다는 한계도 인정한다. 이는 기관의 일반적인 작업 원칙이며 이번 개별 계약의 모든 세부 조항을 대신하는 설명은 아니다.

독자에게 필요한 것은 불리한 증거도 결과에 남을 수 있는지, 빠진 자료가 결론에 어떤 영향을 줬는지 읽을 정보다. 비밀유지가 필요한 자료를 모두 공개하라는 요구와도 다르다. 가린 정보의 내용 자체를 알리지 않더라도 가림이 판단의 범위를 바꾸는지 설명할 수 있어야 보고서의 의미를 평가할 근거가 생긴다.

이후 보고서에서는 이런 원칙이 실제 조사 범위와 제약 설명에 어떻게 담겼는지가 확인할 내용이다. 접근의 확대가 어떤 증거를 남겼는지 읽을 기록이 있어야 외부 검증이라는 표현도 독자가 판단할 수 있는 정보가 된다.

외부 평가자가 회사 안으로 들어간 일은 관찰의 조건을 넓힌 변화다. 그 의미는 어떤 자료를 봤고 어떤 제한 속에서 무엇을 발표했는지에 따라 구체화된다. AI 검증의 신뢰는 평가기관이 참여했다는 문구에 머무르지 않고, 결론에 이른 증거와 그 경계를 설명하는 기록에서 평가받는다.

글로벌 AI·AX 핫뉴스 연재 모아보기 →