[국비공모·정책 이슈] 에이전트형 정부 논의, 지자체의 중단 권한은 준비됐나

민원 안내를 자동으로 작성하는 도구와 주민에게 영향을 미치는 처리를 연속으로 실행하는 시스템은 같은 위험을 갖지 않는다. 지자체가 AI 활용을 확대한다면 답변의 품질뿐 아니라 어떤 업무를 어디까지 맡길지 물어야 한다. 행정안전부가 발표한 국제회의 참석 계획에 등장한 에이전트형 정부라는 주제는 기술 도입의 다음 질문을 보여준다. 시스템이 움직인 뒤 문제가 생겼을 때 누가 멈추고 바로잡을 수 있는가다.

국제 논의의 예정과 국내 제도의 확정은 구별해야

행안부는 11월 3일 보도자료에서 11월 4~10일 에스토니아와 프랑스에 정부 대표단을 파견한다고 밝혔다. 이 가운데 디지털네이션스 장관회의는 11월 5일 탈린에서 에이전트형 정부를 주제로 열리는 일정이다. 정부 혁신의 책임성과 디지털 주권, 디지털 신원의 신뢰성 등이 논의 과제로 제시됐다. 11월 5일 한국시간 아침에 확인한 자료는 참석과 논의 계획이지 회의 결과가 아니다.

국제회의에서 다룰 의제가 국내 모든 지자체에 즉시 적용되는 의무나 새 지원사업의 조건이 되는 것은 아니다. 자율적으로 업무를 수행하는 AI라는 설명 역시 법적 권한까지 시스템에 넘긴다는 뜻으로 읽으면 안 된다. 실제 활용 범위는 개별 업무의 법령, 기관의 권한과 운영 기준에 따라 검토해야 한다. 현재 발표만으로 특정 민원의 자동 처리가 허용됐다고 안내할 근거는 없다.

비교할 공식 자료로는 OECD가 지난해 9월 18일 발표한 공공부문 AI 보고서 안내가 있다. 이 자료는 AI 확대 과정에서 역량과 데이터, 기존 시스템 등의 제약을 지적하고 거버넌스와 조달, 협력 등 기반을 함께 다뤘다. 과거의 분석 자료를 오늘 새로 발표된 국내 정책으로 포장할 수는 없지만, 도입 계획의 빈틈을 점검하는 기준으로 활용할 수 있다.

자동화의 범위를 업무 단계별로 그려야

이하의 실행 설계는 필자의 제안이다. 먼저 한 업무를 자료 조회, 초안 작성, 검토, 승인, 외부 전달과 기록으로 나눠 보자. AI가 어디에 관여하는지 표시하면 단순 안내와 실제 처리가 섞인 부분을 찾을 수 있다. 주민에게 보내는 답변이 맞더라도 잘못된 수신자에게 전달되거나 권한 없는 처리가 이어지면 별도의 문제가 된다.

시스템의 권한은 할 수 있는 일의 목록뿐 아니라 하지 못하게 할 일의 목록으로도 정의해야 한다. 자료를 읽는 권한과 수정하는 권한, 내부 초안을 만드는 권한과 주민에게 결과를 통보하는 권한을 구별하는 방식이다. 편의를 위해 넓은 권한을 먼저 주고 문제가 생긴 뒤 줄이는 접근은 공공 업무에서 감당할 위험을 키울 수 있다.

중단 기준은 오류 메시지가 뜨는 순간만을 뜻하지 않는다. 입력 자료의 시점이 불분명하거나 서로 충돌하는 규정이 발견될 때, 요청자의 권한을 확인할 수 없을 때도 다음 단계로 넘기지 않는 설계가 필요하다. 이때 담당자에게 무엇이 전달돼야 판단할 수 있는지 함께 정해야 한다. 중단 버튼만 있고 대응할 사람이 없다면 실제 통제는 작동하지 않는다.

오류를 되돌리고 주민에게 설명할 경로

주민 관점에서 중요한 것은 AI를 썼다는 선언만이 아니다. 어떤 자료에 근거해 결과가 나왔는지 확인하고 잘못된 부분의 재검토를 요청할 수 있어야 한다. 모든 기술 정보를 공개하자는 주장이 아니라 해당 서비스에서 주민이 이해하고 행동할 수 있는 안내를 준비하자는 뜻이다. 민감한 정보를 보호하는 기준과 설명의 범위를 함께 검토해야 한다.

업무 기록에는 결과뿐 아니라 확인에 필요한 입력 자료의 버전과 검토 단계, 승인 여부가 연결될 필요가 있다. 다만 기록을 남긴다는 이유로 개인정보를 무제한 저장해서는 안 된다. 필요한 범위와 보관·접근 기준을 정하고, 잘못된 처리가 외부로 전달됐을 때 정정할 담당과 절차도 확인해야 한다. 기록의 목적은 책임을 시스템에 떠넘기는 것이 아니라 사람이 경과를 설명할 수 있게 하는 데 있다.

조달과 계약에서도 기능 시연 외의 조건을 물어볼 수 있다. 운영 중단 시 업무를 이어갈 방법, 데이터와 기록의 이동 가능성, 오류 신고와 수정의 책임, 계약 종료 후 처리 방안을 확인하는 것이다. 이는 새로 발표된 일률적 조달 요건이 아니라 기관이 실제 계약을 검토할 때 고려할 질문이다. 도입 당시의 성능만으로 장기간 운영의 신뢰성을 보장할 수는 없다.

시범운영의 성과도 응답 속도와 처리량만으로 평가하지 않는 편이 낫다. 사람이 다시 확인한 비율과 정정된 이유, 이용자가 다른 창구로 옮겨야 했던 상황을 함께 살펴야 한다. 현장 담당자가 오류를 보고해도 불이익을 걱정해 숨기게 된다면 개선에 필요한 근거가 사라진다. 성과 홍보와 운영 점검은 서로 다른 목적의 기록으로 관리할 필요가 있다.

에이전트형 정부를 준비한다는 것은 더 많은 업무를 자동으로 처리하겠다는 선언에 그치지 않는다. 허용 범위를 분명히 하고, 멈출 사람과 기준을 두며, 주민이 결과를 다시 확인할 길을 남기는 일이다. 지자체의 AI 역량은 도구 수가 아니라 이런 통제와 설명이 실제 업무에서 작동하는지로 평가해야 한다.