[AI·농업] AI가 추천한 제초제 뿌렸다가 참깨밭 10㏊ 고사

중국에서 생성형 인공지능(AI)이 추천한 농약 조합을 믿고 참깨밭에 살포했다가 농작물이 대규모로 고사하는 일이 발생했다. 농업 현장에 빠르게 들어온 AI가 유용한 조언자를 넘어 ‘검증 없는 처방자’가 될 때 어떤 위험이 생기는지 보여준 사례다.

홍콩 정보기술 매체 언와이어(UNWIRE.HK)와 중국 현지 보도에 따르면, 안후이성 추저우에 거주하는 67세 농민 우모 씨는 지난 7월 10일 AI에 참깨밭의 잡초와 해충을 동시에 제거할 방법을 물었다. AI는 곧바로 ‘100무 참깨밭 항공방제 제초·살충 종합방안’을 제시했다.

AI가 추천한 약제에는 제초제인 할록시포프-P-메틸과 포메사펜, 살충제인 티아메톡삼과 에마멕틴벤조에이트 등이 포함됐다. 우씨는 별도로 농업기술 전문가나 농약 판매업자에게 확인하지 않은 채 드론을 이용해 약 150무의 밭 전체에 농약을 살포했다. 150무는 약 10헥타르에 해당한다.

잡초보다 참깨가 먼저 말라 죽었다

살포 다음 날 밭의 참깨와 잡초가 함께 시들기 시작했다. 참깨의 피해 속도는 잡초보다 더 빨랐고, 재배 중이던 참깨 대부분이 회복하기 어려운 상태가 됐다. 피해액은 약 15만 위안으로 추산됐다. 

우씨가 피해 원인을 다시 묻자 AI는 자신이 추천했던 포메사펜이 참깨 고사의 원인일 가능성을 제시했다. 현지 농업기술 관계자도 포메사펜은 주로 콩밭의 광엽잡초를 방제하는 제초제로, 참깨밭 전체에 살포해서는 안 된다고 지적했다. 중국 농약 등록자료에서도 해당 성분의 적용 대상은 콩밭 잡초 방제로 확인된다. 

작은 경고문만으로 사고를 막을 수 있었나

우씨는 AI를 1년 넘게 사용하며 파종 시기와 비료, 농약 사용법 등을 물어왔다. 초기에는 답변을 의심했지만 비교적 그럴듯한 결과가 이어지면서 점차 AI를 전적으로 신뢰하게 됐다.

AI 화면 상단에는 ‘생성된 내용에 오류가 있을 수 있으니 확인하라’는 문구가 표시돼 있었다. 그러나 글씨가 작아 우씨는 사고가 난 뒤에야 이를 발견했다고 밝혔다. 해당 AI 서비스 고객센터는 인터넷 공개정보를 종합해 답변하며, 별도의 독립된 전문 지식 데이터베이스는 없다고 설명했다. 피해 보상 책임 소재는 아직 확인되지 않았다.

이 사건을 단순히 한 농민의 부주의로만 볼 수는 없다. 농약·의료·법률처럼 잘못된 답변이 즉시 재산과 안전의 피해로 이어지는 분야에서는 평범한 주의 문구만으로 부족하다. 서비스 운영자는 고위험 질문을 감지해 전문가 확인을 요구하고, 등록되지 않은 용도를 추천하지 않도록 안전장치를 강화해야 한다.

농민도 AI가 제시한 농약명과 사용량을 처방으로 받아들여서는 안 된다. 제품 표시사항과 등록 작물 여부를 확인하고, 지역 농업기술기관이나 전문가의 검토를 거친 뒤 작은 면적에서 먼저 시험해야 한다. AI는 농사를 돕는 참고 도구가 될 수 있지만, 밭 전체를 맡길 농업기술자는 아니다.