자율적으로 작업을 처리하는 AI 제품의 확산에 따라 일본 정부는 AI 운영자에게 인간 의사결정 시스템 구축을 요구할 계획이다. 이 새로운 요구사항은 AI 개발·제공·이용 관련 기업, 지자체 등을 위한 가이드라인 개정안 초안에 포함되어 있으며, 월요일 총무성과 경제산업성에서 공개했다. 2024년에 도입된 이 가이드라인은 법적 구속력이 없으며 처벌 조치도 없다.
일본 정부는 AI의 급속한 발전에 대응해 가이드라인을 개정 중이다. 초안은 로봇과 자율주행에 사용되는 '물리적 AI'와 자율적으로 작업을 처리하는 'AI 에이전트'를 관리하기 위한 적절한 시스템 구축을 AI 운영자에게 요구하며, 오작동이나 오용을 방지한다. 예를 들어 AI 기반 시스템을 통해 고가 품목을 판매할 때는 고객 동의를 받아야 한다.