정부가 인공지능(AI) 사업자에게 고영향 AI와 생성형 AI 사용 사실을 이용자에게 고지하도록 의무화하고, 기본권 침해 가능성 등을 평가하는 AI 영향평가 제도를 구체화했다.
과학기술정보통신부는 내년 1월 22일 시행되는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법) 시행령 제정안을 마련해 다음 달 22일까지 입법 예고한다고 12일 밝혔다.
과기정통부는 AI 기본법 시행 초기 제도의 현장 안착과 기업 준비 기간을 제공하기 위해 과태료 계도 기간을 최소 1년 이상 운영할 계획이다. 구체적 운영 방식과 기간을 확정하기 위해 의견을 수렴 중이다.
과기정통부는 지난 9월 공개한 시행령 초안과 고시, 가이드라인에 대한 의견 수렴을 통해 시행령 제정안을 마련했고 특히 식품의약품안전처·금융위원회·원자력안전위원회 등 관계 부처의 의견을 들어 중복되거나 유사한 규제를 최소화하는 데 집중했다고 설명했다.
AI 기본법에 따라 국내 대리인을 지정해야 하는 해외 빅테크의 기준은 전년도 매출액 1조원 이상, 서비스 부문 매출액 100억원 이상, 일평균 국내 이용자 수 100만명 이상, AI 서비스 관련 사고로 자료 제출을 요구받은 경우로 정했다. 투명성 확보 의무를 통해 고영향 AI 또는 생성형 AI를 이용한 제품·서비스를 제공할 때 AI에 기반해 운영된다는 사실을 사전에 이용자에게 고지하도록 했다.
실제와 구분하기 어려운 딥페이크 등 AI 결과물에 관해선 생성형 AI를 통해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있도록 하되 이용자 연령이나 신체적 조건 등을 고려해 고지하도록 했다. AI 활용이 명백하지만 내부 업무용으로만 이용할 땐 예외를 적용하며 향후 기술 발전 등을 고려해 고시를 통해 예외를 추가할 수 있도록 했다.
규제가 상대적으로 강한 고영향 AI는 사용 영역, 기본권에 대한 위험의 영향, 중대성, 빈도 등을 고려해 고영향 AI 여부를 판단하도록 시행령에 세부 기준을 마련했다. 과기정통부가 수행하는 고영향 AI 확인 절차는 기본 30일이 소요되며 1회에 한해 기간을 30일 연장할 수 있다. 인공지능 영향평가 제도는 특정 AI로 인해 영향받는 기본권이 무엇이고 어떤 방식인지, 영향 완화 방안 등에 관한 사항을 다룰 예정이다.
과태료 계도 기간 동안 AI 기본법 관련 기업의 어려움을 해소하기 위해 통합안내지원센터(가칭)를 운영한다. 이곳을 통해 수렴한 업계 의견을 향후 법령 또는 가이드라인 개정 시 반영하는 것을 검토한다.
배경훈 부총리 겸 과기정통부 장관은 “AI 기본법 시행령 제정안은 AI 3대 강국 지위를 확고히 하기 위한 제도적 초석이 될 것”이라며 “입법예고 기간 현장의 다양한 의견을 수렴하겠다”고 말했다.
이정인 기자 lji2018@segye.com
