수원소년보호사건변호사 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까? > 임대문의

수원소년보호사건변호사 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까?

페이지 정보

작성자 또또링2
댓글 댓글 0건 조회Hit 48회 작성일Date 25-09-20 16:31

본문

수원소년보호사건변호사 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 소극적으로 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려가 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨져왔다.
뚜껑을 열어보니, 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 영역이 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 레벨4 이상 자율주행시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 예를 들어 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리시스템과 인간 감독 체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다.
오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해 나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관도 “최소 1년 이상”의 유예기간을 언급한 바 있다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부는 이날 “진흥에 중점을 둔 최소한의 규제” 기조를 강조했다. “글로벌 3강 목표로 하는 AI 분야에서 진흥이 우선”이라는 것이다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. 국내 AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다. 또 다른 AI 스타트업 관계자 역시 “규제와 관련한 불확실성이 걷혔다는 점에서 바람직하다”며 “AI 산업이 초기 단계에 있는 만큼 시행 과정도 매끄럽기를 기대한다”고 말했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
정부와 여당이 금융당국 조직개편의 틀을 확정하면서 새로 생기는 금융감독위원회가 금융사 임직원에 대한 제재권을 확보하는 등 권한이 강화될 것으로 보인다. 반면 금융감독원은 권한과 업무범위, 인력이 줄어드는 내용이 여당의 법안에 담겨 직원들의 반발이 격해지고 있다. 특히 금감위와 금감원, 금융소비자원까지 금융감독과 금융정책의 경계를 나누기 애매한 영역이 많아 국회 논의 과정에서도 진통이 예상된다.
17일 더불어민주당에 따르면 김병기 원내대표는 최근 금융위 설치법을 비롯해 금융소비자보호법과 은행법, 보험업법 개정안 등 정부조직법 개정안의 후속 법안들을 당론으로 발의했다.
이들 법안은 기존에 금융위가 맡았던 금융정책 업무를 신설되는 재정경제부로 이관하고, 감독 업무은 금감위가 맡는 것을 기본으로 했다. 재경부 장관이 감독 관련 법령을 제·개정할 때는 금감위원장과 협의토록 했다.
금융위는 그간 금융사 임직원들에 대한 해임 권고나 업무집행 정지 등을 결정할 수 있었으나, 금감위 체제에선 ‘문책경고’까지 결정 권한을 늘릴 전망이다. 반면 금감원은 자체적으로 내릴 수 있는 징계가 ‘주의’, ‘주의적 경고’로만 한정돼 권한이 줄었다. 금융사 직원에 대한 면직 요구권도 금감위로 이관하도록 규정했다.
금감원의 경우, 금융소비자보호원의 분리로 인해 업무 영역도 줄어들 전망이다. 민주당의 법안은 소비자 보호에 해당하는 업무는 금소원이 담당하고, 금감원의 검사·감독 업무에서 원칙적으로 제외토록 규정했다. 금감원이 감독 관련 규칙을 제·개정하거나 폐지할 때는 금소원장과 사전 협의해야 한다. 금감원 임원 수는 그간 부원장 4명, 부원장보 9명이었으나 향후에는 각각 3명, 8명으로 줄어들 전망이다.
당초 금소원은 지방으로 이전될 가능성이 거론됐으나 법안에는 소재지가 서울로 규정됐다. 필요하면 금감원과 인사 교류를 실시할 수 있다는 내용도 담겼다. 민원성 업무가 많은데, 인사 교류를 못하게 되면 직원들이 근무를 꺼릴 수 있다는 우려를 반영한 것으로 분석된다.
조직개편에 따른 기관간의 권한·업무 조정은 법안이 처리되기 전까지 논의가 이어질 전망이다. 금융당국 안팎에서는 특히 ‘정책’과 ‘감독’이라는 기준하에 소관 법령과 업무를 명확히 분리하긴 어렵다는 지적이 많다. 일례로 가계부채 관리의 핵심인 LTV(담보인정비율)이나 DSR(총부채원리금상환비율) 등의 규제도 금융정책이자 감독의 성격을 모두 지닌다.
금감원은 권한 축소를 최소화하고, 금소원과의 업무 분장을 명확히 하기 위한 논의를 이어갈 것으로 예상된다. 일각에선 금감원이 진행하는 검사 업무 대부분이 소비자 보호와 관련돼 있어 금소원과의 업무 중복을 피하기 힘들 것이란 지적도 나오고 있다. 금융업계 한 관계자는 “권한이 제대로 정리되지 않으면 검사와 규제가 중복돼 업계 고충만 늘어날 것”이라고 우려했다.
민주당은 오는 25일 본회의에서 정부조직법 개정안을 처리한 뒤 금감위 설치법 등 부수 법안들을 신속처리안건(패스트트랙)으로 처리하겠다는 방침이다. 반면 국민의힘은 조직개편에 대한 일각의 반발을 반영해 법안 처리에 제동을 걸 것으로 관측된다. 국회 기획재정위원회 국민의힘 간사인 박수영 의원은 이날 조직개편 관련 토론회에서 “의견 수렴도 없이 다수당의 힘으로 통과시키겠다는 방식에는 도저히 찬성할 수가 없다”고 강조했다.

댓글목록

등록된 댓글이 없습니다.