남양주이혼전문변호사 AI가 쓴 생기부, 교사 검토 땐 문제없다? > 임대문의

남양주이혼전문변호사 AI가 쓴 생기부, 교사 검토 땐 문제없다?

페이지 정보

작성자 또또링2
댓글 댓글 0건 조회Hit 30회 작성일Date 25-10-03 09:29

본문

남양주이혼전문변호사 정부가 지난달 공개한 인공지능(AI)기본법에 생활기록부 작성 등 교육 분야의 ‘학생평가’를 파급효과가 큰 고영향 AI로 분류하면서도 교사의 최종 검토만 있으면 고영향 AI 규제를 피할 수 있게 했다. AI 활용 추세를 막을 수는 없지만, 고영향 AI 규제를 쉽게 피해갈 수 있도록 만들 수 있다는 우려가 제기됐다.
2일 취재를 종합하면 지난달 초 공개돼 의견수렴 중인 AI기본법 하위법령집에는 교육 분야 고영향 AI의 세부 예시가 담겼다. AI기본법은 보건의료 등 10개 영역에 고영향 AI를 규정했는데 교육의 학생평가가 여기에 포함됐다. 가이드라인은 학생평가를 고영향 AI로 분류한 이유로 ‘학생평가 결과가 입시·취업 등에 활용되면 학생의 학습권 등 기본권에 위험을 초래할 우려가 높다’는 점을 꼽았다.
내년 1월 시행될 AI기본법에서 고영향 AI는 ‘사람의 생명, 신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 뜻한다.
AI기본법 가이드라인은 기초학력 진단평가, 생기부 작성, 지필·수행평가에 활용되는 AI만 고영향 AI 여부를 따져본다고 규정했다. 또 유아 학생평가나 초등학생의 생기부에 활용되는 AI 프로그램은 고영향 AI에서 제외했다. “유아의 기본권에 중대한 영향을 미친다고 보기 어렵다” “초등생 생기부는 활용이 제한적”이라는 이유를 들었다. 쟁점이 되는 것은 단서 규정이다. 가이드라인은 초중고 기초학력 진단검사에서 AI가 문제 출제, 평가기준 수립, 평가 시행과 분석을 했더라도 반드시 고영향 AI는 아니라고 했다. 교사가 ‘수정·보완하는 등 최종 검토’를 한다면 고영향 AI로 보지 않는다. AI를 활용해 지필·수행평가 출제와 평가를 하거나 생기부를 쓰더라도 교사가 최종 검토를 한다면 고영향 AI가 아니라고 했다.
일각에선 이 가이드라인 초안을 그대로 적용할 경우 학생평가용 AI가 교사의 최종검토 여지만 일부 남겨두면 사실상 고영향AI 규제를 피할 수 있는 것 아니냐고 우려했다. 정현선 경인교대 교수는 “교사가 수정보완한다는 것이 구체적으로 무엇을 뜻하는지 규정이 상세하지 않다”며 “데이터의 편향성을 어떻게 검증할 것인지도 모호하다”고 지적했다.
AI기본법이 산업계 기반으로 만들어졌기 때문에 교육 분야까지 포괄하기는 어렵다는 분석도 있다. 책 <인공지능 교육과 법>을 펴낸 이영호 LKB평산 변호사는 “AI기본법은 산업계에 초점을 맞춰 제정돼 교육 영역까지 규율하기엔 한계가 있다”며 “교육기본법이 규정한 교육의 권리·의무에 따라 학생평가를 다룬 AI는 모두 고영향 AI으로 보는 게 맞다”고 했다.
교육부는 “교사가 개입하지 않는 학생평가 AI가 고영향 AI”이라며 평가 권한과 책임은 앞으로도 교사에게 있다는 점을 강조했다. 교육부 관계자는 “생기부 작성 시 챗GPT 같은 범용 AI를 활용할 때도 윤문 정도만 하도록 가이드라인을 이미 내린 상황”이라며 “AI기본법은 사업자 규제를 다루고 있어서, 교육부는 법령 시행 후 쟁점이 될 수 있는 교사의 책무성과 의무 등을 검토 중”이라고 했다. 한국지능정보사회진흥원 관계자도 “학생평가 시 AI가 보조도구 역할에 충실해야 하는데 그렇지 못하면 고영향 AI로 보는 것”이라며 “평가의 최종 권한과 책임은 교사에게 있다는 점은 달라지지 않는다”고 말했다.
음향기기의 ‘액티브 노이즈 캔슬링’ 기능이 외부 소음을 줄일 뿐 아니라 집중력 유지에도 도움이 된다는 연구 결과가 나왔다.
삼성서울병원 이비인후과 문일준 교수, 국립한국교통대 AI데이터공학부 신재영 교수 연구팀은 해당 기능이 뇌에 미치는 영향을 분석해 국제학술지 ‘청각 연구(Hearing Research)’에 발표했다고 1일 밝혔다. 연구진은 청력이 정상인 성인 41명을 대상으로 소음 환경에서 20초 분량의 내용 청취 후 노이즈 캔슬링 기능을 활성화·비활성화한 상태로 각각 5회씩 과제를 수행하도록 하는 실험을 진행했다.
액티브 노이즈 캔슬링은 외부 소음이 많은 환경에서 이어폰·헤드폰 등의 음향기기를 사용할 때 소음을 상쇄시키는 파동을 내보내 체감 소음을 줄이는 기술이다. 이 연구에선 이 기능이 뇌에 미치는 영향을 평가하기 위해 3개 항목을 측정했다. ‘기능적 근적외선분광법’으로는 뇌의 혈중 헤모글로빈 농도 변화를, ‘시각 아날로그 척도’로는 청취 난이도를 측정했고, 참가자의 과제 반응시간 및 정확도도 함께 평가했다.
연구 결과, 노이즈 캔슬링 기능을 활성화했을 때 뇌의 전전두엽 대부분의 영역에서 혈중 산소 헤모글로빈 농도가 크게 감소했다. 연구진은 이 현상에 대해 “뇌 기능 저하가 아닌, 혈류가 과제 수행에 필요한 뇌의 다른 영역으로 재분배된 결과”라며 “집중을 통한 뇌의 산소 소모량 증가”라고 해석했다.
특히 오른쪽 전두엽의 일부(5·7번 채널)에서 액티브 노이즈 캔슬링을 켜고 끄는 조건 변화에 따라 혈중 산소 헤모글로빈 농도 변화도 유의미하게 차이가 났다. 소음이 큰 상황일 때는 듣고자 하는 소리에 선택적으로 주의를 기울이는 과정에서 뇌의 오른쪽 반구가 더 활발히 반응한 것이다. 이때 활성화된 오른쪽 측두엽으로의 혈류 공급을 위해 인접한 오른쪽 전전두엽 피질에선 혈류가 감소한 것으로 분석됐다.
청취가 얼마나 편안했는지를 묻는 문항을 통해 청각 난이도 점수를 매긴 시각 아날로그 척도 점수에서도 소음 제거 기능의 효과가 확인됐다. 노이즈 캔슬링 기능을 활성화한 상태(71.17점)가 비활성화 상태(51.45점)보다 높은 점수를 받아 기능을 켰을 때 과제 청취가 훨씬 수월했던 것으로 나타났다.
다만 반응시간과 정확도 검사에선 노이즈 캔슬링 기능을 활성화한 상태(1.36초, 4.24점)와 비활성화한 상태(1.40초, 3.95점) 간 유의미한 차이를 보이지 않았다.
문일준 교수는 “액티브 노이즈 캔슬링 기술이 청각적 편의를 넘어, 뇌의 인지적 에너지 분배와 집중력 유지에 영향을 미친다는 신경생리학적 근거를 객관적으로 확인한 연구”라며 “소음이 많은 환경에서 일하거나 공부하는 사람들에게 주의집중을 돕는 중요한 도구가 될 수 있다”고 말했다.
지난 7월15일 KT는“5년간 정보보호 분야에 1조원 이상을 투자하겠다”고 발표했다. 대규모 해킹 사태를 겪은 SK텔레콤이 ‘정보보호 7000억원 투자’를 선언한 지 약 열흘 만이었다. 당시 KT는 “보안은 기술 문제가 아니라 기업 신뢰의 핵심 가치”라고 강조했다.
그러나 한 달여 만에 KT 무단 소액결제 사태가 발생하면서 약속은 무색해졌다. 의혹을 부인하다 뒤늦게 말을 바꾸는 대응은 신뢰를 더욱 갉아먹었다.
KT만의 문제가 아니다. 사이버 침해사고 때마다 기업들은 ‘축소·부인 뒤 정정’으로 이어지는 늑장 대응을 반복하면서 보안 체계 전반의 부실을 드러냈다. 잇따른 사고는 정부의 관리·감독 체계에도 의문을 던졌다. 땜질식 처방을 넘어 근본적인 보안 거버넌스 개선이 필요하다는 지적이 나온다.
30일 업계와 보안당국에 따르면 KT는 지난달 1일 경찰에서 무단 소액결제 피해 신고를 전달받았지만 나흘이 지난 5일에서야 비정상 소액결제를 차단했다. 이번 사태를 단순 스미싱(문자를 통한 사기)으로 오판한 결과였다. “개인정보 유출은 없다”던 입장도 뒤집혔다. 앞서 늑장 신고, 고객 공지 등 초동 대응 부실로 비판을 받은 SK텔레콤의 전철을 밟은 것이다.
사태를 과소평가한 대응은 롯데카드에서도 되풀이됐다. 롯데카드는 지난달 18일 297만명의 고객 정보 약 200GB(기가바이트)가 유출됐다고 발표했다. 당초 금융당국에 보고한 유출 규모는 실제의 100분의 1 수준인 1.7GB였다. 초반에는 홈페이지에 “정보 유출은 없다”는 공지를 띄우기도 했다.
부실 대응의 배경으로는 법적·평판 리스크에 대한 공포, 외주 의존 등으로 인한 내부 파악 지연이 꼽힌다. 곽진 아주대 사이버보안학과 교수는 “기업 이미지 훼손을 우려해 쉬쉬하다가는 결국 더 큰 타격을 입고 더 많은 비용을 치르게 된다는 점을 간과한 것”이라고 지적했다.
안일한 인식은 수치로도 확인된다. 과학기술정보통신부의 ‘2024 정보보호 실태조사’ 결과를 보면 침해사고를 경험한 기업 가운데 별다른 사후 대응을 하지 않은 비율이 67.7%에 달했다. 대응에 나선 기업도 보안 솔루션 구축·고도화(11.7%), 위탁관리 업체에 피해 보상 요구(11.3%), 내부 정책 수립·수정(9.3%) 수준에 머물렀다. 침해사고를 당하고도 신고하지 않은 비율은 80.4%나 됐다. 자체 정보보호 정책을 수립한 기업은 51.6%, 정보보호 조직을 둔 곳은 32.6%에 불과했다.
‘IT 강국’은 초고속 인터넷과 모바일 전환이 빨랐다는 의미일 뿐 보안은 뒷전이었다. ‘빨리빨리’로 압축되는 속도 우선 문화 속에서 보안이 후순위로 밀렸다는 게 전문가들의 진단이다. 곽 교수는 “속도가 빨라진다는 건 공격을 통해 침투할 수 있는 속도도 빨라진다는 얘기”라며 “잇따른 보안사고들은 IT 강국의 어두운 이면”이라고 짚었다.
한국인터넷진흥원(KISA) 원장을 지낸 이원태 국민대 특임교수도 “빠른 출시, 외주 의존, 체크리스트 위주로 흘러 ‘보안 내재화’(설계 단계부터 보안을 종합적으로 고려) 원칙이 뒤로 밀렸다”며 “이번 사태는 신뢰의 위기이자 체질 개선의 마지막 경고라고 볼 수 있다”고 말했다. 이 교수는 “속도 경쟁에서 ‘안전이 경쟁력’으로의 인식 전환이 필요하다”며 “안전하게 만든 제품이 결국 더 빨리 나간다, 잘 팔린다는 생각으로 전환할 때”라고 했다.
현재 민간 분야 침해사고는 과학기술정보통신부 산하 KISA, 금융권은 금융위원회 산하 금융보안원, 공공·안보는 국가정보원이 대응하는 식으로 권한이 분산돼 있다. 이런 분산 구조로는 날로 정교해지는 사이버 공격에 제대로 대응하기 힘들다는 우려도 꾸준히 제기됐다.
침해사고 때마다 범정부 사이버 보안 컨트롤타워를 구축하려는 움직임이 일어났지만 번번이 흐지부지됐다. 정부가 ‘인공지능(AI) 3강’ 도약을 목표로 하는 상황에서 사이버 보안 체계 구축의 시급성은 한층 커졌다. 임종인 고려대 정보보호대학원 명예교수는 “사이버 공격 대응은 결국 속도의 싸움인데, 컨트롤타워가 분산돼 있으면 빠르게 의사결정을 할 수 없다”며 “부처들이 합동으로 움직이는 강력한 지휘체계가 필요하다”고 말했다.
국가안보실은 관계부처와 함께 정보보호 종합대책을 마련 중이다. 당초 9월 말 발표 예정이었지만 국가정보자원관리원 화재로 인한 정부 전산망 마비 사태로 미뤄졌다.
기업·기관이 정부가 정한 항목을 지켰는지만 따지는 방식의 관리·감독 체계에서 벗어나야 한다는 목소리도 있다. 김태성 충북대 경영정보학과 교수는 “기업 스스로 무엇이 중요한지 정의하고 이를 프로세스에 내재화하는 문화가 자리잡아야 한다”며 “보안 정책 거버넌스의 목표는 항목 준수가 아니라 프로세스가 제대로 작동하는지를 점검하는 방향이어야 한다”고 말했다.

이전글발기부전치료제구입 [단독] 외교부, 중도 퇴직자 5년 사이 2배 이상 급증 25.10.03
다음글수원소년법전문변호사 전북 부안 논에 미군 아파치 헬기 불시착 25.10.03

댓글목록

등록된 댓글이 없습니다.