홍콩명품쇼핑몰 전략만 있고 인간은 없다···‘AI 3대 강국’에 빠진 것들 > 임대문의

홍콩명품쇼핑몰 전략만 있고 인간은 없다···‘AI 3대 강국’에 빠진 것들

페이지 정보

작성자 또또링2
댓글 댓글 0건 조회Hit 59회 작성일Date 25-09-22 06:44

본문

홍콩명품쇼핑몰 [주간경향] 지난 9월 8일 이재명 대통령은 국가인공지능전략위원회(이하 전략위원회) 출범식에서 “국가 경쟁력과 미래 변혁을 좌우하는 핵심 동력으로서 인공지능(AI) 같은 첨단 기술은 국력이자 경제력이고, 곧 안보 영역이기도 하다”며 “AI 3대 강국의 비전은 단지 희망 섞인 구호만이 아니며, 우리 대한민국의 미래를 결정할 핵심 생존전략”이라고 말했다.
생존, 전략, 국력, 성장, 안보, 경쟁(력)… 그간 이재명 정부의 AI 관련 발표에서 거의 빠지지 않고 등장한 단어들이다.
‘AI 3대 강국’은 이 대통령의 대선 공약이자 이 정부의 핵심 과제다. 그는 지난 6월 4일 취임사에서도 급격한 변화의 시대에 “정부가 나서 다가올 미래를 준비하고 지원하며 투자할 것”이라며 “AI, 반도체 등 첨단 기술 산업에 대한 대대적 투자와 지원을 통해 미래를 주도하는 산업 강국으로 도약할 것”이라고 강조했다.
이 대통령은 취임 직후 하정우 네이버클라우드 AI 혁신센터장을 신설 AI 미래기획수석비서관으로 임명했고, 과학기술정보통신부 장관을 부총리급으로 격상했다. 내년도 예산안에서 AI 관련 R&D 예산은 올해 대비 106.1%가 증가한 2조3000억원이 편성됐다. 지난 8월 22일 이재명 정부의 첫 경제정책 방향을 공개한 ‘새 정부 경제성장전략’에서는 30대 프로젝트 가운데 절반인 15개의 프로젝트가 ‘AI 대전환’에 집중됐다.
지난해 12월 국회에서 통과된 인공지능법은 연내 시행령 보완을 거쳐 내년 1월 시행될 예정이다. 하지만 여전히 주된 내용의 초점이 ‘진흥’에만 맞춰져 있다는 지적이 제기된다. 과태료 문제와 관련해서도 3년 유예론이 거론되는 등 시작 전부터 실효성에 대한 의문이 제기되고 있다.
“첨단 동시대 기술은 시장기술의 범위를 넘어 사회적 기술이 됩니다. 단순히 기술 시장 내에서가 아니라 사회적 인프라, 구조, 관계 등에 폭넓게 영향을 미치게 되는 거죠. 정책 단위에서 사회적 효과에 대한 내용을 충분히 고민하지 않으면 파급효과를 감당하기 어렵습니다.”
이광석 한국과학기술대학교 IT정책전문대학원 교수의 말이다. AI는 이미 시장 기술의 범위를 넘어 사회적 기술이 되고 있다.
지난해 12월에 통과된 인공지능법에서 눈에 띄는 부분은 권리주체로서의 ‘영향받는 자(제2조·제3조)’라는 표현이다. 이는 2024년 3월 제정된 유럽연합(EU) 인공지능법에도 등장하는 용어로, EU는 인공지능법에서 좁은 의미에서의 ‘피해자’가 아닌 ‘영향을 받는 사람’으로 의미를 넓혀 이들에 대한 기업의 설명 의무, 기본권 존중 필요성을 명시하고 있다.
이는 AI로 인한 피해가 직접적으로 보이지 않을 수 있지만 광범위하게 영향을 미친다는 의미이기도 하다. 2021년 미첼 바첼레트 유엔인권최고대표는 “AI의 개발, 배치, 사용에서 영향을 받는 사람이나 집단의 참여 보장 장치가 필요하다”고 강조한 바 있다.
실제로 AI는 비단 산업적 측면뿐 아니라 오늘날 수많은 분야에서 ‘부수적 피해’를 낳고 있다. 대표적으로 플랫폼 노동 및 실업, 업무강도 강화 등의 문제다. 특히 국내에서 AI 도입이 빠르게 이뤄지고 있는 콜센터 업계에는 이러한 노동 처우 악화 등의 문제가 두드러진다.
보험회사 7년차 콜센터 노동자 김주현씨(공공운수노조 든든한 콜센터지부 지부장)는 AI 도입 이후 업무 강도가 훨씬 강해졌지만 임금은 줄어들었다고 말한다. 김씨는 “사건 등록 과정에서 모바일 챗봇 등이 도입되다 보니, 이를 알아서 잘할 수 있는 젊은 층에 비해 콜센터에는 자세한 안내가 필요한 노인층의 유입률이 크게 올랐다”며 “콜수가 줄면서 예전에는 별도의 후처리 업무 담당팀이 하던 업무까지 콜센터에 몰려 업무의 복잡성과 강도는 더 올라갔다” 고 말했다.
반면 절대적인 콜수가 줄어들고 특근 등은 사라지면서 임금이 줄었다. “AI로 인해 단위 시간당 콜수는 적어졌지만 여전히 실적은 콜수만을 기준으로 하고 있기 때문에 실질 임금은 줄어들었습니다.” 실제로 2023년 유럽중앙은행(ECB)이 발표한 보고서에 따르면 AI는 실업률보다 노동자들의 임금 수준 등에 직접적인 영향을 미치는 것으로 나타났다.
지난 7월 5일 열린 충청타운홀 미팅에서 자신을 20년차 콜센터 노동자라고 소개한 한 여성은 이 대통령에게 “기술개발에 치중한 나머지 그 자리에서 일하고 있는 사람들을 배제한다면 계속해서 일자리를 잃게 될 것”이라며 정부가 AI 진흥뿐 아니라 노동자들의 처우를 함께 정책적으로 고려해달라고 호소했다.
노동자들은 AI 도입으로 노동환경이나 처우 등이 바뀔 때 의견을 내기 어렵다. AI를 도입할 때 영향을 받는 당사자들과 노동전문가의 의견도 고려돼야 하는 이유다. 그럼에도 지난 9월 8일 정부가 발표한 전략위원회 가운데는 시민사회단체나 기타 분야 관계자는 거의 포함되지 않았다. 이에 참여연대 등 시민단체는 지난 9월 9일 논평을 내고 “(AI는) 개발과 활용 과정에서 인권 침해, 차별, 개인정보 유출, 노동 구조 변화, 환경 부담 등 다양한 위험을 발생시킬 수 있다”며 “민주적 원칙을 준수하려면 지금과 같은 산업계 중심 구성에서 벗어나 다양한 사회 집단을 포괄하는 AI 거버넌스 구조로 개편해야 한다”고 주장했다.
꾸준히 산업 진흥과 자원 채굴의 차원에서만 강조되고 있는 학습데이터 문제 역시, 개인의 정보 결정권과 저작권 차원에서 신중하게 접근해야 한다는 목소리가 존재해왔다.
2022년 4월 개인정보보호위원회가 발표한 내용에 따르면 법무부·과학기술정보통신부 등이 2019년부터 추진한 ‘인공지능 식별추적시스템 개발사업’을 위해 출입국심사 과정에서 수집·보유한 여권번호, 국적, 생년, 성별 등 내·외국인 개인정보와 안면데이터 약 1억7000만건을 당사자 동의 없이 민간 기업에 제공한 것이 알려져 논란이 된 바 있다. 시민단체 등은 개인정보 자기결정권 침해 등에 대한 헌법소원을 제기했다.
헌법소원에 참여한 장여경 정보인권연구소 상임이사는 “헌법소원에 앞서 당시 법무부에 개인정보보호법상 정보 열람과 분쟁 조정신청까지 했지만, 이름 일부가 가명으로 처리돼 있다거나 학습 데이터가 유효기간 만료로 파기됐다는 이유 등으로 기각됐다”며 “현재 다양한 분야에서 AI 개발을 위해 ‘학습 데이터’를 필요로 하고 있는데, 여전히 그 정보의 보유당사자들은 침해 방지를 위해 행동은커녕 침해 여부조차 알 수 없는 상황”이라고 했다.
지난해 12월 16일 인공지능법 국회 통과에 앞서 한국기자협회 등 언론단체 5곳은 AI 사업자의 학습데이터 공개 의무화를 촉구하며 “(학습데이터 공개를 의무화하지 않을 경우) 저작권자는 자신의 저작물이 어디에 어떻게 사용됐는지 알권리를 잃게 될 뿐 아니라 정당한 대가 요구도 어려워진다”고 주장했다. 문화체육관광부도 지난해 ‘생성형 AI 학습 데이터 공개 의무’ 규제를 신설해달라는 의견을 제시했지만 받아들여지지 않았다.
일상적으로 이용자들이 자신의 민감 정보가 어떻게 취합되고 이용되는지 명확하게 알고 정보에 대한 권리를 주장하기도 쉽지 않다. 장 이사는 “AI가 전반적으로 어떻게 학습했는지를 알아야 구제할 수 있는데 당사자를 포함해 기업 외부인이 알기는 어려운 구조”라며 “EU 인공지능법에는 구체적으로 학습용 데이터를 규정하고 있고, 최근 미국 캘리포니아주 등에서 학습데이터를 공개하도록 하는 법안이 통과됐지만, 우리나라 인공지능법의 경우 최근 발표된 시행령 방향에도 명확히 규정이 안 돼 있다”고 우려했다.
이처럼 ‘영향받는 자’의 범위는 넓지만, 내년 시행을 앞둔 국내법은 위반 시 매출액의 3~7% 수준을 부과하도록 명시한 EU의 과태료에 비해서도 과태료 액수가 지나치게 낮고(3000만원 이하), 그마저도 3년 유예 가능성이 높아 실효성 문제가 대두된다. 고영향 AI에 대한 인권 영향평가 역시 의무가 아니라 “노력하여야 한다(제35조)”라는 구절만 법 조항에 들어 있다.
인공지능법상의 ‘고영향’이라는 단어가 AI 위험성에 대한 경각심을 축소할 수 있다는 지적도 꾸준히 제기돼왔다. EU 인공지능법과 국내 인공지능법에서 크게 두드러지는 차이 중 하나는 ‘고위험’ 대신 ‘고영향’이라는 단어가 사용되고, 가능한 위험을 세분화하지 않는다는 점이다. 사용 불가능한 AI에 대한 금지 규정도 없다. EU 인공지능법의 경우 AI 활용과 관련해 허용할 수 없는 위험부터 고위험, 제한된 위험, 저위험까지 총 4단계로 구분하고 각각의 경우에 따라 금지 혹은 차등 된 규제를 부과하지만, 국내법은 이런 구분을 두지 않았다.
유승익 한동대 법학전문대학원 교수는 “위험도를 단계별로 나누고 특히 위험도가 높은 활용의 경우엔 원천 금지하는 것이 필요한데, 현재 국내 인공지능법에서는 이런 부분이 존재하지 않는다”며 “AI 활용의 경우 초기 개발, 디자인 단계부터 기본값에 의한 보호(PBD·Protection by Default)를 강조하는 것이 중요하다”고 말했다.
“경부고속도로가 대한민국 산업화 성공을 이끌었던 것처럼 AI 데이터 센터 건설을 시작으로 과감한 세제 혜택, 규제혁신을 통해 민간의 투자를 촉진하고 대한민국 AI 대전환의 성공을 이끌 AI 시대의 고속도로를 구축하겠다.” 이재명 대통령은 지난 6월 20일 울산 데이터센터 출범식에서 이렇게 말했다.
이광석 교수는 이런 상황에 대해 모종의 기시감이 든다고 말한다. 그는 “기술 성장과 그로 인한 부국강병만이 살길이라는 정서는 한국에서 꾸준히 이어져 오던 정서”라며, ‘소버린 AI’에 대해 “국내에서는 이것이 국내 토종 기업에 대한 부양론을 강화하는 일종의 이데올로기가 되고 있다”고 말했다.
AI와 관련해 일련의 정책적 방향성은 일관되게 반규제-진흥을 가리키고 있다. ‘국가의 명운이 걸린’ 사항이기 때문에 이에 대한 일련의 규제는 걷어내야 한다는 것이다. 과연 인권을 위한 규제와 진흥은 함께 갈 수 없는 것일까?
유 교수는 “세계적으로 인권 요소를 평가에 많이 반영하는 추세로, 단순히 진흥 차원에서만 봐도 이런 부분을 없애야 할 규제로 치부하는 것이 과연 도움이 될지 모르겠다”며 “세계 시장 진출을 위해서도 이를 선택이 아닌 필수로 여기는 것이 필요하다”고 했다.
‘만약 기술이 문제를 일으키면 더 많은 기술이 그 문제를 해결할 것’이라는 믿음, 그것은 1960년대 중반 무렵 히피들의 반문화 저항운동을 계승한다면서 싹텄던 실리콘밸리 사조였다. 이들은 빠르게 변하는 기술 세계에서 정부의 규제는 너무 느리거나 비효율적이라며 거부하고 자유로운 인터넷, 자유로운 혁신 동기를 찬양했다. ‘캘리포니아 이데올로기’라고 불린 이 분위기는 거대 빅테크와 디지털 플랫폼을 각종 법적 책임으로부터 면제시키고 자율규제라는 특권을 부여했다.
간섭받지 않는 개인의 창의성, 다양성, 개방성을 추구했던 기술 자유주의자들은 정치적으로도 리버럴 민주당의 든든한 지지자가 되었다. 심지어 ‘구글이 전쟁 사업을 해서는 안 된다’며 수년 전 구글 직원 3000여명이 경영자들에게 문제 제기했던 사례처럼, 그들은 군수산업과 같은 국가 프로젝트로부터 거리를 두고자 했다. 때마침 시장지상주의와 세계화가 선진국을 지배하면서 국가도 더 이상 기술기업을 규제하지 않았다.
그런데 실리콘밸리가 자신의 초기 정체성과 정반대의 길을 가려는 조짐이 뚜렷해지고 있다. 그 뿌리는 자유경쟁의 소멸이었다. 21세기 사반세기 동안 규제 없는 시장에서 엄청나게 몸집을 키워 승자가 된 극소수 빅테크는 자율과 경쟁, 개방이라는 전통을 거부하고 독점과 배제를 위주로 더 많은 수익 추구에 몰두했다. 인공지능(AI) 시대가 도래하자 개방적인 오픈소스나 효율적인 알고리즘 개발 대신에, 대규모 자본을 동원해 매개변수와 데이터, 중앙처리장치(CPU) 장비를 끝없이 증설하는 ‘규모의 법칙’을 통해 AI 지배권을 구축하려 나섰다.
그리고 마침내 그들은 AI 기술을 국가의 전쟁 프로젝트에 적용하려는 금단의 땅에도 발을 들여놓았다. 메타는 자신의 AI ‘라마’를 군사 및 안보 기관에서 사용할 수 있도록 허용했고, 오픈AI도 경영 지침에서 ‘자사 제품의 군사적 활용 금지’ 조항을 철회했다. 이 경향의 정점에 미국의 기술기업 팔란티어가 있다.
2016년 대선부터 트럼프를 지지해 실리콘밸리의 극우를 대표하는 이단아로 알려진 피터 틸과 알렉스 카프 등이 2003년에 설립한 팔란티어는, 사실 처음부터 실리콘밸리의 전통에서 벗어나 정부 기관과 군수산업을 상대로 데이터 분석 등을 제공하며 조용히 수익을 올렸다. 그런데 팔란티어 창업자들이 최근 국가와 거리를 두어온 실리콘밸리 빅테크를 공개적으로 비판하면서 능동적으로 국가의 경쟁력이나 전쟁 능력을 개선하는 데 나서라고 촉구한 것이다.
팔란티어 경영자들이 최근에 출간한 책 <기술공화국 선언>을 보면, 저자들은 미국이라는 국가의 비전과 헌신을 외면하고 실리콘밸리가 고작 온라인 광고나 소셜미디어 플랫폼 등 주로 소비자 시장에 집중함으로써 ‘길을 잃었다’며 통렬히 비판한다. 이어서 그들은 “소비자 시장만 노리는 대신 미국 국방 정보기관의 수요를 충족할” 기술 개발을 요청한다. 첨단 AI 기술혁신을 동원해서라도 과감히 국방과 전쟁에 기술을 공급하고, 미국과 서구의 우위를 지키자는 섬뜩할 정도의 팔란티어 주장은 정확히 실리콘밸리 버전의 우익 국가주의다. 우리가 알던 자유로운 영혼의 고향 실리콘밸리가 사라지는 순간이다.
그리고 이들은 일론 머스크라는 인물의 행보에서 확인되었듯이 정치에서 트럼프 같은 극우 세력과 자연스럽게 결탁하게 됐다. 지난 1월 바이든 대통령이 퇴임 연설에서 기술산업복합체(tech-industrial complex)의 잠재적 부상의 위험성을 경고하며 빅테크가 미국에서 과두제 권력을 만들었다고 한 건 이 맥락이다.
더 심각한 문제는 역사상 가장 놀라운 기술적 성과라고 하는 AI 기술이 현재 거의 완벽하게 이들 주도로 개발되고 이용되며 진화되고 있다는 사실이다.
AI 혁신이 가져올 온갖 긍정적인 기대에도 불구하고, 사회와 기후에 미칠 부정적인 파급이 염려되는 진짜 이유는, AI 그 자체가 아니라 AI를 통제하고 있는 기술 권력의 위험성 때문이다. 노벨 경제학상 수상자 다론 아제모을루는 공적인 규제의 틀 없이 오직 사기업 수익 추구 수단으로만 AI 개발 방향이 결정되면 빅테크 주가는 천장을 뚫고 비상할 수 있겠지만 사회와 기후에는 악영향을 끼칠 수 있다고 경고했다.
‘AI 3대 강국’을 추구하는 한국 역시 AI가 국가 기술 경쟁력이라는 모호한 목적 아래 사적 수익만을 위해 소모되기보다 넓은 사회적 혜택을 줄 수 있도록 정책 방향을 섬세하게 조율할 필요가 있다.
경남 창원시는 대학생들을 대상으로 추진하는 ‘천원의 아침밥’ 지원사업을 내년에 확대할 계획이라고 21일 밝혔다.
이 사업은 대학생이 1000원만 내면 아침밥을 먹을 수 있도록 해 결식률을 낮추고 아침밥 먹는 문화를 확산하기 위한 차원에서 시작됐다. 궁극적으로는 쌀 소비 촉진을 통한 쌀 수급 안정 목적으로 2017년부터 운영 중이다.
농림축산식품부가 한 끼에 2000원을, 경남도와 창원시가 각 1000원을 투입한다. 창원시는 올해 창원대·창신대를 대상으로 사업을 진행했다. 내년에는 경남대·마산대까지 대상을 늘린다.
학생들 입장에서는 1000원만 내고 한 끼를 해결할 수 있어 사업 호응도가 높다. 경남도도 올해 경상국립대 등 5개 도내 대학에 ‘천원의 아침밥’을 지원하고 있으며, 내년에 확대하는 방안을 추진하고 있다. 창원시 관계자는 “내년에도 사업이 원활히 추진될 수 있게 노력하겠다”고 말했다.

댓글목록

등록된 댓글이 없습니다.