한게임머니상 이러라고 만든 AI가 아닌데···챗GPT, 범죄조직 ‘사기 필수템’ 오명 > 임대문의

한게임머니상 이러라고 만든 AI가 아닌데···챗GPT, 범죄조직 ‘사기 필수템’ 오명

페이지 정보

작성자 또또링2
댓글 댓글 0건 조회Hit 4회 작성일Date 25-09-17 18:25

본문

한게임머니상 동남아시아에 근거지를 둔 범죄조직이 생성형 인공지능(AI) 챗GPT를 이용해 사기 행각을 벌이고 있는 것으로 드러났다. 챗GPT 활용으로 범행 능률이 증가하면서 더 많은 피해자가 나오고 있다는 증언도 이어졌다.
로이터통신은 15일(현지시간) 범죄조직에 납치돼 미얀마·태국 국경 지역에서 온라인 사기에 가담하게 된 케냐인 던컨 오킨도(26)의 사연을 소개했다.
오킨도는 ‘고객 서비스 업무’ 채용 공고를 보고 지난해 태국 방콕으로 향했다. 하지만 그는 입국 직후 범죄 조직에 붙잡혀 미얀마·태국 국경 지역의 대규모 온라인 사기와 인신매매 거점인 이른바 ‘KK 단지’로 끌려갔다.
오킨도가 끌려간 건물에는 인신매매 피해자 수백 명이 강제로 노역에 동원돼 있었다. 이들은 데스크톱 PC에서 무료 버전의 챗GPT를 실행해 미국 부동산 중개인을 대상으로 가상통화 투자를 유도하는 메시지를 작성했다고 한다. 로이터는 주로 중국 범죄조직이 ‘돼지 도살’이라고 불리는 이 같은 수법을 이용한다고 전했다.
오킨도는 부동산 중개 웹사이트에 접속해 개인 정보를 수집했고, 자신을 ‘부유한 투자자’로 소개하며 이들과 접촉했다. 그는 자신이 가상통화로 큰돈을 벌었다고 속여 대상자가 특정 가상통화 거래 플랫폼에 현금을 입금하도록 유도했다. 이 플랫폼은 이 범죄조직이 만든 허위 사이트였다.
오킨도는 챗GPT를 “사기꾼이 사기 칠 때 가장 많이 사용하는 AI 도구”라고 했다. 자신을 텍사스주의 목장주, 앨라배마주의 콩밭 농장주 등으로 속인 그는 챗GPT가 알려준 사투리로 피해자와 대화했을 뿐만 아니라 부동산 중개인이 가상통화나 미국 주택 시장에 대해 질문하면 챗GPT에서 그럴듯한 답변을 얻어냈다. 오킨도는 AI를 통해 얻어낸 새 사기 수법으로 이미 사기 피해를 본 피해자들까지 다시 속일 수 있었다고 덧붙였다.
오킨도는 하루 할당량을 채우지 못하면 현장 관리자가 인신매매 피해자들을 때리거나 전기봉으로 충격을 가했다고 말했다. 그는 태국 정부가 단지 전력을 차단해 범죄조직을 압박하자 납치 4개월 만에 KK 단지에서 벗어날 수 있었다.
로이터는 범죄조직으로부터 연애 빙자 사기(로맨스스캠)에 가담하도록 강요받은 미얀마 남성 두 명도 챗GPT를 활용해 피해자를 속였다고 전했다. 한 미얀마 남성은 “챗GPT의 설득력 있는 문체는 피해자들이 우리를 더 믿게 했다”며 “AI와 협력하는 것은 정말 효율적이었다”고 말했다.
오픈AI는 이 사건과 관련해 “사기 관련 오용을 적발하고 차단하기 위해 적극적으로 노력하고 있다”며 자사 조사관들이 사용자의 오용 행위를 감시하고 있다고 해명했다.
동남아시아에 근거지를 둔 범죄조직이 생성형 인공지능(AI) 챗GPT를 이용해 사기 행각을 벌이고 있는 것으로 드러났다. 챗GPT 활용으로 범행 능률이 증가하면서 더 많은 피해자가 나오고 있다는 증언도 이어졌다.
로이터통신은 15일(현지시간) 범죄조직에 납치돼 미얀마·태국 국경 지역에서 온라인 사기에 가담하게 된 케냐인 던컨 오킨도(26)의 사연을 소개했다.
오킨도는 ‘고객 서비스 업무’ 채용 공고를 보고 지난해 태국 방콕으로 향했다. 하지만 그는 입국 직후 범죄 조직에 붙잡혀 미얀마·태국 국경 지역의 대규모 온라인 사기와 인신매매 거점인 이른바 ‘KK 단지’로 끌려갔다.
오킨도가 끌려간 건물에는 인신매매 피해자 수백 명이 강제로 노역에 동원돼 있었다. 이들은 데스크톱 PC에서 무료 버전의 챗GPT를 실행해 미국 부동산 중개인을 대상으로 가상통화 투자를 유도하는 메시지를 작성했다고 한다. 로이터는 주로 중국 범죄조직이 ‘돼지 도살’이라고 불리는 이 같은 수법을 이용한다고 전했다.
오킨도는 부동산 중개 웹사이트에 접속해 개인 정보를 수집했고, 자신을 ‘부유한 투자자’로 소개하며 이들과 접촉했다. 그는 자신이 가상통화로 큰돈을 벌었다고 속여 대상자가 특정 가상통화 거래 플랫폼에 현금을 입금하도록 유도했다. 이 플랫폼은 이 범죄조직이 만든 허위 사이트였다.
오킨도는 챗GPT를 “사기꾼이 사기 칠 때 가장 많이 사용하는 AI 도구”라고 했다. 자신을 텍사스주의 목장주, 앨라배마주의 콩밭 농장주 등으로 속인 그는 챗GPT가 알려준 사투리로 피해자와 대화했을 뿐만 아니라 부동산 중개인이 가상통화나 미국 주택 시장에 대해 질문하면 챗GPT에서 그럴듯한 답변을 얻어냈다. 오킨도는 AI를 통해 얻어낸 새 사기 수법으로 이미 사기 피해를 본 피해자들까지 다시 속일 수 있었다고 덧붙였다.
오킨도는 하루 할당량을 채우지 못하면 현장 관리자가 인신매매 피해자들을 때리거나 전기봉으로 충격을 가했다고 말했다. 그는 태국 정부가 단지 전력을 차단해 범죄조직을 압박하자 납치 4개월 만에 KK 단지에서 벗어날 수 있었다.
로이터는 범죄조직으로부터 연애 빙자 사기(로맨스스캠)에 가담하도록 강요받은 미얀마 남성 두 명도 챗GPT를 활용해 피해자를 속였다고 전했다. 한 미얀마 남성은 “챗GPT의 설득력 있는 문체는 피해자들이 우리를 더 믿게 했다”며 “AI와 협력하는 것은 정말 효율적이었다”고 말했다.
오픈AI는 이 사건과 관련해 “사기 관련 오용을 적발하고 차단하기 위해 적극적으로 노력하고 있다”며 자사 조사관들이 사용자의 오용 행위를 감시하고 있다고 해명했다.
딥페이크(인공지능 기반 이미지 합성) 음란물을 제작·유포하거나 스토킹(과잉 접근 행위)을 한 공무원에 대한 징계 수위가 대폭 강화된다. 동승자의 음주운전을 방치하는 등 음주운전 은닉·방조 공무원도 엄중 처벌된다.
인사혁신처는 이 같은 내용을 담은 ‘공무원 징계령 시행규칙’ 개정안을 입법예고한다고 16일 밝혔다. 개정안은 오는 12월 시행될 예정이다.
그동안 공무원의 딥페이크 음란물 제작·유포와 과잉 접근 행위는 성 관련 비위 중 ‘기타’ 항목으로 분류돼 비위의 심각성에 비해 상대적으로 낮은 수준의 징계 기준이 적용됐다.
이번 개정을 통해 딥페이크 음란물 제작·유포를 한 공무원에 대해서는 파면 또는 해임 등 최고 수준 징계를 내리도록 했다. 과잉 접근 행위에 대해서도 비위 정도가 심하고, 고의가 있는 경우에는 파면까지 받을 수 있도록 명시했다.
인사처는 “이번 개정을 통해 첨단 조작 기술을 이용한 성 비위(허위 영상물 편집 등 행위)와 음란물 유포는 성 관련 비위 징계 기준으로 구체화·세분화된다”고 밝혔다.
음주운전 방조·은닉은 별도 징계 기준이 신설된다. 기존에는 별도 징계 기준이 없어 품위 유지 의무 위반 중 ‘기타’ 항목을 적용하는 등 적정한 징계 결정에 어려움이 있었다.
개정안은 타인을 운전자로 내세운 음주 운전자(은닉 교사), 음주 운전자 대신 허위 진술한 제3자(은닉), 음주 상태임을 알면서도 차량 열쇠를 제공하거나 음주운전을 권유한 동승자(방조)에 대해 강등∼감봉 징계가 가능토록 했다.
최동석 인사처장은 “깨끗하고 투명한 공직사회 확립을 위해 중대 비위에 대해서는 일벌백계가 필요하다”며 “이번 개정을 통해 공직사회 내 경각심을 일깨우고 앞으로도 청렴한 공직사회 구현을 위해 지속적으로 노력하겠다”고 말했다.

댓글목록

등록된 댓글이 없습니다.