온라인상에서 유명인을 사칭하거나 딥페이크(deepfake) 기술을 이용한 사기행위 수법이 갈수록 정교해지며 극성을 부리고 있다. 사기꾼들이 가장 많이 활동하는 곳은 소셜 미디어(SNS) 플랫폼으로 피해 규모도 계속 늘어나는 실정이다.
사기꾼은 검찰이나 경찰 등 정부기관을 사칭하며 피싱 내용을 보내는 방법으로 피해자를 속이는 수법도 여전히 성행하고 있다. 피해자들은 정부기관에서 발송된 내용을 의심하지 않고 확인하거나 응하는 경우가 많다. 정부기관 사칭에도 인공지능(AI)기반이 활용되며 피해자를 물색하는 시대다.
AI가 온라인범죄에 활용되면서 그럴싸한 허위 문장내용을 만들어 내는 텍스트를 생성하기도 한다. 평소 알고지내는 지인의 목소리와 유사하도록 사칭하는 목소리를 복제하거나 사칭된 목소리로 실시간 통화가 가능하도록 속이는 방법으로 사기행위도 다양해지고 있다.
더욱 심각한 것은 생성형 AI를 이용해 특정인의 얼굴로 조작해 사칭하는 딥페이크 영상이 성행하고 있는 것이다. 딥페이크 기술은 과거에 허술했던 조작과 달리 딥러닝을 이용한 영상과 이미지조작이 정교해져서 얼굴 혹은 신체 일부를 진짜처럼 보이도록 조작돼 실제 진위 여부를 알 수 없는 사회적 문제로 부각되고 있다.
영국 언론에서 보도한 내용에 따르면 전 세계 유명인 4000명가량이 딥페이크 음란물의 피해자가 됐다는 분석 결과가 나왔다. 그렇다면 불특정 다수의 일반인 자신도 모르는 사이에 피해자가 될 수 있는 것이며, 피해가 발생하고 있다는 것이다.
우리나라도 유명인을 사칭한 사기행위가 카카오톡, 페이스북, 밴드, 유튜브, 인스타그램 등에서 성행하며 피해자가 늘어나고 있다. 사기꾼들은 유명인 사칭을 통해 투자수익 등에 관심을 보이는 피해자들을 카카오톡이나 네이버밴드로 유인하고 있다.
사기 피해를 당하지 않기 위해서는 페이스북 등 SNS에서 접근하는 인물에 대해 경계가 필요하다. 카카오톡 ID를 공개하거나 유인하는 경우 의심은 당연히 필요하다. 페이스북에서 UN전 사무총장 ‘반기문’을 검색 해 봤더니 7명이 검색되고 있었다. 그만큼 유명인을 사칭한 것이 많을 수 있다는 것이다.
미국 군인으로 외국에 파견근무중인 것 등으로 위장하고 DM을 걸어오거나 친구 맺기를 신청한다면 분명 사기의 목적을 의심해야 한다. 이렇게 접근하는 인원의 프로필과 조작된 사진만 보고 친구 맺기를 하고 있는 주변인들이 아직도 많은 것을 접할 때 마다 범죄의 피해자가 될까 우려되고 있다.
조작과 사칭 사기에 당하지 않기 위해서는 정확한 출처의 확인이 우선이다. 성급하게 결정을 강요하거나 고수익보장 등을 강조한다면 사기일 가능성이 높다. 그리고 개인정보에 대한 철저한 보호가 필요하다. 금융정보를 요구한다면 일단 의심부터 해야 하며, 개인의 강력한 비밀번호 사용과 2단계 인증으로 보안을 강화해야 한다.
아직까지 생성형 AI를 활용한 딥페이크 조작에 대한 강력한 규제는 아직까지 미흡한 상황이다. 관련 법안들도 발의됐지만 국회 계류 중으로 규제는 더디고 범죄는 늘어나고 있어 스스로 주의가 필수적이라 생각한다.
류원호 동국대 초빙교수, 국민대·세종대 겸임교수, 한국항공우주정책·법학회 이사