[e경제뉴스 강장묵 컬럼] 누군가를 기망하여 이익을 얻는 행위를 사기라고 한다. 인류가 생기고 나서부터 ‘사기’는 가장 흔한 범죄행위이다.
사람이 타인을 속여 사기를 치는 행위보다 스스로를 속이는 행위에서 오는 폐해도 상당하다. 이런 사람들은 자신의 행동을 정당화한다.
초연결 사회에는 우리를 속이는 대상이 하나 더 늘었다. 바로 AI다.
<필터버블 현상과 개인화서비스>
AI는 솔깃하다. 우리의 오감을 흔들고 귀신같이 우리가 무엇을 원하는지를 알려준다. 예를 들어보자. 아래 사진과 같이 아마존은 어떤 물건을 구경하면, 해당 물건을 본 사람 또는 해당 물건을 구매한 사람이 그 다음에 본 물건(customers who viewed this item also viewed)을 보여준다. 그런데 이상하게도 그 물건에 우리는 클릭하게 된다.
필터버블 현상이란 ‘인터넷 정보제공자가 맞춤형 정보를 이용자에게 제공해’ 이용자는 필터링 된 정보만을 접하게 되는 현상을 지칭한다. 여기서 맞춤형 정보라는 것은 쉽게 말해 개인화된 서비스이다.
개인화서비스는 웹 2.0이 등장하면서 폭발적인 사랑을 받은 기술이다. 우리는 누군가로부터 특별하다는 느낌을 받으면 행복하다. 그냥 그 여럿의 한명, 그 사람들의 중의 한명이라는 느낌은 달갑지가 않다. 웹 2.0이 태동한 2000년대 초반 왜 포탈의 화면은 모두에게 똑같은 내용일까. 라는 질문이 시작되었다.
네이버를 예를 들어보자. 우리나라 국민 수 천만명이 사용하는 네이버는 2000년대만 해도 대부분의 화면과 내용이 비슷하다. 지금은 모바일 환경인지, 해외에 있는지, 뉴스는 어떤 종류를 즐겨보는지 등을 네이버가 알아서 편집해 제공한다.
처음 이 서비스를 경험한 고객은 무척 놀라워했다. 다른 서비스보다 사용율이 높고 만족감이 커지니 모두가 이 서비스를 개발하기 시작했다. 그러나 이렇게 내가 좋아하는 편향된 정보만을 보게 되면 모든 사람들이 나와 같은 생각을 할 것이라는 오해를 하게 된다.
이를 미국의 시민단체 무브온(Move on)의 이사장인 엘리 프레이저가 쓴 ‘생각 조종자들(원제: The Filter Bubble)’에 필터 버블 현상이라고 말하였다.(https://terms.naver.com/entry.nhn?docId=3581012&cid=59088&categoryId=59096)
아마존의 상품 서비스는 그럭저럭 관심 물건을 보여주어 시간의 낭비를 줄여서 괜찮다. 그러나 뉴스 기사는 어떤가. 어떤 특정인이 매일 경향신문, 한겨레신문, 한겨레 자매지인 매거진, 동영상은 유시민의 방송 등을 추천받아 다른 정보는 접근하지 못한 채 같은 논조의 글과 영상만 본다면 그의 사고는 건전할 수 있을까.
적어도 동시대에 살고 있는 다른 생각을 가진 이들의 마음을 좀 더 진솔하게 이해할 수 있을까. 필터 버블이란 생각을 조정하는 이런 플랫폼 사업자 등이 보이지 않는 손이라고 본 것이다. 더 나아가 지금은 인공지능이 개발되어 우리의 일거수 일투족을 관찰하고 제일 좋아할 관심사와 이야기를 들여준다.
필자는 한국 사회의 부조리나 불편한 진실에 대해 관심이 많다. 되도록 이런 사실을 냉정하게 보고 강하게 비판하는 성향이 크다.
그래서인지 유튜브를 열면 늘 그런류의 내용이 첫화면이 된다. 페이스북을 열면 정부나 현실에 대한 비판, 더러는 이 비판을 넘어 비난에 가까운 글들이 자주 등장한다. 필자가 좋아요.
또는 공유를 한 것을 페이스북이 인공지능 등으로 처리하여 자동으로 보여주는 것이다. 이런 알고리즘에 갇혀 살게 되면 우린 점점 더 자기가 듣고 싶고 보고 싶고 만나고 싶은 이들과만 소통하는 문제가 발생한다. 이를 조금 다른 말로 확증 편향이라고 한다.
<AI에 속고 또 한번 더 자신을 속이는 확증편향>
확증편향 현상 때문에 가짜뉴스는 확신으로 굳어지게 하는 경향성을 보여준다. 가짜뉴스가 등장했으면 진짜뉴스도 비슷한 비율로 소개되면 좋겠지만 안타깝게도 오늘날 인공지능 알고리즘은 가짜뉴스를 본 사람들에게는 또 다른 연관된 가짜뉴스를 소개하는 경향을 가지고 있다.
이처럼 가짜뉴스가 가지고 있는 위험성은 국민 전체를 속일 수 있고 집단을 포퓰리즘으로 내몬다는데 있다. 왜 우리는 가짜에 속고 더 나아가 우리 스스를 속이는걸까.
그 원인은 빅데이터와 인공지능 기술의 발전에 있다. 그리고 이로 인해 가짜뉴스는 크게 확증 편향, 이슈의 현저성, 침묵의 나선, 지각 편향 등 인지적인 오류를 일으킨다.
첫째 확증 편향이란 자신의 믿음과 일치하는 정보에만 관심을 갖고 공유하고 믿음과 다른 정보는 버린다는 것으로 가짜뉴스가 확신으로 굳어지게 하는 경향성을 보여주는 특징이다.
둘째 이슈의 현저성은 자극적이고 두드러진 속성인 루머가 가짜뉴스에 활용되는 경향을 보이는 것이다. 점점 독자들이 자극적인 루머에 솔깃해지는 현상을 뜻한다.
셋째는 침묵의 나선구조이다. 다수가 소수의 의견에 반응을 하지 않아서 다수의 팩트가 소수의 가짜뉴스보다 작아보이는 현상이다.
넷째는 지각 편향이다. 평소 개연성이 있다고 여겨지는 사건에는 진위나 팩트 체크를 등한시 하는 경향을 가져, 의혹만 제기하여도 마치 그런 일이 있었다는 듯이 착각하게 된다.
다섯째, 필터버블 현상이다. 필터버블이란 인터넷 정보제공자가 맞춤형 정보를 이용자에게 제공해 이용자는 필터링 된 정보만을 접하게 되는 현상을 지칭한다.
이런 현상들은 SNS가 등장하면서 세계적인 포퓰리즘과 함께 더욱 기승을 부려서 사실 민주주의의 여러 아름다운 원칙들을 훼손하고 있다.
가짜뉴스는 그 피해의 심각성이 크고 이로 인해 다수의 사람들이 명예훼손, 권력 남용 등 여러 가지 죄로 구치소에 수감된 상황에서도 기술은 발전하는데. 정책입안자들은 무능하게 쳐다보고 있는 형국이라 안타깝다.