상단영역

편집 : 2024-04-25 10:08 (목)

본문영역

[강장묵의 굿모닝! 4차산업혁명(14)]속이는 AI 기술의 등장, '디지털 야바위꾼'

자신을 속이는 확증편향...가짜 뉴스가 확신으로 굳어져

이 기사를 공유합니다
카카오톡 대화 재구성 (출처 이경제뉴스)

[e경제뉴스 강장묵 컬럼] 카카오톡은 비밀을 보장해주지 않는다. 카카오톡의 ‘단톡방’은 더욱 그렇다. 그러나 그 안에서 대화를 하다보면, ‘마치 비밀스럽다’라거나 ‘우리 둘 사이만 보고 있다’는 착각에 빠지곤 한다.

그런 착각으로 내뱉는 수위 잃은 말들이 지금도 인터넷 공간에서 끊임없이 복사되고 퍼 날려진다.

그렇게 세상에 등장한 우리 둘끼리의 이야기라거나 허물없는 친구 간에 이야기에는 ‘날 것’이 많다.

대화의 농밀은 고차원적이지 않다. ‘그저 싫은 누구를 비난한다. 그냥 재수없는 누구를 헐뜯는다. 누구의 비리를 드러낸다. 더러 시샘이나 누구의 사생활을 들춘다.’ 딱 거기까지다. 그게 대화의 목적이고 그렇고 또 잊혀진다.

날것의 넘실대는 대화를 하다보면 상식을 벗어나는 ‘상한 대화’가 고개를 든다. 썩은 냄새가 진동하는 것이다.

우리는 왜 비밀스러우면 음란하거나 비윤리적이거나 야바귀꾼이 되는 것일까?

오늘날 대통령 탄핵부터 연예인의 탈선 그리고 일반인 간의 사생활은 카카오톡 등 소위 폐쇄형 SNS로 촉발된다.

폐쇄형 SNS란 말 그대로 폐쇄된 단톡 대화라는 뜻이다. 그 말뜻이 무색하게 폐쇄형 SNS의 글들은 캡쳐된 날 것 그대로의 모습으로 세상에 등장한다.

흔히 단톡방 또는 비밀대화방이라고 불리기도 하는데, 사실은 전혀 비밀스럽지 않다. 대화는 단 둘이 하건, 여럿이 한 공간에서 하건 ‘대화의 내용이 누군가 의해 저장’될 수 있기 때문이다.

따라서 폐쇄형 SNS는 더 이상 안전하지 않다. 우리는 어디도 숨을 곳이 없다. 현명한 자는 그냥 잠자코 보고만 있다. 또는 입을 닫고 디지털 산중으로 길을 떠났다. 그럼에도 디지털 저작거리에는 늘 소란스럽다.

한편에서는 흥정을 하고 한편에서는 멱살잡이를 한다. 몇몇은 길목을 지켜 사람을 음해하기도 한다. 지금은 만인에 의한 만인간의 디지털 전쟁 득 수 많은 디지털 증인(witness)이 등장하여 하루가 멀다하고 폭로를 하는 세상이다.

우리 조부모님 세대들은 삶의 대부분을 아날로그로 살았다. 한잔 거하게 취하시면 상스러운 욕설이나 까닭없는 허언을 읊조릴 수 있었던 마지막 시대를 풍미하셨다.

그러나 지금은 비밀방 또는 우리끼리만 나누는 대화라는 언사로 현혹하고 언제든지 까발려질 수 있는 시대에 접어들었다.

이런 시대일수록 비밀은 사라지고 그 자리에 투명함과 정직이 깃들어야 한다. 그러나 이런 시대일수록 비밀이 사라진 그 자리에 암투와 원망 그리고 ‘신뢰의 상실’이 깃들게 된다.

그 원인이야, 여럿이 있겠지만 폐쇄형 카카오톡의 비밀대화방이 공개되고 정의로운 고백이 솟아나올수록 사회가 더욱 혼미해지지 않는 비결은 없을까.

법과 제도는 차치하더라도 그 기술적 비결은 없을까.

확증편향이란 자신의 믿음과 일치하는 정보에만 관심을  갖는 성향을 뜻한다. 사람들은 자신이 믿는 정보만 공유하는 성향을 갖는다. 즉, 자신의 믿음과 다른 정보는 소홀하게 다루어지거나 버리게 된다.

확증편향 현상 때문에 가짜뉴스는 확신으로 굳어지게 하는 경향성을 보여준다. 뿐만 아니라, 단순히 감정적으로 싫은 타인에 대한 사생활은 어김없이 패륜아로 낙인 시켜야 속이 후련해지기도 한다.

심지어는 글을 쓰는 과정에서 더욱 자극적인 무엇을 갈구하기도 한다. 이런 비상식적인 일들이 이제 세상에 알려지면서 누구는 감옥에 가고 누구는 다시 인생을 버젓이 살아갈 수 없을 것이다.

그러함에도 여전히 폐쇄형 SNS는 안전하다고 믿는가. 내부자에 의한 고발은 누구도 막을 수 없다.

우리는 AI 기술을 통해 확증편향적으로 글을 읽거나 쓰거나 공유하는 개인과 집단을 구분할 수 있다. 다른 한편으로 끼리끼리 자기 증폭을 하여 사단이 나기 전에 차분해지게 조언하는 AI를 개발할 수 있다.

또는 특정 집단이 자기들만의 믿음을 강화하는 메커니즘을 이용하여 더욱 편향된 믿음을 견고하게 하는 AI를 개발할 수도 있다.

이 모든 기술의 원천은 AI 중 자연어 처리 기술에 있다. 자연어 처리 기술은 단순히 번역을 하거나 가짜뉴스를 찾아내는 수준이 아니다. 오히려 가짜뉴스를 만들거나 인간의 허약함을 파고들고 편견을 강화할 수도 있다.

이 모든 것이 자연어 기술 발전과 그 활용에 대한 인문 사회 과학적 이해에 있다.

여전히 갈 길이 첩첩산중인데, 문제를 해결할 AI 기술을 이해하는 전문가는 없고 현상만 바라보는 야바위꾼만 즐비하다. 그러니 또 장래에는 AI에 우리 신념과 생각도 좌지우지될지도 모르겠다.

저작권자 © SDG뉴스 무단전재 및 재배포 금지

개의 댓글

0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400

내 댓글 모음

지속가능경제