<강장묵 교수가 미국 현지서 보내온 세미나 소식>
생성형 AI의 급속한 발달로 인간의 지위마저 위협받기에 이른 상황에서 미국·일본의 정보보호 및AI범죄학 전문가들이 참여한 가운데 ‘거대언어모델 발전과 법적 도전’을 주제로 한 보안세미나가 1일(현지시간)미국 동부도시 보스턴에 위치한 사립명문 살베레지나 대학에서 2주간 일정으로 개막됐다.
이 세미나에는 동국대 국제정보보호대학원 AI보안 전공 강장묵 교수 연구팀과 국내 헌법학자, 일본 히토츠바시대학 데이터사이언스 전공교수, 미국SALVE REGINA 대학교 범죄학 연구 교수등이 참석해 2주간 토론을 벌인다.
개막 첫날 동국대 강장묵 교수는 ‘거대언어모델인 GPT 3.0과 GPT 3.5터보 그리고 GPT4.0모델의 기술발전 속도와 이에 따른 새로운 ’jailbreaking‘ 문제를 소개해 주목을 받았다. 특히, 기존의 의미해석 및 인식 기반의 버트(Bert)모델과 다른 디코더 방식의 GPT모델인 생성형 발화 방식에 대해 설명했다. 인공환각이 필연적으로 취약한 골 하이제킹(goal hijacking), 리킹(leaking) 사례를 소개했다.
특히, 올해는 4월 한국 총선과 11월 미국의 대선을 앞두고 가짜뉴스가 활개칠 것으로 전망하고 대책마련을 촉구했다. 챗 GPT 인공환각의 사례로 '제일브레이킹(jailbreaking)'을 들었다.
거대 언어 모델은 적법과 합법 그리고 경기계가 모호한 기술사회적 여건에 있을 것으로 판단했다는 것이다.
강장묵 교수 연구팀은 향후 보스턴대학교, 하바드대학교, 예일대학교 그리고 맨해튼 루즈벨트섬에 있는 코넬 텍 등에서 세계적 학자들과 세미나 교류를 수행한다. 향후, 인공지능 보안 분야의 기술적 이슈로 가짜뉴스, 인공환각, 챗GPT 침투(해킹) 등을 다루기위해 방문교수, 제자들의 포닥(박사후 과정) 코스 등을 추진한다.
이날 강연 후 저녁 자리에서 강 교수는 인공지능 서비스 개발 및 구현의 사례에 대해 아래과 같이 추가 설명을 했다. 2023-2024년 기간 수행하는 ‘엑세스포인트를 이용한 자동 테이블 오더 팝업 시스템 개발’에 대해 설명했다.
특히 강 교수는 동국대 연구팀이 수행하는 중소벤처기업부 과제에 대해 상세히 밝혔다.
이 중기부 과제는 소상공인을 위해 상용 무선 AP의 QR코드와 테이블 QR을 이용, AI 기술이 접목된 그로스해킹 정보 처리 시스템을 개발하는 것이다. 현재 파일롯 시스템을 개발한데 이어 국내 기업 10곳이 MOU 및 기술 검증에 참여했다. 현재 월 운영비를 충당할 정도의 매출이 발생한다고 설명했다. 특히, QR코드 사용이 일반화된 미국 등 해외 진출을 추진하고있다고 밝혔다.
SDG뉴스 강장묵 동국대 교수