[시사뉴스 홍경의 기자] 서강대 연구진이 수행한 AI 환각 완화 논문이 국제인공지능학회의 메인트랙논문으로 선정됐다.
서강대학교는 연구진이 수행한 다중모달 거대언어모델의 환각 문제 완화 연구가 2025년 국제인공지능학회(AAAI)의 메인트랙논문으로 채택됐다고 15일 밝혔다. 저자는 컴퓨터공학과 최준석 교수 연수실의 박예지 학생과 인공지능학과 장부루 교수 연구실의 이덕영 학생이다.
거대언어모델에서 환각이란 '사실이 아닌 내용을 진실인 양 자연스럽게 대답하는 현상'이다. 답변할 만한 데이터가 없을 때 허위 정보를 제공하는 사례가 대표적인 환각 현상이다.
할루시네이션(Hallucination)으로 불리는 환각 현상은 챗GPT 등의 거대언어모델이 넘어야 할 기술적 한계로 주목받아 왔다.
서강대 연구진은 디코딩 과정만으로 환각 문제를 완화하는 기법인 'ConVis'를 제안했다.
'ConVis'는 생성 모델의 캡션으로 이미지를 복원한 뒤, 원본 이미지와 복원 이미지의 대조적 확률 분포를 비교해 환각 신호를 억제했다.
또한 추가적인 데이터 수집이나 학습 과정 없이 기존 시스템에 적용할 수 있는 높은 적용도를 보였다.
이번 연구 결과는 다중모달 거대언어모델의 환각 문제 해결에 새로운 접근법을 제시할 것으로 기대된다.
한편 올해 국제인공지능학회는 오는 2월25일부터 3월4일까지 미국 필라델피아에서 개최될 예정이다.
