전체기사

2025.06.05 (목)

  • 구름많음동두천 17.6℃
  • 맑음강릉 20.3℃
  • 구름많음서울 18.2℃
  • 맑음대전 18.5℃
  • 맑음대구 19.0℃
  • 맑음울산 20.0℃
  • 맑음광주 18.4℃
  • 맑음부산 19.1℃
  • 맑음고창 18.4℃
  • 맑음제주 21.3℃
  • 구름많음강화 15.3℃
  • 구름조금보은 17.3℃
  • 맑음금산 18.1℃
  • 맑음강진군 18.7℃
  • 구름조금경주시 20.7℃
  • 맑음거제 19.7℃
기상청 제공

사회

서강대 'AI 환각 완화' 연구, 국제인공지능학회 메인트랙논문 채택

URL복사

챗GPT, 허위정보 제공하는 '환각 현상' 한계
연구진, 추가 학습 없이 디코딩만으로 환각 완화
'2025 국제인공지능학회' 내달 25일부터 필라델피아서 개최

[시사뉴스 홍경의 기자] 서강대 연구진이 수행한 AI 환각 완화 논문이 국제인공지능학회의 메인트랙논문으로 선정됐다.

 

서강대학교는 연구진이 수행한 다중모달 거대언어모델의 환각 문제 완화 연구가 2025년 국제인공지능학회(AAAI)의 메인트랙논문으로 채택됐다고 15일 밝혔다. 저자는 컴퓨터공학과 최준석 교수 연수실의 박예지 학생과 인공지능학과 장부루 교수 연구실의 이덕영 학생이다.

 

거대언어모델에서 환각이란 '사실이 아닌 내용을 진실인 양 자연스럽게 대답하는 현상'이다. 답변할 만한 데이터가 없을 때 허위 정보를 제공하는 사례가 대표적인 환각 현상이다.

 

할루시네이션(Hallucination)으로 불리는 환각 현상은 챗GPT 등의 거대언어모델이 넘어야 할 기술적 한계로 주목받아 왔다.

 

서강대 연구진은 디코딩 과정만으로 환각 문제를 완화하는 기법인 'ConVis'를 제안했다.

 

'ConVis'는 생성 모델의 캡션으로 이미지를 복원한 뒤, 원본 이미지와 복원 이미지의 대조적 확률 분포를 비교해 환각 신호를 억제했다.

 

또한 추가적인 데이터 수집이나 학습 과정 없이 기존 시스템에 적용할 수 있는 높은 적용도를 보였다.

 

이번 연구 결과는 다중모달 거대언어모델의 환각 문제 해결에 새로운 접근법을 제시할 것으로 기대된다.

 

한편 올해 국제인공지능학회는 오는 2월25일부터 3월4일까지 미국 필라델피아에서 개최될 예정이다.

저작권자 Ⓒ시사뉴스
제보가 세상을 바꿉니다.
sisa3228@hanmail.net





커버&이슈

더보기
美백악관 "한국, 자유·공정한 선거…중국 세계 영향력 우려"
[시사뉴스 홍경의 기자] 도널드 트럼프 미국 행정부 백악관이 이재명 대통령 당선일에 한미동맹 철통을 강조하면서 돌연 중국에 대해 언급했다.ㅣ 백악관은 이 대통령 당선일에 한미동맹이 견고하게 유지될 것이라 강조하는 한편, 중국의 영향력 확대를 우려한다는 입장을 내놨다. 한국 대선 결과와 관련한 백악관의 첫번째 입장에 중국을 견제하는 내용이 포함된 것이라 진의를 두고 여러 해석이 나올 것으로 보인다. 백악관은 3일(현지 시간) 이재명 대통령 당선에 대한 입장을 묻는 뉴시스 질의에 백악관 관계자 명의로 우선 "한미 동맹은 철통같이 남아있다"고 답변했다. 백악관은 이어 "한국이 자유롭고 공정한 선거를 치렀지만, 미국은 중국이 전세계 민주주의 국가들에 간섭하고 영향력을 행사하는 것에 우려하고 반대한다"고 밝혔다. 백악관에서 이재명 대통령 당선과 관련한 입장이 나온 것은 이번이 처음이다. 이날 정례브리핑에서 관련 질문이 나왔으나 캐롤라인 레빗 대변인은 관련 자료를 찾지 못하는 모습을 보이다, 답변을 미뤘다. 이후 백악관 관계자발로 입장이 나왔는데, 한국 대선이 자유롭고 공정하게 치러졌다고 평가하면서도 중국에 대한 경고성 메시지를 담았다. 한국 대선과 관련한 입장에 굳이

정치

더보기
李 대통령 첫 국무회의 “국민 중심에 두고 공직 근무 기간 최선 다해달라”
[시사뉴스 김백순 기자] 이재명 대통령은 5일 취임 후 첫 국무회의를 주재했다. 새 정부 장관 인선이 이뤄지지 않은 관계로 윤역열 전 대통령이 임명한 장관들이 다수 참석했다. 이 대통령은 이날 용산 대통령실에서 국무회의를 주재하며 “우리는 모두 국민들로부터 위임받은 업무를 하는 대리인들”이라며 “국민을 중심에 두고 공직 근무 기간 최선을 다해달라”고 당부했다. 이 대통령은 특히, 국정 연속성의 중요성과 함께 공직 기강 확립을 강조했다. 이 대통령은 “좀 어색하죠. 우리 좀 웃으면서 하자”고 운을 뗀 후 “어색할 수도 있지만 우리는 국민에게 위임받은 일을 하는 거니까 어쨌든 공직에 있는 그 기간만큼은 각자 해야 할 최선을 다하면 될 것 같다”고 말했다. 이 대통령은 “저로서도 아직 체제 정비가 명확하게 되기에는 상당한 시간이 필요한데, 그 시간 동안도 우리 국민들은 어려운 상황에서 고생을 한다”며 “최대한 저는 그 시간을 좀 줄이고 싶다. 여러분이 가진 권한, 책임을 한순간도 소홀히 할 수 없지 않나”라고 말했다. 이어 “현재 여러분은 헌법기관으로서 법률에 의해서 하실 일들이 있다”며 “지금 현 상황을 여러분이 각 부처 단위로 가장 잘 아실 것이기 때문에 그

경제

더보기

사회

더보기

문화

더보기

오피니언

더보기