전체기사

2025.06.30 (월)

  • 구름많음동두천 27.7℃
  • 흐림강릉 29.4℃
  • 구름조금서울 29.1℃
  • 구름조금대전 30.2℃
  • 맑음대구 32.3℃
  • 연무울산 29.4℃
  • 맑음광주 31.6℃
  • 구름조금부산 26.6℃
  • 구름조금고창 32.1℃
  • 맑음제주 29.6℃
  • 흐림강화 26.9℃
  • 구름많음보은 28.2℃
  • 구름조금금산 30.3℃
  • 구름많음강진군 30.8℃
  • 구름조금경주시 32.9℃
  • 구름조금거제 28.1℃
기상청 제공

사회

의료용 대규모언어모델, 보안침해위험 81% ‘경고등’

URL복사

서울아산병원 연구팀, 의도적 악성공격 시도해 개인정보유출 위험성 분석

원본데이터노출 22%···“민감정보 다루는 만큼 ‘의료 특화형 대규모언어모델’ 필요”

임상의학 분야 최고 권위지 NEJM의 AI 분야 특화 자매지 ‘NEJM AI’ 게재

[시사뉴스 이용만 기자] 최근 챗GPT와 같은 생성형 인공지능과 그 핵심 기술인 대규모언어모델(Large Language Model, LLM)이 다양한 산업군에서 활발하게 활용되면서, 의료 분야에서도 이를 접목한 디지털 혁신에 주목하고 있다.

 

하지만 환자의 개인정보보호가 특히 중요한 분야인 만큼, 대규모언어모델 사용에 따른 개인정보유출 등 보안에 대한 우려가 꾸준히 제기되고 있다.

 

최근 서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀이 대규모언어모델을 의료 분야에 적용하는 과정에서 발생할 수 있는 개인정보유출 문제를 확인하기 위해 의도적으로 악성 공격을 시행한 결과, 최대 81%에 달하는 공격 성공률을 보였다는 연구 결과를 발표했다.

 

연구팀은 의료 분야에서는 민감한 개인정보를 다루기 때문에 대규모언어모델 도입에 신중하고 각별한 주의가 필요하고, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다고 강조했다.

 

이번 연구 결과는 전 세계 의사들의 임상치료 교과서로 불리는 NEJM(New England Journal of Medicine)의 자매지인 ‘NEJM AI’에 최근 게재됐다. 의료계에서 인공지능의 중요성이 점점 확대됨에 따라, 임상의학 분야 세계 최고 권위지로 꼽히는 NEJM에서도 지난해 1월부터 인공지능 분야만을 특화해 다루는 자매지를 출간한 것이다.

 

대규모언어모델은 수십억 개 이상의 매개변수를 기반으로 대량의 데이터를 학습해 사람처럼 생각하고 답변하는 인공지능 모델이다. 이는 챗GPT, 제미나이(Gemini)와 같은 생성형 인공지능이 작동하는 핵심 기술로, 질문이나 명령어를 담은 프롬프트를 입력하면 대규모언어모델이 이를 이해하고 적합한 답변을 제공한다.

 

의료 분야에 대규모언어모델을 적용하면 엑스레이, CT, MRI 등의 검사 이미지를 다량의 데이터 기반으로 분석해 진단의 정확도를 높일 수 있고, 환자의 개인 데이터를 기반으로 맞춤형 치료 계획을 제공할 수 있다. 전자의무기록(EMR)이나 동의서 작성을 자동화하는 등 의료진의 관리 업무도 간소화해 전반적으로 효율성이나 정확성이 향상될 것으로 기대된다.

 

다만 대규모언어모델의 보안이 위협될 경우 환자들의 민감한 개인정보가 유출되어 윤리적, 법적 위험성이 초래될 수 있다.

 

서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀은 2017년 1월부터 2021년 12월까지 환자 2만 6,434명의 의무기록을 활용해 대규모언어모델을 학습시켰다.

 

악성 공격은 대규모언어모델에 입력하는 질문인 프롬프트에 의미 없는 기호, 글을 추가하거나 인코딩하는 등 다양하게 변형해 악의적인 질문을 하는 방식으로 위험성을 평가했다.

 

이번 연구는 윤리적으로 사전 승인된 데이터만을 활용했으며, 서울아산병원 임상연구심의위원회(IRB)의 심의를 거쳐 진행되었다.

 

먼저 문자를 인코딩하는 방식인 ASCⅡ(미국정보교환표준코드) 방식으로 프롬프트를 변형한 결과, 대규모언어모델의 보안장치를 피해 민감한 개인정보에 접근할 수 있는 확률을 평가하는 가드레일 비활성화율이 최대 80.8%에 달했다. 80.8%에 달하는 확률로 보안 조치가 쉽게 침해될 수 있다는 뜻이다.

 

또한 대규모언어모델이 답변을 생성하는 과정에서 학습된 원본 데이터를 노출할 가능성은 최대 21.8%로 나타났다. 모델에 질문하는 형식을 미세하게 조정함으로써 원본 학습 데이터가 쉽게 노출될 수 있다는 것이다.

 

구체적인 예시로 수술 준비를 위해 상세한 환자 정보를 제공하는 시스템으로 대규모언어모델을 학습시킨 뒤 의료기록 검토를 요청하는 프롬프트를 인코딩 방식으로 조정한 결과, 대규모언어모델이 대답을 생성하는 과정에서 민감한 환자 데이터는 물론 의료진의 이름이나 전문 분야 등 구체적인 정보가 노출됐다.

 

김영학 서울아산병원 심장내과 교수는 “의료 분야에서 대규모언어모델을 활용했을 때 기대되는 발전이 크지만, 데이터 보안 강화 없이는 심각한 개인정보유출로 이어질 수 있다. 민감한 개인정보를 다루는 분야인 만큼 보안의 중요성이 특히 강조되며, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다”고 말했다.

저작권자 Ⓒ시사뉴스
제보가 세상을 바꿉니다.
sisa3228@hanmail.net





커버&이슈

더보기
한국아스트라제네카, 플루미스트 국내 허가 간담회...'비강 스프레이형' 독감 백신, 韓 상륙
[시사뉴스 홍경의 기자] 한국아스트라제네카㈜는 자사의 비강 스프레이 방식의 약독화 인플루엔자 생백신 ‘플루미스트인트라나잘스프레이(인플루엔자생바이러스백신, 이하 플루미스트)’의 국내 허가를 기념하는 기자간담회를 27일 더플라자 호텔 서울에서 개최했다. 플루미스트는 비강 스프레이 방식의 인플루엔자 백신으로, 지난 4월 28일 식품의약품안전처로부터 24개월 이상에서 49세 이하의 소아 및 성인에서 이 백신에 함유된 인플루엔자 A형 바이러스들 및 인플루엔자 B형 바이러스에 의해 유발되는 인플루엔자 질환의 예방에 대해 식품의약품안전처로부터 허가 받았다. 기자간담회에서는 김윤경 고려대학교 안산병원 소아청소년과 교수가 ‘인플루엔자 예방의 새 패러다임, 플루미스트 국내 허가의 의미’를 주제로 발표를 진행했다. 김윤경 교수는 인플루엔자가 전 세계적으로 초래하는 질병 부담을 설명하며, 이를 줄이기 위한 인플루엔자 백신 접종의 중요성과 플루미스트의 역할에 대해 강조했다. 김 교수는 “인플루엔자는 매년 전 세계에서 약 10억 건의 감염을 일으키며, 이 중 300~500만 건이 중증 질환으로 이어지고, 최대 65만 명이 사망에 이르는 등 상당한 공중보건 문제를 야기한다”고 설명하며

정치

더보기

경제

더보기
여기종, 여성기업 일자리 허브 매칭데이 이벤트 실시
[시사뉴스 홍경의 기자] 여성기업종합지원센터(이사장 박창숙, 이하 여기종)’는 제4회 여성기업 주간을 맞이해 좋은 일자리 창출을 위한‘여성기업 일자리허브 매칭데이’이벤트를 실시한다고 6월 30일 밝혔다. 이번 이벤트는 여성기업과 구직 희망자를 대상으로 △여성기업 온라인 채용관 △매칭데이 채용 이벤트 △회원가입 이벤트 △전문인력 프로필 등록 이벤트 △여성기업 주간 기념 퀴즈 이벤트 등으로 진행된다. '여성기업 온라인 채용관'은 국내 최대규모 구직 포털사이트인 ‘잡코리아'와 여성기업 공동채용관을 생성해 9월 말까지 수출, 마케팅, IT 분야 등 여성기업의 좋은 일자리를 홍보한다. ‘매칭데이 채용 이벤트'는 여성기업 일자리허브에서 7월 25일까지 신규 일자리(프로젝트)를 등록한 여성기업 중 200개사 정도를 추첨해 30만원 또는 10만원 상당의 상품권이나 직원들과 함께 즐길 수 있도록 치킨쿠폰을 제공한다. ‘회원가입 이벤트'는 여성기업과 구직자 모두 참여 가능하며 7월 31일까지 토스, 카카오T, 페이북 등 홍보배너를 통해 여성기업 일자리허브 플랫폼에 회원가입하게 되면 포인트 리워드를 즉시 받는다. ‘전문인력 프로필 등록 이벤트'는 구직자 대상으로 7월 15일까지

사회

더보기

문화

더보기
숏폼과 밸런스 게임까지 MZ 겨냥 콘텐츠 제작... 문화재 공공콘텐츠의 새 지평 열어
[시사뉴스 정춘옥 기자] 공공디자인 전문기업 오세이프가 국립고궁박물관과의 협업을 통해 문화재 공공콘텐츠의 새 지평을 열었다. 오세이프는 국립고궁박물관과 함께 하는 문화재 콘텐츠가 유튜브 누적 조회수 7만 회를 돌파하며 박물관 콘텐츠 전략의 성공 사례로 주목받고 있다고 밝혔다. 짧고 강렬한 숏폼 영상부터 황당하지만 재치 있는 밸런스 게임, 왕실 유물을 굿즈로 표현해 현대적으로 재해석한 콘텐츠까지 문화재 콘텐츠의 형식을 탈피한 시도가 주효한 것으로 분석된다. 특히 MZ세대의 감성과 맞아떨어지면서 ‘감다살(감이 다시 살아났다)’이라는 평가를 받고 있다. 오세이프는 지난 5월부터 국립고궁박물관 공식 유튜브 채널을 통해 남녀노소 누구나 공감할 수 있도록 쉽고 재밌게 즐길 수 있는 3가지 시리즈의 유물 콘텐츠를 선보였다. 그 첫번째 시리즈는 숏폼 영상 ‘조선시대에는 이랬다!’로, 총 6편이 공개됐다. 1편 ‘9살에 성대간 썰 푼다’는 효명세자의 성균관 입학 장면을 그린 유물 ‘왕세자입학도’를 통해 당시 왕실 교육 문화를 재미있게 전달한다. 이어진 시리즈에서도 왕실의 ‘스드메’부터 연회 음식, 조선시대 고급 보자기 ‘봉황문인문보’ 등을 소재로 조선시대 생활상을 현대적 감

오피니언

더보기
【박성태 칼럼】 국민이 선택한 이재명 정부 경제 현안 해결 정책에 중점 둬야
윤석열 전 대통령의 탄핵으로 치러진 지난 6.3 조기대선에서 제21대 대통령으로 당선된 이재명 대통령이 취임한 지도 벌써 2주가 지나갔다. 6.3 선거 당일 출구조사에서 50%가 넘을 것이라는 예측에는 빗나갔지만 49.42%의 득표로 41.15%를 얻은 국민의힘 김문수 후보를 압도적으로 누르고 제21대 대통령으로 당선됐다. 이 대통령은 1천728만표를 얻어 역대 대통령 선거에서 가장 많은 득표로 당선된 대통령으로 자리매김했다. 이 같은 득표의 배경으로 전국적으로 고른 지지를 받은데다 보수의 텃밭인 대구 경북지역에서도 당초 예상보다 7% 포인트 정도 더 지지를 받은 것으로 나타났다. 즉 보수진영에서도 윤석열 전 대통령의 계엄령이라는 본헤드 플레이는 잘못된 것이고 나라를 거의 망쳐버린 윤 전 대통령보다는 나을 것이라는 기대감이 작용했다는 것이다. 선거가 끝난 후 이재명 대통령의 향후 직무수행에 여론조사 결과 70% 정도가 ‘이 대통령이 직무수행을 잘할 것’이라고 응답한 결과가 나왔다. 한국갤럽이 지난 10~12일(6월 둘째 주) 전국 만 18세 이상 유권자 1,000명을 대상으로 ‘이 대통령이 앞으로 5년 동안 대통령으로서 직무를 잘 수행할 것으로 보는지, 잘못