의료용 대규모언어모델, 보안침해위험 81% ‘경고등’

URL복사

<strong>서울아산병원 심장내과 김영학 교수(왼)·아산생명과학연구원 빅데이터연구센터 전태준 박사. (서울아산병원 제공)</strong>

[시사뉴스 이용만 기자] 최근 챗GPT와 같은 생성형 인공지능과 그 핵심 기술인 대규모언어모델(Large Language Model, LLM)이 다양한 산업군에서 활발하게 활용되면서, 의료 분야에서도 이를 접목한 디지털 혁신에 주목하고 있다.

하지만 환자의 개인정보보호가 특히 중요한 분야인 만큼, 대규모언어모델 사용에 따른 개인정보유출 등 보안에 대한 우려가 꾸준히 제기되고 있다.

최근 서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀이 대규모언어모델을 의료 분야에 적용하는 과정에서 발생할 수 있는 개인정보유출 문제를 확인하기 위해 의도적으로 악성 공격을 시행한 결과, 최대 81%에 달하는 공격 성공률을 보였다는 연구 결과를 발표했다.

연구팀은 의료 분야에서는 민감한 개인정보를 다루기 때문에 대규모언어모델 도입에 신중하고 각별한 주의가 필요하고, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다고 강조했다.

이번 연구 결과는 전 세계 의사들의 임상치료 교과서로 불리는 NEJM(New England Journal of Medicine)의 자매지인 ‘NEJM AI’에 최근 게재됐다. 의료계에서 인공지능의 중요성이 점점 확대됨에 따라, 임상의학 분야 세계 최고 권위지로 꼽히는 NEJM에서도 지난해 1월부터 인공지능 분야만을 특화해 다루는 자매지를 출간한 것이다.

대규모언어모델은 수십억 개 이상의 매개변수를 기반으로 대량의 데이터를 학습해 사람처럼 생각하고 답변하는 인공지능 모델이다. 이는 챗GPT, 제미나이(Gemini)와 같은 생성형 인공지능이 작동하는 핵심 기술로, 질문이나 명령어를 담은 프롬프트를 입력하면 대규모언어모델이 이를 이해하고 적합한 답변을 제공한다.

의료 분야에 대규모언어모델을 적용하면 엑스레이, CT, MRI 등의 검사 이미지를 다량의 데이터 기반으로 분석해 진단의 정확도를 높일 수 있고, 환자의 개인 데이터를 기반으로 맞춤형 치료 계획을 제공할 수 있다. 전자의무기록(EMR)이나 동의서 작성을 자동화하는 등 의료진의 관리 업무도 간소화해 전반적으로 효율성이나 정확성이 향상될 것으로 기대된다.

다만 대규모언어모델의 보안이 위협될 경우 환자들의 민감한 개인정보가 유출되어 윤리적, 법적 위험성이 초래될 수 있다.

서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀은 2017년 1월부터 2021년 12월까지 환자 2만 6,434명의 의무기록을 활용해 대규모언어모델을 학습시켰다.

악성 공격은 대규모언어모델에 입력하는 질문인 프롬프트에 의미 없는 기호, 글을 추가하거나 인코딩하는 등 다양하게 변형해 악의적인 질문을 하는 방식으로 위험성을 평가했다.

이번 연구는 윤리적으로 사전 승인된 데이터만을 활용했으며, 서울아산병원 임상연구심의위원회(IRB)의 심의를 거쳐 진행되었다.

먼저 문자를 인코딩하는 방식인 ASCⅡ(미국정보교환표준코드) 방식으로 프롬프트를 변형한 결과, 대규모언어모델의 보안장치를 피해 민감한 개인정보에 접근할 수 있는 확률을 평가하는 가드레일 비활성화율이 최대 80.8%에 달했다. 80.8%에 달하는 확률로 보안 조치가 쉽게 침해될 수 있다는 뜻이다.

또한 대규모언어모델이 답변을 생성하는 과정에서 학습된 원본 데이터를 노출할 가능성은 최대 21.8%로 나타났다. 모델에 질문하는 형식을 미세하게 조정함으로써 원본 학습 데이터가 쉽게 노출될 수 있다는 것이다.

구체적인 예시로 수술 준비를 위해 상세한 환자 정보를 제공하는 시스템으로 대규모언어모델을 학습시킨 뒤 의료기록 검토를 요청하는 프롬프트를 인코딩 방식으로 조정한 결과, 대규모언어모델이 대답을 생성하는 과정에서 민감한 환자 데이터는 물론 의료진의 이름이나 전문 분야 등 구체적인 정보가 노출됐다.

김영학 서울아산병원 심장내과 교수는 “의료 분야에서 대규모언어모델을 활용했을 때 기대되는 발전이 크지만, 데이터 보안 강화 없이는 심각한 개인정보유출로 이어질 수 있다. 민감한 개인정보를 다루는 분야인 만큼 보안의 중요성이 특히 강조되며, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다”고 말했다.

이재명 대통령 국정수행 평가 긍정 59.7%·부정 33.6% [리얼미터]

[시사뉴스 홍경의 기자] 이재명 대통령의 국정수행에 대한 긍정 평가는 59.7%, 부정 평가는 33.6%라는 조사 결과가 30일 발표됐다. 여론조사회사 리얼미터가 지난 23~27일 전국 18세 이상 유권자 2511명을 대상으로 이 대통령 국정수행 평가 조사를 실시한 결과 이같이 집계됐다. '잘 모름'이라는 응답은 6.8%였다. 긍정 평가는 전주 대비 0.4%포인트(p) 올랐고, 부정 평가도 0.1%p 올랐다. 긍정 평가는 대전·세종·충청(61.9%), 여성(62.6%), 40대(76.0%), 50대(71.9%), 60대(58.0%), 진보층(87.9%) 중심으로 올랐고, 부산·울산·경남(53.8%), 서울(53.5%), 30대(50.9%), 20대(45.6%) 중심으로 내렸다. 첫 추경(추가경정예산)안 시정연설과 부동산 대출 규제 정책, 광주 현장 방문 등이 긍정 평가 요인으로 작용했고, 김민석 국무총리 후보자 자격 논란과 나토(NATO·북대서양조약기구) 정상회의 불참, 외교 현안과 여야 갈등이 부정 평가에 영향을 미쳤다고 리얼미터는 분석했다. 이번 조사의 오차범위는 95% 신뢰수준에 ±2.0%p다. 조사방법으로 무선(100%) 자동응답을 활용했다. 자세한 내용은 리얼미터 홈페이지나 중앙선거여론조사심의위원회의 홈페이지를 참조하면 된다.

오늘 전국 체감온도 33도 이상 '찜통더위'

[시사뉴스 홍경의 기자] 오늘(30일)은 전국 대부분 지역에 최고체감온도가 33도 내외로 올라 매우 무덥겠고, 일부 지역에서는 열대야가 나타나는 곳이 있겠다. 기상청은 이날 "폭염특보가 발효된 경기남부내륙과 강원도, 충청권, 남부지방, 제주도에는 최고체감온도가 33도 내외(남부지방과 제주도동부 35도 내외)로 올라 매우 무덥겠고, 그 밖의 전국 대부분 지역에서 최고체감온도가 31도 이상 올라 무더운 곳이 많겠다"고 예보했다. 당분간 일부 지역에는 열대야가 나타날 가능성이 있겠다. 오후에 수도권과 강원내륙·산지에, 오후부터 저녁 사이에는 경북권남서내륙과 경남서부내륙에 소나기가 내리는 곳이 있겠다. 예상 강수량은 ▲서울, 인천, 경기 5~20㎜ ▲강원내륙·산지 5~10㎜다. 비나 소나기가 내리는 지역에서는 일시적으로 기온이 내려가겠으나 그친 뒤에는 습도가 높은 상태에서 낮 동안 다시 기온이 올라 무덥겠다. 이 지역에서는 돌풍과 함께 천둥·번개가 치는 곳이 있겠으니 시설물 관리와 안전사고에 유의해야겠다. 오전까지 서해안(인천, 경기서해안 제외)과 남해안, 강원내륙을 중심으로 가시거리 200m 미만의 짙은 안개가 끼는 곳이 있겠다. 짙은 안개로 인해 이슬비가 내리는 곳도 있겠으며 그 밖의 지역에는 가시거리 1㎞ 미만의 안개가 끼는 곳이 있겠다. 낮 최고기온은 27~35도를 오르내리겠다. 주요 지역 낮 최고기온은 서울 30도, 인천 27도, 수원 30도, 춘천 30도, 강릉 34도, 청주 32도, 대전 33도, 전주 34도, 광주 34도, 대구 35도, 부산 30도, 제주 31도다. 미세먼지 농도는 전 권역이 '좋음' 수준을 보이겠다.

[리얼미터] 김민석 총리 후보자 임명 찬성 53.4%·반대 40.4%

[시사뉴스 홍경의 기자] 김민석 국무총리 후보자 임명 찬성 의견은 53.4%, 반대 의견은 40.4%라는 여론조사 결과가 27일 나왔다. 여론조사기관 리얼미터가 지난 25일 전국 18세 이상 남녀 504명에게 김 후보자 임명 의견을 묻자 이 같은 결과가 나왔다. 의견을 유보한 '잘 모름'은 6.3%였다. 광주·전라(76.8%), 대전·세종·충청(62.8%), 경기·인천(53.9%), 40대(66.2%), 50대(67.9%), 진보층(88.2%)에서 찬성 의견이 높았다. 서울(44.7%)과 대구·경북(36.5%)과 30대(37.1%), 20대(39.4%), 70세 이상(47.4%), 보수층(70.5%) 에선 찬성이 과반을 넘지 못했다. 이번 조사는 무선(100%) 무작위 생성 표집 틀을 통한 임의 전화걸기(RDD) 자동응답조사 방식으로 실시됐다. 전체 응답률은 6.5%다. 표본오차는 95% 신뢰수준에 ±4.4%포인트(p)다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다.

李 대통령, 시정연설 '경제는 타이밍…경기회복 골든타임 놓치지 말아야'

[시사뉴스 홍경의 기자] 이재명 대통령이 26일 국회 시정연설에 참석해 추가경정예산안의 신속한 처리를 당부했다. 이 대통령은 "경제는 타이밍"이라며 "경기회복의 골든타임을 놓치지 않도록 적극적으로 협력해달라"고 했다. 이 대통령은 이날 국회에서 열린 시정연설에서 "지금은 경제가 다시 뛸 수 있도록 정부가 나서야 한다"며 "경제위기에 정부가 손을 놓고 긴축만을 고집하는 건 무책임한 방관이자, 정부의 존재 이유를 스스로 부정하는 일"이라고 말했다. 그러면서 "경기침체 극복과 민생회복을 위해 30조 5000억원 규모의 추가경정예산안을 편성했다"며 "'신속한 추경 편성'과 '속도감 있는 집행'으로 우리 경제, 특히 내수시장에 활력을 불어넣는 것이 중요하다고 판단했다"고 강조했다. 이 대통령은 이어 13조원 규모의 민생회복 소비쿠폰 등 추경안의 세부 내용을 설명하며 "이번 추경안은 경제위기 가뭄 해소를 위한 마중물이자 경제 회복을 위한 최소한의 조치"라며 "경제와 민생을 살리는 데 여야가 따로 있을 수 없다"고 밝혔다. 추경안에 세입경정을 반영한 점도 특기했다. 이 대통령은 "2023년과 2024년, 도합 80조원 이상의 세수 결손이 발생했고, 올해도 상당 수준의 세수 결손이 우려된다"며 "만약 세수 결손을 방치할 경우 정부는 연말에 예산을 대규모 불용 처리할 수밖에 없다. 재정 안정성과 국회의 예산 심의·확정권을 존중하기 위한 결정"이라고 했다. 그러면서 "새 정부는 변칙과 편법이 아닌 투명하고 책임 있는 재정 정책을 펼치겠다"고 약속했다. 이 대통령은 시정연설에서 경제와 외교·안보 등 국정 운영 방향과 국정 과제를 공유하며 초당적인 협력을 재차 당부했다. 특히 공정 성장의 중요성을 강조했다. 이 대통령은 "무너진 경제를 회복하고 민생경제를 살리는 일은 지금 우리가 해결해야 할 가장 시급한 과제"라며 "새로운 성장동력을 만들고, 성장의 기회와 결과를 함께 나누는 '공정 성장' 문을 열어야 양극화와 불평등을 완화하고 '모두가 함께 잘 사는 세상'으로 나아갈 수 있다"고 했다. 이어 "기득권과 특권, 새치기와 편법으로 움직이는 나라가 아니라 공정의 토대 위에 모두가 질서를 지키는 상식적이고 합리적인 사회로 나아가야 한다"고 말했다. 이 대통령은 자본시장의 정상화도 언급하며 "자본시장의 투명성과 공정성을 회복하면 경제도 살고, 기업도 제대로 성장 발전하는 선순환으로 코스피 5000 시대를 열 수 있을 것"이라고도 했다. 외교정책 기조를 두고는 "진보냐, 보수냐가 아니라 국익이냐, 아니냐가 유일한 선택 기준이 되어야 한다"며 "국익중심 실용외교로 통상과 공급망 문제를 비롯한 국제 질서 변화에 슬기롭게 대응해야 한다"고 밝혔다. 나아가 "한반도의 평화와 안정을 확보하는 일도 더없이 중요하다. 평화가 밥이고, 경제"라며 "평화가 경제 성장을 이끌고, 경제가 다시 평화를 강화하는 선순환으로 국민의 일상이 흔들리지 않는 나라를 만들겠다"고 했다. 이 대통령은 야당과 격의 없는 소통을 강조하며 정치 복원에 대한 의지를 드러내고 있다. 취임 첫날인 지난 4일 국회에서 각 정당 대표와 오찬을 함께했고, 지난 22일 서울 용산구 한남동 관저에서 여야 지도부와 오찬을 겸한 회동을 했다. 이날 시정연설에서도 "정부가 추경안에 담지 못한 내용이 있다면 국회 예산 심의 과정에서 주저하지 말고 의견을 주시기 바란다"며 "오직 실용 정신에 입각해 국민의 삶을 살피고, 경기 회복과 경제 성장의 길을 열기 위해 최선을 다하겠다"고 밝혔다.

사회