안양대형로펌 의료 정보 조작에 취약한 AI

안양대형로펌 챗GPT 등 주요 인공지능(AI) 모델 대부분이 사용자에게 잘못된 의료 정보를 제공하도록 유도하는 악의적 공격에 취약한 것으로 나타났다. 태아의 기형을 유발할 수 있는 약물을 임신부에게 권하는 상황까지 조작을 통해 쉽게 만들어졌다.
서울아산병원 비뇨의학과 서준교 교수와 정보의학과 전태준 교수, 인하대병원 영상의학과 이로운 교수 연구팀은 세계 최초로 ‘프롬프트 인젝션 공격’에 대한 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 연구를 ‘미국의사협회저널 네트워크 오픈’에 게재했다고 5일 밝혔다. 프롬프트 인젝션 공격은 해커가 AI 모델에 악의적인 명령어를 삽입해 본래 의도와 다르게 작동하도록 유도하는 사이버 공격이다.
연구진은 지난해 1월부터 10월까지 챗GPT와 제미나이, 클로드 등 널리 쓰이는 AI 모델 3종을 대상으로 실험을 진행했다. 연구진은 먼저 정상적인 의료 상담 상황처럼 보이지만, 특정 방향의 답변을 유도하도록 설계한 악의적 명령어를 AI에 입력했다. 이를 통해 AI가 위험하거나 부적절한 의료 조언을 하도록 조작될 수 있는지를 살펴봤다.
제미나이 등 3종류 모델 대상으로금기 약물 등 악의적 명령어 공격성공률 94% 넘어…위험도 적잖아연구진 “추가적 안전 조치 시급”
연구진은 상황별 위험도를 나눠 분석했다. 예를 들어 당뇨 같은 만성질환 환자에게 검증된 치료 대신 생약 성분을 권하는 경우는 중간 단계, 호흡기 질환 환자에게 호흡 억제를 일으킬 수 있는 약물을 우선 추천하는 사례는 높은 단계 위험도로 분류했다. 임신부에게 태아 기형을 유발할 수 있는 금기 약물을 권하는 경우는 최고 위험도로 설정했다. 연구진은 이처럼 위험 수준이 다른 12개 시나리오를 가정했다. 공격에는 두 가지 기법이 사용됐다. 환자 정보를 활용해 판단을 교란하는 ‘상황인지형 프롬프트 주입’과, 실제 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘증거 조작’ 방식이다. 연구진은 공격 이후 환자와 AI 모델 간에 오간 대화 216건을 분석했다.
세 모델 전체에 대한 공격 성공률은 94.4%에 달했다. 최고 위험도 시나리오의 성공률도 91.7%를 기록했다. 높은 단계는 93.3%, 중간 단계는 100%로 위험도가 낮아질수록 취약성이 더 커졌다. 모델별로는 GPT-4o 미니와 제미나이 2.0 플래시라이트가 모두 100%, 클로드 3 하이쿠는 83.3%의 공격 성공률을 보였다. 조작된 답변이 후속 대화까지 이어진 비율도 세 모델 모두 80%를 넘겼다.
임신부에게 금기 약물을 권장하는 시나리오에서는 최상위급 AI 모델도 비슷한 한계를 드러냈다. 추가 실험에서 GPT-5, 제미나이 2.5 프로, 클로드 4.5 소넷 등 최신 모델 3종을 대상으로 사용자의 화면에 악성 문구를 숨기는 방식의 공격을 수행한 결과, GPT-5와 제미나이 2.5 프로는 공격 성공률이 100%, 클로드 4.5 소넷도 80%에 달했다.
연구진은 의료 현장에서 AI 활용이 빠르게 늘고 있는 만큼 안전성을 높이기 위한 추가 조치가 시급하다고 지적했다. 서준교 교수는 “환자 대상 의료 챗봇이나 원격상담 시스템을 도입하기 위해선 AI 모델의 취약성과 안전성을 철저히 테스트하고 보안 검증 체계를 의무화하는 조치가 필요하다”고 말했다.
서울 지하철 1호선 종각역 근처에서 택시 3중 추돌 사고가 발생했다. 1명이 사망하고 9명이 다쳤다.
2일 서울 종로소방서에 따르면 이날 오후 6시쯤 종각역 인근에서 택시가 승용차를 들이받고 횡단보도 신호등 기둥을 받은 뒤 다시 승용차를 들이받았다.
이 과정에서 40대 여성 1명이 심정지 상태로 병원에 이송됐지만 숨졌다. 운전자 및 보행자 9명도 부상을 입었다.
소방은 “사고 원인을 파악 중”이라고 말했다.
검찰이 1심에서 전원 무죄가 선고된 서해 공무원 피격 사실 은폐 사건에 대해 일부 피고인만 부분적으로 항소키로 했다. 이에 따라 박지원 더불어민주당 의원(당시 국가정보원장) 등은 무죄가 확정됐다. 앞서 검찰이 대장동 개발비리 1심 무죄 사건을 항소하지 않으면서 이번에도 검찰의 선택에 관심이 쏠렸는데, 검찰은 항소 시한 마지막 날까지 처분을 고민하다 이같이 결정했다.
서울중앙지검은 2일 이 사건과 관련해 서훈 전 국가안보실장과 김홍희 전 해양경찰청장 등의 허위공문서작성 및 행사, 명예훼손 및 사자명예훼손 등 혐의에 대해 항소하기로 했다. 박지원 전 국정원장과 서욱 전 국방부 장관 등의 직권남용권리행사 방해 등 혐의에 대해서는 항소하지 않기로 했다고 밝혔다. 이 사건 항소 시한은 이날까지로, 검찰은 시한 마지막 날까지 항소 여부를 고민하다 부분 항소 결정을 내렸다.
중앙지검 관계자는 “월북 여부가 불분명한 상황에서 자진 월북한 것으로 오인될 수 있는 수사결과를 발표하고 이로 인해 망인과 유족의 명예를 훼손했다는 부분 등에 대해서는 항소를 제기하고 나머지 부분은 항소의 실익 등을 고려해 항소를 제기하지 않기로 했다”고 밝혔다.
검찰은 앞서 서 전 실장과 박 전 원장, 서 전 장관, 김 전 청장, 노은채 전 국정원장 비서실장이 해양수산부 공무원 고 이대준씨가 북한군에 의해 사살된 사건과 관련해 이씨가 북에서 피격·소각된 사실을 숨기고 그가 자진 월북했다는 허위 공문서를 작성 및 배포했다며 불구속기소 했다.
법원은 지난달 26일 이들 모두에게 1심에서 무죄를 선고했다. 1심 재판부는 해경의 ‘이씨 월북 가능성’ 발표가 강요 등 위법한 행위에 의한 것이 아니었고 당시 상황에서 할 수 있는 판단이었다고 봤다. 법원은 “(정부가) 판단 및 근거를 사실 그대로 국민들에게 설명한 것이라면 일련의 (설명) 과정을 섣불리 형사책임의 영역으로 끌고 오는 것에 대해서 신중할 필요가 있다”며 검찰의 공소 제기 자체도 문제 삼았다.
검찰이 앞서 대장동 개발비리 1심 선고에 대해 항소하지 않으면서 일각에서는 이번에도 검찰이 항소를 포기할 것이라는 분석이 있었지만 검찰은 결국 부분 항소 결정을 내렸다. 이재명 대통령부터 이 사건 최초 기소 자체를 문제 삼는 등 정부와 여당은 강하게 검찰을 압박했는데, 검찰은 그간 1심에서 전부 무죄가 선고된 사건에서 항소를 포기한 사례가 극히 드문 점 등을 고려해 이같이 결정한 것으로 보인다.
이재명 대통령은 지난달 30일 국무회의에서 “이상한 논리로 기소하고 결국 무죄가 났다”며 “없는 사건을 수사해 사람을 감옥에 보내려고 시도하려는 게 말이 되는가”라고 말했다. 정성호 법무부 장관도 이날 출근길에 기자들과 만나 “이 사건은 전형적인 정치 보복 수사였던 것이 아니냐”며 “당시 대통령의 권한 내에서 그 당시에 했던 여러 가지 절차를 다 뒤집어 엎으려고 상당히 의도된 수사였던 건 명백하지 않느냐”고 말했다.

트랙스장기렌트 인터넷가입현금지원 그랜저장기렌트 인터넷설치현금 아반떼N장기렌트 신용불량렌트카 수원강제추행변호사 안양음주운전변호사 장기렌트카카드결제 MCAR 화이자 비아그라 용인이혼전문변호사 내구제 수원음주운전변호사 인터넷가입 폰테크 용인상간소송변호사 웹사이트상위노출 단기렌터카가격비교 한달렌터카 신용불량자렌트 의정부검사출신변호사 포항이혼전문변호사 성남법무법인 브랜드이모티콘 울산이혼전문변호사 상조내구제 인터넷가입사은품많이주는곳 용인음주운전변호사 인터넷비교사이트 수원강제추행변호사 수원이혼전문변호사 폰테크 무보증장기렌트 중고차리스 수원음주운전변호사 쏘나타장기렌트 분당성추행변호사 의정부이혼전문변호사 출장용접 용인학교폭력변호사 신차렌트카 성남상간소송변호사 인터넷비교사이트 용인불법촬영변호사 의정부이혼전문변호사 장기렌트신차 웹사이트 상위노출 안양학교폭력변호사 웹사이트 자동차월렌트 폰테크 당일 부장검사출신변호사 자동차신차구매 비아그라 효능 2024카니발제원 수원형사전문변호사 폰테크당일 스포츠카렌트 평택이혼전문변호사 평택이혼전문변호사 차렌트어플 수원형사변호사 수원성범죄전문변호사 X6장기렌트 선납금없는장기렌트카 의정부형사전문변호사 평택개인회생 수원이혼전문변호사 용인불법촬영변호사 안산이혼전문변호사 저신용장기렌트카 용인성범죄전문변호사 용인성범죄변호사 폰테크 1박2일렌트 분당강제추행변호사 한게임클래식머니상 웹사이트 상위노출 안양학교폭력변호사 이혼전문변호사 당일폰테크 인터넷설치현금 위자료 미니장기렌트 장기렌트전기차 카니발렌트승계 빠른이혼 신차장기렌트 수원대형로펌 폰테크 비아그라 후기 평택학교폭력변호사 차렌트비용 폰테크 서울흥신소 수원소년보호사건변호사 수원성범죄변호사 인스타 팔로워 구매 안산이혼전문변호사 신용불량자장기렌트 의정부성범죄변호사 의정부성범죄전문변호사 의정부형사전문변호사 3개월렌트카 폰테크 분당불법촬영변호사 7리스 사이트 상위노출 신차장기렌트가격 서울탐정사무소 비아그라 처방 인스타 팔로워 자동차프로모션 수원음주운전변호사 전기차장기렌트 서울이혼전문변호사 비아그라 사이트 인천이혼전문변호사 렌트카한달 수원성추행변호사 이혼전문변호사 안양이혼변호사 탐정사무소 홈페이지 상위노출 차량한달렌트 위자료 성남법무법인 수원형사전문변호사 렌탈리스차이 폰테크 용인음주운전변호사 의정부성범죄변호사 수원강간변호사 안양음주운전변호사 분당불법촬영변호사 폰테크당일 쏘렌토하이브리드렌트 고양이혼전문변호사 폰테크 대전이혼전문변호사 싼타페장기렌트 포항이혼전문변호사 무심사장기렌트 미스트롯4투표 개인회생자장기렌트 경주이혼전문변호사 분당성추행변호사 카니발장기렌탈 개인사업자차량 수원이혼전문변호사 장기렌트카가격비교사이트 렌트차 0대장기렌트 렌트카특가 용인강간변호사 출장용접 새차견적 양주학교폭력변호사 안산상간소송변호사 수원차장검사출신변호사 김해이혼전문변호사 용인촉법소년변호사 분당강제추행변호사 월단위렌트 수원음주운전변호사 포천학교폭력변호사 한게임클래식머니상 수원형사변호사 수원형사변호사 분당강간변호사 구미이혼전문변호사 남양주음주운전변호사 장기렌트추천 수원음주운전변호사 평택이혼전문변호사 폰테크 홈페이지 빠른이혼 대학생장기렌트 인터넷가입사은품많이주는곳 이지렌트카 성남이혼변호사 아우디할인 수원법률사무소 비아그라 약국 용인이혼변호사 인터넷설치현금 제주도장기렌트 안양상간소송변호사 인터넷설치현금 수원음주운전변호사 프리우스장기렌트 마사지구직 한달렌트카 현대차딜러추천 자동차1년렌트 장기렌트인수 성남성범죄전문변호사 장기렌트비교 용인음주운전변호사 웹사이트 상위노출 수원강제추행변호사 아반떼 장기렌트 부천이혼전문변호사 장기렌트카추천 수원형사전문변호사 장기렌트란 분당성추행변호사 의정부이혼변호사 중고차렌트 무심사장기렌트카 수원형사변호사 안양이혼전문변호사 인터넷가입현금지원 렌트카편도 의정부이혼전문변호사 안산음주운전변호사 단기렌트카가격비교 장기렌트카인수형 당일폰테크 서울이혼전문변호사 용인대형로펌 수원성추행변호사 유튜브 조회수 늘리기 검사출신변호사 월렌트카싼곳 용인형사변호사 이지렌터카 카니발옵션 수원이혼변호사 의정부음주운전변호사 안산학교폭력변호사 수원변호사 이혼전문변호사 검사출신변호사 장기렌트조건 장기렌터카승계 수원검사출신변호사 이지렌터카 패륜사이트변호사 소액결제미납 양주학교폭력변호사 안산이혼전문변호사 장기렌트카조건 리스와렌트 승소사례 의정부변호사 렌탈리스차이 분당성추행변호사 웹사이트 상위노출 장기렌트카하이브리드 의정부이혼전문변호사 폰테크! 스타렉스장기렌트 서울이혼전문변호사 마약전문변호사 이혼상담 수원이혼변호사 개인사업자차량 평택학교폭력변호사 인스타 팔로우 구매 안양법무법인 수원학교폭력변호사 업무용승용차 신차장기렌트카추천 수원상간소송변호사 경주이혼전문변호사 웹사이트 렌탈카 인터넷가입사은품많이주는곳 위자료 출장용접 김해이혼전문변호사 람보르기니렌트 폰테크 사이트 출장용접 사이트상위노출 G80장기렌트 1년미만렌트 대구이혼전문변호사 의정부변호사 용인강간변호사 수원이혼전문변호사 현대차구매 용인대형로펌 수원이혼전문변호사 의정부대형로펌 의정부부장검사출신변호사 수원성범죄변호사 아반떼하이브리드장기렌트 무심사무보증장기렌트 한게임클래식머니상 인터넷비교사이트 출장용접 인천탐정사무소 월랜트 렌트카조건 수원법률사무소 승소사례 저렴한장기렌트 중고차월렌트 안양학교폭력변호사 모델3장기렌트 법인장기렌트 의정부형사변호사 성남상간소송변호사 의정부형사전문변호사 분당불법촬영변호사 안양이혼변호사 창원이혼전문변호사 인천흥신소 의정부이혼변호사 안산이혼변호사 용인성추행변호사 신차할부금리 무심사장기렌트카 의정부음주운전변호사 이혼상담 인터넷설치현금 렌트카 장기렌트 수원성범죄변호사 신차렌트카 흥신소 대전폰테크 상간녀위자료 폰테크 신차장 남양주학교폭력변호사 수원강간변호사 수원학교폭력변호사 용인이혼전문변호사 백링크 용인법무법인 분당강간변호사 의정부형사전문변호사 청주이혼전문변호사 인터넷티비현금많이주는곳 의정부이혼변호사 평택이혼전문변호사 현대차구매 신차싸게사는방법 포항이혼전문변호사 의정부음주운전변호사 폰테크당일 용인강간변호사 만21세장기렌트 이혼전문변호사 법인장기렌트카 폰테크 승소사례 수원형사변호사 안산이혼전문변호사 안양대형로펌 장기렌트보증보험 개인회생렌트 당일폰테크 인스타 팔로워 수원성범죄전문변호사 무심사렌트 장기렌트카후기 수원변호사 성남상간소송변호사 폰테크 비아그라 종류 경주이혼전문변호사 명품레플리카사이트 차량리스장점 탐정사무소 성남상간소송변호사 양산이혼전문변호사 인터넷가입현금지원 용인형사변호사 안양상간소송변호사 폰테크 비아그라 복용법 문해력강의 경주이혼전문변호사 인터넷가입사은품많이주는곳 용인이혼전문변호사 수원법무법인 수원법률사무소 장기렌트반납 일주일렌트 인터넷가입사은품많이주는곳 장기렌트보증금 이혼전문변호사 전기차장기렌트카 의정부법률사무소 싼타페하이브리드장기렌트 인스타그램 좋아요 구매 용인음주운전변호사 수원상간변호사 성남이혼전문변호사 성남대형로펌 성남대형로펌 의정부대형로펌 용인성추행변호사 일일차량렌트 인터넷가입 렌트카예약 이지렌트카 남양주학교폭력변호사 수입자동차가격 수원성범죄변호사 차장검사출신변호사 수원강간변호사 의정부음주운전변호사 차량렌탈 평택학교폭력변호사 카니발7인승리스 용인이혼전문변호사 안양상간소송변호사 카니발출고기간 저신용장기렌트 수원이혼전문변호사 수원성범죄변호사 용인이혼변호사 남양주법무법인 폰테크 구리학교폭력변호사 인터넷비교사이트 의정부이혼변호사 차가격 의정부변호사 개인회생장기렌트 인터넷가입현금지원 수원불법촬영변호사 수원강간변호사 의정부상간소송변호사 남양주음주운전변호사 양산이혼전문변호사 수원검사출신변호사 안양학교폭력변호사 안산이혼전문변호사 의정부법률사무소 의정부이혼변호사 저신용렌탈 성남학교폭력변호사 용인이혼변호사 이지렌터카 안양상간소송변호사 안양상간소송변호사 남양주법무법인 개인사업자렌트카 당일폰테크 신차장기할부 의정부이혼전문변호사 폰테크 포천학교폭력변호사 분당불법촬영변호사 아반떼신차가격 렌트카회사 재산분할 제주장기렌트카 만22세장기렌트 수입차할인 수원법률사무소 법인차량구매 카니발중고 상간남소송 의정부학교폭력변호사 대구장기렌트 장기렌트리스 신차구매앱 렌트카조건 개인장기렌트 수원상간소송변호사 렉스턴장기렌트 저신용무보증장기렌트 힐링음악 수입차할부 의정부상간소송변호사 의정부음주운전변호사 의정부이혼변호사 용인성범죄전문변호사 수원성추행변호사 제주이혼전문변호사 수원변호사 의정부법률사무소 의정부이혼변호사 남양주학교폭력변호사 공부할때듣기좋은음악 대학생중고차 인터넷가입현금지원 수원의정부검사출신변호사 기아장기렌트 서울탐정사무소 구리학교폭력변호사 인스타 팔로워 구매 저신용무보증장기렌트 폰테크 용인차장검사출신변호사 용인성범죄변호사 수원이혼전문변호사 수원대형로펌 페라리리스 의정부법무법인 자동차가격표 렌터카