상단여백
HOME 의료뉴스 일반
의료계, ‘의료 AI 도입 가속' 불구 뒷짐에 '간접 비판' 고조윤혜선 한양대 로스쿨 교수, ‘의료활용위한 근본 문제 제기-사회 합의도출 앞장“ 주문
김기원 기자 | 승인 2017.11.13 10:44
   윤혜선 한양대학교 법학전문대학원 교수가 지난 6일 서울시의사회관 1층 회의실에서 개최된 의료윤리연구회 주최 '11월 특강'을 통해 '인공지능의 의료적 활용과 법적-정책적 쟁점'에 대해 특강하고 있다.
   윤혜선 한양대 로스쿨 교수

‘인공지능’(AI_artificial intelligence) 유용성에 대한 시각이 날로 양극화되고 있는 가운데 의료계가 공감대 형성이나 특단의 대책 마련도 없이 ‘그냥 넋놓고 바라보는 형국’이어서 사회 각계로부터 간접적인 비판을 받고 있다.

일찍이 법조계와 산업계, 경제연구소 등은 의료 AI로 대표되는 ‘왓슨 포 온콜로지_Watson for Oncology’ 도입에 대한 심도깊은 논의와 함께 자체 보고서 까지 제출, 대응해 나가고 있는 실정이다.

그러나 “정작 의료의 핵심 당사자인 의료계는 ‘인공지능의 의료적 활용을 위한 근본적 문제 제기’에 대해 무관심한 것 같다”는 뼈아픈 지적을 받고 있다.

이와 관련, 윤혜선 한양대학교 법학전문대학원 교수는 의료윤리연구회(회장 최숙희)가 지난 6일 오후7시30분 서울시의사회관 1층 회의실에서 개최한 ‘11월 특강’에서 <인공지능의 의료적 활용과 법적.정책적 쟁점> 주제의 강의를 통해 “생각한 것 보다 (의료 AI에 대한) 의료계의 움직임이 활발하지 않다”며 다소 의아해했다.

윤 교수는 ‘AI 도입’과 관련, “국가가 무엇을 해야 하는가와 인공지능을 (어느 정도) 활용해야 하는가. 또 누가 해야하는가” 등의 기본 논의와 사회적인 공감대가 형성되어야 한다. 그러나 우리는 (의료계를 비롯 사회 전체가) 아무런 논의없이 ‘우리도 하자’라는 구호 아래 무조건적으로 빨려들어가는 것 같은 불안감을 노출시키고 있다“며 무조건적이고 경쟁적인 ‘의료 AI 도입 현실’을 꼬집었다.

윤 교수는 특히 ”의료의 경우, (생명을 다루는 만큼) 한번 더 짚어봐야 한다. 또 의사들의 합의를 도출해야 한다.“며 ”(개인적으로) 냉정히 말하면 더 이상의 (의료를 포함한 모든) 기술의 발전은 없어도 된다는 생각도 든다. (최근 기술적 진보로 인해) 갈피를 잡지 못하겠다.“고 토로했다.

윤 교수가 지적한 ‘의사들의 합의 도출’ 필요성은 의료계로서는 뼈아픈 지적이다.

윤 교수는 ‘AI의 의료적 활용’에 대한 근본적인 문제점과 관련, △인공지능으로 의료인의 역할을 대체할 것인가 아니면 보완할 것인가 △환자 신뢰를 어떻게 확보할 것인가를 제기했다.

윤 교수는 ‘인간과 인공지능의 구분점’으로 의료행위 법적인 개념을 소개하고 ”이는 인공지능이 할 수 없는 것“이라며 ”과연 인간에 대한 외경심이 인공지능에서 가능한가? 법은 (치료) 결과 보다 의료인에게 기본자질을 (엄격하게) 요구한다.“고 말했다.

윤 교수는 이같은 문제제기에 대해 “‘인공지능의 의료적 활용의 법적-사회적 가능성 및 범위 판단’과 ‘인공지능의 의료적 활용을 위한 정책수립 및 법제도 설계’ 그리고 ‘사회적-제도적 수용성 확보’ 때문”이라고 강조했다.

윤 교수는 ‘전통적인 의료산업의 특징’으로 △특유의 산업구조 △엄격한 규제제도 △보수체계의 제약 △대면진료 원칙 △다극적 관계(환자, 의료인, 정부, 보험회사, 사업자, 개발자 등) △의료인 평판 및 환자의 신뢰 중요 그리고 △혁신요소(료기기, 제약, 의사임상)를 들었다.

이중 ‘혁신 요소’와 관련, 윤 교수는 “의사의 임상에 의해 체화되지 않은 것은 환자에게 전달되지 않고 특히 인공지능의 의료적 활용에 의사의 개입이 없거나 최소화되는 경우, 잠재적 갈등을 수반하게 된다”며 “이같은 이유로 인해 의료인이 중심이 되어 사회적 합의를 이끌어 내야 한다”고 말했다.

윤 교수는 ‘기술발전 단계적 관점에서 인공지능의 의료적 활용에 관한 법적-정책적 쟁점 검토’와 관련, “의료라는 단어를 포함하고 있는 법령으로만 한정해도 그 수가 이달 초 기준 67개에 달한다”며 “매우 촘촘한 법령 및 규제 체계다. 인공지능의 의료적 활용과 관련해 잠재적으로 법적 쟁점을 내재한다”고 말했다. 즉, “법적인 충돌가능성이 많음”을 예고했다.

윤 교수는 ‘데이터 거버넌스’와 관련, “법적 논의의 대부분이 ‘데이터 거버넌스’에 담겨 있다. 데이터 거버넌스는 모든 기술발전단계에 적용되며 데이터는 인공지능기술 개발-활용-이용 관리에 있어 핵심요소이자 자원이다. 이런 만큼 ‘데이터 확보-처리-관리-이전-보호-보안문제 등 어느 하나 쉬운게 없다”며 ’의료 AI 도입 심화‘에 따른 혼란을 우려했다.

특히 윤 교수는 향후 다가올 ’인공지능의 오작동 및 의료사고에 대한 법적 책임‘과 관련, 특단의 대책 마련을 충고했다.

윤 교수는 “인공지능 설계시 고려하지 못했던 조건들에 대해 오작동을 일으키거나 최초에 의도했던대로 작동하지 않을 경우, 의료사고 등 인명피해 유발 가능성이 존재한다”고 우려감을 나타냈다. 즉, “AI 오작동에 대한 대비책으로 ’특별법 제정‘ 등이 필요하다”는 지적이다.

이에 더해 윤 교수는 “’오작동‘ 외에도 △바이러스, 해킹, 테러위협 등 보안 이슈도 상존하고 △인공지능의 안정성 및 안전성 확보를 위한 제도적 방안으로 인공지능 기기의 품질인증제도 및 안전 관리감독제도 도입 강구 △제조물 책임법의 정비, 보안 및 관리 강화를 위한 민형사상 책임제도 강화, 행정형벌제도 정비 등도 고려 대상”이라고 말했다.

윤 교수는 이중 ’제조물 책임법 정비‘ 등과 관련, “다양한 주체간의 책임 및 위험 배분 기준 확립의 필요 △인과관계 입증이 어려우므로 입증책임 완화 내지 전환 또는 무과실 책임 고려 △디지털 증거의 법적 효력 등 검토가 있어야 된다”고 주장했다.

윤혜선 교수는 ”인간은 다른 종들과 구분되는 점은 도구를 사용하는 것이다. 인간의 역사는 기술의 발전과 맞물려 있고 또 인간의 기술에 대한 욕망은 끝이 없다. 결국 이를 조절하는 것은 규제가 아닌가 생각한다.“며 ”보통 규제라고 하면 부정적으로 생각해 아쉬운데 (AI 등과 관련해서는) 결코 부정적 의미가 아니다.“고 설명했다.

윤 교수는 ”규제는 속도조절의 역할이다. 기술 도입과 동시에 피해를 최소화하기 위해서 규제는 필요하다“며 ”인공지능은 기존의 규제방식으로는 (통제가) 어렵다. 정말 중요한 것은 윤리“라고 거듭 강조했다.

윤 교수는 그러나 ”인공지능에 대해 공부하면 할수록 법의 촉진과 활용이 필요하다. 인공지능은 (알고리즘상) 의사결정구조를 알 수 없다는 치명적 단점이 있다. 그래서 윤리적 접근에 한계가 있다. 그래서 윤리가 중요한 것이다. 현재의 법으로는 한계가 있다“고 주장했다.

윤 교수는 ”(제도를 잘 운영하기 위해서는) 직업윤리교육 강화, 직업인간 감시와 견제가 필요하다“고 힘주어 말했다.

윤 교수는 ”미국의 경우, 이러한 문제를 해결하기 위해 △법 제정과 △제3의 기관 신설 및 심의 역할 부여로 대처하고 있다. (특별)법 제정에 대해서는 거부반응이 있는 것으로 알고 있다. 인공지능의 핵심 사항은 윤리로 다양한 목소리가 필요하다.“고 말했다.

특히 윤 교수는 ”의료 AI인 ‘왓슨’의 경우, 의료정보검색 서비스 툴로서 정의되고 심사받은 것으로 알고 있다. 의료기기 허가를 회피한 만큼 상시 감독받지 않는다. 또 정부의 규제에서도 벗어나 있다. 결국 IBM이 잘 해 주겠지라는 정도다. 이건 문제가 있다. 왓슨 도입 당시 제도적인 측면에서 아무 것도 준비되어 있지 않았음에도 불구하고 도입한 결과다. 우리나라 데이터가 IBM으로 간다. 이런 측면에서 볼 때 ‘클라우드 공유’는 겁나는 현실“이라고 말했다.

현재 과학계와 법조계, KDI, KDB산업은행 산업기술리서치센터 등에서는 ‘의료 AI’와 관련, 장점 못지 않게 심각한 문제점을 경고하고 있다. 특히 우선 사항으로 ‘사회적 합의’를 강력히 요구하고 있다.

최근 스티븐 호킹 박사는 언론 인터뷰를 통해 “인공지능(AI)은 인류 역사상 최악의 사건이 될 수 있다”고 강력히 경고, AI에 대한 불안감을 증폭시켰다. 이에 반해 전세계 산업계는 “미래 ‘4차산업혁명의 꽃’이 될 것”이라며 AI 유용성을 극찬, 혼란이 가중되고 있는 실정이다.

고대경 KDB산업은행 산업기술리서치센터 연구원은 ‘AI in Healthcare, 초고령사회를 위한 대비’라는 제목의 이슈브리프를 통해 ”헬스케어 분야에서 인공지능을 적용한 업무 자동화, 의료서비스 지원은 고령화로 인해 발생하는 문제의 해결책으로 부각되고 있다“고 지적했다.

그러나 고 연구원은 ”헬스케어 분야에서 AI 기술 적용을 확대하기 위해서는 AI 판단에 대한 책임소재 등 법률, 제도에 대한 사회적 논의가 필요하다“고 강조했다.

한편, ’인공지능_artificial intelligence, 人工知能‘이란 인간의 학습능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 기술을 말한다.

즉, 인간의 지능으로 할 수 있는 사고, 학습, 자기 개발 등을 컴퓨터가 할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보기술의 한 분야로서, 컴퓨터가 인간의 지능적인 행동을 모방할 수 있도록 하는 것을 말한다.

지식백과 등에 따르면 인공지능은 그 자체로 존재하는 것이 아니라, 컴퓨터 과학의 다른 분야와 직간접으로 많은 관련을 맺고 있는데 특히 현대에는 정보기술의 각 분야에서 인공지능적 요소를 도입, 그 분야의 문제 풀이에 활용하려는 시도가 매우 활발하게 이루어지고 있다.

그리고 ’Watson for Oncology‘는 IBM이 개발한 암 진단 및 치료를 돕는 인공지능(AI) 소프트웨어를 말한다. 종양학과 관련된 전문 지식과 의학 학술지 300개, 의학서 200개 등 1500만 쪽 분량의 의료 정보가 데이터베이스에 구축, 의사가 환자 정보 입력시 빅데이터를 통해 최상의 치료법을 제시하고 있다.

   이슈 브리프 캡쳐
   CNBC 홈페이지 캡쳐.

김기원 기자  kikiwon@hanmail.net

<저작권자 © 의사신문, 무단 전재 및 재배포 금지>

김기원 기자의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
포토 뉴스
여백
여백
여백
신문사소개기사제보광고안내불편신고개인정보취급방침청소년보호정책이메일무단수집거부
서울 영등포구 당산동6가 121-99 서울시의사회관 402호 의사신문  |  대표전화 : 02-2636-1056~8  |  팩스 : 02-2676-2108
Copyright © 2017 의사신문. All rights reserved. mail to docnews@daum.net  |  
청소년보호책임자 : 황길동
Back to Top