[Health Policy Insight 141회]

헬스케어에서 인공지능(AI)의 기회와 인허가 도전과제

인공지능(artificial intelligence, AI)은 기계나 컴퓨터가 인간처럼 사고하고 배울 수 있도록 하기 위한 목표로 1950년대에 시작되었다. AI는 금융, 항공 및 마케팅과 같은 다양한 산업에서 광범위하게 활용되어 왔다. 헬스케어에서 AI 사용은 비교적 새로운 것으로 광범위한 다차원적 기회가 있으나 아직 시작단계에 머물러 있다.

AI의 헬스케어 이용에 대한 3가지 영역은 의료공급자가 의사결정을 내리는 영역이다: 스크리닝(screening), 진단(diagnosis) 및 치료 계획(treatment planning). 이 영역에서 AI는 복잡한 환자 데이터를 분석하고, 환자를 위한 최적의 조치(best course of action)를 확인하기 위해 기존 연구 데이터, 모범 사례(best practices) 및 근거를 고려한다(기계학습(machine learning)이라고도 함).

간단히 말해 AI는 의료공급자가 하는 일을 추구하지만 보다 효율적이고 효과적으로 일을 처리한다. 고려해야 할 중요한 영역 가운데 하나는 어떻게 규제기관(regulators)이 AI 사용을 바라보는지와 인간지능을 대체할 수 있을 뿐만 아니라 잠재적으로 그것을 능가할 수도 있는 곳에 규제 요건을 수정하거나 AI 사용을 "정상화(normalize)"해야 하는지 여부이다. 

헬스케어 산업에서 AI를 사용하는 많은 부분이 있지만, 가장 중요한 분야 중 하나는 AI어플리케이션이 영상 분석 및 진단을 자동화하기 위해 개발되는 영상의학(radiology)이다. AI어플리케이션은 영상의학과 의사의 관심 분야를 부각시키고 더 나은 효율성 뿐만 아니라 인간의 오류를 줄일 수 있다.

헬스케어에서 또 다른 AI 이용은 위험에 처한 환자를 확인하는 것이다. 방대한 양의 과거 환자데이터, 연구 및 모범사례를 분석함으로써 AI 어플리케이션은 위험에 처한 환자를 식별하는데 도움을 주어 의료공급자를 실시간(real-time) 지원할 수 있다. AI어플리케이션은 재입원 위험 및 퇴원 후 30일내 재입원 가능성이 높은 환자를 식별하는 데 사용된다. 이러한 데이터는 시스템과 환자 모두에게 피할 수 있는 의료비를 줄이는데 도움이 되며 환자가 이전보다 더 빨리 치료를 시작할 수 있으므로 케어 질을 향상시킨다.

헬스케어 분야의 AI 활용 증가는 조직내 운영 및 의사결정을 변경하고 효율성 및 대응시간(response times)을 개선시킨다. AI가 더 나은 데이터 분석을 주도하지만, 헬스케어에서 AI 활용은 AI 개발의 핵심이 되는 중요한 규제 이슈(regulatory issues)를 제기한다. 

AI의 기본 개념은 소프트웨어 알고리즘을 사용하여 데이터를 분석하고, 데이터를 학습한 다음 의사결정 또는 예측을 하는 것이다. AI는 알고리즘 성능을 최적화하기 위해 상당량의 풍부한 환자데이터("빅데이터"라고도 함)를 사용할 수 있을 때 가장 효과적이다.

헬스케어에서 "빅데이터"에 대한 접근성을 얻는 것은 광범위한 도전과제를 야기시키고 다수의 우려를 유발시킨다. 개인 의료기록의 접근은 환자 개인정보(patient privacy)에 대한 이슈와 데이터 소유자의 윤리성에 기반한 "Health Insurance Portability and Accountability Act (HIPAA)"와 "General Data Protection Regulation (GDPR)"과 같은 엄격한 규제로 보호된다. 개인정보 및 기밀성(confidentiality)은 데이터의 범위, 적절한 저장, 접근 및 보급, 특히 매우 민감하거나 개인적 데이터에 대한 사항을 다룬다.

수집된 데이터 범위가 빠르게 증가하고 데이터가 전자적으로 "클라우드(cloud)”에 저장됨에 따라 개인정보 위반에 대한 위험이 증가하고 있다. 또한 데이터 익명화(data anonymization)는 데이터세트 결합, 데이터 통합, 데이터 조작 또는 기타 부적절한 사용을 통해 식별되는 환자를 방지하지 못한다. "빅데이터", 인터넷 그리고 저장된 데이터가 "해킹"되어 오용될 수 있는 잠재성의 맥락에서 이러한 사항은 심각한 규제적 우려사항이 된다.

헬스케어에서 AI 어플리케이션이 "소유권"(데이터를 통제하거나 소유하는 자), 데이터에 대한 접근을 허용하는 자, 이후 개발되는 지적재산에서 수익을 얻는 자와 직면할 경우, 심각한 이슈가 제기된다. 헬스케어에서 AI 어플리케이션에 대한 주요 원천인 의료정보는 다른 환경에서 소유되는 물리적 실체 혹은 심지어 지적재산과 동일한 의미로 "소유(owned)"되지 않는다. 환자, 의료공급자 및 병원시스템은 개인의 의료기록과 관련하여 권리와 책임을 교차시킬 수 있는 모든 이해당사자이다. 그러나 헬스케어 데이터 소유권을 규제하는 단일의 법률은 없다. 대신, 헬스케어 데이터는 환자와 헬스케어 데이터가 어떻게 관리되어야 하는지를 규제하는 연방, 주 및 국제법의 조합이다. 

고려해야 할 또 다른 이슈는 AI 알고리즘을 구축하는데 필요한 환자데이터가 AI 알고리즘을 작성하는데 필요한 데이터 질과 유용성이 있는지 여부이다. 헬스케어에서 의료공급자가 제공한 문서에 기반하여 데이터는 종종 주관적이고 부정확하다. 이러한 종류의 질은 부정확한 데이터에 기반하여 구축될 수 있기 때문에 AI 어플리케이션과 관련된 알고리즘에 대한 우려를 일으킨다.

AI 알고리즘이 열악하고 "잡음(noisy)" 데이터로 구축될 때, 그 결과도 부정확하게 된다. 환자에 대한 문맥 정보가 있거나 수년간 진료로 발달된 직관에 의존하는 의료공급자와 달리, 어플리케이션 결과는 협소하고 불완전할 수 있다.

따라서, 의료공급자는 AI 어플리케이션에서 얻은 결과를 분석하고 문맥을 제공해야 한다. 이는 "AI 어플리케이션이 부적절한 결과를 제공하면 누가 책임인가?"라는 의문에 이르게 된다. 책임 이슈는 또 다른 우려사항이다. 진단이나 치료가 AI 기술에 의해 제어된다면 AI회사는 환자의 웰빙에 대한 책임을 지는가? 아니면 여전히 의료공급자의 책임인가? AI어플리케이션 정확성과 책임과 함께 데이터의 개인정보, 질, 유용성 및 소유권과 같은 헬스케어에서 AI 활용과 관련된 많은 도전과제 가운데 헬스케어에서 진정으로 AI 어플리케이션 혜택을 얻으려면 이를 모두 극복해야 하며 환자결과를 향상시킬 수 있다.

헬스케어에서 AI 어플리케이션에 관해 논의된 도전과제는 안전하고 효과적인 의료기기만 시장에 출시되도록 US FDA와 같은 규제 기관에서 다루어져야 한다. 1970년 중반에 의료기기를 다루기 위해 "Federal Food, Drug and Cosmetic Act(FDCA)"가 처음 제정되었다.

그 기간 동안 의료기기는 "구축과 정지(build and freeze)" 모델에 기반하였는데 반복적 기술(iterative technology)과 변화는 상대적으로 드물었다. 그러나 이것은 현대 AI 어플리케이션이 일반적으로 작동하는 방식이 아니다. AI어플리케이션과 관련된 알고리즘은 새로운 데이터가 도입될 때마다 변경되므로 사실상 새로운 데이터가 도입될 때마다 "새로운(new)" 의료기기를 생산하게 된다.

결과적으로 FDA는 데이터 입력과 함께 끊임없이 변화하는 AI 어플리케이션과 같은 반복적 기술을 다루기 위해 현재의 "build and freeze" 규제 접근방식을 변경해야 한다. 최근 FDA와 미국 의회는 AI 어플리케이션을 포함한 디지털헬스(digital health) 분야 규제에 대한 우려를 해결하기 위해 몇 가지 조치를 취했다.

디지털헬스 기술에 대한 FDA의 관리를 설명하는 "Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data Guidance"과 같은 몇 가지 지침문건을 발표함으로써 FDA는 디지털헬스 기술에 대한 새로운 규제 모델을 개발하고 시행하는 Digital Health Program을 출범시켰다.

또한, 의회는 2016년 12월에 "21st Century Cures Act, Cures Act"를 통과시켰다. 본 법은 AI 어플리케이션과 같은 디지털헬스 제품에 대한 FDA 권한을 명확히 하는 조항을 담고 있다. 입법가들은 본 법에서 AI를 골라내고 헬스케어 의사결정을 뒷받침하는데 사용되는 역량을 알았고 AI 적용을 "임상 의사결정 지원(clinical decision support, CDS)"으로 언급했다. FDA는 AI 어플리케이션에 대한 가능한 규제 접근방식에 대한 통찰력을 제공하는 Digital Health Software Precertification (Pre-Cert) 시범사업을 도입했다.

이러한 자발적 프로그램에서 FDA는 제품이 아니 소프트웨어 개발자를 분석하여 디지털헬스 기술 규제에 대한 맞춤형 접근방식을 만들기 위해 노력하고 있다. 이러한 방식은 FDA가 현재 의료 기기를 규제하는 것과는 상반된 방식이다. Pre-Cert 프로그램은 이미 시범사업을 진행하고 있으며 Apple, Fitbit 및 Verily를 포함한 시범사업 참여자가 선정되었다.

참여자는 시판 후 데이터를 수집하는 소프트웨어 제품을 포함하여 소프트웨어 제품을 개발, 시험 및 유지 관리하는데 사용하는 조치에 FDA가 접근할 수 있도록 한다. 이러한 접근방식이 유망하지만 시행하기 전에 필요한 법과 규정의 개편을 제안하는 의료기기를 관리하는 현행 법과 규정 하에서 어떻게 작동하는지 명확하지 않다. 

FDA는 헬스케어 분야에 진입하는 AI 어플리케이션과 같은 새롭고 반복적인 디지털헬스 기술을 수용하기 위한 현행 규정과 방법을 발전시키고 있다. FDA 발표자료, 경험 및 현행 규정에 기반하여 AI제품 기업은 의료기기 분류가 결정될 것이기 때문에 사용목적을 얼마나 적극적으로 담을지 고려해야 한다.

의료공급자의 해석이 요구되는 적응증은 몇 가지 이미 존재하는 기존 선택지로 2등급 제품으로 확인될 것 같다. 그러나 의료공급자의 해석을 뛰어 넘는 적응증을 갖는 제품은 시판전 허가(Premarket Approval, PMA) 방법을 통한 임상시험이 요구될 것으로 보인다. 제품 및 사용목적에 따라 제조업체는 de novo 절차를 통해 제품의 등급을 "낮출(down-classify)" 수 있다. FDA는 최근 몇 가지 사례에서 AI가 시판전 허가를 요구하는 3등급으로 분류되지 않고 기존 기술에 추가되도록 허용함으로써 유연성을 보여준 바 있다.

FDA가 AI어플리케이션과 같은 디지털헬스 제품에 대한 규제 접근방식을 재정의하고 더 많은 지침을 제공하기 위해 현행 규제 환경을 발전시키는 방향으로 노력하고 있음에 따라 제조업체는 변화를 예상해야 한다. FDA가 참여하고 이해당사자 의견을 경청함에 따라 새로운 디지털헬스 제품의 진화하는 규제에 대한 이해당사자의 의견을 수렴할 것으로 보인다.

이러한 전환기는 FDA가 디지털헬스의 미래를 형성하는 파트너로 참여할 수 있는 좋은 기회를 제공한다. FDA는 헬스케어시스템을 크게 변화시키는 잠재력을 지닌 AI 어플리케이션과 같은 혁신을 촉진하기 위해 반복적인 변화를 갖는 의료기기를 규제하는 새로운 접근법을 모색하고 있다. 결과적으로 FDA는 AI어플리케이션과 같은 반복적 제품에 더 잘 부합할 수 있도록 현행 규제환경을 진화시키는 방향으로 제조업체와 협력할 수 있는 기회를 찾고 있다.

자료출처 : Regulatory Challenges for Artificial Intelligence Applications in Healthcare

Rajkumar S, Amato S. Regulatory Focus. Regulatory Affairs Professionals Society (RAPS). June 15, 2018
https://www.raps.org/news-and-articles/news-articles/2018/6/regulatory-challenges-for-artificial-intelligence?utm_source=Email&utm_medium=Informz&utm_campaign=Informz%2DEmails&_zs=wQrtE1&_zl=S8iV4

* 본 컬럼은 의료기기를 비롯한 헬스케어 분야의 국내외 학회지에 발표된 논문 및 연구보고서 등을 살펴봄으로써 우리나라 의료기기 관련 보건의료정책 마련에 통찰력을 제공하기 위한 목적으로 매주 발표됨