● [Health Policy Insight 387회]

인공지능(artificial intelligence, AI)은 최소한의 인간 개입으로 예술에서 학기 말 리포트에 이르기까지 무엇이든 생성할 수 있는 딥러닝 모델의 출시로 최근 대중의 주목을 받았다. 이러한 발전으로 삶의 모든 측면에서 AI의 현재 및 잠재적 역할에 대한 논의가 다시 활성화되었다. 그러나 AI를 적용할 수 있는 광범위한 분야 중에서 의학(medicine)은 엄청난 잠재력과 함께 상당한 도전과제가 있는 분야로 두드러진다.

저널에서는 의학에 적용된 AI의 일부 측면을 고려하는 원고 제출 수가 급격히 증가하고 있다. 이러한 엄청난 관심을 고려하여 건강과 헬스케어의 모든 측면에서 AI와 기계학습 기술의 합리적으로 확립되고 성장하는 가능한 역할을 모두 고려할 새로운 시리즈인 'AI in Medicine'의 첫 번째 논문을 NEJM 저널 이번 호에 게재했다. 의학 저널로서 NEJM AI에 대한 2가지 새로운 출판 문제에 직면해 있다.

첫 번째는 잠재적인 AI 애플리케이션(application)의 폭이다. 이미 AI가 손대지 않은 의학 및 헬스케어 제공 분야는 거의 없다. 예를 들어, AI-기반 애플리케이션을 사용하여 의료기록의 받아쓰기를 포착할 수 있다. 그러한 많은 애플리케이션은 의사의 개입 없이 직접 메모를 작성하기 위해 환자 인터뷰와 실험실 테스트 결과를 합성하려고 시도하고 있다.

AI는 건강보험 급여(coverage)에서 점점 더 많은 역할을 수행하고 있으며, 간병인이 청구(claims)하고 보험자가 청구에 대한 판정을 내리는 데 도움을 주고 있다. 이미 AI를 사용하여 방사선, 조직학 및 안저(optic fundi)와 같은 영상을 해석하는 많은 발표된 보고서를 접하고 있다. AI를 활용하는 도구는 실험실 연구결과에서 임상 데이터에 이르는 정보가 포함된 대규모 연구 데이터베이스를 분석하고 해석하는 데 점점 더 많이 사용되고 있다.

이러한 모든 도구는 효율성을 높일 수 있는 잠재력을 제공하며 아마도 기존의 데이터 분석방법으로는 얻기 어려운 통찰력을 제공할 수 있다. 그러나 새로운 AI 방법이 반드시 만병통치약은 아니다. 불안정하고 좁은 영역에서만 작동할 수 있으며, 소외된 그룹에 불균형적으로 영향을 미치는 내재한 편향을 가질 수 있다. 이러한 범위의 AI 애플리케이션에는 적절한 지식을 가진 개인 풀(pool)이 여전히 상대적으로 적음에도 불구하고 다양한 저자, 편집자 및 검토자 그룹이 필요하다.

둘째, AI 및 기계학습 분야의 전문성은 상용화된 애플리케이션과 밀접하게 연결되어 있다. 근본적인 기술(underlying technology)은 빠르게 변화하고 있으며, 많은 경우 제품에 재정적 이해관계가 있는 기업 및 학계 연구자가 생산하고 있다. 점점 늘어나는 대규모 AI 모델의 경우, 필요한 자원을 보유한 기업만이 AI 시스템을 추진할 수 있다. 이러한 많은 모델이 아직 널리 보급되지 않았기 때문에, 실제 경험과 모델의 작동 특성에 대한 자세한 이해는 소수의 모델 개발자에게만 있는 경우가 많다.

이해상충을 일으킬 수 있는 재정적 인센티브의 잠재성에도 불구하고, AI 및 기계학습과 의학에서의 사용에 대한 깊은 이해를 위해서는 개발에 관련된 사람들의 참여가 필요하다. 따라서 저널과 NEJM AI에 게재하는 일련의 AI 논문에서 관련 재무적 연계성이 없는 사람에게 저술 및 편집 권한을 제한하지 않고 투명성 및 공개 정책을 따를 것이다. 의학은 AI가 적용되는 다른 분야와 아주 다르다.

AI는 전체 헬스케어 연속체에서 새로운 발견과 개선된 프로세스를 가능하게 한다; 윤리, 거버넌스 및 규제적 고려사항은 AI 애플리케이션 및 시스템의 모든 구성요소를 설계, 시행 및 통합하는 데 중요하다. 유용성과 안전성에 대한 우려 때문에 새로운 애플리케이션은 일반적으로 다른 의료 기술에 적용되는 것과 동일한 표준을 준수해야 한다.

이를 위해서는 의학의 다른 분야에서 사용되는 것과 유사한 시험(testing) 수준의 엄격함이 요구되지만, AI 시스템이 개발되는데 이용된 데이터세트와 전개되는데 이용되는 데이터 간에 불일치가 있을 때 발생할 수 있는 "데이터세트 이동(dataset shift)"과 같은 문제가 발생할 수 있다.