블로그

Apr 15, 2023

의학 분야의 AI는 편견에 맞서고 더 이상 강화해서는 안 됩니다.

작성자: Ryan Levi, Dan Gorenstein

에서

에 의해

라이언 레비

,

댄 고렌스타인

의료 분야에서 AI가 사용되는 것은 아직 초기 단계이지만 이미 일부 도구에서 인종적 편견이 발견되었습니다. 캘리포니아의 한 병원의 의료 전문가들이 조지 플로이드 살해 사건 이후 인종 차별에 항의하고 있습니다. MARK RALSTON/AFP via Getty Images 캡션 숨기기

의료 분야에서 AI가 사용되는 것은 아직 초기 단계이지만 이미 일부 도구에서 인종적 편견이 발견되었습니다. 캘리포니아의 한 병원의 의료 전문가들이 조지 플로이드 살해 사건 이후 인종 차별에 항의하고 있습니다.

의사, 데이터 과학자, 병원 경영진은 인공지능이 지금까지 다루기 어려웠던 문제를 해결하는 데 도움이 될 수 있다고 믿습니다. AI는 이미 임상의가 유방암을 진단하고 엑스레이를 판독하며 어떤 환자에게 더 많은 치료가 필요한지 예측하는 데 도움을 줄 가능성을 보여주고 있습니다. 그러나 기대가 커짐에 따라 위험도 따릅니다. 이러한 강력한 새 도구는 진료 제공 방식에 있어 오랫동안 지속되어 온 인종적 불평등을 영속시킬 수 있습니다.

듀크 보건 혁신 연구소(Duke Institute for Health Innovation)의 수석 데이터 과학자인 마크 센닥(Mark Sendak) 박사는 “만약 이것을 엉망으로 만들면 의료 시스템에 체계적인 인종차별이 더욱 뿌리 깊게 자리잡아 사람들에게 정말로 해를 끼칠 수 있다”고 말했습니다.

이러한 새로운 의료 도구는 청구 정보 및 테스트 결과와 같은 대규모 데이터 세트에서 패턴을 찾기 위해 알고리즘을 훈련하는 AI의 하위 집합인 기계 학습을 사용하여 구축되는 경우가 많습니다. 이러한 패턴은 환자가 패혈증에 걸릴 확률과 같은 미래 결과를 예측할 수 있습니다. 이러한 알고리즘은 병원의 모든 환자를 한 번에 지속적으로 모니터링하여 과로한 직원이 놓칠 수 있는 잠재적인 위험을 임상의에게 경고할 수 있습니다.

그러나 이러한 알고리즘이 구축된 데이터는 오랫동안 미국 의료 서비스를 괴롭혀온 불평등과 편견을 반영하는 경우가 많습니다. 연구에 따르면 의사들은 종종 백인 환자와 유색인종 환자에게 서로 다른 치료를 제공합니다. 환자 치료 방법의 이러한 차이는 데이터에 영원히 저장되어 알고리즘을 훈련하는 데 사용됩니다. 또한 유색 인종은 교육 데이터 세트에서 과소 대표되는 경우가 많습니다.

Sendak은 "과거로부터 배울 때 과거를 복제하는 것입니다. 과거를 더욱 확고히 하는 것입니다"라고 말했습니다. "기존 불평등을 받아들이고 이를 의료 서비스 제공 방법에 대한 열망으로 다루기 때문입니다."

사이언스(Science) 저널에 발표된 획기적인 2019년 연구에 따르면 1억 명이 넘는 사람들의 의료 요구를 예측하는 데 사용된 알고리즘이 흑인 환자에 대해 편향되어 있는 것으로 나타났습니다. 이 알고리즘은 미래의 건강 요구 사항을 예측하기 위해 의료 지출에 의존했습니다. 그러나 역사적으로 치료에 대한 접근성이 낮았기 때문에 흑인 환자의 지출 비용은 더 적었습니다. 결과적으로 흑인 환자는 알고리즘에 따라 추가 치료를 받도록 권장되기 위해 훨씬 더 아파야 했습니다.

Sendak은 편견이 포함될 수 있는 데이터를 사용하여 임상 AI 도구를 구축하려는 노력에 대해 "본질적으로 지뢰가 있는 곳을 걷고 있는 것입니다. 그리고 [조심하지 않으면] 당신의 물건이 폭발하여 사람들에게 해를 끼칠 것입니다"라고 말했습니다. ."

2019년 가을, Sendak은 소아 응급의학과 의사인 Emily Sterrett 박사와 협력하여 Duke 대학 병원 응급실에서 소아 패혈증을 예측하는 데 도움이 되는 알고리즘을 개발했습니다.

패혈증은 신체가 감염에 과잉 반응하여 자신의 장기를 공격할 때 발생합니다. 어린이에게는 드물지만(미국에서는 연간 약 75,000건 발생) 예방 가능한 이 질환은 거의 10%의 어린이에게 치명적입니다. 빨리 발견하면 항생제로 패혈증을 효과적으로 치료할 수 있습니다. 그러나 발열, 높은 심박수, 높은 백혈구 수와 같은 일반적인 초기 증상은 감기를 포함한 다른 질병과 유사하기 때문에 진단이 어렵습니다.

어린이의 패혈증 위험을 예측할 수 있는 알고리즘은 전국 의사들에게 획기적인 변화를 가져올 것입니다. Sterrett은 "어린이의 생명이 위태로워질 때 인간의 오류를 보완하기 위해 AI가 제공할 수 있는 백업 시스템을 갖추는 것이 정말 중요합니다."라고 말했습니다.