인공지능이 엑스레이를 판독하고 질병을 예측하는 시대입니다. 그런데 만약 AI가 치명적인 실수를 한다면 어떻게 될까요? 예를 들어 AI가 암 환자의 영상을 정상이라고 판독했고, 의사가 이를 믿고 환자를 돌려보냈는데 나중에 병이 악화되었다면, 그 책임은 오진을 한 AI 알고리즘을 만든 회사에 있을까요, 아니면 그것을 사용한 의사에게 있을까요? 이는 의료 AI 도입에 있어 가장 민감하고도 중요한 법적 쟁점입니다.

현재의 법과 규제 체계 안에서 정답은 의사에게 있다입니다. 현행법상 의료 AI는 의사를 대체하는 독립적인 주체가 아니라, 청진기나 메스처럼 진료를 돕는 의료 기기, 즉 도구로 분류되기 때문입니다. 아무리 성능이 뛰어난 도구라도 그것을 사용하여 최종 판단을 내리고 처방을 하는 주체는 인간 의사입니다. 따라서 AI의 판단을 참고하여 내린 결정이라 하더라도, 그 결과에 대한 모든 법적, 윤리적 책임은 최종 결재권자인 의사가 지게 됩니다.

하지만 이 문제는 그리 단순하지 않습니다. 의사가 AI의 판단을 거스르기가 점점 어려워지는 자동화 편향(Automation Bias)이라는 심리적 리스크가 존재하기 때문입니다. 만약 99% 정확도를 자랑하는 AI가 암이라고 강력하게 주장하는데 의사가 아니라고 판단했다가 틀린다면, 의사는 AI의 경고를 무시했다는 비난을 피하기 어렵습니다. 반대로 AI를 너무 맹신하다가 오진을 해도 책임을 져야 합니다. 의사 입장에서는 이러지도 저러지도 못하는 딜레마에 빠질 수 있습니다.

앞으로 AI가 더 고도화되어 자율주행차처럼 의사의 개입 없이 스스로 진단하는 수준(자율형 AI)에 도달한다면, 그때는 제조물의 결함 책임을 물어 개발사에 책임을 지우는 방향으로 법이 바뀔지도 모릅니다. 하지만 적어도 지금은 AI가 아무리 똑똑해도 운전대는 의사가 잡고 있습니다. 환자인 우리 역시 AI는 거들 뿐, 치료의 중심에는 여전히 사람이 있다는 사실을 기억해야 합니다.

와이에스엠경영컨설팅 윤수만 (AI리스크관리/AI규제관리/AI윤리)