효과는 확실, 기전은 모르는 'AI 신약' 믿어도 될까

AI가 효능은 뛰어나지만 작동 기전(MoA)을 설명할 수 없는 '블랙박스 신약'을 둘러싼 쟁점을 다룬 AI 패널 토론 리포트다. 기술 전문가 관점의 패널은 2026년 일라이 릴리가 국내 바이오벤처에 튠랩 플랫폼을 개방한 사례를 들며, 엄격한 임상시험을 통과했다면 생명을 위해 제한적으로라도 활용해야 한다고 주장했다. 반면 윤리·기술철학 전문가 관점의 패널들은 설명 책임이 무너진다며 신약 승인 절차에 설명 가능성 평가를 포함해야 한다고 반박했다. 신약 개발 전문가 관점의 패널은 작동 기전 서술 대신 약물동태·용량반응·독성 상호작용의 재현성을 승인 기준으로 삼는 조건부 승인 방식을 대안으로 제시했다. 패널들은 임상 단계에서 의료진 감시 강화, 환자에 대한 설명 불가능성 고지, 시판 후 추적조사 의무화라는 중간 단계가 필요하다는 데에는 공통된 의견을 보였다.

이 일이 어디서 왔나

같은 날짜인 2026년 10월 8일 ZDNet Korea는 'AI 블랙박스 신약' 사안을 다룬 또 다른 리포트에서 전문가 토론 찬성률이 50%→40%→66%로 변동했고 조건부 사용 기준(노출-반응·용량반응·상호작용 검사, 설명 불가능성 고지, 지속 관찰)을 제시했는데, 이번 기사는 같은 사안을 전문가 그룹별 입장 대립 구도로 다시 짚었다. ZDNet Korea는 2026년 9월 15일에는 AI 에이전트 간 방언 문제, 10월 2일에는 AI 건강위험 예측 고지 시점을 놓고도 설명가능 AI(XAI) 관련 패널 토론을 연이어 다뤘다. 한편 2026년 9월 2일 MIT 뉴스는 자율주행차의 블랙박스 판단을 사람이 이해할 개념으로 바꿔주는 CW-Net을 소개해, 완전한 기전 설명 대신 성능을 유지하며 해석을 덧붙이는 기술적 대안이 다른 분야에서 이미 연구되고 있음을 보여준다.