춘옥컴퍼니, 소동물 임상 AI의 원칙과 한계 담은‘VETfr.ai.day 헌장’ 공개
- 7월 20일
- 2분 분량
춘옥컴퍼니가 소동물 임상 의사결정지원 AI ‘VETfr.ai.day’가 지향하는 원칙과 시스템의 한계를 담은 「VETfr.ai.day 헌장」을 공개했습니다.
이번 헌장은 AI의 성능을 소개하는 문서가 아니라, 실제 진료 현장에 사용되는 임상 AI가 어떤 원칙에 따라 설계되어야 하며 무엇을 하지 않아야 하는지를 밝히기 위해 작성되었습니다.
임상 AI의 오답은 일반적인 챗봇의 오류와 결과의 무게가 다릅니다. 확인되지 않은 약물 용량이나 잘못된 임상 정보가 그럴듯한 답변으로 제시될 경우, 그 영향은 사용자의 불편을 넘어 동물 환자의 안전으로 이어질 수 있기 때문입니다.
이에 춘옥컴퍼니는 임상 AI의 신뢰를 정확도나 벤치마크 점수만으로 설명하기보다, 시스템이 지켜야 할 원칙과 한계를 먼저 공개해야 한다고 판단했습니다.
VETfr.ai.day 헌장은 다음 네 가지 핵심 약속을 중심으로 구성되어 있습니다.
첫째, 존재하지 않는 근거나 확인되지 않은 수치를 사실처럼 제시하지 않도록 할루시네이션을 지속적으로 억제합니다.
둘째, 사용자가 듣고 싶어 하는 답에 근거 없이 동조하지 않습니다. 수의사가 제시한 가설과 근거가 충돌한다면, 반대 근거와 다른 가능성을 함께 제시합니다.
셋째, 최종 판단은 수의사에게 남겨둡니다. VETfr.ai.day는 확진이나 치료 결정을 대신하지 않고, 가능한 선택지와 각 선택지의 근거 및 트레이드오프를 제공합니다.
넷째, 근거가 부족하거나 확신할 수 없는 질문에는 그럴듯한 답을 만들어내기보다 모른다는 사실을 명확하게 전달합니다.
이 네 가지 약속은 서로 분리된 원칙이 아닙니다. 모른다고 말할 수 있어야 근거 없는 답변을 줄일 수 있으며, 사용자의 가설에 무조건 동조하지 않아야 수의사의 판단을 실질적으로 지원할 수 있습니다.
근거를 확인할 수 있는 임상 AI
헌장은 네 가지 핵심 약속과 함께 ‘근거 추적 가능성’을 주요 원칙으로 제시합니다.
VETfr.ai.day는 임상적 판단과 함께 관련 근거의 출처를 제시해, 수의사가 답변이 어떤 문헌과 지식에 기반하고 있는지 직접 확인할 수 있도록 하는 것을 지향합니다.
확립된 표준에 기반한 정보인지, 개별 문헌에 따른 정보인지, 제한된 근거를 바탕으로 한 추론인지를 구분해 전달함으로써 서로 다른 수준의 정보를 동일한 무게로 받아들이지 않도록 설계해 나갈 예정입니다.
또한 하나의 이상적인 표준 치료만을 정답으로 제시하기보다, 보호자의 여건과 환자의 상태, 병원의 자원을 고려한 현실적인 대안을 함께 제시하는 ‘Spectrum of Care’의 관점도 헌장에 포함했습니다.
어떤 선택지가 해당 환자에게 적합한지를 결정하는 일은 환자를 직접 진찰하고 보호자와 소통하는 현장 수의사의 몫이라는 원칙에 따른 것입니다.
무엇을 하지 않을지도 공개했습니다
VETfr.ai.day 헌장에는 시스템이 지향하는 원칙뿐 아니라 의도적으로 하지 않는 일도 명시했습니다.
VETfr.ai.day는 수의사의 직접 진찰과 임상 판단을 대체하지 않습니다. 확률적 추정을 확정 진단처럼 제시하지 않으며, 근거 없이 낙관적인 예후를 말하지 않습니다.
보호자를 직접 대상으로 진단이나 처치를 권고하지 않으며, 안락사와 같이 돌이킬 수 없는 결정에 대해 특정 방향을 종용하지 않습니다.
이는 기술적 기능이 부족해서 생긴 제한이 아니라, 임상 의사결정지원 시스템이 넘지 않아야 할 경계를 분명히 하기 위한 선택입니다.
댓글