성균관대학교(총장 유지범) 생명물리학과 박별리 교수 연구팀이 삼성서울병원 김형경 교수 연구팀과 함께, 조직을 실제로 염색하지 않아도 병리 진단에 필요한 H&E(hematoxylin & eosin) 등가 이미지를 자동 생성하고 암을 분류할 수 있는 고처리량 AI 가상염색 기술을 개발했다고 밝혔다.

병리 진단의 기본 절차인 H&E 염색은 조직의 구조를 관찰할 수 있게 하는 핵심 공정이지만, 화학 처리가 필요하고 숙련 인력과 시간(20~30분)이 요구되는 데다 슬라이드를 반복 제작해야 하는 비효율성이 지적돼 왔다.

연구팀은 이러한 한계를 해결하고자 한 번에 최대 100장의 슬라이드를 스캔하는 고해상도 디지털 슬라이드 스캐너와 딥러닝 기반 ‘NEGCUT’ 모델을 결합한 가상염색 플랫폼을 구축했다. 이 시스템은 염색되지 않은 명시야 영상만으로도 실제 H&E와 유사한 수준의 진단용 가상 이미지를 자동 생성한다.

AI가 만든 가상염색 이미지는 색 재현성과 구조 표현에서 기존 CycleGAN, CUT, E-CUT 기반 기술을 앞섰다. 또한 무염색 영상과 가상 H&E 영상을 함께 분석하는 이중 브랜치 ResNet 모델의 암 분류 정확도는 95.9%에 달해 실제 염색 조직을 이용한 진단과 거의 차이가 없는 것으로 나타났다. 병리 전문의 3명이 참여한 블라인드 테스트에서도 “실제 H&E와 구별하기 어렵다”는 평가가 나왔다.

이 기술은 림프절·뇌·간·갑상선·뼈 등 다양한 조직에서 안정적으로 작동하는 것으로 확인됐다. 특히 화학 염색 과정이 생략되면서 비용과 시간이 줄어들고, 조직 손상이 없어 IHC 및 분자 분석 같은 후속 실험에 원본 샘플을 그대로 활용할 수 있는 장점도 부각된다.

박별리 교수는 “이번 연구는 기존 가상염색 기술이 지녔던 저속 처리의 한계를 넘어, 병원에서 실제 사용하는 대량 디지털 스캔 환경에도 적용 가능한 자동화 기술을 구현했다는 점에서 의미가 크다”며 “향후 병리 진단 과정의 속도와 효율을 크게 높일 수 있을 것”이라고 말했다.

김형경 교수 역시 “가상염색 이미지가 실제 염색 이미지와 비슷한 수준의 품질을 보여 임상 적용 가능성을 크게 앞당긴 중요한 성과”라고 평가했다.

이번 연구는 한국연구재단 뇌과학선도융합기술개발사업, 글로벌융합연구지원사업, 우수신진연구자지원사업, BK21FOUR 프로젝트의 지원을 받았으며, 국제학술지 'Medical Image Analysis'에 11월 5일자로 게재가 확정됐다.