KAIST·Caltech, BTO 광학 상수 193nm~40μm 전대역 정밀 규명…양자 광회로 설계 데이터 확보

왜 BTO인가: 리튬 나이오베이트를 넘어서

광통신 시스템에서 전기 신호를 빛으로 변환하는 광변조기의 핵심 소재로 오랫동안 리튬 나이오베이트(LiNbO₃)가 쓰였다. BTO는 전기장 인가 시 빛의 진행 특성이 바뀌는 전기광학 효과가 LiNbO₃ 대비 뛰어난 것으로 알려져 있어 차세대 소재로 주목받아 왔다. 그러나 소재 내부에 결정 방향이 서로 다른 미세 영역(도메인)이 뒤섞여 존재하기 때문에 정확한 광학 상수를 추출하는 일이 기술적으로 까다로웠다. 도메인별로 빛에 반응하는 방식이 달라 측정값이 평균화되거나 왜곡됐기 때문이다.

뮬러 행렬 분광 타원법으로 도메인 문제 극복

연구팀은 빛이 소재 표면에서 반사되거나 투과할 때 편광 상태가 변화하는 양상을 행렬 형태로 기술하는 뮬러 행렬 분광 타원법을 채택했다. 도메인 방향이 비교적 균일한 두 종류의 단결정 시료를 선별해 각각 분석함으로써 소재 고유의 광학 특성을 분리해 냈다. 분석 파장 범위는 193nm~40μm로, 자외선·가시광선·적외선을 세 구간으로 나눠 연속 측정했다. 이 과정에서 파장과 결정 방향 모두에 의존하는 굴절률 이방성이 체계적으로 도출됐다.

10⁻⁵ 수준 소멸계수까지 정량화

빛의 미세 손실을 나타내는 소멸계수 측정은 별도의 투과율 측정법을 병합해 수행됐다. 연구팀은 2~10μm 중적외선 대역에서 10⁻⁵ 수준이라는 매우 작은 소멸계수까지 정량화하는 데 성공했다. 소멸계수는 광소자를 통과하는 신호의 손실을 예측하는 핵심 지표로, 이 값이 불확실할 경우 소자 설계 단계에서 오차가 누적될 수밖에 없다. 아울러 복수 도메인이 혼재하는 다결정 샘플 전체의 광학적 반응을 도메인 방향·비율로부터 역산하는 계산 방법론도 함께 제시해 측정 체계를 일반화했다.

광변조기·양자 광회로 설계에 직접 활용 가능

이번에 확보된 광학 데이터베이스는 BTO 기반 광변조기, 광도파로, 광공진기, 양자 광회로 등의 수치 시뮬레이션에 즉시 활용할 수 있다. 소자 제작 전 단계에서 빛의 경로와 손실을 보다 정밀하게 예측할 수 있어 설계 반복 횟수를 줄이고 성능 예측 신뢰도를 높이는 효과가 기대된다. 특히 양자 광소자는 광자 손실에 매우 민감하기 때문에 소멸계수의 정밀한 사전 파악이 중요하다는 점에서, 이번 데이터는 양자 포토닉스 소자 개발 연구자들에게도 실질적 참고 자료가 될 전망이다.

연구에는 KAIST 강지원 박사과정생과 J.A. Woollam의 니나 홍(Nina Hong) 박사가 공동 제1저자로 참여했으며, 장민석 KAIST 교수와 해리 앳워터(Harry Atwater) Caltech 교수가 공동 교신저자를 맡았다.