SK하이닉스가 산업용 AI 전문 스타트업 가우스랩스(Gauss Labs)와 함께 22일부터 26일까지 미국 캘리포니아주 새너제이에서 열리는 국제 학회인 ‘SPIE Advanced Lithography + Patterning 2026(이하 SPIE AL 2026)’에 참가해, AI 기반 반도체 공정 가상 계측 관련 최신 연구성과를 공유한다.

▲ SPIE AL 2026 공식 웹사이트(관련링크)

SPIE AL 2026은 1955년에 미국에서 설립된 광학, 광자학 분야에서 가장 권위 있는 국제 학회인 국제광전자공학회(SPIE, Society of Photo-Optical Instrumentation Engineers)가 주최하는 학술 컨퍼런스다.

올해 SPIE AL 2026에서는 나노리소그래피(Nanolithography)*에 활용 가능한 공정 기술, 소재, 장비와 함께 계측, 검사, 공정 제어 등 분야별로 공정 효율을 높이기 위한 다양한 방법론이 제시될 것으로 기대된다. 특히 연산 패터닝(Computational Patterning)*을 비롯해 차세대 패터닝 기술들을 소개하는 세션들도 마련돼 벌써부터 관심이 집중되고 있다.

* 나노리소그래피(Nanolithography): 나노미터 단위의 극미세 패턴을 형성하는 공정
* 연산 패터닝(Computational Patterning): 실제로 웨이퍼를 깎기 전에 컴퓨터 알고리즘과 시뮬레이션을 통해 회로 패턴이 어떻게 형성될지 예측하고 보정하는 기술

가우스랩스와 SK하이닉스는 구두 발표 세션과 포스터 세션에서 각 1편씩 총 2편의 논문을 발표할 예정이다. SK하이닉스는 그간 반도체 공정에 대한 계측* 효율을 높이기 위해 가우스랩스와 함께 긴밀히 협력해 왔고, 지난 2022년부터는 가우스랩스가 개발한 AI 기반 가상 계측 설루션 ‘Panoptes VM(Virtual Metrology)’을 생산 현장에서 활용하고 있다. 이번에 발표될 두 논문에는 실제 SK하이닉스 생산 현장에서 Panoptes VM을 운용한 데이터를 기반으로 가우스랩스와 SK하이닉스 구성원들이 공동 연구한 성과가 담겨 있다.

* 계측(Metrology): 각 공정이 올바르게 진행되고 있는지 공정 결과를 측정하여 확인하는 작업

▲ 가우스랩스와 SK하이닉스 구성원들

먼저 23일 구두 발표 세션에서는 ‘조기 이상 탐지 및 진단을 위한 가상 계측 기반 장비 간 성능 매칭* 프레임워크(A Virtual Metrology-Driven Tool-to-Tool Matching: Toward Early Anomaly Detection and Diagnosis)’ 논문이 소개된다. 가우스랩스와 SK하이닉스는 이 논문을 통해 Panoptes VM을 활용하면 기존에는 낮은 계측률로 분석이 어려웠던 장비 간 성능 차이를 효과적으로 식별할 수 있다는 점을 데이터로 입증한다. 또한 이를 응용해 장비 이상을 조기에 탐지하고 원인을 빠르게 진단하는 방안도 함께 제시한다.

* 장비 간 성능 매칭(TTTM, Tool-to-Tool Matching): 여러 장비에서 동일한 공정을 진행했을 때 일관된 결과가 나올 수 있도록 장비의 성능 차이를 줄이는 작업

이어 25일 포스터 세션에서는 ‘반도체 포토 공정*에서 오버레이* 가상 계측의 범용적 설명력을 높이기 위한 경사하강법* 기반 프레임워크(GRACE: A Gradient-Based Model-Agnostic Explainability Framework for Photolithography Overlay Virtual Metrology)’ 논문이 발표된다. 가우스랩스와 SK하이닉스는 이 논문을 통해 포토 공정에서 오버레이 가상 계측을 위해 개발된 신규 프레임워크(Framework)* ‘GRACE’를 소개한다. 기존 오버레이 예측 모델은 정확도 향상에만 집중해 각 입력변수(input variable)가 어떻게 결과에 영향을 미쳤는지 설명하기 어려운 반면, GRACE는 입력변수가 예측 결과에 미치는 영향을 정량화해 모델 성능을 설명할 수 있는 지표를 제공한다. SK하이닉스는 지난해부터 이를 생산 현장에 적용해 공정 이상을 적시에 파악하고 원인을 찾는 데 활용하고 있다.

* 포토 공정(Photolithography): 필름 카메라로 사진을 찍듯이 빛을 이용해 웨이퍼 위에 반도체 회로 패턴을 그리는 공정
* 오버레이(Overlay): 웨이퍼 위에 여러 층(layer)의 회로 패턴을 쌓아 올릴 때, 이전 층과 현재 층의 패턴이 얼마나 정확하게 수직으로 겹쳐 있는지 측정하는 기술
* 경사하강법: AI 모델이 특정 결과를 도출할 때 어떤 입력변수가 가장 큰 영향을 주었는지 ‘기울기(Gradient)’ 값을 통해 계산하는 방식
* 프레임워크(Framework): 복잡한 AI 모델을 효율적으로 개발·구현하기 위해 표준화된 절차와 도구를 정리해 놓은 기술적 틀

가우스랩스 김영한 대표는 “이번 SK하이닉스와의 공동 연구로 선보인 AI 기반 기술은 설루션 도입 이후에도 반도체 제조 현장에서 활용사례를 계속 발굴하고 부가가치를 창출하기 위해 노력해 얻은 성과”라며 “앞으로도 견고한 파트너십을 토대로 새로운 기술을 개발해 제조 생태계 전반을 아우르는 표준 설루션으로 발전시켜 나가겠다”고 말했다.