■노광 공정에 양자컴·AI기술 도입
D램·낸드 등 분야별 전담조직 운영
SDS·반도체硏 계열사 역량 총동원
광학근접보정 원천기술 확보 나서
엔비디아 협력도 병행 투트랙전략
설계·개발·제조 턴키 강점 극대화

 

삼성전자(005930)가 2㎚(나노미터·10억분의 1m) 공정을 넘어 머리카락 굵기의 10만분의 1 수준인 Å(옹스트롬·10분의 1㎚)급 초미세공정으로 진입한다. 원자 수준에 이른 빛의 물리적 한계를 극복하기 위해 그룹 역량을 총동원한다. 핵심 계열사인 삼성SDS가 확보한 인공지능(AI), 양자컴퓨터 하이브리드 시뮬레이션 기술은 삼성전자의 노광(포토리소그래피) 공정 기술 장벽을 넘기 위한 그룹 차원의 협업을 보여주는 대표 사례다. 반도체 초미세공정의 난제를 차세대 기술인 양자컴퓨터로 풀고 그룹의 연구개발(R&D) 역량을 결집해 차별화된 경쟁력을 확보하려는 이재용 삼성전자 회장의 ‘초격차 전략’이 본격화하고 있다는 분석이 나온다.

 

1일 업계에 따르면 삼성은 최선단 공정인 2나노와 차세대 1나노(10옹스트롬) 노광 공정의 한계를 극복하기 위해 컴퓨터 시뮬레이션 기술인 ‘광학근접보정(OPC)’에 양자컴퓨팅 알고리즘(연산 기법)을 적용하는 방안을 추진하고 있다. 삼성전자 반도체연구소가 10년 넘게 이 기술을 독자 개발해 왔으나 최근 시스템통합(SI) 계열사인 삼성SDS의 선행 연구 조직이 OPC 연구에 합류하면서 역할을 분담하고 있다. 삼성SDS는 올해 하반기 OPC 관련 기술실증(POC)에 착수할 예정이다.

 

OPC는 반도체 회로 패턴이 노광 공정을 거쳐 웨이퍼에 정확히 구현되도록 빛의 왜곡을 미리 예측하고 보정하는 컴퓨터 시뮬레이션 기술이다. 삼성전자 반도체연구소 공정개발실은 제품별·공정별로 OPC 전담 조직을 운영하며 각 특성에 맞는 최적화 작업을 수행한다. 실제로 D램, 낸드플래시, 로직(연산용 반도체), 파운드리(반도체 위탁 생산) 등 분야별 기술 개발팀을 별도로 두고 연구를 진행하고 있다.

 

 

메모리와 파운드리 공정이 갈수록 미세해지면서 OPC의 중요성도 커지고 있다. 특히 파운드리 공정은 현 2나노를 넘어 4년 안에 옹스트롬급인 1.4나노 양산을 목표로 한다. 이런 차세대 공정은 회로 선폭을 원자 수준에 가깝게 구현하는데 선폭이 미세해질수록 시뮬레이션으로 계산해야 할 변수가 기하급수적으로 늘어난다. 기존에는 광원과 렌즈 특성 등 두세 가지 변수만 반영하면 됐지만 옹스트롬급 노광 공정에서는 최소 20개 이상의 조건을 동시에 계산해야 한다. 이 때문에 연산 시간이 크게 늘고 비용도 급증하는 ‘연산 병목’이 불가피하다는 관측이 나온다.

 

이를 해결하기 위해 OPC에 양자컴퓨터를 적용하려는 시도가 이어지고 있다. 양자컴퓨터는 고전 컴퓨터의 연산 단위인 비트(bit) 대신 큐비트(qubit)로 연산하는 것이 특징이다. 큐비트는 0과 1 중 하나만 처리하는 비트와 달리 두 상태를 동시에 표현하는 ‘양자 중첩’과 여러 큐비트가 하나처럼 연결되는 ‘양자 얽힘’ 특성을 갖는다. 이를 활용하면 노광 공정에서 발생하는 방대한 변수를 순차적으로 처리하지 않고 병렬로 연산할 수 있어 옹스트롬급 공정의 병목을 해소할 수 있다.

 

삼성은 양자컴퓨터와 그래픽처리장치(GPU) 기반 고전 컴퓨터를 함께 쓰는 하이브리드 알고리즘 연구에 속도를 내고 있다. 수많은 변수를 동시에 계산하는 노광 시뮬레이션은 양자컴퓨터의 큐비트와 양자 게이트가 처리하고 이 과정에서 생성된 방대한 데이터를 후처리하는 반복 연산은 GPU가 맡는 방식이다. 초기 단계인 양자컴퓨터에서 발생하는 연산 오류는 최신 AI 기반 오류 보정 기술로 실시간 보완할 계획이다.

 

김형종 서울여대 지능정보보호학부 교수(한국시뮬레이션학회 부회장)는 “삼성의 이번 연구는 반도체 선폭이 극한에 가까워지며 노광 공정의 불확실성이 커지는 상황에서 AI와 양자컴퓨팅을 결합한 시뮬레이션 기술을 선제적으로 확보하려는 시도”라며 “양자컴퓨팅 상용화까지 상당한 시간이 필요한 만큼 현 단계에서는 상용 기술 확보보다 핵심 원천 기술과 지식재산권(IP)을 선점하려는 의미가 더 크다”고 설명했다.

 

이번 연구 방향은 엔비디아와의 협력 확대와도 맞물린다. 엔비디아는 현재 한국에 상주하며 반도체 공정 시뮬레이션 솔루션 영업을 담당할 인력을 채용하고 있다. 이 인력은 국내 반도체 기업과 협력해 제조 과정에서 발생하는 병목 지점을 파악하고 이를 해결할 엔비디아 GPU 기반 소프트웨어 툴을 제안하는 역할을 맡는다. 삼성은 엔비디아 등 외부 솔루션 활용과 자체 알고리즘 확보를 병행하는 ‘투트랙’ 전략을 이어간다는 방침이다.

 

 

https://n.news.naver.com/mnews/article/011/0004637117?sid=101