삼성·SK하닉, 엔비디아 AI로 반도체 시뮬레이션 가속

SK하이닉스, 칩 전체 열·변형 해석 30배 이상 가속
식각 형상도 수십 배 빠르게 예측…공정 조건 탐색에 활용
삼성전자, AI로 재료 물성 예측…칩 해석 18시간→41초

▲김정한 SK하이닉스 TCAD 인텔리전스팀장이 9일 서울 강남구 코엑스에서 열린 ‘엔비디아 AI 데이 서울 2026’에서 반도체 칩의 열·변형 분석과 식각 공정 시뮬레이션 사례를 발표하고 있다. 손희정 기자sonhj1220@

SK하이닉스와 삼성전자가 엔비디아 기술을 활용해 반도체 시뮬레이션 속도를 높였다. SK하이닉스는 칩 전체의 열과 변형을 해석하는 속도를 기존 중앙처리장치(CPU) 방식보다 30배 이상 높였다. 삼성전자는 AI와 그래픽처리장치(GPU)를 활용해 약 18시간 걸리던 칩 열·기계 해석을 41초에 마쳤다.

김정한 SK하이닉스 미래기술연구원 TCAD 인텔리전스팀장은 9일 서울 강남구 코엑스에서 열린 ‘엔비디아 AI 데이 서울 2026’에서 칩 전체의 열·변형 해석과 식각 형상 예측 사례를 소개했다. 칩 내부의 미세 구조와 서로 다른 재료가 맞닿는 경계를 세밀하게 반영할수록 계산량과 메모리 사용량이 늘어난다. SK하이닉스는 작은 영역에서 얻은 계산 정보를 재사용하고 칩 전체의 연산을 여러 GPU에 나눠 처리했다. GPU 수를 늘렸을 때 처리 성능도 거의 비례해 높아졌다.

SK하이닉스는 자체 시뮬레이션 데이터와 엔비디아의 물리 기반 AI 프레임워크 ‘피직스네모(PhysicsNeMo)’를 활용해 식각 중 재료가 깎이면서 달라지는 형상을 기존 시뮬레이션보다 수십 배 빠르게 예측했다. 김 팀장이 소개한 식각 공정은 5단계 이상으로 이뤄지며 한 단계에서만 압력과 온도, 가스 유량 등 입력 변수가 10개를 넘는다.

김 팀장은 “스텝이 많아지면 경우의 수가 기하급수적으로 많아진다”면서 “협업을 통해 개발한 AI 프로세스 시뮬레이터는 데이터 어그멘테이션 측면에서 적절한 해결 방안이 되었다”고 말했다.

SK하이닉스는 기존 반도체 물리 시뮬레이션에 AI를 결합하는 연구 방향을 ‘TCAD 3.0’으로 부른다. 신제품을 개발할 때마다 장비와 소재가 바뀌어 시뮬레이션 모델을 만들고 보정할 시간은 짧지만 연구 초기에 확보할 수 있는 실험 데이터는 제한적이다.

▲이성엽 삼성전자 엔지니어가 9일 서울 강남구 코엑스에서 열린 ‘엔비디아 AI 데이 서울 2026’에서 물리 기반 AI를 활용한 반도체 칩 열·기계 해석 사례를 소개하고 있다. 손희정 기자sonhj1220@

삼성전자도 피직스네모를 활용해 칩의 열·기계 해석에 필요한 AI 모델을 구축했다. 이성엽 삼성전자 엔지니어는 소자가 작아지고 공정이 첨단화하면서 열이나 기계적 변형에 따른 불량 가능성을 미리 파악하는 일이 중요해졌다고 설명했다. 삼성전자는 칩을 작은 영역으로 나누고 각 영역의 복잡한 재료 특성을 대표하는 값을 AI로 예측했다. 이 값을 이용하면 계산 격자의 간격을 넓혀 칩 전체를 해석하는 데 필요한 연산량을 줄일 수 있다.

엔비디아는 삼성전자가 AI로 예측한 재료 물성, 더 성긴 계산 격자, GPU 가속을 결합해 칩 단위 열·기계 해석 속도를 약 1600배 높였다고 밝혔다. 32코어 CPU에서 세밀한 격자로 약 18시간 걸리던 해석을 새 방식으로 41초에 마쳤다.

삼성전자는 열 해석에 쓰던 AI 모델을 기계 해석에도 적용할 수 있는지 시험했다. 열 해석을 학습한 모델에 기계 해석의 물리 조건을 반영해 추가 학습시킨 결과, 모델을 무작위로 초기화해 학습했을 때보다 더 빠르고 정확하게 해를 구할 수 있었다고 이 엔지니어는 설명했다.

이날 행사에서는 젠슨 황 엔비디아 최고경영자(CEO)를 둘러싼 논란이 국내 GPU 공급 일정과 삼성전자·SK하이닉스의 고대역폭메모리(HBM) 협력에 영향을 미칠지에 대한 질문이 나왔다.

이에 엔비디아 측은 “행사와 관계된 질문이 아닌 것 같다”며 “(매디슨 황 수석이사가) 참석하지 못했기 때문에 답변을 드리기 어렵다”고 선을 그었다.