울산과학기술원(UNIST)과 경북대학교 연구진이 인공지능을 활용해 반도체 설계 과정을 획기적으로 단축하는 기술을 개발했다. 이번 기술은 고속 통신 시스템의 핵심인 LC 전압제어 발진기(LC-VCO)의 회로 설계와 물리적 레이아웃을 통합해 자동화한 점이 특징이다. 기존에는 회로 설계 후 레이아웃 과정에서 성능이 저하되는 경우가 많았으나, 새로운 AI 모델은 두 단계를 동시에 최적화해 설계 품질을 높였다.

AI 모델은 회로 설계 단계에서 강화학습을, 레이아웃 단계에서는 경사하강법을 활용해 각각 설계 변수를 조정한다. 특히 인덕터 설계에 딥러닝 기반 예측을 도입해 전자기 시뮬레이션 시간을 밀리초 단위로 줄였다. 실험 결과, 기존 자동 설계 방식 대비 설계 시간이 76% 이상 단축된 28.5시간 만에 작업을 완료했다.

이 기술은 전이 학습을 적용해 65nm 공정에서 학습한 내용을 40nm나 28nm 공정에도 약 10%의 추가 데이터로 적용할 수 있다. 연구팀은 향후 다양한 아날로그·RF 회로 설계로 기술을 확장할 계획이며, 반도체 설계 인력 부족 문제 해결과 차세대 공정 전환 가속화에 기여할 것으로 기대하고 있다.