딥러닝 하드웨어 가속 및 근사 컴퓨팅 기반 에너지 효율 최적화 연구실입니다.
HopScotch: A Holistic Approach to Data Layout-Aware Mapping on NPUs for High-Performance DNN Inference
본 논문은 NPU에서 DNN 추론 성능을 저하시키는 데이터 레이아웃 재정렬 오버헤드를 해결하기 위해 HopScotch를 제안합니다. 온칩 메모리와 시스톨릭 어레이 간 라우팅 인터커넥트와 프로그래머블 벡터 프로세서를 활용하며, 빔 서치 기반 레이아웃 매핑 솔버를 통해 컴파일 타임에 최적 레이아웃을 탐색합니다. 실험 결과 XLA 및 GCD 대비 레이아웃 재정렬 비용을 각각 98.2%, 90.3% 감소시켜 2.62배, 1.64배의 지연시간 개선을 달성합니다.
ACM Transactions on Architecture and Code Optimization · 2025
FDAM: Filter-Dedicated Approximate Multiplier Design for Real-Time CNN Acceleration
본 논문은 실시간 비디오 초해상도 가속을 위한 필터 전용 근사 승수기 설계를 제안합니다. 통합 다중 상수 곱셈(UMCM)의 제약을 완화하기 위해 근사 MCM 문제와 A-CGS 프레임워크를 도입하며, 바이어스 미세조정을 통해 정확도를 복구합니다. 실험 결과 면적을 최대 49.8% 감소시키고 에너지 소비를 73.3% 절감합니다.
IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems · 2025
FACET: On-the-Fly Activation Compression for Efficient Transformer Training
본 논문은 Transformer 모델의 훈련 시 메모리 사용량을 줄이기 위해 활성화 데이터를 압축하는 FACET을 제안합니다. 기저-델타 압축과 비트-평면 압축을 결합한 방식으로 8비트로 압축하여 활성화 메모리를 2~4배 감소시키면서 정확도 저하는 무시할 수 있는 수준입니다. 45nm 공정으로 구현한 하드웨어는 16K~12K 게이트 수로 다른 압축기 대비 2.2~3.8배 작은 오버헤드를 보입니다.
IEEE Transactions on Circuits and Systems I Regular Papers · 2024
MCM-SR: Multiple Constant Multiplication-Based CNN Streaming Hardware Architecture for Super-Resolution
본 논문은 CNN 기반 초해상도 처리를 위한 스트리밍 하드웨어 가속기의 자원을 줄이기 위해 다중 상수 곱셈(MCM) 알고리즘을 적용합니다. 제안된 루프 교환 방법으로 로직 면적을 23% 감소시키고, 적응형 루프 교환으로 SRAM 크기를 15% 감소시키며, 빔 서치를 통해 MCM 그래프 탐색 속도를 5.4배 개선합니다.
IEEE Transactions on Very Large Scale Integration (VLSI) Systems · 2024
A Highly-Scalable Deep-Learning Accelerator With a Cost-Effective Chip-to-Chip Adapter and a C2C-Communication-Aware Scheduler
본 논문은 칩 간 통신 대역폭 제약을 해결하기 위해 경량 칩-투-칩 어댑터(C2CA)와 통신 인식 스케줄러를 갖춘 확장 가능한 DNN 가속기를 제안합니다. 4칩 MCM 시스템은 단일 칩 대비 ResNet50에서 2.60배, DarkNet19에서 3.27배의 성능 향상을 달성하며, FPGA 구현 결과 2칩 및 4칩 구성에서 각각 1.87배, 3.43배의 처리량 개선을 보입니다.
IEEE Journal on Emerging and Selected Topics in Circuits and Systems · 2024
이 연구실은 CNN 기반 객체 검출 및 FPGA 가속기 설계에서 출발하여, 트랜스포머 학습 압축, 칩간 통신 인식 스케줄러, NPU 데이터 레이아웃 매핑 등 보다 범용적인 딥러닝 하드웨어 가속 연구로 연구 범위를 넓혀왔다.
근사 연산 및 메모리 시스템 최적화 연구가 지속적으로 수행되어 왔으며, 근사 DRAM·PCM 기반 에너지 절감 아키텍처부터 GPU 내 메모리 근사 데이터 비교(ADC-PIM), 필터 전용 근사 곱셈기(FDAM)에 이르기까지 하드웨어 수준의 근사 컴퓨팅 기법이 꾸준히 탐구되고 있다.