구건재 연구실

본 논문은 엣지 디바이스에서 언어 모델 배포를 위해 로그 수 체계(LNS) 기반 양자화 방법을 제안합니다. 8비트 저정밀도 LNS에 데이터 분포에 따른 적응형 비트 할당을 적용하여 FP16 수준의 정확도를 달성합니다. 제안된 LNS 산술 및 가속기 아키텍처는 FP8 대비 33% 낮은 에너지 소비와 30% 낮은 퍼플렉시티를 제공합니다.

복소수값 신경망(CVNN)의 복소수 행렬 곱셈(CGEMM) 연산을 가속화하기 위해 논리적 분할을 통한 하이브리드 수축 배열 구조 HALO를 제안합니다. HALO는 배열을 논리적 부분배열로 나누어 CGEMM 부분 연산을 동시 실행하여 처리 요소 활용도를 높입니다. Half Mode와 Quad Mode 두 가지 실행 모드를 통해 계층별로 전환하며, 성능 44.3% 향상과 에너지-지연 곱 32.3% 감소를 달성합니다.

본 논문은 GPU와 PIM 아키텍처 간 메모리 주소 매핑 방식의 차이가 성능에 미치는 영향을 GEMV 연산을 통해 분석합니다. 실험 결과, PIM의 주소 매핑 방식을 GPU에 적용할 경우 성능과 대역폭이 모두 감소하는 현상을 확인하였으며, 이는 두 구조 간 주소 매핑 방식의 차이가 주요 원인임을 보여줍니다.

본 논문은 GPU 통합 메모리 환경에서 SSD 확장으로 인한 성능 병목을 해결하기 위해 MOST(Memory Oversubscription-aware Scheduling for Tensor Migration)를 제안합니다. 메모리 접근 패턴을 프로파일링하여 사전 제거 및 프리페칭을 통해 텐서 마이그레이션을 최적화하며, 기존 기법 대비 평균 22.9%, 12.8% 성능 향상을 달성합니다.

본 논문은 임베디드 GPU에서 FFT의 에너지 효율성을 개선하기 위해 SSFFT를 제안합니다. SSFFT는 이론적 모델을 기반으로 FFT 길이, 배치 크기, 하드웨어 자원에 따라 효과적인 스레드 블록과 스레드 수를 결정하여 비효율적인 스레드를 최소화합니다. 평가 결과 cuFFT 대비 1.29배 속도 향상과 1.26배 전력당 처리량 개선을 달성합니다.