한환수 연구실

본 논문은 GPU, TPU, NPU 등 가속기에서 여러 딥러닝 서비스를 동시에 처리할 때 QoS 보장을 위해 컴파일 타임에 커널 슬라이싱을 통해 스케줄러 부담을 경감하는 QoSlicer 프레임워크를 제시합니다. 휴리스틱 탐색 알고리즘과 성능 추정 모델을 활용하여 최적의 슬라이싱 계획을 생성하며, 75개 워크로드 조합 실험에서 기존 기법 대비 평균 20.2% 처리량 향상을 달성합니다.

본 논문은 모바일 멀티코어 NPU에서 DNN 추론 성능을 최적화하는 기법을 제안합니다. 레이어를 여러 서브레이어로 분할하여 병렬 실행하고, 파이프라인 처리와 동기화 최적화를 통해 메모리 접근 병목을 완화합니다. 6개의 CNN으로 평가한 결과, 기존 방식 대비 23% 성능 향상과 단일코어 대비 2.1배 속도 향상을 달성했습니다.

본 논문은 비휘발성 메인 메모리(NVMM) 환경에서 메모리 매핑 IO의 쓰기 증폭 오버헤드를 줄이기 위해 사용자 레벨 라이브러리 파일 시스템 Libpubl을 제안합니다. 지속적 사용자 버퍼를 로그로 활용하여 원자적 업데이트를 보장하고 성능을 개선합니다. Fio 벤치마크에서 기존 NVM 파일 시스템 대비 50~120% 성능 향상을 달성합니다.

본 논문은 GPU의 공유 메모리에 데이터를 미리 로드하는 정적 코드 변환 기법을 제시합니다. 높은 스레드 밀도의 전역 메모리 접근 패턴을 분석하여 공유 메모리에 적재할 데이터를 선택하고, 소스-소스 컴파일러를 통해 GPU 커널 코드를 변환합니다. GTX980과 P100 GPU에서 각각 평균 1.26배, 1.62배의 성능 향상을 달성합니다.