이재욱 연구실

본 논문은 SSD 내부에서 쿼리 인식 PQ 필터링을 수행하여 PCIe 대역폭 병목을 해결하는 저장소 중심의 근사 최근접 이웃 탐색 시스템 InstANNS를 제안합니다. 공동 발생 인식 PQ 코드 배치와 조건부 PQ 우회를 통해 최적화하며, 실험 결과 SPANN 대비 2.15배의 QPS 향상과 FusionANNS 대비 1.7배의 QPS-per-dollar 개선을 달성합니다.

본 논문은 서버리스 컴퓨팅의 메모리 중복으로 인한 오버헤드 문제를 해결하기 위해 CPC(Coordinated Page Cache)를 제안합니다. CPC는 함수 제출 시 이미지 간 중복 파일을 제거하고, 실행 중 VM과 하이퍼바이저 간 캐시 데이터를 추가로 중복 제거합니다. 실험 결과 AWS Lambda 대비 메모리 소비를 최대 32.0% 감소시키고, Azure Functions 추적에서 99th 백분위수 지연시간을 41.2% 단축합니다.

GS-Scale은 호스트 메모리 오프로딩을 통해 3D 가우시안 스플래팅의 대규모 학습을 가능하게 하는 시스템입니다. GPU 메모리 사용량을 3.3-5.6배 감소시키면서도 학습 속도를 유지하며, RTX 4070 Mobile에서 가우시안 수를 400만에서 1,800만으로 확장하여 23-35% LPIPS 개선을 달성합니다.

본 논문은 온디바이스 대규모 언어모델의 런타임 제약 조건에 대응하기 위해 동적 레이어별 정밀도 할당 메커니즘인 DP-LLM을 제안합니다. 각 레이어의 민감도가 디코딩 단계에 따라 변한다는 관찰을 바탕으로, 입력값에 기반하여 동적으로 정밀도를 할당합니다. 실험 결과 DP-LLM은 기존 방식을 능가하는 우수한 성능-지연시간 트레이드오프를 달성합니다.