About
Korean
English

Sign in Subscribe

Life

[회고] 23년 5,6,7월

pangyoalto

13 Aug 2023 • 12 min read

Share

Photo by engin akyurt / Unsplash

This post is for paying subscribers only

Subscribe now

Already have an account? Sign in

CPU 서버 개발자를 위한 GPU 아키텍처

최근 회사에서 CPU 서버에서 돌던 모델 서빙을 GPU로 옮기는 일을 준비하고 있습니다. 저는 그동안 CPU 아키텍처에 대해서는 공부를 해보았지만, GPU는 해본적이 없으나 막연히 비슷할 거라고 생각했었습니다. 그런데 자료를 읽다보니 혼란스러웠습니다. CUDA 코어가 만 개가 넘는다는데, CPU와 달리 코어 수에 맞춰 스레드 1만 개를 띄우면 안됩니다. 같은 GPU utilization(nvidia-smi)

29 Aug 2026 26 min read

[벡터 압축 시리즈 3] RaBitQ와 TurboQuant: 같은 random matrix, 다른 목적

이 글은 벡터 압축 시리즈의 세 번째 글입니다. 1. RaBitQ: 이론적 error bound를 가진 randomized quantization 2. TurboQuant: online vector quantization 3. RaBitQ와 TurboQuant 비교 앞선 두 글에서는 각각 RaBitQ와 TurboQuant의 내부 동작을 따로 보았습니다. 이번 글에서는 세부 설명은 반복하지 않고, 두 방법이 어떤 점이 비슷하고 다른지 정리하고자 합니다. 두

27 Jun 2026 11 min read

[벡터 압축 시리즈 2] [논문 리뷰] TurboQuant: Online Vector Quantization

이 글은 TurboQuant: Online Vector Quantization with Near-optimal Distortion Rate 를 리뷰합니다. 이 글은 벡터 압축 시리즈의 두 번째 글입니다. 시리즈는 총 세 편으로 구성할 예정입니다. 1. RaBitQ: 이론적 오차 보장을 가지다 2. TurboQuant: online vector quantization 3. RaBitQ와 TurboQuant 비교 이전 글에서는 RaBitQ를 다뤘습니다. RaBitQ는 randomized codebook을 사용해

21 Jun 2026 23 min read

Pangyoalto Blog © 2026

Sign up

Powered by Ghost