"행렬곱"

Conv2D 컨볼루션, 행렬곱 구조로 GPU 커널 최적화

반도체 매체 Semiconductor Engineering은 2D 컨볼루션(Conv2D)을 행렬곱의 변형으로 다뤄 GPU 커널을 구현하는 방법을 설명했다. NHWC 레이아웃에서 1×1 컨볼루션은 데이터 재배열 없이 바로 행렬곱으로 처리할 수 있다는 점을 핵심 사례로 제시했다. 3×3처럼 필터가 커지면 여러 공간 위치의 기여를 누적하는 구조가 되며, 이때 루프 순서를 어떻게 짜느냐에 따라 입력 데이터가 캐시에 반복적으로 적재되는 메모리 트래픽이 달라진다고 설명했다. 기사는 벡터화된 메모리 읽기, 로컬 메모리에 가중치를 올려두는 방식, 구조화된 누적 연산이 실제 성능을 좌우하는 지점이라고 소개했다.