UPDATED. 2022-11-25 18:33 (금)
KAIST, 광네트워크 기반 GPU 메모리 시스템 개발
KAIST, 광네트워크 기반 GPU 메모리 시스템 개발
  • 박광하 기자
  • 승인 2021.08.02 14:30
  • 댓글 0
이 기사를 공유합니다

시스템 대역폭 대폭 향상 가능
기존 대비 8배 이상 용량 확보

[정보통신신문=박광하기자]

연구팀이 제안하는 Ohm-GPU의 구조 개요. [자료=KAIST]
연구팀이 제안하는 Ohm-GPU의 구조 개요. [자료=KAIST]

소수의 글로벌 기업 주도하에 개발·생산되던 그래픽 연산 유닛(GPU, Graphic Processing Unit) 메모리 시스템을, 이종 메모리와 광 네트워크를 활용해 용량과 대역폭 모두를 대폭 향상한 기술이 국내 연구진에 의해 개발됐다.

정명수 교수.
정명수 교수.

KAIST는 정명수 전기및전자공학부 교수 연구팀(컴퓨터 아키텍처 및 운영체제 연구실)이 3D XPoint 메모리(이하 XPoint)와 DRAM 메모리(이하 DRAM)를 통합한 이종 메모리 시스템에서 광 네트워크로 통신하는 '옴-지피유(Ohm-GPU)' 기술 개발에 성공함으로써 기존 DRAM을 단독으로 사용한 전기 네트워크 기반의 GPU 메모리 시스템 대비 181% 이상의 성능 향상을 성취했다고 2일 밝혔다.

XPoint는 DRAM에 비해 용량이 크지만 데이터 전송 속도가 느리고, DRAM은 XPoint에 비해 데이터 전송 속도가 빠르지만 용량이 작은 특징을 갖고 있다. 연구팀은 이들 두 메모리를 통합한 '이종 메모리'를 만들어 기존보다 속도와 용량을 대폭 향상시킨 것이다.

기존 GPU는 다수의 연산 장치로 구성돼 있어 연산 속도가 매우 빠르다는 장점이 있으나, DRAM을 단독으로 사용하는 메모리 시스템의 낮은 메모리 용량과 좁은 데이터 전송 대역폭으로 인해 연산 성능을 충분히 활용하지 못한다는 문제가 있다. 용량을 증가시키는 대안으로 DRAM을 XPoint로 대체하는 방법이 있으나, 이때 8배 큰 메모리 용량을 얻을 수 있는 반면 읽기·쓰기 성능이 각각 4배·6배 낮아진다. 또한, 대역폭을 증가시키는 대안으로 HBM(High Bandwidth Memory) 기술을 활용할 수 있으나, 단일 면적 내 장착할 수 있는 전기 채널(구리 선) 개수의 한계로 인해 GPU 메모리 시스템이 요구하는 고대역폭을 만족하기 어렵다.

연구팀이 개발한 Ohm-GPU 기술은 대용량 XPoint와 고성능의 DRAM을 통합한 이종 메모리 시스템을 채택함으로써, 기존 메모리 시스템과 동일한 성능을 가지면서도 메모리의 용량을 증가시켰다. 또한, 단일 광 채널(광섬유)로 서로 다른 파장의 다중 광신호를 전달할 수 있는 광 네트워크의 장점을 활용해 메모리 대역폭을 대폭 넓힘으로써 기존 GPU 메모리 시스템의 한계점들을 전면 개선했다.

Ohm-GPU 메모리 시스템 내부 구조와 광 네트워크 인프라 개념도. [자료=KAIST]
Ohm-GPU 메모리 시스템 내부 구조와 광 네트워크 인프라 개념도. [자료=KAIST]

Ohm-GPU 기술은 GPU 내부에 있는 메모리 컨트롤러 및 인터페이스를 수정해 이종 메모리의 모든 메모리 요청을 광신호로 처리한다. 메모리 요청은 일반적으로 DRAM 캐시 메모리에서 처리되지만, DRAM에 없는 데이터는 XPoint로부터 읽어와야 한다. 이 때, 발생하는 이종 메모리 간 데이터 이동의 오버헤드(대기 시간)는 연산을 위한 메모리 접근과 데이터 이동을 위한 메모리 접근의 광 파장을 다르게 설정하고, 메모리 컨트롤러 개입을 최소화하고 XPoint 컨트롤러가 이종 메모리 간 데이터 이동을 수행함으로써 완화했다.

개발된 Ohm-GPU 기술은 기존 DRAM을 단독으로 사용하는 전기 네트워크 기반의 GPU 메모리 시스템 대비 다양한 그래 프처리, 과학응용 실행 등에서 181%의 성능 향상을 달성했다. 이는 인공지능(AI), 빅데이터, 클라우드 컴퓨팅 등 대용량, 고대역폭의 데이터 전송을 요구하는 고성능 가속기의 메모리 시스템을 대체할 수 있을 것으로 기대된다.

정명수 교수는 "GPU 메모리 시스템 기술은 일부 해외 유수 기업이 주도하고 있지만, 이번 연구성과를 기반으로 GPU 및 GPU와 유사한 모든 고성능 가속기 메모리 시스템 관련 시장에서 우위를 선점할 가능성을 열었다는 점에서 의미가 있다"고 강조했다.

한편 이번 연구는 올해 10월에 열릴 컴퓨터 구조 분야 최우수 학술대회인 '마이크로(International Symposium on Microarchitecture, MICRO), 2021'에 'Ohm-GPU: Integrating New Optical Network and Heterogeneous Memory into GPU Multi-Processors'이란 논문명으로 발표될 예정이다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 문창수
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2022-11-25
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2022 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
인터넷신문위원회 abc협회 인증 ND소프트