경희대학교 교육혁신사업단

GAN Quantization using Multi-Modal Networks

컴퓨터공학과 김동훈, 이유제

Q. 이 사업을 알게 된 경로는 무엇인가요?

컴퓨터공학과 홈페이지의 공지사항 게시판으로부터 정보를 얻었습니다.

많은 도움이 되는 자료들이나 활동들이  홈페이지에 자주 게시되기 때문에

정기적으로 홈페이지를 확인하고 있습니다.

게시글을 보고 마음이 맞는 친구들과 함께 팀을 꾸려 제안서를 작성했습니다.

Q. 이 사업의 장점은 무엇이라고 생각하시나요?

지적 호기심의 해결
 컴퓨터공학과 정규 개설 과목들은 필수적인 내용들을 다루면서도 트렌드에 민감하게 반응하여 개설됩니다.
 특히 기계학습, 딥러닝, 실전머신러닝과 같이 굉장히 인기있고 유망한 분야들은

 체계적으로 학습할 수 있도록 구성되어 있습니다.

 그러나 이론 강의의 양이 방대하고 과목 자체에서 요구하는 과제의 양이 상당하기 때문에 특

 정 분야를 시간 내어 심도있게 분석하는 시도를 자발적으로 하기는 많은 노력이 듭니다.
 이 사업은 학생들에게 직접 공부해보고 싶은 내용을 정해서 알아보는 것을 장려하고,

 보상 또한 주어집니다. 평소라면 바쁘다며 넘겼을 탐구 활동을 이 사업 덕분에

 관심 분야가 비슷한 친구와 함께 진행할 수 있었습니다.

 학생들에게 스스로 공부할 수 있는 환경을 만들어주고 장려해주는 것이 이 사업의 가장 큰 장점이라고 생각합니다.

프로젝트 기획 능력​
 이 사업을 진행하기 위해 한 학기짜리 프로젝트를 기획하고, 제안서를 작성해야 했습니다.

 그동안은 주어진 강의 계획서대로 공부했지만, 한 학기 과정을 생각하면서

 어디까지 할 수 있을지 생각하는 것은 어려웠습니다.

 실제로, 기획했던 만큼 프로젝트를 진행하지 못했고 기획의 어려움을 겪는 시간이었습니다.

 그러나 본인과 팀원의 능력을 분석하고, 전체 프로젝트를 구상하며, 잘게 쪼개어 프로세스화하는 경험을 통해

 앞으로 다른 프로젝트를 마주했을때 실수를 줄일 수 있을 것으로 기대합니다.
이론에 대한 심도있는 이해
 이론은 대부분 피상적인 내용으로 머리속에서 머무는 경우가 많습니다.

 특히 컴퓨터공학은 비트를 다루고, 데이터와 구조를 가상으로 설계하여 모델링하기 때문에

 이런 피상적인 느낌이 좀 더 강하다고 생각합니다.

 그러나 이번 수업을 진행하며 실습에 초점을 맞춘 결과

 이론을 다양한 각도에서 관찰할 수 있었고, 이해도를 높일 수 있었습니다.

 실습은 논문 구현과 모델 분석을 주로 진행했고, 차츰차츰 모델의 설계를 해나갔습니다.

 모델을 분석하면서 그간 컴퓨터공학과 배성호 교수님 수업 ‘딥러닝’에서 배웠던

 이론적인 부분들을 떠올리며 분석 결과와 이론을 함께 생각해볼 수 있었습니다.

 또한 이론을 알고 있으니 문제가 생겼을때 해결하는 방향을 쉽게 정할수 있었습니다.

 만약 이론을 배우지 않았거나, 이번 수업을 통해 실습을 하지 않았다면

 어느 쪽도 제대로 알 수 없었을 것이라고 생각합니다.

실험 환경 조성 실력 향상
 컴퓨터공학과의 특성상, 실험환경을 준비하는 것은 자신이 생각하는

 이론대로 코드를 작성하여 실행시키는 것입니다.

 이번 사업 전까지,

 웹/파이썬 프로그래밍, 객체지향 프로그래밍 수업을 통해서

 기본적인 코드 작성법을 배울 수 있었지만,

 딥러닝을 연구를 위한 모듈 사용법을 배울 기회가 많지 않았습니다.

 인터넷, 다양한 도서와 저명한 논문에 대한 공식 코드를 통해서 해당 모듈에 대한

 기본적인 사용법을 배울 수 있었습니다.

 그러나 남이 만들어두지 않은 자신만의 코드를 작성할 수준이 되지 못했습니다.

 이전까지 논문을 읽으며 공식 코드들을 따라해보면서, 간단한 아이디어를 추가하는 데에도 많은 시간이 걸렸습니다.

 이번 수업을 진행하면서, 본인의 아이디어를 구현해내기 위해, 매우 많은 시간의 디버깅 과정을 거치면서,

 모듈 사용 실력이 한단계 상승한 것을 느낄 수 있었습니다. 이 수업을 통해 한 학기간 다양한 연구를 하게 된다면,

 코딩이 아니더라도 본인 연구를 위한 실험환경을 세팅하는 실력 향상이 될 것이고,

 이는 추후 연구에서 큰 도움이 될 것이라 생각합니다.

Q. 본인들의 학습결과 요약과 의의는 무엇인가요?

 이번 독립심화학습 고도화 사업에서 진행한 과제는 “GAN Quantization using Multi-Modal Network”로,

 딥러닝을 사용하여 이미지를 생성해내는 대립생성망(GAN) 모델을

 모바일 기기에서도 동작할 수 있도록 가볍게 만들어보았습니다.

 양자화 기법을 적용하여 모델을 경량화했는데 기대보다 우수한 성능을 보여줘서 놀랐습니다.

 그러나 실제 사용할만한 성능은 아니어서 양자화 결과를 바탕으로

 이미지 생성 성능을 향상시키는 방법에 대해 공부해봤습니다.

 첫째, LSQ 양자화 방법을 활용하기

 둘째, 판별자를 늘린 다중 판별자 네트워크를 사용하기였습니다.

 각 방법에 대한 실험 결과와 함께 근거를 제시했고, 만족할만한 성능을 보여줬습니다.
 본 수업를 통해 딥러닝과 이미지 생성 모델에 대해 전반적으로 이해할 수 있었고,

  앞으로의 딥러닝 모델의 경량화의 잠재력과

 이미지 생성 모델의 성능 향상 방법에 대한 높은 이해를 얻을 수 있었습니다.

 Q. 앞으로 바라는 점이 있나요?
 본 사업을 통해 저희의 학습에 큰 도움이 되어 정말 감사드립니다.

 지원 대상이 많아져서 여러 학생들이 참여해보면 좋을 것 같습니다.

 앞으로도 공부에 전념할 수 있도록 앞으로도 다양한 활동 및 사업을 추진해 주시기 바랍니다.

 큰 감사 드립니다.