|
모든 회귀(regression) 또는 분류(classification) 문제를 딥 러닝(deep learning)으로 풀어야 할 필요는 없다. 그렇게 따지면 모든 회귀 또는 분류 문제를 머신러닝으로 풀어야 할 필요도 없다. 결국 많은 데이터 집합은 분석적으로, 또는 간단한 통계적 절차를 사용해 모델링할 수 있기 때문이다.
반면 딥 러닝 또는 심층 전이 학습(deep transfer learning)이 다른 방법으로 만들 수 있는 모델보다 더 정확한 모델을 학습시키는 데 도움이 되는 경우도 있다. 이런 경우, 특히 필요한 모델과 비슷한 학습된 모델이 프레임워크의 모델 라이브러리에 이미 존재한다면 파이토치(PyTorch)와 텐서플로우(TensorFlow)가 매우 효과적이다.
파이토치
파이토치는 예전의 토치(Torch) 및 카페2(Caffe2) 프레임워크를 기반으로 한다. 이름에서 짐작하겠지만 파이토치는 파이썬을 스크립팅 언어로 사용하며, 진화된 토치 C/CUDA 백엔드를 사용한다. 카페2의 프로덕션 기능은 현재 파이토치 프로젝트로 편입되는 중이다.
흔히 파이토치를 “강력한 GPU 가속이 적용되는 파이썬으로 된 텐서와 동적 신경망”이라고 한다. 이것이 무슨 뜻일까?
텐서(Tensors)는 물리학과 공학에 많이 사용되는 수학적 구조다. 랭크 2의 텐서는 특수한 종류의 행렬로, 벡터의 내적(inner product)을 취하고 텐서는 새로운 크기와 새로운 방향으로 다른 벡터를 산출한다. 텐서플로우는 시냅스 무게의 텐서가 네트워크 모델을 따라 흐른다는 데서 이름을 따왔다. 넘파이(NumPy) 역시 텐서를 사용하지만 ndarray라는 명칭을 사용한다.
GPU 가속(GPU acceleration)은 대부분의 현대 심층 신경망 프레임워크에 있는 기능이다. 동적 신경망(dynamic neural network)은 반복할 때마다 변경이 가능한 신경망으로, 예를 들어 파이토치 모델이 학습 중 숨은 계층을 추가하거나 제거해서 정확성과 일반성을 개선할 수 있도록 한다. 파이토치는 각 반복 단계에서 즉석으로 그래프를 재생성한다. 반면 텐서플로우는 기본적으로 단일 데이터 흐름 그래프를 만들고 그래프 코드를 성능에 맞게 최적화한 다음 모델을 학습시킨다.
즉시 실행(Eager Execution) 모드는 텐서플로우에서 비교적 새로운 옵션이지만 파이토치의 경우 즉시 실행이 유일한 실행 방법이다. API 호출은 그래프에 추가돼 나중에 실행되는 것이 아니라 호출 시 실행된다. 얼핏 계산 측면에서 효율성이 낮을 것 같지만 파이토치는 원래 그런 방식으로 동작하도록 설계됐으며, 학습 및 예측 속도 측면에서 봐도 느리지 않다.
파이토치는 속도를 극대화하기 위해 인텔 MKL, 엔비디아 cuDNN, NCCL과 같은 가속 라이브러리를 통합했다. 코어 CPU와 GPU 텐서 및 신경망 백엔드, 즉 TH(토치), THC(토치 CUDA), THNN(토치 신경망), THCUNN(토치 CUDA 신경망)은 C99 API를 사용해 독립적인 라이브러리로 작성된다. 파이토치는 모놀리식 C++ 프레임워크에 대한 파이썬 바인딩이 아니다. 파이썬과 심층적으로 통합되고 다른 파이썬 라이브러리를 사용할 수 있도록 하기 위해서다.
Fast.ai와 패스트AI 라이브러리
Fast.ai는 작은 규모의 업체로, 코더를 위한 무료 교육 과정, 소프트웨어 라이브러리, 최신 기술 연구 및 커뮤니티를 통해 다양한 배경의 더 많은 사람들이 더욱 쉽게 딥 러닝을 사용할 수 있도록 한다.
파이토치 기반인 패스트AI(Fastai) 라이브러리는 현대 모범 사례를 사용해 빠르고 정확한 신경망 학습을 간소화한다. 비전, 텍스트, 테이블 형식, collab(협업 필터링) 모델에 대한 기본 지원을 비롯해 Fast.ai에서 실시된 딥 러닝 모범 사례에 대한 연구를 바탕으로 한다.
파이토치의 패스트AI 라이브러리는 텐서플로우의 케라스(Keras)와 같다. 한 가지 큰 차이점은 파이토치는 패스트AI를 공식적으로 지원하지 않는다는 것이다.
텐서플로우
여러 우수한 머신러닝 및 딥 러닝 프레임워크 중에서도 텐서플로우는 가장 성숙하고 연구 논문에서 가장 많이 인용되며(구글 직원들의 인용을 제외하더라도), 프로덕션 사용 사례도 가장 긍정적이다. 배우기 가장 쉬운 프레임워크는 아니지만 텐서플로우 2가 출시되면서 2016년에 비하면 부담도 훨씬 더 낮아졌다. 텐서플로우는 많은 구글 서비스에 사용된다.
텐서플로우 2.0 사이트에서는 이 프로젝트를 “포괄적인 오픈소스 머신러닝 플랫폼”으로 지칭한다. 구글이 말하는 “플랫폼”은 연구자들이 머신러닝의 최신 기술을 연구하고 개발자들이 AI 기반 애플리케이션을 손쉽게 구축해 배포할 수 있도록 하는 도구, 라이브러리, 커뮤니티 리소스의 종합적인 생태계를 의미한다.
텐서플로우 2.0은 다음과 같은 4개의 주요 부분으로 구성된다.
- 텐서플로우 코어: 머신러닝 모델을 개발, 학습시키기 위한 오픈소스 라이브러리
- TensorFlow.js: 웹 브라우저와 Node.js에서 모델을 학습, 배포하기 위한 자바스크립트 라이브러리
- 텐서플로우 라이트: 모바일 및 임베디드 디바이스에 모델을 배포하기 위한 가벼운 라이브러리
- 텐서플로우 익스텐디드: 대규모 프로덕션 환경에서 데이터 준비, 모델 학습, 검증 및 배포를 위한 포괄적인 플랫폼
텐서플로우 2.0은 간소함과 사용의 용이함에 초점을 두며 즉시 실행, 직관적인 고수준 API, 모든 플랫폼에서의 유연한 모델 구축 등이 업데이트됐다. 즉시 실행은 텐서플로우 코드가 정의되는 시점에 실행됨을 의미한다. 텐서플로우의 원래 모드, 즉 그래프에 노드와 에지를 추가해 나중에 세션에서 실행하는 방식과 대비된다.
효과적인 텐서플로우 2.0을 위한 가이드는 이전의 저수준 API 대신 고수준 tf.keras API를 사용하는 것이다. 이렇게 하면 작성해야 할 코드의 양이 크게 줄어든다. 계층당 코드 한 라인을 사용해 케라스 신경망을 구축할 수 있다(루프 구조를 사용하는 경우 코드 라인은 더 적어짐).
TensorFlow.js는 자바스크립트로 머신러닝 모델을 개발, 학습시키고 브라우저나 Node.js에 배포하기 위한 라이브러리다. TensorFlow.js를 기반으로 구축된 고수준 라이브러리인 ml5.js도 있다. ml5.js는 텐서와 옵티마이저의 복잡함을 숨긴다.
브라우저에서 TensorFlow.js는 데스크톱 디바이스와 함께 모바일 디바이스도 지원한다. 브라우저가 WebGL 셰이더 API를 지원한다면 TensorFlow.js는 이 API를 사용해 GPU를 활용할 수 있다. 이 경우 CPU 백엔드에 비해 100배 더 빠른 속도를 얻게 된다. TensorFlow.js 데모는 GPU가 탑재된 시스템의 브라우저에서 놀라울 정도의 빠른 속도로 실행된다.
텐서플로우 라이트(TensorFlow Lite)는 온디바이스(on-device) 추론(Inference)을 위한 오픈소스 딥 러닝 프레임워크다. 현재 iOS, ARM64, 라즈베리 파이용 모델을 구축한다. 텐서플로우 라이트의 두 가지 주 구성 요소는 인터프리터(Interpreter)와 컨버터(Converter)다. 인터프리터는 다양한 하드웨어 유형에서 특수하게 최적화된 모델을 실행한다. 컨버터는 텐서플로우 모델을 인터프리터에서 사용하기 위한 효율적인 형식으로 변환하며 최적화를 통해 바이너리 크기와 성능을 개선할 수 있다.
텐서플로우 익스텐디드(TensorFlow Extended, TFX)는 프로덕션 머신러닝 파이프라인을 배포하기 위한 포괄적인 플랫폼이다. 모델을 학습시킨 이후에 고려할 만하다. 파이프라인에는 데이터 검증(data validation), 특성 엔지니어링(feature engineering), 모델링, 모델 평가, 추론 제공(serving inference), 온라인 배포 관리, 네이티브 모바일, 자바스크립트 타겟이 포함된다.
필자의 텐서플로우 2.0 리뷰를 참고하라.
케라스
케라스(Keras)는 신경망 모델을 구축하기 위한 고수준 프론트엔드 사양 및 구현이다. 케라스는 텐서플로우, CNTK, 테아노(Theano)의 세 가지 백엔드 딥 러닝 프레임워크를 기본적으로 지원한다. 아마존은 현재 케라스용 MXNet 백엔드를 개발 중이다. PlaidML(독립 프로젝트)을 케라스의 백엔드로 사용해 모든 GPU를 위한 PlaidML의 오픈CL 지원을 활용하는 것도 가능하다.
텐서플로우는 케라스의 기본 백엔드이며, CUDA 및 cuDNN을 통한 엔비디아 하드웨어에서의 GPU 가속과, 구글 클라우드의 TPU(Tensor Processing Unit) 가속을 사용하는 많은 사용 사례에 권장된다. 또한 텐서플로우에는 외부 케라스 설치와 분리된 내부 tf.keras 클래스도 포함된다. 이 클래스는 앞서 언급했듯이 텐서플로우의 고수준 프론트엔드로 많이 사용된다.
케라스에 포함된 고수준 환경은 시퀀셜(Sequential) 모델에서 신경망에 계층 추가하기를 코드 한 라인으로 줄이고, 모델을 컴파일과 학습에 필요한 함수 호출도 각각 한 번이다. 사용자가 원할 경우 모델 또는 함수형 API를 통해 더 낮은 수준에서 작업할 수도 있다.
케라스에서는 keras.Model 서브클래싱을 통해 파이썬 코딩 수준까지 내려갈 수 있지만, 가능한 경우 함수형 API를 사용하는 편이 더 좋다. 또한 케라스에는 사이킷-런(Scikit-learn) API도 있으므로 사이킷-런 그리드 검색을 사용해 케라스 모델에서 초매개변수(hyperparameter) 최적화를 수행할 수 있다.
케라스에 대해 좀 더 알고 쉽다면 떠오르는 심층 신경망 API, "케라스" 기사를 참조하라.
딥 러닝 대 전이 학습
파이토치와 텐서플로우 모두 딥 러닝과 전이 학습을 지원한다. 전이 학습은 때로는 맞춤형 머신러닝이라는 명칭으로도 불리며, 사전 학습된 신경망 모델로 시작해 데이터에 따라 최종 계층을 맞춤 설정한다.
심층 신경망을 처음부터 새로 학습시키려면 많은 시간이 소비되고 태깅된 데이터도 상당히 많이 필요하다. 전이 학습은 시간이 덜 소요되고, 필요한 레이블링된 신규 전형(exemplar)도 상대적으로 더 적다. 대신 사전 학습된 모델이 존재하는 경우에만 유용하다. 다행히 주요 딥 러닝 프레임워크는 모두 일종의 ‘모델 동물원(Model Zoo)’을 제공한다.
이미지 분류를 위한 합성곱 신경망(ConvNet 또는 CNN)은 전이 학습의 유용함을 보여주는 대표적인 사례다. 파이토치와 텐서플로우 모두 합성곱 신경망 학습을 위해 전이 학습을 사용하는 방법에 대한 자습서를 제공한다. 텐서플로우 전이 학습 자습서는 특성 추출과 미세 조정을 위한 전이 학습 데모를 제공한다. 파이토치 전이 학습 자습서에도 동일한 두 가지 방법론의 데모를 제공한다.
합성곱 신경망을 위한 전이 학습에 대해 자세히 알아보려면 이 주제에 관한 스탠포드 CS231 문서를 읽어보고, 문서에 나오는 참조도 살펴볼 것을 권한다. 이 문서의 핵심 부분을 발췌하면 다음과 같다.
실무에서 전체 합성곱 네트워크를 무작위 초기화로 처음부터 새로 학습시키는 사람은 거의 없다. 충분한 크기의 데이터 집합이 있는 경우가 드물기 때문이다. 일반적인 방법은 매우 큰 데이터 집합(예를 들어 1,000개의 범주에 120만 개의 이미지가 있는 ImageNet)으로 ConvNet을 사전 학습시킨 다음 이 ConvNet을 당면 작업의 초기화 또는 고정 특성 추출기로 사용하는 방법이다.
딥 러닝 프레임워크를 선택하는 방법
PC와 맥의 초창기에 필자는 둘 중에 어느 것을 구입해야 하느냐는 질문을 많이 받았다. 정답은 질문이 틀렸다(또는 “상황에 따라 다르다”)는 것이지만 필자는 대체로 후속 질문을 통해 그 사람이 스스로 답을 찾도록 도왔다. 후속 질문은 “컴퓨터로 무엇을 하려고 하는가?”, “없어서는 안 되는 애플리케이션이 있는가?”로 시작한다.
마찬가지로, “어느 딥 러닝 프레임워크를 사용해야 하는가?” 역시 올바른 질문은 아니지만 “상황에 따라 다르다”보다 더 나은 답을 찾도록 돕기 위해 가장 먼저 할 후속 질문은 “모델로 달성하고자 하는 일이 무엇인가?”이다. 그 다음 학습에 사용할 수 있는 데이터의 종류를 따져본다.
딥 러닝을 처음 접한다면 텐서플로우 2의 케라스와 파이토치의 패스트AI 자습서를 살펴볼 것을 권한다. 텐서플로우와 파이토치의 저수준 API까지 파고들지 않더라도 많은 것을 배울 수 있으며 두 가지 방식에 대한 감을 잡을 수 있다. 또한 실제로 두 프레임워크가 얼마나 비슷한지, 동일한 개념과 기법에 얼만큼 의존하는지도 알게 된다.
많은 사용 사례에서 어느 프레임워크를 선택하느냐는 중요하지 않다. 각 프레임워크에서 사실상 같은 모델을 사용할 수 있기 때문이다. 일부 특정 사용 사례에서는 어느 한 프레임워크가 더 나을 수 있다(적어도 현재 상태 기준으로는). 또한 프레임워크의 필수 기능 또는 자습서의 품질과 같은 여러 요인에 따라 어느 한 프레임워크를 더 쉽게 배울 수도 있다. editor@itworld.co.kr
|
