- 인쇄
- PDF
Ncloud TensorFlow Server 생성 가이드
- 인쇄
- PDF
Classic 환경에서 이용 가능합니다.
사용하기 전에
Q. Ncloud TensorFlow Server는 무엇인가요?
- TensorFlow를 비롯한 대표적인 Deep Learning 및 Machine Learning 패키지와, 코드를 작성할 수 있는 웹 기반의 Jupyter Notebook을 제공하여 빠르게 Deep Learning 및 Machine Learning을 구현할 수 있게 해 주는 서비스입니다.
- 제공되는 샘플 코드를 통해 초보자도 손쉽게 데이터 전처리와 시각화, Machine Learning 및 TensorFlow 회귀와 분류 모델을 경험해 볼 수 있습니다.
Q. 어떤 상품들이 존재하나요?
- OS에 따라서 'tensorflow-ubuntu-16.04-64-server'와 'tensorflow-centos-7.3-64' 2개의 상품이 존재합니다.
- OS 차이일 뿐 제공되는 패키지는 동일하며, 특별한 이유가 없다면 보다 더 많이 사용되고 있는 ubuntu 상품을 선택하길 권해드립니다.
Q. 어떤 패키지들이 제공되며, 제공하는 패키지들만 사용할 수 있나요?
- 기본으로 설치되어 제공하는 패키지는 200여 가지가 있으며, 주요 패키지 목록은 아래와 같습니다.
tensorflow, Keras, Gensim, Pytorch, Theano
jupyter, python, numpy, scikit-learn, scipy, seaborn, sympy - 이 밖에도 1000여 개가 넘는 Conda 패키지 및 다른 패키지를 추가로 설치해서 사용할 수 있습니다.
- 패키지 설치 및 관리에 대해서는 Jupyter Notebook 사용 가이드의 패키지 관리를 참조하십시오.
Q. 파이썬 외에 Java나 다른 언어를 사용할 수 있나요?
- TensorFlow에서 Java나 Go 등의 API도 제공하지만 안정성을 보장하지 않기 때문에 Python을 사용하기를 권해드립니다.
Q. Ncloud TensorFlow Server는 어떻게 생성하나요?
- 원하는 사양의 서버를 생성하고 필요에 따라 스토리지를 추가하면 됩니다.
- 월 요금제와 시간 요금제로 청구되며, 서버를 생성한 후 접속 환경을 설정하여 이용할 수 있습니다.
- 웹 기반의 Jupyter Notebook을 이용하기 위해서 공인 IP를 신청하고 ACG 설정에서 포트를 추가하면 됩니다.
- 콘솔에 접속한 후 다음의 단계를 통해 쉽게 서버를 생성할 수 있습니다.
Q. 제공되는 서버 타입들은 어떤 것들이 있나요?
- 네이버 클라우드 플랫폼[공공기관용]이 제공하는 Ncloud TensorFlow Server 타입은 Standard, High Memory, GPU로 나눠집니다. 각각의 서버 타입별 특징은 아래와 같습니다.
- Standard: 다양한 IT 비즈니스에 활용할 수 있는 네이버 클라우드 플랫폼[공공기관용] 서비스의 표준 서버입니다. 균형 잡힌 서버 사양을 제공하며, 높은 가용성과 안정성을 자랑합니다.
- High Memory: 64GB 이상의 고 메모리 서버로써, 메모리 성능에 영향을 많이 받는 애플리케이션을 운영할 때 적합합니다. High Memory 서버는 최대 10대까지 생성할 수 있으며, 고객지원에 요청하시면 대수 제한을 조정해 드립니다.
- GPU: 최신 TESLA 아키텍처(P40) GPU가 장착된 서버로써, 빠른 데이터 처리를 하는 환경에 적합합니다. 최대 5대까지 생성할 수 있으며, 고객지원에 요청하시면 대수 제한을 조정해 드립니다.
Q. Ncloud TensorFlow Server를 생성했는데 코드 작성은 어디서 하나요?
- TensorFlow 코드는 Jupyter Notebook에서 작성할 수 있습니다. ACG에 18888 포트를 추가한 후 웹 브라우저에서 [공인 IP 주소:18888]로 접속하시면 됩니다.
- 'samples' 폴더에 데이터 처리와 시각화 및 TensorFlow 예제 파일들이 있으니 데이터 분석을 처음 시작하는 분들은 참고하시면 됩니다.
Q. TensorBoard는 어떻게 사용 하나요?
- ACG에 18889 포트를 추가한 후 웹 브라우저에서 [공인 IP 주소:18889]로 접속하시면 됩니다('접속 환경 설정' 참고).
- Jupyter 기본 경로(/docs/home/ncp/workspace) 아래에 tensorboard 디렉토리가 만들어져 있으므로, tensorflow 코드에서 tensorboard 다렉토리를 로그 디렉토리로 지정하여 사용하면 됩니다.
Q. Jupyter Notebook에 접속이 안 됩니다.
- Jupyter Notebook을 사용하기 위해서는 공인 IP 주소를 신청하여 서버에 할당해야 하며, ACG에 18888 포트가 추가되어 있어야 합니다('접속 환경 설정' 참고).
- 공인 IP 주소와 ACG를 확인한 후에도 접속되지 않는 경우 Jupyter 프로세스가 정지한 상태일 수 있으니, 터미널에서 'jup restart' 명령어를 실행하여 프로세스를 다시 시작하십시오('Jupyter 프로세스 관리' 참고).
Ncloud TensorFlow Server 소개
Ncloud TensorFlow Server는 데이터 분석가들이 가장 많이 사용하는 TensorFlow를 비롯하여 대표적인 Deep Learning과 Machine Learning 패키지들을 설치형으로 제공하는 서비스입니다.
데이터 전처리, 시각화, 자연어 처리, Machine Learning과 Deep Learning 패키지들이 제공되기 때문에 대부분의 분석 업무를 진행할 수 있으며, 필요한 경우 Jupyter Notebook에서 GUI나 콘솔 명령어를 사용하여 손쉽게 패키지를 추가로 설치하거나 업그레이드할 수 있습니다.
웹 기반의 Jupyter Notebook을 통해 어느 곳에서나 동일한 분석 환경에서 업무를 수행할 수 있게 해 주며, 분석 결과를 바로 바로 확인하고 다른 사람에게 쉽게 공유할 수 있게 해 줍니다.
또한 관리 스크립트를 제공하여 터미널 환경에서 간편하게 Jupyter 프로세스를 관리할 수 있게 해 줍니다.
더불어 분석 업무를 처음 시작하려는 초보 분석가를 위해 데이터 탐색과 시각화 뿐만 아니라, Scikit-Learn을 이용한 회귀, 분류, 클러스터링 같은 Machine Learning과 Keras 및 TensorFlow를 이용한 Deep Learning 회귀와 분류 예제를 제공하고 있습니다.
Ncloud TensorFlow Server 생성
내 서버 이미지 만들기 기능을 사용할 때 사용 중인 이미지 스펙을 확인해야 합니다.
생성된 Ncloud TensorFlow Server 이미지를 이용할 때는 기존 이미지의 인프라(CPU / GPU) 스펙과 동일하게 생성해야 합니다. 다른 스펙으로 생성하면 서비스를 정상적으로 이용할 수 없습니다.
이미지 스펙 | 생성 스펙 | 사용 여부 |
---|---|---|
CPU | CPU | 사용 가능 |
GPU | GPU | 사용 가능 |
CPU | GPU | 사용 불가 |
GPU | CPU | 사용 불가 |
Step 1. 콘솔 접속
콘솔에 접속해서 Server > Server 메뉴를 선택합니다.
① 서버를 생성하려면 [서버 생성] 버튼을 클릭합니다.
Step 2. 서버 이미지 선택
Ncloud TensorFlow Server 이미지를 선택해서 서버를 생성합니다.
① 아래쪽으로 이동하여 이미지에서 'tensorflow-ubuntu-16.04-64-server'나 [tensorflow-centos-7.3-64] 를 선택합니다.
- 두 상품은 OS 차이일 뿐 제공되는 패키지는 동일하며, 특별한 이유가 없다면 보다 더 많이 사용되고 있는 ubuntu 상품을 선택하길 권해드립니다.
② [다음] 버튼을 클릭합니다.
③ 팝업 창의 안내(Jupyter Notebook 사용을 위한 공인 IP 주소와 ACG 신청, Jupyter 비밀번호 변경)를 확인합니다.
④ [확인] 버튼을 클릭하여 팝업 창을 닫습니다.
Step 3. 서버 설정
스토리지 종류, 서버 타입, 요금제, Zone을 선택하고, 서버 이름을 입력합니다.
① 부팅 스토리지로 사용할 스토리지 종류를 선택합니다.
- 고성능 I/O가 필요한 서비스에는 SSD를, 일반적인 서비스에는 HDD를 선택하세요. 단, 부팅 스토리지가 SSD인 경우에만 추가 스토리지로 SSD를 이용할 수 있습니다.
② 원하는 서버 타입을 선택합니다.
- 일부 서버 스펙은 부팅 디스크 타입에 따라 지원되지 않을 수 있습니다.
- 사용하는 목적에 따라 Standard, High Memory, GPU 서버 타입 중 하나를 선택하세요.
③ 요금제는 월요금제 또는 시간 요금제 중 선택할 수 있습니다.
④ 현재 제공하고 있는 Zone으로 ‘KR-1’을 선택합니다.
⑤ 서버 이름을 입력합니다.
- 고객이 서버를 구별하기 위한 명칭으로, 중복해서 사용할 수 없습니다.
⑥ [다음] 버튼을 클릭합니다.
Step 4. 인증키 설정
보유하고 있는 인증키가 있는 경우 ‘보유하고 있는 인증키 이용’을 선택하고, 없는 경우 아래의 절차대로 새로운 인증키를 생성합니다.
① [새로운 인증키 생성] 을 선택합니다.
② 인증키 이름을 입력합니다.
③ [인증키 생성 및 저장] 버튼을 클릭하여 로컬 PC에 인증키 파일을 저장합니다.
- 새로운 인증키를 발급받습니다.
- 저장 후 인증키는 고객의 PC 안전한 위치에 보관해 주십시오.
- 인증키는 최초의 관리자 비밀번호를 가져올 때 이용됩니다.
④ [다음] 버튼을 클릭합니다.
Step 5. 방화벽 설정
보유하고 있는 ACG를 이용하거나 신규 ACG를 생성하여 방화벽을 설정할 수 있습니다.
먼저, 보유하고 있는 ACG를 이용하여 방화벽을 설정하는 경우입니다.
① ACG는 필수로 선택해야 하며, 기본으로 제공하는 ‘ncloud-default-acg’를 포함하여 보유하고 있는 ACG 중에서 하나를 선택합니다.
- 보유하고 있는 ACG는 최대 5개까지 선택할 수 있습니다.
- 필수로 ACG를 선택해야 [다음] 버튼이 활성화되어 설정을 진행할 수 있습니다.
② 보유하고 있는 ACG 외에 신규 ACG를 생성하여 설정하고 싶다면, [신규 ACG 생성] 을 선택합니다.
③ [다음] 버튼을 클릭합니다.
새로 ACG를 생성하여 방화벽을 설정하는 방법은 다음과 같습니다.
① 신규 ACG 생성에서 [ACG 생성] 버튼을 클릭합니다.
② ACG 이름을 입력합니다.
③ ACG 설정에서 프로토콜, 접근 소스, 허용 포트를 입력하고 생성합니다.
프로토콜: TCP, UDP, ICMP에서 선택
접근 소스: IP 주소 또는 ACG명 입력
허용 포트: 단일 포트 또는 범위 지정
터미널 접속을 위해서는 접속하려는 서버의 ACG에 SSH 'TCP/22'에 대한 규칙이 설정되어 있어야 하고, jupyter notebook 사용을 위해서는 'TCP/18888' 규칙이, TensorBoard 사용을 위해서는 'TCP/18889' 규칙이 추가로 설정되어 있어야 합니다.
규칙을 추가하려면 프로토콜, 접근 소스, 허용 포트를 기재하고 [추가] 버튼을 클릭합니다.
④ 22와 18888, 18889 포트가 모두 추가된 경우 [생성] 버튼을 클릭합니다.
Step 6. 최종 확인
설정한 내용을 최종 확인합니다.
① 서버 이미지, 서버, 인증키, ACG가 정상적으로 설정되었는지 확인합니다.
② 최종 확인 후에는 [서버 생성] 버튼을 클릭합니다.
- 서버가 생성되기까지는 수 분에서 수십 분이 소요됩니다.
서버 목록에서 확인
생성한 서버를 리스트에서 확인합니다.
① 생성한 서버가 목록에 표시됩니다.
② 서버가 생성되고 패키지가 설치 완료되어 서버 상태가 운영중이 될 때까지 대기합니다.
접속 환경 설정
공인 IP 주소 사용 신청
jupyter notebook을 사용하려면 반드시 공인 IP 주소를 이용해서 접속해야 하며, 공인 IP 주소 사용에 대한 요금이 별도로 부과됩니다.
① 좌측 메뉴에서 PUBLIC IP 메뉴를 선택합니다.
② 공인 IP를 할당 받으려면 [공인 IP 신청] 버튼을 클릭합니다.
③ 적용 서버 선택에서 공인 IP 주소를 할당할 Ncloud TensorFlow Server를 선택합니다.
④ [다음] 버튼을 클릭합니다.
⑤ 적용 서버 이름을 확인하고 다시 [생성] 버튼을 클릭합니다.
포트 포워딩 설정
터미널 프로그램(Putty 등)으로 서버에 접속하려면 포트 포워딩을 설정해야 합니다.
① 좌측 메뉴에서 Server 메뉴를 선택합니다.
② 서버에 접속하려면 [포트 포워딩 설정] 을 클릭합니다.
③ 포트 포워딩 설정 화면에서 외부 포트 번호를 설정합니다. 외부 포트 번호의 입력 범위는 1024~65,534로, 서버 접속을 위한 기능 외에 서비스 용도로 사용할 수 없습니다.(내부 포트 번호는 22로 정해져 있습니다.)
④ [추가] 버튼을 클릭하면 설정 내역이 하단에 추가되며 [수정], [삭제] 버튼을 클릭하여 설정 내역을 수정, 삭제할 수 있습니다.
⑤ [적용] 버튼을 클릭하면 설정한 외부 포트로 터미널 프로그램을 이용하여 SSH 접속을 할 수 있습니다.
ACG 설정
ACG에 터미널 접속 SSH('TCP/22') 및 Jupyter Notebook('TCP/18888') 규칙과 필요한 경우 TensorBoard('TCP/18889') 규칙을 추가합니다.
서버 생성 시 규칙을 이미 추가한 경우는 이 단계의 ACG 설정 작업을 수행할 필요가 없습니다.
① 좌측 메뉴에서 [ACG] 메뉴를 선택합니다.
② 서버 생성 시 선택한 ACG를 선택하고 상단의 [ACG 설정] 을 선택합니다.
③ ACG 규칙 설정에서 프로토콜, 접근 소스, 허용 포트를 입력하고 생성합니다.
프로토콜: TCP, UDP, ICMP에서 선택
접근 소스: IP 주소 또는 ACG명 입력
허용 포트: 단일 포트 또는 범위 지정
터미널 접속을 위해서는 접속하려는 서버의 ACG에 SSH 'TCP/22'에 대한 규칙이 설정되어 있어야 하고, jupyter notebook 사용을 위해서는 'TCP/18888' 규칙이, TensorBoard 사용을 위해서는 'TCP/18889' 규칙이 추가로 설정되어 있어야 합니다.
규칙을 추가하려면 프로토콜, 접근 소스, 허용 포트를 기재하고 [추가] 를 클릭합니다.
④ 설정이 완료되면 [적용] 버튼을 클릭합니다.
⑤ [상세 정보] 탭에서 상세 정보를 확인할 수 있으며 [규칙 보기] 탭에서는 설정한 규칙을 확인할 수 있습니다.
관리자 비밀번호 확인
터미널 프로그램(Putty 등)으로 서버에 접속하려면 관리자 비밀번호를 알아야 합니다.
① 좌측 메뉴에서 Server 메뉴를 선택합니다.
② 해당 서버를 선택하고, 서버 관리 및 설정 변경에서 [관리자 비밀번호 확인] 을 선택합니다.
③ [Drop files here or click to upload] 버튼을 클릭해 서버 생성 시 개인 PC에 저장한 인증키 파일(.pem)을 첨부합니다.
④ 첨부 후 [비밀번호 확인] 버튼을 클릭하면 터미널 프로그램으로 최초 서버 접속 시 사용할 비밀번호를 얻을 수 있습니다.
- 서버에 접속 후 관리자가 기억할 수 있는 비밀번호로 변경하여 사용하는 것을 권장합니다.
터미널 접속
터미널 프로그램(Putty 등)으로 서버에 접속해서 Jupyter의 비밀번호를 변경해야 합니다.
제공하는 관리 스크립트를 통해 손쉽게 비밀번호를 변경하고 Jupyter 프로세스를 관리할 수 있습니다.
터미널 프로그램으로 서버 접속
① 터미널 프로그램(Putty 등)을 실행합니다.
② 서버 리스트 또는 내용 보기에서 확인한 '서버 접속용 공인 IP'와 '외부 포트'의 값을 입력하고 [Open] 버튼을 클릭하면 서버에 접속됩니다.
- 서버 접속용 공인 IP 확인: 콘솔 > 서버 > 서버 리스트에서 서버 선택 후 내용보기 에서 포트 포워딩 정보의 ‘서버 접속용 공인 IP’
- 외부 포트 번호 확인: 콘솔 > 서버 > 서버 리스트에서 서버 선택 후 내용보기에서 포트 포워딩 정보의 ‘외부 포트’
③ 사용자 정보 및 암호를 입력하고 로그인합니다.
- login as: ncloud
- password: 위에서 확인한 관리자 비밀번호
- 'sudo su -' 명령어를 실행합니다.
④ 로그인 후에는 root 계정의 비밀번호를 기억할 수 있는 비밀번호로 변경할 것을 권장합니다.
'passwd root' 명령어를 입력한 후 새 비밀번호를 입력합니다
Jupyter 비밀번호 변경
Jupyter Notebook에서 사용할 초기 비밀번호는 서버 이름으로 설정되어 있으며, 보안 침해 방지를 위해서 제공하는 스크립트를 통해 비밀번호를 변경해 주십시오.
① 터미널에서 'jup passwd'를 입력하여 비밀번호를 변경합니다.
최초 비밀번호 확인: 콘솔 > 서버 > 서버 리스트에서 ‘서버 이름’과 동일
비밀번호는 영문, 숫자, 특수문자를 모두 포함해야 하며, 8자 이상이어야 합니다.
비밀번호 변경 스크립트를 실행하는 경우 자동으로 Jupyter 프로세스가 재시작됩니다.
Jupyter 프로세스 관리
환경 설정 파일을 변경했을 경우 등 Jupyter 프로세스를 재시작할 필요가 있는 경우, 제공하는 스크립트를 통해 프로세스를 정지하거나 재시작할 수 있습니다.
① Jupyter 프로세스 정지: $ jup stop
② Jupyter 프로세스 시작: $ jup start
③ Jupyter 프로세스 정지&시작: $ jup restart
TensorBoard 프로세스 관리
서버를 생성하고 처음으로 TensorBoard 프로세스를 시작하거나 프로세스를 재시작할 필요가 있는 경우, 제공하는 스크립트를 통해 프로세스를 시작하거나 정지할 수 있습니다.
① TensorBoard 프로세스 정지: $ jup tb-stop
② TensorBoard 프로세스 시작: $ jup tb-start