VPC 환경에서 이용 가능합니다.
이 가이드는 LogStash를 사용하여 Search Engine Service와 Cloud DB for MySQL간 Data Pipeline 구축 가이드 입니다.
사전 작업
이 가이드를 수행하기 전에 이용 신청을 완료해야 하는 작업은 다음과 같습니다.
- VPC 및 서버 생성
- Cloud DB for MySQL 서버 생성
- Search Engine Service 클러스터 생성
예제로는 Server에 Logstash를 구동한 후, Cloud DB for MySQL의 데이터를 일정 주기 마다 Search Engine Service에 전송하는 방법을 다루고 있습니다.
네트워크 설정
STEP 1. Cloud DB for MySQL User 설정
[DB 관리 > DB User 관리]에서 server 대역으로부터 DB User의 접속이 가능하도록 설정해야 합니다.
STEP 2. ACG 설정
Cloud Data Streaming Service 브로커 노드의 9092번 포트로 접근할 수 있도록 ACG를 설정하는 방법은 다음과 같습니다.
- 네이버 클라우드 플랫폼 콘솔에서 Services > Compute > Server > ACG 메뉴를 차례대로 클릭해 주십시오.
- ACG 목록에서 'cloud-mysql-xxxx'을 선택한 후 [ACG 설정] 버튼을 클릭해 주십시오.
- ACG 규칙을 입력한 후 [추가] 버튼을 클릭해 주십시오.
- 프로토콜: TCP
- 접근 소스: Logstash가 실행될 서버의 IP
- 허용 포트: DB에서 설정한 포트(Default: 3306)
- [적용] 버튼을 클릭해 주십시오.
Search Engine Service 매니저 노드의 9200번 포트로 접근할 수 있도록 ACG를 설정하는 방법은 다음과 같습니다.
- 네이버 클라우드 플랫폼 콘솔에서 Services > Compute > Server > ACG 메뉴를 차례대로 클릭해 주십시오.
- ACG 목록에서 'searchengine-m-xxxxx'을 선택한 후 [ACG 설정] 버튼을 클릭해 주십시오.
- ACG 규칙을 입력한 후 [추가] 버튼을 클릭해 주십시오.
- 프로토콜: TCP
- 접근 소스: Logstash가 실행될 서버의 IP
- 허용 포트: 9200
Server에 Logstash 설치
- 설치 과정에서 ElasticSearch 와 OpenSearch의 과정이 함께 표현되어 있습니다.
- 사용하는 버전에 맞춰 설치하셔야 정상적인 테스트가 가능합니다.
STEP 1. Java 설치
- 다음 명령어를 입력하여 java를 설치해 주십시오.
STEP 2. Logstash 설치
Logstash를 설치하는 방법은 다음과 같습니다.
반드시 OSS 라이센스로 설치해야 정상적으로 작동합니다.
- 다음 명령어를 입력하여
/root
경로에 Logstash를 다운로드해 주십시오.
- 다음 명령어를 입력하여 다운로드한 파일을 설치합니다.
- JDBC Driver 설치하기
- 다음 명령어를 입력하여 Logstash 구동 전
logstash.conf
파일을 수정해 주십시오.
- Elasticsearch 버전인 경우
- ElasticSearch 버전 logstash.conf
- OpenSearch 버전인 경우
- OpenSearch 버전 logstash.conf
- Logstash Conf Comment
- logstash metadata 경로 생성하기
Cloud DB for MySQL 설정
- Table 생성하기
- Data 입력하기