CLOVA Studio AI 윤리 가이드

Classic/VPC 환경에서 이용 가능합니다.

CLOVA Studio AI 윤리 가이드는 사용자가 CLOVA Studio를 사용하면서 경험할 수 있는 여러 상황을 AI 윤리적 관점에서 이해하고, 이와 관련한 문제를 예방하고 방지하는 데 도움을 주고자 하는 목적에서 작성되었습니다.

네이버의 모든 구성원은 네이버가 발표한 네이버 AI 윤리 준칙을 준수하여 서비스를 개발하고 이용하며, 네이버는 이를 위해 AI Filter 기능을 개발하여 적용하는 등의 별도 노력과 정책을 시행하고 있습니다. CLOVA Studio를 이용하고자 하는 사용자도 마찬가지로 동일한 원칙과 정책을 준수해야 한다는 점을 말씀드립니다.
아래에서는 네이버 AI 윤리 준칙의 세부 조항과 그 취지를 상세히 설명하고, 이를 실천하기 위한 방안과 CLOVA Studio 사용 시 이행해야 하는 네이버와 사용자의 의무를 안내합니다.

제1장 CLOVA Studio 사용을 위한 네이버 AI 윤리 준칙의 이해

네이버 AI 윤리 준칙

네이버는 첨단의 AI 기술을 누구나 쉽고 편리하게 활용할 수 있는 일상의 도구로 만들겠습니다. 사용자에게 새로운 연결의 경험을 선보이는 도전을 멈추지 않음으로써 다양한 기회와 가능성을 열어나가겠습니다. 이를 위해 네이버의 모든 구성원은 AI 개발과 이용에 있어 아래와 같은 윤리 원칙을 준수하겠습니다.

전문에서는 '누구나 쉽고 편리하게 활용할 수 있는 일상의 도구'라는 문구를 통해 네이버가 AI를 어떻게 바라보고 있는가에 대한 관점을 제시하고 있습니다. 그와 동시에 연결, 도전 및 다양성이라는 네이버의 기업 철학을 담고 있습니다. 그리고 마지막 문장에서는 네이버 구성원의 AI 윤리 준칙 준수를 명시하고 있습니다.

1. 사람을 위한 AI 개발

네이버가 개발하고 이용하는 AI는 사람을 위한 일상의 도구입니다. 네이버는 AI의 개발과 이용에 있어 인간 중심의 가치를 최우선으로 삼겠습니다.
네이버는 사용자의 일상에 편리함을 더하기 위해 기술을 개발해왔고, AI 역시 일상의 도구로 활용될 수 있도록 발전시켜 나가고 있습니다. 네이버는 AI가 우리의 삶을 편리하게 만들어줄 수 있는 기술이지만, 세상의 다른 모든 것처럼 완벽할 수 없다는 점을 인식하고 있습니다. 네이버는 AI가 사람을 위한 일상의 도구가 될 수 있도록, 지속해서 살펴보며 개선해 나가겠습니다.

첫 번째 조항에서는 AI의 개발과 이용에 있어 인간 중심의 가치를 최우선으로 삼겠다는 점을 선언하고 있습니다. 즉, 네이버가 사람을 위한 AI를 개발하고 이용한다는 내용을 담고 있는 것입니다. 그리고 AI가 우리의 삶을 편리하게 만들어줄 수 있는 기술이지만, 세상의 다른 모든 것처럼 완벽할 수 없다는 점도 언급하고 있습니다. 이와 함께 AI가 사람을 위한 일상의 도구가 될 수 있도록, 지속해서 살펴보며 개선해 나가겠다는 방향성을 제시하고 있습니다.

2. 다양성의 존중

네이버는 다양성의 가치를 고려하여 AI가 사용자를 포함한 모든 사람에게 부당한 차별을 하지 않도록 개발하고 이용하겠습니다.
네이버는 다양성을 통해 연결이 더 큰 의미를 가질 수 있도록 기술과 서비스를 구현해 왔습니다. 그 과정에서 사용자에게 다채로운 기회와 가능성을 열어왔고, 합리적 기준 없는 부당한 차별이 발생하지 않도록 노력해 왔습니다. 네이버는 AI 서비스에서도 부당한 차별을 방지하고 다양한 가치가 공존하는 경험과 기회를 제공해 나가겠습니다.

두 번째 조항에서는 다양성의 존중이라는 가치를 제시하고 있습니다. 다양성은 연결의 의미를 더 크게 만드는 가치 중 하나이며, 기술 플랫폼인 네이버가 중요하게 생각하는 가치입니다. 네이버는 개성 있는 창작자와 사업자가 많아지는 사회를 만들고, 이를 통해 더 많은 다양성을 연결하는 것이 큰 의미를 가진다고 생각하여 AI 윤리 준칙에 다양성이라는 가치를 포함하였습니다.

3. 합리적인 설명과 편리성의 조화

네이버는 누구나 편리하게 AI를 활용하도록 도우면서, 일상에서 AI의 관여가 있는 경우 사용자에게 그에 대한 합리적인 설명을 하기 위한 책무를 다하겠습니다. 네이버는 AI에 관한 합리적인 설명의 방식과 수준이 다양할 수 있다는 점을 고려해, 이를 구체적으로 실현하기 위하여 노력하겠습니다.
네이버의 AI는 기술을 위한 기술이 아니며, 기술적 지식이 없이도 누구나 손쉽게 활용할 수 있는 도구가 될 것입니다. 네이버는 서비스의 편리함을 추구하면서, 사용자의 요구가 있거나 필요한 경우에는 AI 서비스에 대해 쉽게 이해할 수 있도록 사용자의 눈높이에 맞춰 설명하겠습니다.

세 번째 조항에서는 국내외 AI 원칙에서 제시되는 항목 중 하나인 투명성 실현의 방법으로서 AI 서비스에 대한 설명 책무를 명시하고 있습니다. 다만, 설명의 범위에 있어서 그 설명이 사용자에게 과도하거나 이해가 어렵게 느껴지는 경우에는 서비스 자체의 편리성을 해칠 우려도 있을 것입니다. 이에 따라 서비스의 편리함을 추구하면서도, 사용자의 요구가 있거나 필요한 경우에는 AI 서비스에 대해 쉽게 이해할 수 있도록 사용자의 눈높이에 맞춰 설명하겠다는 점을 명시하였습니다.

4. 안전을 고려한 서비스 설계

네이버는 안전에 유의하여, 서비스의 전 과정에서 사람에게 유해한 영향을 미치지 않는 AI 서비스를 설계하겠습니다.
사람을 위한 일상의 도구인 AI가 사람의 생명과 신체를 위협하는 상황이 발생하지 않도록, 네이버는 전 과정에서 안전을 고려해 서비스를 설계하고, 테스트를 거치며, 배포 이후에도 안전성에 대해 지속해서 살펴보겠습니다.

네 번째 조항에서는 인간 중심의 가치를 바탕에 두면서, 구체적인 안전의 기준으로 사람의 생명과 신체의 안전을 제시했습니다. 세부적으로 AI 서비스 설계에 있어 사람의 안전을 최우선으로 두고, 설계, 테스트, 배포 및 배포 이후의 안전성을 지속해서 살펴볼 것을 명시했습니다.

5. 프라이버시 보호와 정보 보안

네이버는 AI를 개발하고 이용하는 과정에서 개인정보 보호에 대한 법적 책임과 의무를 넘어 사용자의 프라이버시가 보호될 수 있도록 노력하겠습니다. 또한 개발 단계를 포함해 AI 서비스의 전 과정에서 정보 보안을 고려한 설계를 적용하겠습니다.
네이버는 개인정보 활용에 있어 법적 책임과 의무를 다하는 것을 넘어 개인의 프라이버시도 적극적으로 보호하고 있습니다. 또한 사용자가 서비스를 활용하면서 정보 보안을 우려하게 되는 상황을 원천적으로 차단할 수 있도록, 서비스 전 과정에서 정보 보안을 고려한 설계를 적용하고 있습니다. AI 서비스에 있어서도 마찬가지로, 사용자가 프라이버시와 정보 보안을 걱정하지 않고 AI 서비스를 자유롭게 활용해 삶에 편리함을 더할 수 있도록 노력하겠습니다.

다섯 번째 조항에서는 네이버가 가지고 있는 프라이버시 센터의 개인정보 보호 원칙과 동일하게, AI 서비스 맥락에서도 개인정보 보호에 대한 법적 책임과 의무를 넘어 프라이버시를 보호할 수 있도록 노력하겠다는 점을 명시하였습니다. 현재 네이버 서비스는 프라이버시 바이 디자인(Privacy by Design) 원칙이 적용되어 있는데, AI 서비스에서도 마찬가지로 최초 설계부터 프라이버시 바이 디자인 원칙이 적용된다는 점을 강조했습니다. 여기서 프라이버시 바이 디자인이란 개인정보 보호를 적용한 서비스의 설계를 의미합니다.

제2장 네이버 AI 윤리 준칙을 실천하는 CLOVA Studio 사용

네이버는 사용자가 네이버 AI 윤리 준칙을 실천하며 CLOVA Studio를 사용할 수 있도록 서비스 앱 심사 발급 과정을 운영하고, AI Filter 기능을 제공합니다.

서비스 앱 심사 발급 과정은 CLOVA Studio를 통해 생성된 서비스 앱의 잠재적인 위험 등을 예방하기 위해 네이버 AI 윤리 준칙의 준수 등을 확인하는 절차입니다.

AI Filter 기능은 CLOVA Studio를 통해 생성된 서비스 앱에서 욕설 등 부적절한 결과물이 출력되는 것을 감지하여 사용자에게 알려주는 기능입니다.

사용자는 네이버가 제공하는 실천 방안을 포함한 스스로의 실천 방안을 통해 CLOVA Studio 사용 시 AI 서비스가 인간 중심의 가치를 해치거나 다양성을 저해하는 표현을 출력하는 것을 방지하고, 그 결과물로 인해 사람의 생명과 신체의 안전을 위협하거나 개인정보 및 프라이버시를 침해하지 않도록 노력해야 합니다.

다만, 네이버와 사용자 모두가 인식하고 있는 것처럼 AI 서비스의 결과물은 사전에 완벽하게 통제될 수 있는 것은 아니므로, 네이버는 지속해서 네이버 AI 윤리 실천 방안에 대한 개선 작업을 진행하고자 합니다. 모든 세부적인 개선 작업 내용이 사용자에게 통지되지는 않을 수도 있다는 점을 사전에 안내해 드립니다.

제3장 CLOVA Studio를 제공하는 네이버의 의무 및 이를 사용하는 사용자의 의무

1. AI 서비스의 결과물이 사전에 완벽하게 통제될 수 있는 것은 아니지만, 네이버와 사용자는 네이버 AI 윤리 준칙과 정책을 준수하여 발생 가능한 잠재적인 위험을 감소시키기 위해 노력해야 합니다.
   이를 위해 네이버는 사용자가 CLOVA Studio를 사용하면서 경험할 수 있는 여러 상황을 AI 윤리적 관점에서 이해하고, 이와 관련한 문제를 예방하고 방지하는 데 있어 도움을 주기 위해, 사용자에게 아래 각호의 의무를 이행합니다.
   • CLOVA Studio에 적용되는 네이버 AI 윤리 준칙 및 정책에 대한 설명을 제공합니다.
   • CLOVA Studio 서비스 앱 심사 및 승인 시 네이버 AI 윤리 준칙 및 정책 준수를 위한 개선 사항을 제안합니다.
   • CLOVA Studio AI 윤리 가이드를 통해 네이버와 사용자가 준수해야 하는 의무를 명시합니다.
   • CLOVA Studio 사용 시 네이버 AI 윤리 준칙 및 정책 실천을 위한 AI Filter 기능 등의 기술적 도구를 제공합니다.
   • AI 윤리에 대한 문의를 사용자로부터 전달받는 경우, 이에 대해 합리적 범위에서 소통 및 관련 사항의 개선을 위한 조치를 이행합니다.
2. 사용자는 CLOVA Studio를 사용함에 있어 아래 각호의 의무를 부담합니다.
   • 사용자는 CLOVA Studio를 악의적으로 사용하는 것이 금지됩니다. 또한 사용자는 악의적 사용을 통해 네이버 또는 CLOVA Studio에 대한 평판 위험을 발생시켜서는 안됩니다. 악의적 사용이란 네이버 AI 윤리 준칙 및 CLOVA Studio AI 윤리 가이드를 위반하는 결과물을 고의적으로 발생시키는 것이 대표적이며, 그 밖에도 사용자가 제3장에 언급된 사용자의 의무를 위반하여 발생시키는 문제를 포함합니다.
   • 사용자는 CLOVA Studio를 사용할 때, AI Filter를 의무적으로 사용해야 합니다. 다만, AI Filter를 사용했음에도 불구하고 발생한 ‘문제가 되거나 문제가 될 수 있다고 판단한 부적절한 결과물’에 대해서는 발견 즉시 네이버에게 해당 내용을 알려야 합니다. 이를 통해 사용자는 네이버가 관련 부분을 개선할 수 있도록, 이에 대해 적극적으로 협조할 의무가 있습니다.
   • 사용자는 서비스 앱 심사 및 발급 승인 조건 하에 네이버와 협의한 일정한 사용 범위 내에서 CLOVA Studio를 이용한 출력 결과물 등의 정보를 자신의 서비스를 통해서만 제3자 및 외부에 공개할 수 있습니다. 그 외의 경우에는 네이버의 사전 서면 동의 없이 CLOVA Studio에 대한 정보를 제3자 및 외부에 공개할 수 없으며, 이를 위반할 경우 사용자의 CLOVA Studio 서비스 사용이 중단될 수 있습니다. 그리고 사용자는 외부로 공개된 결과물에 관한 문제를 적극적으로 해결 및 소통하기 위해서 네이버와 협조할 의무가 있습니다.