생성형 AI 기술의 발전과 함께 AI가 만든 창작물의 퀄리티가 높아지면서 AI와 인간이 만든 창작물 사이의 경계가 점차 허물어지고 있습니다. 이제는 챗GPT나 Gemini와 같은 텍스트 기반의 생성형 AI가 사람보다 더 자연스럽고 매끄럽게 보고서를 작성해 주는 것은 물론이고, Stable Diffusion이나 Dall-e와 같은 이미지 생성 AI가 만들어낸 이미지와 사람이 그려낸 이미지를 구분하기가 불가능한 수준에 다다랐습니다.

  성능 좋은 생성형 AI를 더욱 손쉽게 활용할 수 있게 되면서 콘텐츠 제작에 생성형 AI를 활용하는 기업들 역시 점점 더 늘어나고 있습니다. 대표적인 활용 사례로 CJ그룹은 지난해 맞춤형 카피를 생성해 주는 ‘AI 카피라이터’를 마케팅 업무에 도입한다고 발표한 바 있습니다.

  AI 카피라이터는 기본 프로모션 정보만 입력하면 자사 고객 데이터를 바탕으로 고객 성향 맞춤 카피를 생성해 주는 생성형 AI 기반 시스템입니다. 비슷한 예로 현대백화점에서 도입한 카피라이팅 시스템 ‘루이스’가 있습니다. 루이스 역시 간단한 핵심 키워드 몇 개를 입력하는 것만으로 현대백화점 광고에 최적화된 카피를 생성할 수 있는 시스템을 운영하고 있습니다.

*출처: 현대백화점, 생성형 AI 기반 카피라이팅 시스템 ‘루이스’

  이처럼 생성형 AI의 보급으로 기업들은 카피라이팅 문구 및 이미지 제작 등 창작활동을 필요로 하는 다양한 분야보다 적은 비용으로 질 좋은 콘텐츠를 생성하고 활용할 수 있게 되었습니다. 그러나 생성형 AI 기술을 활용한 기업들의 창작 활동이 늘어나면서 창작물의 소유권과 그 사회적 파급력을 둘러싼 리스크 역시 확대되고 있습니다.

  우선 기업이 생성형 AI를 활용하여 만들어낸 창작물의 저작권 소재에 대한 면밀한 검토가 필요합니다. 또한 기업은 생성형 AI가 오해를 불러일으키거나 부적절한 콘텐츠를 생성해 낼 수 있다는 점을 이해하고, 이에 따르는 사회적 파급력과 책임에 대해 사전에 충분히 고려할 필요가 있습니다. 이번 시간에는 기업이 생성형 AI를 활용한 창작물을 활용할 때 소유권과 AI 창작물로 인한 리스크와 책임 소재, 그리고 이를 방지하기 위한 안전장치에 대해 다루어 보도록 하겠습니다.

 

 

생성형 AI 창작물의 소유권은 누구에게 있을까?

  기업이 생성형 AI를 활용하여 만들어낸 창작물의 소유권은 누구에게 있을까요? 자사 콘텐츠 제작에 생성형 AI를 활용하는 기업들이 늘어나면서 생성형 AI를 활용한 창작물의 저작권을 둘러싼 분쟁 사례가 지속적으로 등장하고 있습니다. 뿐만 아니라 생성형 AI로 만든 창작물이 사전학습 과정에서 기존 창작물을 바탕으로 한 데이터를 취합 및 재구성해 만들어지는 만큼, 저작권 침해의 여지는 없는지 등의 이슈 역시 조명받고 있습니다.

  생성형 AI가 창작한 창작물의 소유권에 관한 법률을 살펴보면, 우리나라를 비롯한 대부분의 국가에서 창작물과 관련된 저작권의 저작자를 인간의 한정 짓고 있습니다. 따라서 생성형 AI가 스스로 생성해 낸 콘텐츠에 대해서는 저작권을 인정받을 수 없으며, 인간의 개입이 있는 경우에는 일반적으로 AI가 생성한 창작물의 저작권은 해당 AI를 개발한 개발자, 기업 또는 프롬프트를 제공한 사용자 개인에게 속하게 될 수 있습니다.

  현행법상 생성형 AI를 활용한 콘텐츠의 저작권은 역시 원칙적으로는 생성형 AI를 개발한 개발자에 속하지만, 생성형 AI의 개발이 주로 회사 단위로 이루어지기 때문에 대부분 생성형 AI를 활용한 저작권은 해당 서비스를 개발한 회사에 귀속됩니다. 그러나 이에 대한 명확한 사회적 합의는 아직 이루어지지 않은 것이 사실입니다. 생성형 AI 모델을 활용한 창작활동의 결과물을 둘러싼 논쟁은 여전히 진행 중입니다.

 

 

생성형 AI 창작물의 잠재적인 위협

1. 저작권 침해와 잘못된 정보의 확산

  생성형 AI는 방대한 양의 매개변수와 훈련 데이터를 바탕으로 콘텐츠를 생성해 냅니다. 따라서 생성형 AI가 기존의 작품을 학습하여 창작물을 생성하는 과정에서 원작자의 저작권을 침해하게 될 위험이 있습니다. 예를 들어, AI가 활용한 데이터셋에 포함된 기존의 저작권 보호 작품이 있다면, 이에 대한 저작권 문제가 발생할 수 있습니다.

*출처: ChatGPT is Eating the world, 미국 생성형 AI 관련 저작권 침해 사례

 

  또한 이러한 생성형 AI의 특성상 훈련 데이터의 품질에 의존하며, 때로는 잘못된 정보나 왜곡된 사실을 생성해 낼 위험성이 있습니다. 사실과 다르거나 혼란을 불러일으키는 콘텐츠가 퍼지면 사회적으로 큰 위협을 초래할 수도 있습니다. AI가 생성한 콘텐츠의 신뢰성을 보장하기 어려운 경우, 잘못된 정보가 확산될 위험이 커집니다. 이에 따라, 정보의 정확성을 검증하는 과정이 중요하며, 사용자는 AI가 제공하는 정보의 출처와 신뢰성을 면밀히 검토할 필요가 있습니다. 

 

*출처: 삼성전자, 훈련 데이터와 인종별 안면 인식

 

2. 기업의 사회적 책임

  기업들이 생성형 AI를 활용하여 이익을 추구하는 과정에서도 다양한 문제와 위협이 발생할 수 있습니다. 위에서 살펴보았듯 저작권 관련 소송에 휘말리게 될 위험이 존재할 뿐만 아니라 AI가 생성한 콘텐츠로 인해 발생하는 문제에 대해 누가 책임을 져야 하는지에 대한 책임 소재를 놓고 여전히 분쟁 중인 케이스가 많으며, 아직 명확하지 않습니다. 따라서 기업들은 AI의 결정과 행동에 대해 법적 및 윤리적 책임을 어떻게 다루어야 할지 충분히 고민해야 합니다.

 

 

생성형 AI 활용을 위한 안전장치 준비, SK㈜ C&C와 함께하세요

  이러한 생성형 AI의 위협에서 스스로를 보호하기 위해서는 정보의 신뢰성과 정확성 확보가 필수적입니다. 생성형 AI의 발전은 많은 기회를 제공하는 동시에 여러 가지 법적, 윤리적 리스크를 동반하고 있습니다. 기업들이 안전하게 AI를 활용하기 위해서 다음과 같은 안전장치 마련이 필수적입니다.

 

저작권 및 지식재산권의 명확화

  기업은 생성형 AI가 만든 콘텐츠의 저작권에 대한 명확한 정책을 수립해 나갈 필요가 있습니다. 이를 위해 생성형 AI 도구를 제공하는 기업과의 계약에서 저작권 및 사용 권한에 대한 조항을 명확히 규정할 필요가 있습니다. 또한 AI를 사용하여 생성된 콘텐츠의 소유권 및 활용에 대한 내부 지침을 마련하여 모든 직원이 이를 이해하고 준수하도록 가이드라인 마련을 통해 대응하는 것이 중요합니다.

 

데이터 관리

  생성형 AI의 성능 및 결과물은 훈련 데이터의 품질에 크게 의존합니다. 따라서 사용되는 데이터셋의 출처와 저작권 상태를 면밀히 검토하여 저작권 침해의 위험을 줄이는 작업이 필요합니다. 또한 오해나 혼란을 불러일으킬 만한 정보나 오류가 포함되지 않도록 데이터셋을 정제하고 필터링합니다. 사전 예방을 위해 생성형 AI가 생성한 콘텐츠를 지속적으로 모니터링하여 잘못된 정보나 부적절한 내용이 포함되지 않도록 감시하는 절차를 마련하는 것 역시 중요합니다.

 

생성형 AI 모델 검증을 통한 신뢰성 확보

*출처: ledge.AI, 설명 가능한 AI(XAI)

  또한 기술적인 측면에서는 생성형 AI 모델의 신뢰성과 안전성을 정기적으로 검증하고, 오류를 수정할 수 있는 시스템을 구축하는 것 역시 중요합니다. 마찬가지로 모델의 신뢰성 확보를 위해서는 AI 모델의 작동 원리와 데이터 사용 방식을 투명하게 공개하여 사용자들이 AI의 작동 방식과 결과에 대해 충분히 이해할 수 있도록 하는 방식을 통해 생성형 AI를 보다 안전하게 활용할 수 있을 것입니다.

  최고의 생성형 AI 전문가로 구성된 SK㈜ C&C는 오랜 기간 쌓아온 AI 시스템 구축 노하우를 기반으로, 생성형 AI를 안전하게 활용할 수 있도록 지원하고 있습니다. 생성형 AI를 안전하게 활용하기 위한 준비를 고민하고 있다면 SK㈜ C&C와 함께해 보세요.

 

---

 

컨설팅부터 비즈니스 모델 발굴까지

Digital One, For The Next ｜ SK㈜ C&C

 

#생성형AI #저작권 #AI창작물 #AI저작권 #AI소유권 #AI콘텐츠 #AI안전장치 #챗GPT #이미지생성