생성형 AI가 등장한 이후 다양한 비즈니스 분야에서 생성형 AI를 활용한 업무가 일상화되었습니다. 특히 생성형 AI는 다양한 데이터 처리에 효과적이어서 이메일, 동영상, 보고서 등과 같은 다양한 형태의 비정형 데이터를 분석하고 사용자가 이해하는데 큰 도움을 주고 있습니다. 따라서 생성형 AI는 비정형 데이터가 많이 활용되는 금융업계에서 활용도가 높을 것으로 예상되며, 전반적인 업무 역량을 향상시키기 위해 많은 금융업계에서 생성형 AI의 도입을 고려하고 있습니다.

  은행은 과거부터 현재까지 금융상품 정보, 업무 규정 및 가이드, 공문 등과 같은 다양한 업무 정보를 생성하고 축적해왔습니다. 뿐만 아니라 온라인 뱅킹, 챗봇 등의 대고객 서비스를 통한 고객과의 상호작용으로 다량의 비정형 데이터가 계속해서 생성되고 있습니다. 끊임없이 늘어나는 방대한 데이터는 고객에게 유의미한 정보를 제공하는데 도움되지만, 이를 사람이 직접 축적하고 관리한다면 한계가 생기기 마련입니다. 그래서 금융업계는 비정형 데이터 관리 업무에 생성형 AI를 도입하게 될 경우 데이터 관리/분석/활용이 용이하여 직원은 고객 서비스에 집중할 수 있어, 결과적으로 은행의 경쟁력을 강화하는 데 도움이 될 것으로 보았습니다.

 

 

Challenges : 비정형 데이터 통합 관리 시스템의 부재로 생성형 AI 도입 불가능

  W은행은 업무 효율성을 높이고 고객 서비스에 집중하기 위해 생성형 AI를 도입하려 했으나, 내부적으로 비정형 데이터를 수집하고 운영 및 관리를 담당하는 데이터 통합 관리 시스템이 없었습니다. 이는 생성형 AI의 비정형 데이터 활용에 영향을 주었으며, 업무 프로세스 최적화에 어려움을 초래하여 생성형 AI의 도입이 불가능해지는 상황까지 연결됐습니다.

  그래서 W은행은 SK㈜ C&C와 협업하여 생성형 AI를 도입하기 위해 은행 내 시스템에 분산되어 있는 비정형 데이터를 효율적으로 활용할 수 있도록 비정형 데이터 관리 시스템을 구축하기로 결정했습니다. 또한 축적된 비정형 데이터를 활용하여 고객들과 소통할 수 있는 새로운 시스템을 개발하기로 결정했습니다.

 

 

Solutions : Accu.TA를 활용한 비정형 데이터 확보와 생성형 AI 시스템 구축

  W은행은 분산되어 있는 비정형 데이터를 정리하여 생성형 AI를 도입하기 위해 비정형 데이터 자산화를 진행할 필요가 있었습니다. 그래서 W은행은 SK㈜ C&C가 자체 개발한 자연어 처리 기술인 Accu.TA를 활용했습니다.

 

Accu.TA의 생성형 AI를 활용한 비정형 데이터 자산화

  Accu.TA 솔루션은 다양한 AI 검색 엔진과 생성형 AI 모델을 통해 비정형 데이터를 처리 및 활용할 수 있게 도움을 주는 시스템입니다. 이는 AI 엔진의 검색 모델과 답변 생성 모델 등을 기반으로 비정형 데이터를 빠르게 수집, 분석, 가공할 수 있게 도와줍니다.

  W은행은 비정형 데이터 자산화를 위해 Accu.TA 솔루션을 통한 데이터 전처리 과정을 거쳤습니다. 데이터 전처리 과정에는 원천 데이터 수집을 통한 원천별 전처리, 메타정보 추출, 비식별 및 암호화 과정이 있습니다. 이후 AI 문단분리를 진행하고 데이터를 학습 가능한 형태로 변형하여 비로소 비정형 데이터를 자산화 한 지식 데이터 베이스를 확보할 수 있게 되었습니다.

  W은행은 Accu.TA의 자연어처리를 활용하여 비정형 데이터를 구분하는 자산화 시스템을 3단계로 구성했습니다. 구체적으로 통합/정제된 형태로 데이터를 집중화 구축하는 수집 단계, AI를 활용하여 정보를 세분화하고 연결을 통해 구조화하는 가공 단계, 마지막으로 키워드나 의미 단위로 인덱싱해서 데이터 색인화를 구축하는 정보화 단계로 구성했습니다. 그 결과, 다양한 소스에서 생성되는 비정형 데이터를 자동으로 수집하고 통합하여 효율적으로 관리할 수 있게 되었습니다.

 

 

Accu.TA를 활용한 정확도 높은 생성형 AI 학습 시스템 구축

  W은행은 Accu.TA를 비정형 데이터 분류에 활용하는데 그치지 않고, 고객 중심 AI 서비스 구성에도 적극적으로 활용했습니다. 먼저 은행내에 존재하는 수많은 비정형 데이터를 학습 가능한 형태로 만들고, 이 데이터를 활용한 검색 모델 및 생성형 모델을 학습하여 서비스하는 체계를 만들었습니다. 그리고 분석을 통해 도출한 AI 추천모델을 적용하여 고객 서비스를 진행하고, 소통을 통해 나타난 결과를 다시 분석하여 AI 모델에 학습시켰습니다. 이로써 매일 생산되는 새로운 비정형 데이터를 지속적으로 학습하여 성능을 고도화할 수 있는 AI 모델 구조를 구성했습니다.

 

 

Benefits : Accu.TA의 생성형 AI 활용으로 업무 효율 및 고객 만족도 향상

  W은행은 SK㈜ C&C의 Accu.TA 솔루션을 업무 환경에 적용함으로써 자연어로 이루어진 비정형 데이터에서 필요한 키워드와 문장을 추출할 수 있게 되었습니다. 또한 문장과 문단의 분리, 오탈자 교정 등의 데이터 전처리 과정을 통해 신뢰성 있는 데이터를 확보할 수 있었습니다. 확보한 데이터를 바탕으로 요약 및 분류를 비롯해 문맥 분석까지 가능했기에 사용자가 원하는 정보를 빠르고 정확하게 찾을 수 있어 업무 효율이 향상되는 효과가 있었습니다.

  이처럼 Accu.TA 솔루션은 각기 다른 비정형 데이터들의 통합을 원활하게 진행하고, 사용환경과 보유 데이터에 맞는 최적의 방안을 컨설팅하여 고객 데이터 활용의 사전훈련 모델부터 학습가능한 구조까지 제공합니다.

  W은행은 이에 그치지 않고 Accu.TA의 생성형 AI를 활용하여 질문생성기를 통해 질문과 답변을 학습하는 데이터 처리 형식을 구성했습니다. 그리고 답변의 오차를 줄여주는 DPR(Dense Passage Retriever)을 활용하여 높은 적합성을 가진 문서를 찾아낼 수 있도록 조정했습니다. 그 결과, 신뢰할 수 있는 정확한 정보를 제공하는 AI 검색 서비스와 생성형 AI를 활용한 지식상담 서비스를 오픈하여 직원의 업무 환경을 개선하고 고객의 만족도를 향상시켰습니다.

  무엇보다도 눈 여겨 볼 부분은 W은행이 고객 중심의 통합 관리 시스템을 구축하면서 SK㈜ C&C의 생성형 AI 모델을 내재화하여 고객 서비스 이용의 편의성을 높였다는 것입니다. 언어모델과 알고리즘을 조합하여 지속적인 모델 학습이 가능한 생성형 AI 서비스를 제공함으로써 고객의 요구사항을 충족시켰습니다.

 

데이터 활용의 혁신을 SK㈜ C&C가 지원해드리겠습니다

  SK㈜ C&C와 W은행이 협업하여 개발한 생성형 AI 서비스는 Accu.TA의 AI 엔진을 활용하여 사용자들이 바라는 답변에 적합한 문서를 제공함으로써 기존 생성형 모델의 한계점인 환각현상을 보완할 수 있었습니다. 이는 오랜 기간 축적되어 있는 데이터를 효율적인 통합 관리 시스템에 적용한 덕분입니다. 금융산업은 방대한 데이터를 보유하고 있는 산업인 만큼 앞으로도 데이터의 효율적인 관리가 더욱 중요해질 것으로 보입니다.

  AI를 활용한 검색 시스템과 지식상담 서비스는 앞으로 금융권을 넘어 다양한 산업영역에서 업무 효율을 향상시켜줄 것으로 기대하고 있습니다. 데이터 관리 시스템이 부족해서 통합 관리가 어려운 상황이라면 SK㈜ C&C와 함께해보세요. SK㈜ C&C가 전반적인 업무 혁신을 지원할 수 있도록 디지털 ITS 파트너의 역할을 다하겠습니다.

 

---

 

컨설팅부터 비즈니스 모델 발굴까지

Digital One, For The Next ｜ SK㈜ C&C

 

 

#생성형AI #AccuTA #비정형데이터 #데이터통합관리시스템 #AI검색서비스 #AI지식상담서비스 #자연어처리솔루션