[KT AIVLE] IT 트렌드 · DX 스터디 1회차 KT 초거대 AI Mi:dm

초거대 AI(Large AI)

• 딥러닝 알고리즘 기반 대규모 데이터를 사전 학습하여 다양한 작업에 활용할 수 있는 AI 모델, 혹은 *LLM입니다.
  • LLM(Large Language Models: 대규모 언어 모델) - EX) ChatGPT
• 기존 모델은 학습된 범위 내에서 설계된 목적으로만 답변할 수 있어서 목적에 따라 개별의 데이터 수집/학습/추론이 필요하기 때문에 시간과 비용이 많이 발생하는 단점이 존재합니다.
• 초거대 AI는 방대한 양의 데이터를 학습 하고 하나의 모델로 여러가지 업무들을 동시에 수행하여 기존 AI에서 발생하는 시간, 비용적인 문제 해결할 뿐만 아니라 적은 양의 예제와 데이터만으로 더욱 복잡하고 광범위한 서비스에 활용할 수 있습니다.

 

 

초거대 AI 믿:음(Mindful Intelligence that Dialogues, Empathizes, Understands, and Moves)

• 2023년 출시
• 초거대 AI 대중화 시대를 위해 나만의 모델을 필요로 하는 기업고객(B2B)이 쉽고 편리하게 적용할 수 있는 맞춤형 초거대 AI
• KT는 믿:음을 통해 글로벌, 제조, 금융, 공공, 제조 등 영역에 AI B2B 사업을 본격화하고 있습니다

KT의 AI B2B 사업 본격화

• 또한, 믿:음의 Foundation Model(FM)을 개방해서 기업들이 Fine-Tuning을 거쳐 다양하고 자유롭게 AI 응용 서비스를 만들 수 있도록 지원하고 있습니다. 이를 위해 KT 믿:음 Studio라는 전용 포털을 오픈하였습니다.

Foundation Model(FM) 개방

 

초거대 AI 믿:음 기술적 특징

• 맞춤형, 신뢰성, 편리성, 효율성

기술적 특징

 

환각현상 최소화 

• Document AI, Search AI, FactGuard AI 기술들을 사용해 환각현상을 일반 생성형 AI 대비 70퍼센트 줄였습니다.
  • 환각현상(Hallucination): AI가 사실과 다르거나 주어진 맥락과 무관한 결과물을 생성하는 현상
• Document AI: 표나 도식화 되어있는 문서를 자동으로 읽고, 이해하고 분석하는 기술
• Search AI: 목표 도메인/문서에 맞춤화된 최적의 검색 기능
• FactGuard AI: 원문에 근거하여 신뢰성 있는 답변 생성

 

사례1

상담 요약 솔루션

• 초거대 AI를 활용해 기존대비 상담 의도 파악 및 요약 정확도 증가

최적 답변 솔루션

• 3가지 답변 추천을 통해 빠르고 원활한 상담 지원(적중률 기반)

 

사례2

뉴스 기사 초안 생성

• 뉴스 기사 초안 생성에 특화된 모델 기반 AI 기사 생성 어시스턴트 솔루션 제공

 

느낀 점

 

대기업뿐만 아니라 스타트업까지 초거대 AI 시장이 확산되며 빠르게 DX가 이루어지고 있다. DX 컨설턴트로서는 이러한 혁신적인 기술에 대한 이해와 전문성을 갖추는 것이 중요하다고 다시 한번 느꼈고 기존의 업무 프로세스와 혁신적인 기술 간의 연결고리를 찾고, 적절한 기술을 도입하고 활용하는 능력이 요구됨을 깨달았다.

 

또한, 새로운 기술과 트렌드를 학습하고, 이를 실제 프로젝트에 적용하여 최신 기술을 활용하는 데에 있어서 지속적인 학습과 높은 적응력이 필수라고 생각했다. 

 

 

 

자료 출처: KT Enterprise 유튜브, 홈페이지

https://www.youtube.com/watch?v=e8GHdhvd_0w&t=856s

https://enterprise.kt.com/pd/P_PD_NE_00_316.do#kt_pc_%EC%84%9C%EB%B9%84%EC%8A%A4%20%EC%86%8C%EA%B0%9C

초거대 AI 믿음 | KT Enterprise