마이크로소프트 365에 날개를 달아주는 생성형 AI

전문가 컨설팅 통한 빠르고 정교한 진단·구축 지원

이미 너무나 놀라운, 그래서 더욱 비현실적으로 느껴지는 변화가 우리 일터에서 일어나고 있습니다. 마이크로소프트의 혁신적인 AI 서비스, 마이크로소프트 365용 코파일럿(Copilot for Microsoft 365)을 활용하면 1시간 걸린 작업을 약 16분만에도 처리할 수 있는데요. 이렇듯 마이크로소프트 365용 코파일럿은 단순한 AI 챗봇이 아닌, 사용자의 업무 효율성을 극대화하고 시간을 절약해주는 든든한 비서 역할을 수행해 줍니다.

최근 마이크로소프트는 엔터프라이즈 사용자를 대상으로 한 설문조사 결과를 발표했습니다. 응답자의 73%가 “코파일럿이 작업을 신속하게 끝내도록 도와줬다”고 응답했으며, 응답자의 85%가 “질 좋은 초안을 작성하는 데 도움이 됐다”고 답했는데, 대다수의 사용자가 서비스 활용 성과에 대해 긍정적임을 알 수 있습니다.

이번 글에서는 마이크로소프트 365용 코파일럿의 강력한 기능과 장점을 소개하고, 기업의 업무 환경에 맞는 최적의 AI 서비스 선택을 위한 가이드를 말씀드리겠습니다. 그 이후에 마이크로소프트 365용 코파일럿 도입 시 고려해야 할 사항들을 자세히 살펴보고, 성공적인 도입을 위한 방안까지 함께 살펴보도록 하겠습니다.

도입을 위한 준비

Challenge 1. 도입 타당성 검토

실제 업무에서의 효과 측면

많은 기업들이 AI 서비스 도입의 실질적인 효과에 대한 기대와 함께 우려 또한 가지고 있습니다. 실제로 업무에 활용했을 때 기대하는 만큼의 성과를 얻을 수 있을지, 풍부한 성능들을 온전히 활용할 수 있을지와 같은 부분들입니다. 마이크로소프트 365용 코파일럿은 다양한 실제 업무 환경에서 검증된 서비스이지만, 도입 전에 충분한 시범 사용을 통해 자사의 업무에 적합한지 꼼꼼하게 검토하는 것이 중요합니다.

데이터 보안 측면

AI 서비스를 도입하면서 발생할 수 있는 또 다른 우려는 한 개인의 문서 내용 중 일부가 다른 동료에게 의도하지 않게 공유되는 않을까 하는 우려입니다. 마이크로소프트 365용 코파일럿은 LLM뿐만 아니라 조직 내부의 데이터를 기반으로 작동을 하니 무엇보다 정보에 대한 액세스 권한에 대한 부분이 재정비 되어 혹시라도 발생할 수 있는 정보의 보안 사고가 발생하지 않도록 재정비해야 합니다.

Challenge 2. 어떤 서비스를 선택할 것인가?

현재 시장에는 다양한 AI 서비스가 존재하며, 각 서비스마다 고유한 기능과 장점을 가지고 있습니다. 따라서, 기업은 자사의 업무 환경과 필요에 맞는 최적의 서비스를 선택해야 합니다. 마이크로소프트 365용 코파일럿 외에도 챗GPT 등 다양한 AI 서비스를 비교 분석하여 신중하게 선택하는 것이 중요합니다.

챗GPT vs 코파일럿

시장의 가장 대표적인 두 서비스를 비교 분석해보며, 어떤 서비스가 비즈니스 환경에 가장 적합할지 살펴보겠습니다.

1. 챗GPT (Chat GPT)

OpenAI가 개발한 챗GPT는 인터넷상의 다양한 텍스트를 포함하는 광범위한 데이터셋을 학습하여 다양한 분야의 질문에 응답을 할 수 있는 GPT(Generative Pre-trained Transformer) 엔진에 기반을 둔 AI 서비스입니다.

GPT 모델의 학습 방식은 인간인 레이블러(labeler) 혹은 트레이너(Trainer)로부터 끊임없이 피드백을 받아서 학습 과정을 개선하고 인간 친화적인 답변을 내놓도록 유도합니다.

챗GPT는 AI 대중화를 이끈 가장 많이 알려진 서비스입니다. 쉽고 재미있는 인터페이스를 통해 누구나 쉽게 접근할 수 있다는 장점이 있지만, 주로 개인적인 용도로 사용되는 서비스이기 때문에, 실제 업무에서 사용하는 다양한 애플리케이션과의 호환성이 떨어집니다. 또한, 업무에 최적화된 기능이 부족하여 실제적인 효과를 기대하기 어렵습니다.

2. 마이크로소프트 365용 코파일럿 (Copilot for Microsoft 365)

마이크로소프트 365용 코파일럿은 거대언어모델(Large Language Model; LLM)과 Microsoft Graph를 활용하여 마이크로소프트 365 앱들로부터 데이터를 전처리하여 업무 프로세스를 자동화하고, 데이터 분석을 지원하며, 사용자 맞춤형 정보를 제공하는 AI 기반 어시스턴트입니다.

챗 GPT와의 가장 큰 차이점은 바로 보안 리스크입니다. 챗 GPT는 최종 사용자가 입력하는 데이터가 외부 LLM에서 학습되기 때문에, 기업 데이터의 유출 가능성이 매우 큽니다. 보통 기업들이 챗 GPT의 업무 활용을 꺼리는 이유입니다.

반면 마이크로소프트 365용 코파일럿은 이러한 우려들을 해소하도록 설계된 솔루션입니다. 여타 AI 솔루션과는 달리 Microsoft 365 코파일럿은 외부의 LLM을 사용하는 것이 아니라 Microsoft 365 서비스 내에 배포된 LLM을 사용하고 모든 데이터는 암호화되어 처리가 됩니다.

마이크로소프트 365용 코파일럿만의 차별점

1. 데이터 유출의 위험 없는 안전한 AI

마이크로소프트 365용 코파일럿의 강점으로는 마이크로소프트 365 서비스에서 관리하고 있는 데이터가 외부로 유포될 리스크가 없다는 점입니다. 외부 마이크로소프트 365 서비스 영역에 위치한 LLM 서버는 마이크로소프트 365고객 테넌트에 위치한 Microsoft Graph로부터 전처리 된 데이터를 기반으로 한 질의를 받고 자연어로 응답을 하는 역할을 할 뿐입니다. 여기서 전처리란 최종 사용자가 마이크로소프트 365용 코파일럿이 탑재된 마이크로소프트 365에서 프롬프트 형태로 질의를 던질 시에 Microsoft Graph가 사용자 데이터에 대해서 수행하는 인덱싱, 시맨틱 검색, 프롬프트 가공 등 일련의 과정을 의미합니다.

2. 업무 시간 단축, 생산성 향상을 통한 비즈니스 성과 달성

Fortune 선정 500대 기업 중 60% 이상이 작업 능률 향상을 목적으로 마이크로소프트 365를 도입한 사실만 놓고 보더라도 코파일럿이 결합된 마이크로소프트 365는 비즈니스 생산성 솔루션 시장에서 독보적인 존재라는 사실을 알 수 있습니다. 기존에 마이크로소프트 365를 도입하여 사용하는 조직은 마이크로소프트 365용 코파일럿의 질의응답 기능을 활용해 사무작업에 있어 마이크로소프트 365앱의 활용도를 획기적으로 높일 수 있습니다.

3. 직관적이고 사용하기 쉬운 인터페이스로 업무 환경 개선

마이크로소프트는 마이크로소프트 365용 코파일럿을 사용하여 놓친 회의 내용 따라잡기와 같은 작업을 처리한 사용자 그룹이 그렇지 않은 실험군에 비해서 26.2% 만큼의 시간만 들이고서 일을 완수했으며, 그 외 일반적인 작업에 대해서도 코파일럿은 작업시간을 29.4% 절약했다는 실험 결과를 발표했습니다. 이렇듯 마이크로소프트는 자체 연구를 통해 마이크로소프트 365용 코파일럿이 작업환경에 미치는 긍정적 효과를 정량적으로 입증하였습니다.

4. 사용자 피드백 반영 및 최신 기능 제공으로 지속적인 발전

마이크로소프트 365용 코파일럿은 전세계에 분포한 마이크로소프트 365 사용자들로부터 들어오는 피드백을 기반으로 매월 업데이트를 실시하여 작업자의 요구를 즉각 반영하고 워크플로의 일부에 융화되도록 서비스를 발전시키고 있습니다. 마이크로소프트 365용 코파일럿 월별 업데이트는 마이크로소프트 365 앱별 사용자 니즈를 바탕으로 한 기능 및 프롬프트 개선이 주를 이룹니다.

5. 전문가 코칭, 성공적인 AI 도입을 위한 필수 요소

혁신적인 AI 도구인 마이크로소프트 365용 코파일럿은 업무 효율성을 극대화하고 시간을 절약할 수 있도록 지원하지만, 성공적인 도입을 위해서는 사전 검토와 전략 수립이 필수적입니다.

따라서 반드시 전문가의 상담 및 컨설팅을 통해 기업의 업무 환경을 분석하고, 적합한 서비스 선택 및 도입 전략 수립, 사용자 교육 등을 지원받아야 할 것입니다. 신중한 검토와 전략적인 도입을 통해 기업은 마이크로소프트 365용 코파일럿의 장점을 최대한 활용하고 실질적인 효과를 얻을 수 있습니다.

참고자료:

1. RLHF 인간 피드백 기반 강화학습 개념 및 Diffusion에 RLHF 방법론 적용
   https://eehoeskrap.tistory.com/752 
2. Copilot for Microsoft 365: A Comprehensive End-user Training Plan for Organizations
   https://www.theseus.fi/handle/10024/852578
3. Latest updates for Microsoft Copilot
   https://support.microsoft.com/en-au/topic/latest-updates-for-microsoft-copilot-a5685141-8081-458c-80d6-42493aad51ed
4. Early LLM-based Tools for Enterprise Information Workers Likely Provide Meaningful Boosts to Productivity
   https://www.microsoft.com/en-us/research/publication/early-llm-based-tools-for-enterprise-information-workers-likely-provide-meaningful-boosts-to-productivity/
5. Microsoft solutions boost Fortune 500 frontline productivity with next-generation AI
   https://blogs.microsoft.com/blog/2023/08/09/microsoft-solutions-boost-fortune-500-frontline-productivity-with-next-generation-ai/ 
6. MICROSOFT COPILOT VS CHATGPT – A COMPARATIVE ANALYSIS
   https://redresscompliance.com/microsoft-copilot-and-chatgpt-a-comparative-analysis/#:~:text=Origin%3A%20Copilot%20is%20developed%20by,is%20versatile%20across%20various%20platforms.
7. Microsoft New Future of Work Report 2023
   http://aka.ms/nfw2023pdf
8. 2023 국내 AI 도입 및 활용 현황 조사
   https://www.samsungsds.com/kr/insights/2023-ai-survey.html 
9. Bayer employees discover productivity and collaboration benefits using generative AI and Microsoft Copilot
   https://customers.microsoft.com/en-us/story/1703594261178267318-bayer-microsoft-copilot-germany 
10. KPMG to revolutionize productivity with Microsoft Copilot for Microsoft 365
    https://customers.microsoft.com/en-us/story/1749522406496386350-kpmg-microsoft-365-copilot-professional-services-en-united-states
11. McDonald’s China transforms its operations, elevates service levels with Azure AI
    https://customers.microsoft.com/en-us/story/1749886282579475320-mcdonalds-china-azure-retailers-en-china
12. 경영진 10명 중 7명 "AI 못 쓰면 안 뽑아"...AI와 일할 준비되셨습니까?

https://www.techm.kr/news/articleView.html?idxno=124631