M365 Copilot 서비스 구조

마이크로소프트 365 코파일럿 고급 활용법 강좌의 맛보기 강의입니다.

강의 대본

MS M365 Copilot 서비스가 동작하는 기본 서비스 구조에 대해서 알아보도록 하겠습니다. MS M365 Copilot은 대규모 언어모델 생성형 인공지능 서비스와 마이크로소프트 365 앱과 마이크로소프트 그래프 데이터, 그리고 인터넷을 결합한 인공지능 서비스입니다. 이러한 MS M365 Copilot 서비스의 기본 아키텍처에 대해서 알아보도록 하겠습니다. 첫 번째 서비스 시작 단계는 유저 프롬프트라고 표현을 합니다. 사용자가 Word나 M365 앱과 같은 마이크로소프트 365 앱에서 자연어 지시사항인 프롬프트를 입력하면 서비스 처리를 담당하는 코파일럿 레이어 쪽으로 유저 요청이 전송됩니다. 두 번째 단계인 사전 처리 단계에서 코파일럿 레이어는 공유된 지식 자료에 대한 지식 그래프 RAG 기술을 활용해서 뛰어난 응답 결과를 제공할 수 있도록 프롬프트에 대한 사전 처리를 수행합니다. 세 번째 단계인 모디파이드 프롬프트 단계에서 사전 처리 단계에서의 이메일이나 원드라이브 파일들, 일정과 채팅과 같은 사용자 컨텍스트나 지식 자료를 활용해서 응답 품질을 높일 수 있는 모디파이드 프롬프트를 구성해 내고 이렇게 처리된 프롬프트를 생성형 인공지능 서비스 레이어 쪽으로 전달을 합니다. 네 번째 단계에서 코파일럿에서 서비스되는 대규모 언어모델 인공지능 서비스는 전달받은 프롬프트에 대한 응답을 생성해서 코파일럿 레이어 쪽으로 전송을 합니다. 이 단계가 실행된다고 보시면 됩니다. 다섯 번째 단계에서 코파일럿 레이어는 전달받은 응답에 대해서 마이크로소프트 그래프 기술과 시맨틱 인덱스 방식을 활용해서 후처리 작업을 진행합니다. 인공지능 사용 횟수와 같은 응답 로그 같은 결과물을 생성하는 단계로 이해도 좋습니다. 마지막 여섯 번째 단계에서 코파일럿 레이어는 생성형 인공지능 서비스에서 전달받은 응답과 유저 프롬프트를 호출한 앱에 대한 앱 명령어를 M365 앱에 반환하는 방식으로 MS M365 코파일럿 서비스는 동작합니다. 서비스 아키텍처에서 설명드렸던 것 같은 모든 통신 과정에서 모든 요청과 응답은 HTTPS와 WSS를 통해서 암호화된 커뮤니케이션을 진행합니다. M365 서비스 레이어를 통해 전달되는 프롬프트나 응답, 프롬프트 구성에 사용되는 데이터는 마이크로소프트 그래프에서 처리되고 생성형 인공지능 서비스의 학습 모델로 사용되지 않습니다. 이 모든 서비스가 제공되는 MS Azure OpenAI 인프라에서는 책임 있는 AI 작업 정책이 적용되어서 동작합니다. 이 정책은 입력물과 출력 결과물에 대한 책임 있는 AI 사용 정책이 준수됩니다. M365 Copilot Architecture는 이러한 작업 프로세스를 통해 사용자에게 고도로 맞춤화된 응답을 안전하고 신뢰할 수 있는 정책과 데이터를 기반으로 제공되는 매우 안전하면서도 사용자의 작업 효율을 높일 수 있는 매우 독특한 기업용 생성형 인공지능 서비스입니다.

이 강좌의 강의

  • 이 과정의 핵심포인트 정리맛보기
  • 새로운 생산성의 시대맛보기
  • AI is learning
  • Gen AI 지적 수준 추정
  • Copilot 비즈니스 활용 의미
  • MS Bing Chat 사용하기
  • Microsoft M365 Copilot 소개
  • MS M365 Copilot 서비스맛보기
  • Copilot M365 Chat 활용 입문
  • 워드 Copilot 활용 입문
  • 파워포인트 Copilot 활용 입문
  • 아웃룩 Copilot 활용 입문
  • 팀즈 Copilot 활용 입문
  • 루프 Copilot 활용 입문
  • 엑셀 Copilot 활용 입문
  • Copilot이란
  • M365 Copilot 서비스 구조재생 중
  • 인공지능이란맛보기
  • 언어 모델 Gen AI의 이해와 활용
  • 이미지 모델 Gen AI의 이해와 활용
  • 코드 모델을 지원하는 Gen AI 서비스의 이해
  • MS Github Copilot 기반 코드 모델 실무 활용
  • M365 Chat 기반 코드 모델 실무 활용
  • 반드시 알아야 하는 Gen AI 핵심정리
  • 단어 의미를 이해하는 Word Embedding
  • 유의어를 활용할 수 있는 Vector Embedding
  • 문장 전체 문맥 파악이 가능한 Self-attention
  • Copilot 언어 모델 핵심 정리
  • Copilot 프롬프트 엔지니어링 기법 입문
  • 아 다르고 어 다른 Copilot 프롬프트의 세계
  • Copilot 프롬프트 엔지니어링 기법 적용 프롬프트의 이해
  • 지시 프롬프트 엔지니어링 기법
  • 맥락 프롬프트 엔지니어링 기법
  • Copilot 프롬프트 엔지니어링 기본 전략
  • 기본 전략 비법서 활용 방안
  • One-Shot_Few-Shot 프롬프트 엔지니어링 기법
  • COT 프롬프트 엔지니어링 기법
  • 프롬프트 엔지니어링 특수 기호 정리
  • 잘 쓴 프롬프트를 내 것으로
  • 프롬프트 템플릿
  • Copilot 생성형 인공지능 모델
  • 역할 맞춤형 프롬프트 기법
  • 200가지 상황별 Copilot 전문가 구성 비법서
  • M365 Copilot LLM 실행 구조
  • In-Context Learning 기법 활용 전략
  • Copilot 멀티 모달 능력
  • 웹브라우징 능력
  • 마크다운 형식 이해
  • 마크다운 형식 활용 정보 전달 입문
  • 구조화 프롬프트 기법
  • 프롬프트 활용 가능 추가 기호 정리
  • 멀티턴 프롬프트와 싱글턴 프롬프트
  • LLM을 컨설턴트로 활용
  • 문장 이어쓰기 기법
  • 상황 시뮬레이션 컨설팅 기법 - 멀티 페르소나
  • 비정형 데이터 분석_고객 의견 분석
  • 비정형 데이터 분석_직원 의견 분석
  • 정형 데이터 분석_판매 데이터 분석
  • M365 Copilot 제공 서비스 정리
  • 상업적 콘텐츠 작성 실전 비법
  • 업무 처리 목적의 전략적 글쓰기 실전 비법
  • 정부 지원 사업을 위한 제안서 작성 실전 비법
  • 업무 요약 보고서 작성 실전 비법
  • 협업 요청 이메일 작성 실전 비법
  • AI 기반 컨설팅 실전 비법
  • 프롬프트 업무 자동화 실전 비법
  • AI 기반 제품 기획안 작성 실전 비법
  • AI 기반 제품 전략 수립 실전 비법
  • 전략 수립을 위한 Copilot 전략 키워드 비법 활용 방안
  • M365 Copilot 라이선스의 이해와 구독 방법
  • M365 Copilot 대시보드 활용 방안
  • M365 Copilot Lab 활용 방안
  • 생성형 AI로 펼치는 창조의 기적
마이크로소프트 365 코파일럿 고급 활용법
마이크로소프트 365 코파일럿 고급 활용법강좌 자세히 보기