지난 1편에서는 Microsoft Copilot Studio가 무엇인지, 일반적인 생성형 AI와 어떤 차이가 있는지 살펴봤습니다. 또한 조직의 데이터와 업무 시스템을 연결해 특정 목적에 맞는 AI 에이전트를 구축할 수 있다는 점도 함께 알아봤습니다. 이번 2편에서는 한 단계 더 나아가, “그래서 실제로 무엇을 할 수 있나요?”라는 질문에 답해보는 시간을 가지려 합니다.
기업에서 활용하는 AI 에이전트는 단순히 사용자의 질문에 답하는 것만으로는 충분하지 않습니다. 사내 규정이나 업무 매뉴얼과 같은 신뢰할 수 있는 자료를 바탕으로 정보를 제공하고, 필요에 따라 업무 시스템과 연결해 조회나 등록, 전송 등의 작업까지 이어갈 수 있어야 합니다. 사용자가 실제로 이용할 수 있도록 적절한 채널에 게시하고, 운영 과정에서 답변과 실행 결과를 지속적으로 점검하는 과정도 당연히 필요합니다.
Copilot Studio는 이러한 과정을 하나의 환경에서 구성할 수 있도록 지원합니다. 만들고 싶은 에이전트의 역할을 자연어로 설명하고, 답변에 참고할 지식과 실행에 필요한 도구를 연결할 수 있습니다. 완성된 에이전트는 게시 전에 대화와 작업 흐름을 테스트한 뒤 Microsoft Teams, Microsoft 365 Copilot, 웹사이트 등 사용자가 실제로 일하거나 정보를 찾는 채널에 공개할 수 있습니다.
[이미지] Copilot Studio에서 AI 에이전트가 구성되는 기본 구조
(Microsoft 공식 기능을 바탕으로 재구성한 예시)
이번 포스팅에서는 에이전트를 만드는 첫 단계부터 지식과 도구 연결, 역할 설정, 테스트, 게시, 운영까지의 흐름을 기능별로 정리합니다. 각 기능이 어떤 역할을 하는지와 함께 사내 IT 문의를 지원하는 에이전트와 같은 실무 예시도 살펴보겠습니다.
1. 자연어로 AI 에이전트 만들기💬
Copilot Studio에서는 처음부터 복잡한 설정 화면을 구성하지 않아도 됩니다.
에이전트 생성 화면에 안내되어 있는 지침을 참고하여 만들고 싶은 에이전트를 자연어로 설명하면 이를 바탕으로 에이전트의 기본 역할과 구성을 제안받을 수 있습니다. 예를 들어 “사내 IT 문의에 답변하고 필요하면 지원 요청까지 접수하는 에이전트를 만들어 줘” 또는 “인사 규정을 안내하고 휴가 관련 질문에 답하는 에이전트를 만들어 줘”와 같이 일상적인 문장으로 시작할 수 있습니다.
[이미지] 에이전트 생성 화면 (출처: 고우아이티)
에이전트가 생성된 이후에는 이름, 설명, 역할, 답변 방식 등을 세부적으로 조정할 수 있습니다. 또한 어떤 자료를 참고할지, 어떤 업무를 수행할지, 어떤 채널에서 사용할지 등을 추가로 설정하며 조직에 맞는 에이전트로 발전시킬 수 있습니다. 처음부터 모든 기능을 구현하기보다는 특정 업무 하나를 해결하는 작은 에이전트부터 시작하면 테스트와 개선도 수월합니다.
이러한 방식은 기존의 챗봇 개발과 비교했을 때 진입 장벽을 크게 낮춰 줍니다. 과거에는 대화 흐름이나 기능을 직접 설계해야 했다면, 이제는 먼저 업무 목적을 설명한 뒤 세부 내용을 다듬어 가는 형태로 에이전트를 구축할 수 있습니다. 개발자가 아닌 현업 담당자도 AI 에이전트의 초안을 빠르게 만들고 검토할 수 있는 것이죠.
🪄 에이전트 활용 예시
2. 회사 자료를 연결해 더 정확하게 답하기📚
에이전트가 조직에 맞는 답변을 제공하기 위해서는 답변의 근거가 되는 자료가 필요합니다. 아무리 성능이 뛰어난 AI라도 회사 내부 규정이나 업무 절차, 운영 정책과 같은 조직 고유의 정보를 처음부터 알고 있는 것은 아닙니다.
Copilot Studio에서는 이와 같은 문제를 해결하기 위해 지식(Knowledge) 기능을 제공합니다. 사용자는 에이전트가 참고할 문서나 웹사이트를 연결하여 답변의 근거로 활용할 수 있으며, 이를 통해 조직에 맞는 보다 정확한 정보를 제공할 수 있습니다.
앞서 생성한 Teams 문의 지원 에이전트에 Microsoft Teams FAQ 문서를 연결한다고 가정해 보겠습니다. 사용자가 Teams 실행 오류, 게스트 초대 방법, 조직도 설정, 일정 관리와 같은 질문을 하면 에이전트는 연결된 FAQ 문서를 참고하여 답변할 수 있습니다. 단순히 인터넷에서 일반적인 정보를 찾는 것이 아니라, 조직에서 제공하는 문서를 기반으로 응답하기 때문에 보다 일관된 안내가 가능합니다.
[이미지] 에이전트 ‘지식’ 기능 (출처: 고우아이티)
지식 기능은 에이전트가 조직의 정보를 이해하고 활용할 수 있도록 돕는 핵심 기능 중 하나입니다. 따라서 AI 에이전트를 구축할 때는 어떤 문서를 연결할 것인지, 최신 정보가 지속적으로 반영되고 있는지를 함께 고려하는 것이 중요합니다.
3. 안내를 넘어 실제 업무까지 처리하기⚙️
회사 자료를 연결하면 AI 에이전트는 조직의 정보를 기반으로 보다 정확한 답변을 제공할 수 있습니다. 하지만 실제 업무 환경에서는 정보를 안내하는 것만으로는 충분하지 않은 경우가 많습니다. 답변을 확인한 후 별도의 시스템에 접속해 요청을 등록하거나, 담당자에게 문의하거나, 추가 작업을 수행해야 하는 경우가 많기 때문입니다.
Copilot Studio는 에이전트에 다양한 도구(Tools)를 연결하여 정보를 안내하는 것에 그치지 않고 외부 시스템과 연동하여 후속 업무를 이어갈 수 있습니다.
[이미지] 에이전트 ‘도구’ 기능 (출처: 고우아이티)
만약 Teams FAQ 지원 에이전트에 서비스 데스크 시스템을 연결했을 경우, 사용자가 단순히 오류 해결 방법을 확인하는 데서 끝나는 것이 아니라, 문제 해결이 어려운 경우 지원 요청까지 이어질 수 있습니다.
📌 대화 예시
👤 사용자 : Teams 실행 시 1200 오류가 발생합니다.
🤖 AI 에이전트 : Teams 앱 초기화 또는 캐시 삭제를 먼저 시도해 보시기 바랍니다.
👤 사용자 : 그래도 해결되지 않습니다.
🤖 AI 에이전트 : IT 지원 요청을 등록하시겠습니까?
이처럼 AI 에이전트는 답변 제공과 업무 실행을 하나의 흐름으로 연결할 수 있습니다.
도구 기능은 Microsoft 365 서비스는 물론 다양한 업무 시스템과의 연동도 지원합니다. 이를 활용하면 단순 문의 대응 외에도 반복적으로 수행되던 업무를 자동화할 수 있습니다.
[이미지] 다양한 업무 시스템과의 연동을 지원하는 ‘도구’ 기능 (출처: 고우아이티)
또한, 필요에 따라 여러 단계의 작업을 순차적으로 수행하는 ‘에이전트 플로우(Agent Flow)’도 구성할 수 있습니다. 에이전트 플로우는 사용자의 요청에 따라 정보를 조회하고, 필요한 작업을 수행한 뒤 결과를 전달하는 업무 흐름을 설계하는 기능입니다. 중요한 승인이나 민감한 작업의 경우에는 검토 단계를 추가하여 사용자가 직접 확인하도록 구성할 수 있습니다.
4. 에이전트의 역할과 답변 방식 정하기🎯
에이전트가 좋은 답변을 하려면 역할과 기준을 분명하게 정의해야 합니다. Copilot Studio에서는 기술(Instructions) 기능으로 에이전트의 역할과 답변 방식을 설정할 수 있습니다. 어떤 질문에 답변해야 하는지, 어떤 자료를 우선 참고할지, 답변은 어떤 어조로 작성할지 등 다음과 같은 내용을 포함합니다.
[이미지] 에이전트의 기술(지침) 생성 (출처: 고우아이티)
5. 게시 전, 에이전트 동작 테스트하기✅
에이전트를 생성하고 필요한 설정을 완료했다면 실제 사용 환경에 배포하기 전에 동작을 확인할 수 있습니다.
Copilot Studio의 미리 보기 기능을 활용하면 사용자가 질문하는 것과 동일한 방식으로 대화를 진행하며 응답 결과를 볼 수 있습니다. 테스트 과정에서는 다음 항목을 확인하는 것이 좋습니다.
✔️ 질문에 정확한 답변을 제공하는지
✔️ 연결한 지식을 올바르게 활용하는지
✔️ 설정한 역할과 범위를 벗어난 답변을 하지 않는지
✔️ 연결한 도구와 에이전트 플로우가 정상적으로 동작하는지
뿐만 아니라 지식, 도구, 기술 항목을 수정한 이후에 결과를 바로 확인할 수 있어 에이전트를 원하는 형태로 빠르게 개선할 수 있습니다. 실제 배포 전에 미리 보기로 충분히 검증하면 보다 안정적인 에이전트를 운영할 수 있습니다.
[이미지] 에이전트 ‘미리 보기’ 기능 (출처: 고우아이티)
6. 에이전트 게시하기🚀
완성된 에이전트는 Teams, Microsoft 365 Copilot, 웹사이트 등 다양한 채널에 게시(배포) 가능합니다. 게시 후에는 사용자가 별도의 Copilot Studio 화면에 접속하지 않아도 평소 업무에 사용하는 환경에서 에이전트와 상호 작용할 수 있습니다.
중요한 것은 채널의 수가 아닌 사용자가 실제로 업무를 하는 환경입니다. 사내 문의 에이전트의 경우, Teams나 Microsoft 365 환경이 편리하고, 고객 문의는 웹사이트가 더 적합할 수 있습니다. 에이전트를 게시하기 전에는 로그인 방식과 정보에 접근할 수 있는 범위도 사전에 확인해야 합니다.
[이미지] 에이전트를 게시할 채널 선택하기 (출처: 고우아이티)
7. 에이전트 운영 및 모니터링하기📊
에이전트를 게시했다고 해서 모든 과정이 끝나는 것은 아닙니다. 실제 사용자들이 어떤 질문을 하는지, 에이전트가 적절한 답변을 제공하고 있는지 지속적으로 확인하고 개선하는 과정도 중요합니다.
Copilot Studio에서는 모니터(Monitor) 기능을 통해 에이전트의 사용 현황과 상호 작용 결과를 확인할 수 있습니다. 이 기능으로 어떤 질문이 자주 발생하는지, 답변 품질을 개선해야 할 부분은 없는지 점검할 수 있습니다.
에이전트를 만드는 것뿐만 아니라 운영 이후의 관리와 개선까지 지원하여, 조직의 업무 환경 변화에 맞춰 AI 에이전트를 지속적으로 발전시킬 수 있도록 돕습니다.
[이미지] 게시한 에이전트의 모니터링 화면 (출처: Microsoft)
FAQ | Copilot Studio 기능 관련 자주 묻는 질문
Q1. Copilot Studio는 개발 지식이 없어도 사용할 수 있나요?
네. Copilot Studio는 자연어 기반 생성과 시각적인 설정 환경을 제공하기 때문에 전문 개발자가 아니어도 AI 에이전트를 만들 수 있습니다.
또한 지식(Knowledge), 도구(Tools), 기술(Instructions) 등을 단계적으로 추가하며 에이전트를 구성할 수 있습니다.
Q2. Copilot Studio에서 어떤 문서를 지식으로 연결할 수 있나요?
사내 FAQ, 업무 매뉴얼, 운영 가이드, 규정집 등 다양한 문서를 연결할 수 있습니다.
에이전트는 연결된 자료를 참고하여 사용자의 질문에 답변하며, 조직에 맞는 정보를 보다 정확하게 제공할 수 있습니다.
Q3. AI 에이전트는 답변만 할 수 있나요?
아닙니다. Copilot Studio에서는 도구(Tools)와 에이전트 플로우(Agent Flow)를 활용해 업무 시스템과 연동할 수 있습니다.
이를 통해 정보 안내뿐만 아니라 요청 등록, 데이터 조회, 알림 전송 등 다양한 업무를 지원할 수 있습니다.
Q4. 에이전트를 게시한 후에도 수정할 수 있나요?
네. 운영 중에도 지식, 도구, 기술(Instructions) 설정을 수정할 수 있으며, 사용 현황을 확인하면서 지속적으로 개선할 수 있습니다.
새로운 문서를 추가하거나 답변 기준을 변경하는 것도 가능합니다.
이번 포스팅에서는 Copilot Studio를 활용해 AI 에이전트를 만드는 과정을 살펴보았습니다. 자연어로 에이전트를 생성하고, 회사 자료와 업무 시스템을 연결한 뒤, 역할을 정의하고 게시하는 과정까지 하나의 환경에서 구성할 수 있다는 점이 Copilot Studio의 큰 특징입니다.
특히 AI를 단순한 질의응답 도구가 아닌 업무 지원 도구로 활용하려는 기업이라면, 조직의 지식과 프로세스를 반영한 AI 에이전트 구축이 중요한 과제가 되고 있습니다. Copilot Studio는 이러한 요구에 대응할 수 있는 플랫폼으로, 다양한 부서와 업무 환경에 맞는 맞춤형 AI 에이전트를 설계하고 운영할 수 있도록 지원합니다.
다음 3편에서는 Copilot Studio를 실제 업무에 어떻게 적용할 수 있는지, 그리고 도입 전 확인해야 할 운영·보안 사항을 사례 중심으로 소개해 드리겠습니다. 우리 조직의 업무에 맞는 AI 에이전트 도입을 고민 중이시라면 아래 상담 문의를 통해 고우아이티의 전문 컨설턴트와 함께 확인해 보시기 바랍니다.
