소개
AI 에이전트를 실무에 도입하기 위해 필요한 개념과 파이프라인 설계에 대해 정리했습니다.
Written By CursorMatfia.
AI를 활용한 개발업무프로세스 최적화에 관심있다면, 아래 홈페이지로 연락 부탁드립니다. 🙇
AI 도입, 무엇이 문제인가?
- "AI 활용 중요한 것 같은데.. 모든 직원들한테 가르쳐야할까?"
- "강제로라도 시켜야할까? 교육은 어떻게 해야할까?"
- "ChatGPT/Cursor 결제해주면 괜찮은걸까?"
많은 회사들이 지금 이런 고민을 하고있습니다.
AI로 생산성을 N배 향상했다. 리소스를 N0% 절감했다는 말은 많지만,
사실 제대로 활용하지못하고, 단순 질문응답용도로만 사용하는 회사가 대부분입니다.
아까운 AI 구독료만 지출되고 있는거죠.
AI 도입, 단순 ‘도구 활용’이 아닙니다.
AI를 사용할때는, 지금까지 다뤄온 유용한 도구/유틸리티와는 다르게 접근해야합니다.
이는 바로 AI의 효용이 ‘생산성 향상’이 아닌, ‘지적 노동 대체’에서 나오기 때문입니다.
AI 에이전트를 실제로 사용해본 분들이라면 공감하실겁니다.
AI 에이전트는 우리가 지금껏 사용해온 도구들처럼 빠르고 정확하지 않습니다. 하나의 요청을 10분동안 수행하기도하고, 실수도 많이 합니다.
결론적으로 우리는 AI를 도구로서 활용하기보다,
협업가능한 팀원으로서 ‘잘 가르치기’ 위해 노력해야합니다.
이 방법을 자세하게 소개해보겠습니다.
AI 팀원을 똑똑하게 만드는 3가지 방법
사실 AI를 가르치는 것은 사람과 아주 비슷합니다.
가장 큰 차이점은 알아서 학습하지 않는다는 것입니다.
그래서 필요한 것을 잘 정리하고 지시해줄 필요가 있습니다.
1. Context Engineering
AI가 참조할 수 있는 배경지식을 주입하는 것입니다.
신입사원은 이 과정을 알아서합니다.
회사의 성향, 상사가 원하는 것, 팀 분위기까지
입사하자마자 업무에 필요한 맥락과 정보를 수집하기 시작합니다.
Context Engineering은 이를 대체합니다. AI가 우리 업무에 맞는, 일관된 응답을 할 수 있도록 맥락 정보를 제공하는 것입니다.
기업의 모든 문서를 그대로 입력할 수는 없습니다.
현재 프론티어 AI 모델들의 Context Window Size는 20k 남짓이며,
제공 맥락이 10k 이상이 되면 답변 품질이 눈에 띄게 내려가기 시작합니다.
따라서 우리는 AI가 인지할 수 있는, Machine-Readable한 형식의 문서를
핵심 내용만 담아 준비하고,
AI Agent가 요청했을 때 적절히 search해 전달할 필요가 있습니다.
2. Human-in-the-loop System
파이프라인을 쪼개어 AI에게 위임하고, 이를 사람이 쉽게 검토할 수 있는 시스템을 구축하는 것입니다.
AI에게 업무를 통째로 위임하려는 분들이 많지만 이는 좋은 접근이 아닙니다.
AI 에이전트는 무언가 설계하고 검증하는 측면에서 아직 인간에 비해 많이 부족하기 때문입니다.
업무 파이프라인 상에 단순자동화 / 에이전트 / 사람의리뷰를 적절히 혼합하여 사람은 쉽고 빠르게 검토만 할 수 있는 시스템을 구축해야합니다.
AI가 모든 업무를 100점으로 해내는 시스템을 만드는 대신, 80점으로 수행하며 사람에게 제때 검토받는 시스템을 빠르게 만드는 것이죠. 이러한 접근이 비용면에서도, 효용면에서도 우월합니다.
3. 사용자 역량 강화 (Prompt Engineering)
좋은 컨텍스트와 파이프라인을 갖추더라도, 프롬프트 작성 역량은 여전히 중요합니다.
문제 상황을 정확히 설명하고, 핵심 키워드를 포함하여 간결하게 명령해야합니다.
이를 위해 개개인이 LLM/AI서비스의 특성을 파악하고 작업할 필요가 있습니다.
회사 구성원들이 AI에 대해 잘 이해하고, 체험하고, 업무에 사용하며 지속적으로 훈련해야합니다.
AI 도입 TO DO LIST
다음 5가지 작업이 공통적으로 요구됩니다.
- 기업 구성원 대상 교육
- LLM의 특성, 작동방식
- 프롬프트와 Context의 중요성
- 주요 서비스 사용방법 (Gemini, Cursor, …)
- 내부 지식 데이터베이스 구축
- 지식 문서화 및 정제
- (필요시) MCP 통해 에이전트와 연결
- (필요시) RAG 구축
- 커스텀 MCP Registry
- 자유롭게 MCP를 배포/활용할 수 있는 인프라
- 에이전트 - 기업 내부 시스템 연결
- Agent-Human 파이프라인 구축
- 업무를 단계적으로 쪼개, 자동화시스템 구축
- 필요시 사람 작업자가 피드백 제공
- 앞서 구축한 RAG/MCP 활용
- 제품팀 행동지침
- AI의 활용범위, 프로세스를 지침화
- 상황/작업별 상세 매뉴얼 작성
AWESOME.DEV 기업 대상 교육 안내
다음 4가지 교육을 제공중입니다.
- 오프라인 강연 (1 Day 워크숍)
- LMS + VOD
- 컨설팅
- 시스템 구축
아래 페이지에서 상담을 신청하실 수 있습니다.
감사합니다. 😄
- Email: lead@awesome.dev
- Mobile: 010-4413-1261