요즘 AI 에이전트 하나로는 부족하다는 이야기를 많이 들어보셨을 거예요. 그런데 여러 AI 에이전트를 붙여봐도 기대한 만큼 시간과 비용이 줄지 않는다는 하소연도 함께 늘고 있답니다.
가트너는 2025년 6월 보도자료에서 비용 급증과 불분명한 사업 가치를 이유로 에이전틱 AI 프로젝트의 40%가 넘게 2027년 말까지 취소될 것으로 내다봤어요. 도구가 빨리 늘어나는 만큼, 그걸 운영하고 받아들일 준비는 따로 필요하다는 신호예요.
🤖 에이전트가 늘어날수록 필요해지는 '이것'
에이전트 하나에 복잡한 일을 통째로 맡기면 편할 것 같지만, 실제로는 지시가 길어질수록 초점이 흐려지고 중간 단계를 놓치는 경우가 많아요. 그래서 등장한 게 여러 에이전트로 일을 쪼개 나눠 맡기는 방식이에요. 여러 자료를 하나로 엮거나 열 몇 단계를 순서대로 밟아야 하는 긴 호흡의 업무일수록 이 방식이 힘을 발휘하죠.
그런데 일을 나누고 나면 새로운 숙제가 생깁니다. 누가 전체 목표를 조각으로 쪼갤지, 어느 에이전트에 어느 조각을 맡길지, 결과가 어긋나면 누가 바로 잡을지를 정해야 하거든요. 마이크로소프트·오픈AI·랭체인 같은 주요 기업들이 최근 이 운영을 프레임워크 형태로 정식 출시하며 힘을 싣고 있는 것도 이런 이유예요.
다만 도구가 좋아졌다고 바로 조직에 들여도 되는 건 아니에요. 관측성(어느 단계 탓인지 가려낼 수 있는지), 비용(늘어난 토큰 소모를 회수할 활용도가 나오는지), 실패 처리(어긋난 결과를 되돌릴 수 있는지) 이 3가지를 미리 점검하지 않으면, 사고가 나도 원인을 못 찾고 비용만 크게 늘어날 수 있답니다. 오케스트레이션 도입 전 점검해야 할 자세한 기준은 아티클에서 자세히 확인해 보세요.
오케스트레이션이든 새로운 AI 도구든, 전사에 한 번에 들이는 건 위험이 커요. MIT NANDA의 2025년 7월 보고서에 따르면 기업 생성형 AI 시범 도입의 95%가 이익과 손실에 측정할 수 있는 효과를 내지 못했다고 해요. 도입은 흔해졌지만, 검증 없이 규모부터 키운 탓이 크답니다.
답은 전사 도입이 아니라, 한 팀에서 90일간 작게 검증해보는 거예요. 측정할 수 있는 과제를 고르고, 시작 전 기준선부터 잰 다음 단계별로 운영하면 실패해도 손실이 한 팀 수준에서 끝납니다. 성공하면 그 숫자를 근거 삼아 다음 팀으로 넓혀가는 구조입니다. 과제 선정 기준과 90일 운영법은 아티클에서 자세히 볼 수 있어요.
AI 도구를 다루는 건 사람이에요. 그런데 전 직원을 한꺼번에 교육하려면 예산과 운영 부담이 만만치 않죠. 2026년 7월 한경 AX 서밋에서 인용된 조사에 따르면 근로자의 49%는 업무에서 AI를 전혀 쓰지 않는다고 답했어요. 출발선부터 다른 조직에 같은 커리큘럼을 얹으면 어느 쪽도 만족하기 어려운 구조예요.
답은 교육량을 늘리는 게 아니라 순서를 설계하는 데 있어요. 업무에서 AI를 얼마나 자주 마주치는지, 그 효과가 얼마나 넓게 퍼지는지, 받아들일 준비가 얼마나 되어 있는지 이 3가지 기준으로 직무를 점수화하면 순서가 자연스럽게 정리돼요.
이렇게 그룹을 나누면 예산도 효율적으로 쓸 수 있어요. 먼저 시작한 그룹에서 활용 사례와 시간 절약 데이터가 나오면, 그걸 보고 다음 그룹도 자연스럽게 시작하게 됩니다. 우리 조직에서는 어떤 직무부터 교육을 시작해야 할지, 점수표로 가늠해 보세요.
