한국 기업 AI, '전사 에이전트' 전환기 — 성패는 기술 아닌 조직 준비도

핵심 요약

• 산업통상자원부 의뢰 2025년 조사(685개 기업)에 따르면 37.1%가 AI를 실제 업무에 활용 중이었고, 대기업 도입률은 65.1%에 달했다.
• 캐럿글로벌 「2026 한국기업 AI 활용 현황」 조사에 따르면 응답 기업의 61.1%가 생성형 AI를 도입했으나, 전사 차원 내재화 기업은 6.7%에 불과하고 가장 큰 비중은 탐색·준비 단계(34.8%)였다.
• 한국은행 조사국 고용연구팀 실증 분석에 따르면 국내 근로자의 생성형 AI 활용률은 51%를 넘어섰고 평균 업무 시간이 약 3.8%(주당 1.5시간) 감소했다.
• 맥킨지는 기업의 90%가 AI에 투자하지만 실제 재무 성과를 거둔 기업은 40% 수준이라며 그 원인으로 '워크플로 재설계 실패'를 지목한 바 있다.
• 가트너는 2025년 6월 전망에서 '에이전트 워싱'을 지적하며 2027년 말까지 에이전트 프로젝트의 40% 이상이 중단될 것으로 내다봤다.

지금 한국 기업 AI의 축은 어디로 이동하나?

결론부터 말하면, '생성형 AI를 개인이 쓰는 단계'에서 '조직이 에이전트에 업무를 위임하는 단계'로 넘어가고 있다. NHN은 7월 1일 앤트로픽의 '클로드'를 전사 도입해 기존 개발 조직 중심 AI를 전 임직원으로 확대했고, 사내 교육 프로그램 'AI School'과 오피스 AI 플랫폼 '플레이그라운드'를 함께 운영 중이다. NHN은 판교 사옥에서 '에이전틱 데이'를 열어 에이전트 활용 사례를 공유하기도 했다. MIT 테크놀로지 리뷰 코리아는 국내 기업들이 이미 에이전트를 업무에 들여놓았으며, 먼저 뛰어든 이들의 공통된 깨달음은 '무엇을 AI에 맡기고 무엇을 사람의 몫으로 남길지'를 정하는 일이 기술 도입보다 어렵다는 사실이라고 정리했다.

왜 도입률은 높은데 성과는 얕은가?

실패 요인이 기술이 아니라 조직 설계·운영으로 이동했기 때문이다. 한국은행 분석에 따르면 AI가 아껴준 시간이 실제 업무 처리량이나 최종 산출물 증가로 이어지지 못하는 'AI 생산성 단절 현상'이 관찰된다. 맥킨지는 90% 투자 대비 40% 성과라는 격차의 원인으로 '전체 업무 흐름 재설계 실패'를 꼽았다. 즉 에이전트는 새로운 툴 하나를 더 얹는 문제가 아니라, 업무를 어떻게 위임하고 판단·책임을 어떻게 나눌지에 대한 조직 설계의 문제다.

지표	수치	출처
생성형 AI 도입률	61.1%	캐럿글로벌
전사 내재화 기업	6.7%	캐럿글로벌
대기업 도입률	65.1%	산업부 의뢰 조사
근로자 활용률	51%+	한국은행
AI 투자 대비 성과	90% 투자 / 40% 성과	맥킨지

성과 평가는 어떻게 설계해야 하나?

단계별로 다른 잣대를 써야 한다. MIT 테크놀로지 리뷰 코리아에 따르면 도입 초기에는 반복 사용 여부를, 이후에는 프로세스 변화와 오류 감소를, 장기적으로는 실제 사업 성과 연결 여부를 따져야 한다. 처음부터 매출을 묻는 것도, 1년이 지나도록 접속률만 세는 것도 잘못된 잣대다. 가트너는 시중 에이전트 상당수가 기존 챗봇·자동화 도구에 이름표만 바꿔 단 '에이전트 워싱'이라고 경고했다. 운영 사례도 시사적이다. 야놀자는 교육 전담 7명으로 2천여 명을 감당할 수 없어 각 팀 자원자가 확산을 맡는 'AI 챔피언' 제도를 도입했고, 비개발자 45%가 참여한 사내 해커톤에서는 한 기획자가 코딩 에이전트로 외주 의존을 스스로 끊은 사례가 나왔다. 두 경우 모두 출발점은 도구가 아니라 '내가 풀 문제'였다.

TableFlip 관점

'도입률 경쟁'은 끝났고 '내재화 격차'가 새 전장이다. TableFlip이 주목하는 지점은 NHN·야놀자처럼 기업이 사내 지식을 RAG·에이전트로 정리·구조화하는 흐름이 가속된다는 사실이다. 이는 브랜드가 보유한 콘텐츠·데이터의 '기계 판독성(machine-readability)'이 내부 생산성뿐 아니라 외부 생성엔진 노출과도 직결됨을 의미한다. 사내 지식 거버넌스와 외부 GEO 전략은 결국 같은 '구조화' 축을 공유한다. TableFlip은 이를 진단 → 구조 개선 → 근거 콘텐츠 → 월간 모니터링의 순서로 접근하며, 표면 지표(접속률·이용률)의 착시를 피하기 위해 GEO 진단 방법론에서 단계형 KPI 관점을 적용한다. 다만 개별 브랜드 ROI는 본 노트에서 확인되지 않아 성과 일반화는 추정으로만 다뤄야 한다. 자사 콘텐츠가 생성엔진에서 어떻게 읽히는지 먼저 확인하고 싶다면 무료 AI Visibility 진단으로 시작하고, 실측 흐름은 AI 노출 리포트에서 확인할 수 있다.