[조선규 칼럼] AI 시대, 무엇을 다시 설계할 것인가

AI를 도입할 것인가를 묻는 시대는 빠르게 지나가고 있다. 이제 질문은 AI를 쓸 것인가’가 아니라 AI를 어떻게 업무에 넣을 것인가로 바뀌고 있다.
 

맥킨지가 2025년 6월 25일부터 7월 29일까지 1,993명을 대상으로 실시한 글로벌 조사에서 응답자의 88%가 적어도 하나의 업무 기능에서 AI를 정기적으로 사용한다고 답했다. 2024년 78%에서 10%포인트 증가한 수치다. AI가 실험실의 기술이나 일부 전문가의 도구를 넘어 기업의 일상적인 업무 환경으로 들어왔다는 의미다.
 

생성형 AI만 보아도 변화는 뚜렷하다. AI 사용 자체가 빠르게 확산하면서 기업의 경쟁 구도는 AI를 가진 기업과 갖지 못한 기업’의 대결에서 AI를 어떻게 조직에 내재화했는가’의 경쟁으로 이동하고 있다.
 

다음 파도는 에이전트형 AI다. 에이전트형 AI는 단순히 질문에 답하는 수준을 넘어 목표를 부여받고 여러 단계의 작업을 계획하고 실행하는 시스템이다. 맥킨지 조사에서는 23%가 적어도 한 업무 기능에서 AI 에이전트를 확대하고 있다고 답했고, 39%는 실험 단계라고 답했다. 관심과 실험은 이미 상당한 규모로 확산된 셈이다. 그러나 개별 업무 기능에서 에이전트를 실제로 확대하고 있다는 비율은 아직 낮다. 즉, 실험은 빠르게 확산되고 있지만 전사적 확산은 아직 진행형이다.
 

딜로이트의 조사도 비슷한 방향을 보여준다. 2025년 8~9월 24개국, 3,235명의 비즈니스·IT 리더를 대상으로 한 조사에서 약 4분의 3에 가까운 기업이 향후 2년 안에 에이전틱 AI를 도입할 것으로 전망했다. 반면 자율형 AI 에이전트를 관리할 수 있는 성숙한 거버넌스 체계를 갖췄다고 답한 기업은 21%에 그쳤다.
 

이 숫자 사이에는 중요한 질문이 숨어 있다. AI의 속도와 기업의 준비 속도가 같은가. 아직은 그렇다고 보기 어렵다. 그래서 2027년을 AI 기본값의 시대’라고 부르는 것은 가능하지만, 그것을 확정된 미래라고 말해서는 안 된다. 이는 현재의 확산 속도를 바탕으로 한 전망이다.
 

더 중요한 것은 AI가 기본값이 된 다음이다. 같은 AI를 쓰는데 왜 성과는 다른가,기술이 희소할 때는 기술 자체가 경쟁력이 된다. 하지만 기술이 널리 퍼지면 이야기가 달라진다. 전기도 그랬고 인터넷도 그랬다. 누구나 전기를 사용할 수 있게 된 순간 전기 자체는 경쟁력이 아니었다. 중요한 것은 전기로 무엇을 만들고, 어떻게 생산방식을 바꾸느냐였다. AI도 같은 길을 걷고 있다.
 

맥킨지 조사에서 AI가 기업 전체의 EBIT, 즉 이자와 세금을 차감하기 전 영업성과에 영향을 미쳤다고 답한 응답자는 39%였다. 그러나 대부분은 그 영향이 5% 미만이라고 답했다.
 

맥킨지가 AI 고성과 기업으로 분류한 곳은 약 6%에 불과했다. 여기서 고성과 기업이란 AI가 EBIT의 5% 이상에 영향을 미쳤고, 동시에 AI 활용으로 상당한 가치를 얻었다고 응답한 기업이다. 따라서 이 6%는 회계감사를 거친 객관적 기업 성과의 비율이 아니라 설문 응답을 기준으로 한 분류라는 점도 함께 봐야 한다.
 

이 숫자가 던지는 메시지는 단순하다. AI를 쓰는 것과 AI로 성과를 만드는 것은 다른 문제다. 그래서 맥킨지의 2026년 분석이 주목하는 것이 ‘운영모델’이다.
 

맥킨지는 AI의 진짜 경쟁력이 기술 자체보다 일이 이루어지는 방식과 의사결정 구조를 다시 설계하는 것에서 나온다고 분석한다. 조사에서 약 21%의 기업만 AI를 중심으로 운영모델을 근본적으로 재설계했다고 보고했다. AI 고성과 기업은 다른 기업보다 광범위한 운영모델 재설계를 추진할 가능성이 세 배 높았고, AI 도구를 선택하기 전에 워크플로를 재설계할 가능성도 두 배 높았다.
 

여기서 중요한 개념이 볼트온 AI다. 기존 업무는 그대로 둔 채 AI라는 새로운 도구만 붙이는 방식이다. 보고서를 사람이 작성하던 방식은 그대로인데 초안을 AI가 작성한다. 고객센터의 구조는 그대로인데 상담 답변만 AI가 만들어 준다. 결재선은 그대로인데 문서 작성만 빨라진다. 분명 생산성은 올라갈 수 있다. 하지만 조직의 구조는 변하지 않는다.
 

반면 AI를 중심으로 업무를 재설계한다면 질문 자체가 달라진다. 이 업무를 반드시 사람이 해야 하는가. AI가 판단하고 사람이 승인할 것인가. AI가 실행하고 사람은 예외 상황만 판단할 것인가. 오류가 발생했을 때 누가 책임지는가. 어떤 데이터가 의사결정에 사용되는가. 그리고 그 데이터는 누구의 자산인가. 이것이 단순한 AI 도입과 AI 전환의 차이다.
 

도구를 추가하는 것과 일하는 방식을 다시 만드는 것은 전혀 다른 일이다. AI가 빨라질수록 거버넌스가 중요해진다. AI가 문서를 작성하는 단계에서는 오류를 사람이 발견하고 수정할 수 있다. 하지만 AI가 실제 행동을 하는 단계에서는 문제가 달라진다. 고객에게 이메일을 보내고, 주문을 처리하고, 가격을 변경하고, 코드를 배포하고, 물류를 지시하고, 금융거래를 실행하는 에이전트라면 오류 하나가 곧 현실의 사건이 된다.
 

AI의 오류 단위가 문장에서 행동으로 바뀌는 것이다. 그래서 에이전트 시대에는 속도만큼 통제가 중요하다. 딜로이트 조사에서 향후 2년 안에 에이전틱 AI를 도입하려는 기업은 약 74%였지만, 성숙한 에이전트 거버넌스를 갖췄다고 답한 기업은 21%였다. AI가 달리는 속도에 비해 통제장치는 아직 충분히 따라오지 못하고 있는 셈이다.
 

AI의 사업적 활용 수준에서도 비슷한 간극이 나타난다. 딜로이트 조사에서 34%는 AI를 활용해 새로운 제품과 서비스를 만들거나 핵심 프로세스 또는 비즈니스 모델을 근본적으로 변화시키는 깊은 변환을 추진하고 있었다. 30%는 주요 프로세스를 AI 중심으로 재설계하고 있었다. 반면 37%는 기존 업무방식에 큰 변화를 주지 않은 채 AI를 표면적으로 활용하고 있었다.
 

이 수치를 단순히 성공과 실패로 나눌 필요는 없다. AI 도입 초기에는 생산성 향상만으로도 충분한 가치가 있을 수 있다. 문제는 모든 기업이 결국 같은 단계에 머물러서는 안 된다는 것이다. AI로 이메일을 빨리 쓰는 기업과 AI를 이용해 고객 대응체계 자체를 바꾸는 기업은 경쟁의 차원이 다르다. 엑셀을 잘 쓰는 것과 회계 시스템을 다시 설계하는 것이 다른 것처럼 말이다. 더구나 AI가 보편화될수록 단순한 효율 향상은 빠르게 평준화될 가능성이 있다.

경쟁사도 같은 모델을 사용하고, 같은 클라우드를 이용하며, 비슷한 업무용 AI를 구입할 수 있기 때문이다. 그렇다면 쉽게 복제할 수 없는 것은 무엇인가. 데이터다. 그리고 데이터만으로도 충분하지 않다. 현장의 경험, 업무 프로세스, 조직의 학습, 고객과의 관계, 의사결정의 역사까지 결합된 독자적인 지식체계가 중요해진다.

이 지점에서 한국 기업이 오랫동안 축적해온 제조·건설·농어업·서비스 현장의 암묵지가 새로운 자산이 될 가능성이 매우 크다. 숙련자의 손끝과 눈썰미, 기계 소리의 미세한 변화, 날씨에 따른 농작물의 상태, 철강의 온도와 색을 보고 판단하는 경험은 단순한 매뉴얼만으로 설명하기 어렵다.
 

AI 시대에는 바로 이런 경험을 어떻게 데이터화하고 검증하며 보호할 것인가가 중요한 과제가 된다. 다만 이것을 이미 검증된 경제적 성과라고 단정해서는 안 된다. 암묵지를 AI와 연결하면 경쟁력이 될 가능성은 있지만, 그 가치를 어떻게 측정하고 지식 제공자의 권리를 어떻게 보호할 것인지는 별도의 제도와 비즈니스 모델이 필요한 영역이다.

AI 시대의 경쟁력은 ‘무엇을 살 것인가’가 아니라 ‘무엇을 다시 설계할 것인가’다 그렇다면 기업은 무엇을 준비해야 하는가.
 

첫째는 업무 분해다. AI를 도입하기 전에 현재의 업무를 작은 단위로 쪼개야 한다. 어떤 일은 AI가 하고, 어떤 일은 사람이 해야 하는지 구분해야 한다. 단순 반복 업무는 자동화하고, 판단과 책임이 필요한 영역에는 인간의 개입을 남겨야 한다.
 

둘째는 워크플로 재설계다. AI를 기존 업무에 얹는 것이 아니라 AI를 전제로 업무의 순서를 다시 만들어야 한다. 사람 → AI → 사람’인지, AI → 사람’인지, 혹은 AI → 실행 → 인간의 예외 승인 인지 업무마다 새로운 구조를 설계해야 한다.
 

셋째는 거버넌스와 검증이다. AI의 답을 누가 승인하는가. 오류가 발생하면 누가 책임지는가. 어떤 데이터까지 접근할 수 있는가. AI의 판단을 언제 중단할 것인가. 이 질문에 답하지 않은 채 에이전트의 자율성만 높이는 것은 자동차에 엔진만 키우고 브레이크를 그대로 두는 것과 같다.
 

넷째는 성과의 기준을 바꾸는 것이다. AI 사용량을 성과로 착각해서는 안 된다. AI 계정이 몇 개 만들어졌는지, 직원이 하루에 몇 번 사용하는지가 중요한 것이 아니다. 비용이 얼마나 줄었는지, 품질이 얼마나 높아졌는지, 고객 만족도가 개선됐는지, 사고가 감소했는지, 새로운 매출이 발생했는지를 봐야 한다.
 

다섯째는 사람의 역할을 다시 정의하는 것이다. AI 시대에 인간에게 필요한 능력은 단순히 AI를 사용하는 능력만이 아니다. 무엇이 문제인지 정의하는 능력, 좋은 질문을 만드는 능력, AI의 답을 검증하는 능력, 이해관계가 충돌할 때 판단하는 능력, 그리고 결과에 책임지는 능력이 더 중요해진다.
 

딜로이트 역시 AI 활용 역량을 높이는 교육은 확대되고 있지만, 실제 직무와 업무방식의 재설계는 상대적으로 더딘 상황이라고 분석한다. AI를 배우는 것과 AI 시대에 맞게 일을 다시 설계하는 것은 다른 문제라는 뜻이다.
 

정부와 산업정책 역시 같은 관점에서 접근할 필요가 있다. AI 모델과 GPU를 확보하는 것은 중요하다. 그러나 그것만으로는 충분하지 않다. 데이터를 안전하게 활용할 수 있는 제도, 산업별 검증체계, 책임 기준, 인재 양성, 사이버보안, 인프라, 그리고 국내 산업의 독자적 데이터와 경험을 보호할 수 있는 구조가 함께 필요하다.
 

딜로이트 조사에서 83%의 기업이 소버린 AI를 전략계획에서 중요하게 보고 있었고, 77%는 AI 벤더 선정에서 국가를 고려한다고 답했다. 이는 AI 경쟁이 단순한 모델 성능 경쟁을 넘어 데이터·인프라·법제도·공급망의 문제로 확대되고 있음을 보여준다.

그렇다고 모든 것을 우리 손으로 만들어야 한다는 뜻은 아니다. 중요한 것은 무엇을 직접 확보하고, 무엇을 외부와 협력하며, 무엇을 국가와 산업의 핵심 자산으로 보호할 것인지 구분하는 전략이다.
 

2027년이 정말 AI 기본값의 원년이 될지는 아직 알 수 없다. 그러나 한 가지 변화는 이미 시작됐다. AI가 희소한 시대에는 AI를 가진 사람이 앞섰다. AI가 보편화되는 시대에는 AI를 이용해 일을 다시 설계한 사람이 앞서게 될 가능성이 커진다.
 

결국 경쟁력은 AI라는 도구 자체에 있지 않다. 어떤 문제를 선택할 것인가. 어떤 업무를 없애고 새로 만들 것인가. 어떤 판단을 인간에게 남길 것인가. 어떤 데이터를 우리의 자산으로 만들 것인가. 그리고 그 결과에 누가 책임질 것인가. 이 질문에 답하는 조직이 AI 시대의 조직이다.
 

AI의 속도는 기계가 높일 수 있다. 그러나 그 속도가 향할 곳은 사람이 정해야 한다. AI 시대의 진짜 경쟁력은 AI를 얼마나 많이 쓰느냐’가 아니다. AI와 함께 무엇을 다시 설계했느냐에 달려 있다.
 

조선규 | 칼럼니스트