제조 AI 전환(AX), IT 부서에 맡기면 실패한다: 최고운영책임자가 직접 챙겨야 하는 이유

생성형 AI 성과를 가르는 것은 기술이 아니라 경영진의 주도권이다

생성형 AI(Gen AI, Generative Artificial Intelligence) 영업이익(EBIT, Earnings Before Interest and Taxes) 영향과 핵심 상관관계를 보이는 요소는 최고경영자(CEO, Chief Executive Officer)의 AI 거버넌스(AI Governance) 직접 감독이다. 그러나 이를 실행하는 기업은 28%에 불과하다.1) 맥킨지(McKinsey & Company) 산하 퀀텀블랙(QuantumBlack AI by McKinsey)의 2025년 3월 보고서 'AI 현황(The State of AI)'에서 확인된 수치다.

제조 현장의 AI 전환(AX, AI Transformation) 추진 담당자라면 이 숫자가 불편하게 느껴질 수 있다. "AI 도입은 IT 팀이 주도하고 현장이 따라가면 된다"는 통념이 데이터로 부정되고 있기 때문이다. 이 글에서는 제조 AX에서 왜 최고운영책임자(COO, Chief Operating Officer)와 사업 리더가 직접 나서야 하는지, 그리고 실제로 성과를 만드는 조직 설계 조건이 무엇인지 맥킨지 설문 데이터를 기반으로 분석한다.

AI 전환이 파일럿에서 멈추는 조직과 전사 성과로 이어지는 조직의 차이는 기술 수준이 아니다. 조직이 어떻게 AI를 경영 의제로 다루느냐에 달려 있다.

 

왜 IT 부서 주도는 한계를 갖는가: AX는 기술 프로젝트가 아니다

많은 제조기업이 AI 전환을 정보기술(IT, Information Technology) 프로젝트로 접근한다. IT 팀이 솔루션을 선정하고 구축하면 현장이 사용하는 방식이다. 그러나 이 접근법이 반복적으로 실패하는 이유는 AI에서 실질적 가치를 얻으려면 기술 도입이 아니라 전사 변화관리(Change Management)와 조직 동원이 필요하기 때문이다.1)

변화관리는 IT 부서가 단독으로 실행할 수 없다. 공정 설계자, 생산 관리자, 품질 담당자, 구매팀이 자신의 업무 방식을 바꿔야 AI가 뿌리를 내린다. 이 과정을 주도하려면 현장 각 기능의 협력을 이끌어낼 수 있는 경영진 권한이 필요하다. 맥킨지 설문에서 AI 거버넌스를 최고경영자가 직접 감독하는 기업은 28%에 그쳤고, 이사회가 감독하는 경우는 17%였다.1) 대부분의 경우 평균 2명의 리더가 AI 거버넌스를 공동으로 담당하는 구조다.

제조 AX 현장에서 이것이 의미하는 바는 구체적이다. 스마트팩토리 프로젝트가 시범 라인에서 멈추는 가장 흔한 이유는 기술 문제가 아니라 "누가 이 변화를 전사로 밀어붙일 것인가"의 문제다. 생산 본부장이나 최고운영책임자가 직접 챙기지 않으면, AI 도구는 현장에서 외면받고 IT 자산 목록에만 남는다.

 

공정 재설계 없는 AI 도입은 절반의 투자다: 업무 흐름 재설계의 중요성

맥킨지 설문이 25개 조직 속성을 분석한 결과, 모든 규모의 기업에서 업무 흐름(Workflow)의 근본적 재설계가 생성형 AI 사용으로 인한 영업이익(EBIT, Earnings Before Interest and Taxes) 영향에 가장 큰 효과를 미치는 것으로 나타났다.1) 기술 투자나 거버넌스 구조보다 업무 방식의 변화가 먼저라는 의미다.

그러나 생성형 AI를 사용하는 기업 중 최소 일부 업무 흐름을 근본적으로 재설계했다고 답한 기업은 21%에 불과하다.1) 79%는 AI를 도입했지만 기존 업무 방식은 그대로다. 이것이 도입률 78%와 전사 영업이익 영향 17%의 격차를 만드는 핵심 원인이다.

제조 현장으로 번역하면, 예측 보전 솔루션을 도입했어도 유지보수 담당자가 기존 방식대로 일한다면 성과가 반감된다. AI 기반 품질 검사 시스템을 구축했어도 품질 관리 프로세스와 책임 구조가 바뀌지 않으면 그 가치가 데이터로 측정되지 않는다. 설비 배치와 데이터 파이프라인 설계만큼 공정 책임자의 업무 방식 재설계가 AX 성과의 필수 조건이다.

 

무엇을 중앙에서 통제하고 무엇을 현장에 맡길 것인가: AX 조직 설계의 원칙

제조 AX에서 자주 반복되는 질문이 있다. 인공지능(AI) 역량과 데이터를 본사가 통제해야 하는가, 아니면 각 공장과 생산 라인에 권한을 줘야 하는가. 맥킨지 설문 데이터는 이 질문에 명확한 답을 제시한다. 요소에 따라 다르다.

McKinsey, 「The State of AI in 2025」(2025), 한글 번역·편집

 

리스크·규정 준수와 AI 데이터 거버넌스(Data Governance)는 57%, 46%의 기업이 완전 중앙집중 모델을 선택한다.1) 전사 표준이 없으면 공장별로 데이터 품질과 리스크 관리 수준이 달라지고, 확산 시 비용과 혼란이 커지기 때문이다. 반면 기술 인재 배치와 AI 솔루션 도입은 혼합형(Hybrid) 모델이 주류다.1) 중앙에서 표준을 정하되 현장에서 적용하는 방식이다.

제조 AX로 직접 적용하면 이렇다. 데이터 수집 표준, AI 모델 검증 기준, 사이버 보안 정책은 본사 또는 디지털 전환 팀이 전사 통일 기준으로 관리해야 한다. 각 공장의 스마트팩토리 솔루션 선택과 현장 인력 교육은 공장 단위에서 유연하게 운영할 수 있다. 이 원칙을 처음부터 명확히 하지 않으면 사업 단위마다 다른 AI 도구를 사용하게 되고, 전사 확산이 불가능해진다.

 

출처: 맥킨지 글로벌 AI 현황 설문, 2024.7 / 제조 AX 적용 예시는 편집부 해석.1)

 

성과를 내는 기업은 무엇이 다른가: 생성형 AI 도입 12가지 모범 사례

맥킨지는 생성형 AI 도입·확산과 관련된 12가지 모범 사례를 분석했다.1) 12가지 모두 영업이익 영향과 양의 상관관계를 보였다. 그 중 영업이익에 가장 큰 영향을 미친 것은 핵심성과지표(KPI, Key Performance Indicator) 추적이었다. 대기업에서는 명확하게 정의된 도입 로드맵 수립도 가장 큰 영향 요소 중 하나였다.1)

현실은 냉정하다. 응답자의 3분의 1 미만만이 12가지 모범 사례 대부분을 이행하고 있다.1) 핵심성과지표를 추적하는 기업은 5명 중 1명도 안 된다. 성과 측정 체계 없이 AI를 도입하면 어디서 가치가 만들어지는지 알 수 없고, 다음 투자 근거도 생기지 않는다.

대기업은 중소기업보다 모범 사례 이행률이 전반적으로 높다. 특히 전담 팀 구성(대기업 52% vs 중소기업 24%)과 도입 로드맵 수립(대기업 42% vs 중소기업 19%)에서 격차가 크다.1) 그러나 이것은 자원의 문제라기보다 우선순위의 문제다. 중소 제조기업도 AI 도입 로드맵과 핵심성과지표를 먼저 정의하면 대기업과의 격차를 상당 부분 줄일 수 있다.

 

생성형 AI 리스크, 제조 현장에서 가볍게 볼 수 없는 이유

생성형 AI 관련 리스크를 적극 관리하는 기업이 늘고 있다. 2024년 초 대비 하반기에 부정확성(Inaccuracy), 사이버 보안(Cybersecurity), 지식재산권 침해 리스크를 관리한다고 답한 기업 비율이 높아졌다.1) 그리고 생성형 AI 사용으로 최소 1가지 부정적 결과를 경험한 기업이 47%에 달한다.1)

제조 현장에서 생성형 AI 리스크는 세 가지 측면에서 구체적이다. 첫째, 산출물 부정확성이다. 예측 보전 알고리즘이 틀린 고장 예측을 하거나, 품질 검사 AI가 불량을 정상으로 판정하면 생산 손실과 안전 사고로 이어진다. 둘째, 데이터 보안이다. 공정 데이터와 설비 파라미터가 외부 생성형 AI 시스템에 유출되면 핵심 제조 기술이 노출된다. 셋째, 설명 가능성(Explainability)이다. AI가 왜 특정 판단을 내렸는지 설명할 수 없으면 현장 기술자가 신뢰하지 않고 결국 사용을 거부한다.

대기업이 사이버 보안과 개인정보 보호 리스크 관리에서는 앞서지만, 산출물 정확성과 설명 가능성 리스크 관리는 대기업도 중소기업과 큰 차이가 없다.1) 규모가 크다고 이 리스크를 잘 관리한다는 보장이 없다는 뜻이다. 제조 AI 전환에서 신뢰 구축은 기술 성능 검증보다 현장 수용성 확보가 먼저다.

 

결론: 제조 AX 성과를 만드는 세 가지 조직 조건

생성형 AI 도입에서 성과와 실패를 가르는 것은 기술 선택이 아니다. 맥킨지 설문이 1,491명의 응답으로 확인한 사실은 명확하다. 경영진이 주도하고, 업무 방식을 재설계하고, 성과를 수치로 측정하는 조직이 실질적인 영업이익 개선을 만들어낸다.

제조 AX를 추진 중이거나 검토 중인 기업과 시스템통합 파트너사가 지금 점검해야 할 조직 조건 세 가지는 다음과 같다.

 

•최고운영책임자 또는 생산 본부장이 AI 거버넌스를 직접 챙겨야 한다. 스마트팩토리 프로젝트가 시범 라인에서 멈추는 가장 큰 이유는 현장 각 기능의 협력을 이끌어낼 경영 권한이 없기 때문이다. IT 팀이 아니라 현장을 아는 경영진이 AX 주도권을 가져야 한다.

•공정 재설계를 AI 도입과 동시에 시작해야 한다. 설비에 센서를 달고 데이터를 모으는 것으로 AX는 완성되지 않는다. 그 데이터를 누가, 어떤 방식으로, 어떤 의사결정에 활용할지 공정 책임자가 직접 재설계해야 성과가 나온다.

•핵심성과지표를 도입 전에 정의해야 한다. 설비 가동률 몇 %포인트 향상, 불량률 몇 % 감소, 예방 보전 비용 몇 % 절감. 이 수치를 먼저 정의해야 AI 투자 성과를 증명할 수 있고, 다음 확산 단계의 근거가 생긴다.

 

제조 AX는 기술 프로젝트가 아니라 경영 전환 프로젝트다. 이 인식의 전환이 파일럿과 성과를 가른다.

 

[참고문헌]

1) Singla, Alex, et al. "The state of AI: How organizations are rewiring to capture value." QuantumBlack, AI by McKinsey. March 2025. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai

 

본 게시물은 AI 어시스턴트를 활용하여 초안을 작성하고 편집자의 검수를 거쳤습니다. 타 기업명 및 영업 기밀 보호를 위해 본문 중 일부 고유명사는 익명화(A/B) 처리되었습니다.