성공적인 생성형 AI 도입을 위한 5가지 이니셔티브

생성형 AI가 산업 전체에 영향을 미치고 있지만 일부 기업은 기술의 신뢰성과 불확실성을 이유로 도입을 주저하고 있습니다.

최근 생성형 인공지능(Generative Artificial Intelligence, 생성형 AI)이 확산하면서 산업 전반에 파괴적인 혁신을 불러일으키고 있습니다. 글로벌 기업들은 생성형 AI가 가져올 혁신에 대한 기대감으로 발 빠르게 움직이고 있지만, 일부 기업은 경영 환경의 초불확실성, 조직 내 제약, 초기 도입에 대한 우려 등을 이유로 주저하고 있습니다.

실제로 EY가 글로벌 기업 CEO를 대상으로 시행한 설문조사인 '2023 EY CEO 아웃룩 펄스(EY CEO Outlook Pulse 2023)'에 따르면 경쟁사에 우위를 내주지 않으려면 당장 생성형 AI를 도입해야 한다는 응답자가 70%에 달했지만, 반대로 생성형 AI 기술에 대한 불확실성을 이유로 개발에 착수하지 못하는 상황이라는 응답도 68%로 나타났습니다.

기업이 새로운 기술을 도입할 때 새로운 문제를 야기할 수 있습니다. 기업은 생성형 AI 도입에 따른 위험은 낮추고 성과는 높이기 위해 데이터, 보안, 레거시 시스템 등 종합적인 상황을 고려해야 합니다.

우선 기업의 생성형 AI 전략은 조직 가치와 목적에 맞는 장기적, 전사적 목표와 단기적, 부문별 목표 설정이 중요합니다. 생성형 AI 전략은 인적 자원의 역량 강화에 집중돼야 하며 기술의 위험성에 대한 우려를 해소할 수 있는 신뢰도 높은 시스템이 필요합니다. 또한, 생성형 AI가 제공하는 가치를 극대화하기 위해 특정 사업부가 아니라 전사 모든 부서에서 엔드투엔드(End-to-End) 방식으로 구현해야 합니다.

기업은 생성형 AI를 도입을 위해 현재 기술 수준과 생성형 AI 도입을 통한 목표의 간극을 확인해야 합니다. 간극은 AI 성숙도(AI Maturity) 측정 모델을 활용해 확인할 수 있으며, AI 성장을 저해하는 내외부 불확실성과 제약 요소도 파악할 수 있습니다. 그리고 기업은 전략, 기술, 거버넌스, 인력, 고객, 재무와 법무, 공급망 등 주요 부문에서 AI와 관련해 어떤 문제가 있는지 확인하고 이를 개선할 수 있는 전략을 모색해야 합니다. EY는 AI 도입을 추진하는 기업을 대상으로 EY.ai 성숙도 모델(EY.ai Maturity Model) 진단 프레임워크로 조직 내 현재 AI 성숙도를 평가하고 비즈니스 트랜스포메이션을 위한 방법론을 제공합니다.

생성형 AI 도입을 위한 5가지 이니셔티브

EY는 생성형 AI에 대한 불확실성과 제약을 고려해 기업들이 실제 실행 가능한 전략을 수립하는 방법론을 연구했고 이를 다음과 같은 5가지 이니셔티브로 도출했습니다. 기업은 각 이니셔티브에 맞게 단기 계획과 장기 계획을 추진해 생성형 AI를 성공적으로 도입할 수 있습니다.

1. AI 컨트롤 타워 구축

기업이 전사적 AI 비전과 전략을 수립하려면 AI 컨트롤 타워가 필요합니다. AI 컨트롤 타워는 조직의 AI 전략을 정의하고 그 전략이 각 이니셔티브 실행을 관장하고 더 나아가 실행하는 데 필요한 전사적인 리소스를 확보하는 역할을 담당합니다. AI 컨트롤 타워는 필요한 자원을 활용하고 적재적소에 배치할 수 있는 권한을 부여받아야 합니다. 그리고 AI 컨트롤 타워의 리더는 고위 임원(C-level) 또는 고위 임원에 직접 보고할 수 있는 위치의 인력이 맡아야 합니다.

단기 과제

• AI 컨트롤 타워에 디지털 트랜스포메이션 경험이 풍부한 리더를 배치하고, 충분한 인력과 예산을 운영할 수 있는 지위와 권한을 부여합니다.
• 이사회와 각종 위원회에서 AI 리스크, AI 거버넌스 등의 안건들을 핵심 어젠다로 선정합니다.
• AI 개발과 도입의 진행 상황, 투자 수익 측정을 위한 성과 지표를 수립합니다.

장기 과제

• 활용 사례(Use Case), 비즈니스 모델, 협력사 관계 등의 영역에서 축소/통합/확장 등 진행 방향성 결정 후 기존에 설정했던 성과 지표를 활용하여 지속적으로 평가합니다.
• 효율성과 일관성 그리고 유연성과 혁신 속도 등을 고려해 AI 컨트롤 타워의 진화 방향성을 결정합니다.

2. 완전히 새로운 미래 사업과 운영 모델 구상

AI 시대에는 조직 내 다양한 파괴적 혁신을 예측하고 대비해야 합니다. 그러나 대부분의 기업은 AI 활용 방안에 대해 ‘AI로 비즈니스 기능과 모델을 근원적으로 변화시키는 방법’과 같은 거시적인 접근의 고민보다는 ‘운영 최적화, 챗봇 등 AI로 기존 프로세스를 효율화 하는 방법’과 같이 근시안적인 고민을 하고 있습니다. AI는 기업을 근본적으로 혁신할 수 있는 만큼 보다 거시적인 시각을 가지고 접근해야 합니다.

단기 과제

• 효율성과 생산성 향상을 목표로 생성형 AI 활용 사례(Use Case)를 지속해서 만듭니다. 이 과정에서 AI의 수익 기여도를 평가하고 가치 창출을 최대화할 수 있는 방안을 찾고, 리스크가 낮은 활용 사례에 집중합니다.
• 활용 사례(Use case) 개발을 뛰어넘어 보다 장기적인 비전과 방향성을 수립하는 과정을 병행합니다.

장기 과제

• AI 비중이 커진 사업 부문은 AI와 직원들의 역할 변화에 맞춰 사업부 기능을 완전히 재구성합니다.
• 단기 과제가 해결되는 과정에서 가치를 창출하고 전달하는 새로운 방법을 연구하면서 궁극적으로 시장 파괴적인 비즈니스 모델을 개발합니다.

3. AI에 대한 규제와 보안에 대한 대비책 마련

AI 활용이 전사적으로 확대되면 리스크도 증가할 것입니다. 개인정보보호, 사이버 보안 등 기본적인 IT 문제와 편향된 트레이닝 데이터나 오류가 있는 결과물을 내는 ‘할루시네이션(Hallucination)’ 등 우려가 있습니다. 대규모언어모델(LLM) 관련 지적 재산권 또한 잠재적인 문제입니다. EU AI Act 등을 중심으로 주요국에서의 AI 관련 규제가 시작되고 있습니다. 변화하는 다양한 규제에 효과적으로 대응하기 위해, 기업은 특정 규제와 별도로 탄탄한 거버넌스 프레임워크를 구축해 AI 활용에 대한 신뢰도를 쌓아야 합니다. 사용자들의 AI 신뢰도가 향상되면 경쟁사 대비 높은 성장과 경쟁 우위를 달성할 수 있습니다.

단기 과제

• AI 협의회, AI 윤리위원회 등 AI 감독 조직을 설립하고 AI 윤리원칙을 수립합니다.
• 신규 활용 사례(Use case)를 개발할 때 기존 개인정보, 데이터 규정 부합 여부를 점검하고 새로발생하는 리스크 모니터링을 진행합니다.
• 사업 국가 내 AI 규제 변화를 주시하고, AI가 산업 내에서 파괴적 영향력을 미쳤을 때의 변화 양상 등을 예상하고 대비합니다.

장기 과제

• 신규 AI 활용 사례(Use case)의 리스크를 분석해 활용 사례(Use case) 배포와 적용 우선순위, 시기를결정합니다.
• 활용 사례(Use case) 사용 확대에 따라 신규 데이터 추가나 신규 버전 출시가 AI 신뢰도에 영향을 미치지 않는지 지속해서 검증합니다.
• 새로운 정부 규제가 시행되면 AI 통제, 정책과 내부 보고 시스템에 대한 철저한 점검과 업데이트를 시행합니다.

4. AI 인프라와 인적 자원에 대한 집중 투자

기업이 AI를 도입하면서 어려움을 겪는 영역은 대표적으로 인사와 IT 부문입니다. EY CEO 아웃룩 펄스(EY CEO Outlook Pulse)에 따르면 기업인 중 62%가 생성형 AI 활용 저해 요소로 자사 데이터 구조, 레거시 IT, 인재 역량 등을 꼽았습니다. 인사와 IT 관련 역량 수준에 따라 생성형 AI의 전사적인 확대 속도, 창출 가치가 결정됩니다. 생성형 AI는 기존 조직의 역량을 향상시키는수준이 아니라 완전히 새로운 역량이 필요합니다.

예를 들어, LLM을 기존 시스템에 통합하기 위해서는 데이터 간의 연관 관계를 구조화한 ‘지식 그래프(Knowledge Graph)’나 내부 데이터와 외부 데이터를 결합한 뒤 맥락을 고려한 검색 결과를 제공하는 ‘검색 증강 생성(Retrieval-Augmented Generation, RAG) 시스템’ 등이 필요하지만 대다수 기업들은 이와 관련 지식과 경험이 없습니다. 그렇기 때문에 기업은 생성형 AI에 필요한 역량을 확보하기 위해 AI 인프라와 인적 자원에 집중 투자해야 합니다.

단기 과제

• 생성형 AI 플랫폼 기업과 협업해 컴퓨팅 성능, 데이터 패브릭, 알고리즘 요건 등을 기업 목표에 맞춰 개발하거나 소싱합니다. 그리고 기업 내 AI 통합에 필요한 역량(RAG, 지식그래프 등)도 개발 또는 소싱해 오픈 소스 모델을 활용할 수 있는지 가능성을 확인합니다.
• 생성형 AI로 반복적이고 복잡한 업무를 간소화하고 직원들의 미래 업무 준비를 위한 역량 개발에 집중합니다. 또한, 생성형 AI 숙련도 향상을 위한 파일럿 프로젝트를 진행해 생성형 AI 전사 확대 적용을 준비하고, 파트너사 제휴로 부족한 인적 역량을 보완합니다.
• 임직원과 지속적인 소통을 통해 AI 도입의 정당성을 부여하고 전사 확산을 위한 문화를 조성합니다.

장기 과제

• 기술이 성숙기에 접어들면 역량과 인프라의 내재화 요구, 유지 비용 등을 산정해 자체 개발 또는 외부 소싱 여부를 결정합니다.
• 시장 내 생성형 AI 모델의 개발 방향을 모니터링해 오픈소스 사용 또는 자체 모델 개발에 대한 진행 방향을 결정합니다.
• 전사 배포 시점에 따라 AI 활용도를 최대화할 수 있는 기술에 대한 재교육을 실시합니다.

5. 제휴 생태계 구축 확대

기업은 제휴 생태계를 활용해 더 넓은 인재 풀에 접근하고 높은 수익률과 비용 효율성을 달성할 수 있습니다. 그러나 이런 효과에 비해 대부분 기업들은 제휴에 대한 경험이 부족합니다.

생성형 AI는 다자간의 제휴를 더욱 신속하고 쉽게 만드는 역할을 할 수 있습니다. 생성형 AI를 통해 외부 제휴에 큰 장애물이었던 데이터 호환성 문제를 해결할 수 있습니다. 그리고 기업은 지식 그래프를 활용해 도출된 모범 사례와 비즈니스 프로세스들을 제휴 기업과 공유하면서 신규 상품 개발이나 비즈니스 모델을 만드는 데 활용할 수 있는 상호 연결성을 확보할 수 있습니다.

하지만, AI 기반 생태계 확대는 리스크와 거버넌스 문제를 유발할 수 있습니다. 기업 간의 데이터결합은 책임져야 할 영역을 더욱 확대시킵니다.   AI 공급 시장이 급속히 확대되고 있는 만큼 외부 제휴 시 AI 신뢰도를 유지하면서 생태계 환경을 조성하는 방안을 모색해야 합니다.

단기 과제

• 생성형 AI를 활용해 높은 효익을 거둘 수 있는 제휴 생태계 구축에 바로 착수합니다.
• 독점 데이터, 전문적인 산업 지식, 강력한 사이버 보안 역량 등 자사가 생태계 구성원으로서 가진 강점을 파악하고, 동시에 자사에 필요한 역량과 데이터를 보완할 수 있는 파트너사를 발굴합니다.
• 여러 기업과 파일럿 프로젝트를 진행하고 AI 컨트롤 타워로 협업 성과를 주기적으로 평가합니다.

장기 과제

• 변화하는 제휴 환경과 초기 과제 결과에 따라 추가 투자가 필요한 제휴사의 우선순위를 지정합니다. 성공적인 파일럿 프로젝트는 확대 방향을 정하고, 실패한 프로젝트는 원인과 개선책을 검토합니다.
• 기업 내 부족한 역량과 새로운 요구를 보완하기 위해 신규 파트너사를 모색합니다.
• 다수의 독립적인 제휴 관계에서 벗어나 각자 고유 역량으로 공동 목표를 달성하는 다자간 생태계로 전환합니다.