2025년 데이터 및 AI 리더를 위한 전략적 우선 순위

January 5, 2025 in 데이터 전략

이 포스트 공유하기

Summary

기업들은 AI 기술에 대한 지속적인 관심과 더불어, AI에 투자하고 이를 배포하는 전략적 우선순위를 변화시키고 있습니다
2025년은 AI와 이를 둘러싼 데이터, 인프라, 거버넌스가 리더들에게 더욱 중요한 초점이 되는 전환점이 될 것입니다.

AI는 2025년에도 여전히 모든 기업 리더들의 계획에서 핵심적인 위치를 차지하고 있습니다. Economist Impact에서 1,100명의 기술 전문가와 28명의 CIO를 대상으로 실시한 최근 조사에 따르면, 전체적으로 70%의 기업이 AI를 장기적인 성공의 핵심 요소로 여긴다고 답했습니다. 그렇다면, 이것이 현실에서는 어떤 모습으로 나타날까요?

기술에 대한 관심은 식을 기미를 보이지 않지만, 기업들은 AI에 투자하고 이를 배포하는 전략적 우선순위를 변화시키고 있습니다. 2025년에 데이터 및 AI 리더들이 집중할 것으로 예상되는 주요 영역은 다음과 같습니다:

기업 AI 전략은 사후 학습 및 특화된 AI 에이전트를 중심으로 전개될 것입니다

기업들은 사전 학습(pre-training)과 대규모 모델에서 벗어나 사후 학습(post-training) 기술로 초점을 전환하면서 확장 법칙을 활용하는 방식도 발전시킬 것입니다. 이미 여러 모델, 기술, 도구가 협력하여 효율성과 성과를 향상시키는 에이전트형 AI 시스템을 구축하는 기업들이 나타나고 있습니다.

기업들은 추론 단계에서 에이전트형 워크플로를 활용해 AI 시스템을 평가하고, 디버깅이나 품질 개선과 같은 특화된 작업을 수행할 것입니다. 이는 적은 자원과 데이터로도 지속적으로 품질을 개선할 수 있게 합니다.

"지금 AI 에이전트에 투자하는 것은 기술이 더욱 강력해지는 과정에서 각 시장의 선두를 차지하는 데 큰 도움이 될 것입니다. 하지만 이를 위한 적절한 기반을 갖춘 기업은 많지 않습니다. AI 에이전트는 데이터 사일로와 기존 아키텍처가 없는 통합된 기반이 필요합니다."
— Dael Williamson, 데이터브릭스 EMEA CTO

기업들이 AI 에이전트를 구축하기 위해 인프라에 가장 큰 투자를 할 것입니다

Economist Impact 조사에 따르면, 기업의 22%만이 현재 아키텍처가 별도의 수정 없이 AI 워크로드를 지원할 수 있다고 응답했습니다. 따라서 내년에는 기업 데이터 인프라 영역에 가장 많은 자원이 투자될 것으로 예상됩니다.

에이전트형 AI 시스템에서 에이전트는 내부 IT 환경의 한계를 넘어 다양한 데이터 소스, 대형 언어 모델(LLM), 기타 구성 요소와 상호 작용하며 정확하고 신뢰할 수 있는 결과를 제공해야 합니다. 이를 위해 기업은 AI 프로젝트를 실제 환경에 활용하기 위해 필요한 거버넌스, 규제, 학습, 평가를 지원할 수 있는 엔드투엔드 데이터 플랫폼(AI 데이터베이스)이 필요합니다.

“성공적인 AI 전략은 견고한 인프라에서 시작됩니다. 데이터 통합과 거버넌스와 같은 기본 요소를 하나의 기반 시스템으로 해결하면, 조직은 실질적인 비즈니스 가치를 창출할 수 있는 실제 사용 사례에 집중할 수 있습니다.”
— Robin Sutara, 데이터브릭스 Field CDO

기업들은 "데이터 우위"를 활용해 시장 점유율을 확대할 것입니다

2024년에는 기업 AI 논의가 직원 생산성과 효율성을 높이는 내부 애플리케이션에 중점을 두었습니다. 하지만 기업이 고객 중심 애플리케이션을 실제 환경에 배치하기 시작하면서, 도메인 특화 지식 또는 데이터 인텔리전스가 새로운 초점으로 떠오르고 있습니다. 이는 기업들이 자신이 데이터 우위를 점하고 있는 영역에 맞는 사용 사례를 식별하기 위해 경쟁하게 된다는 뜻입니다.

이런 이유로 고객 서비스가 인기 있는 출발점입니다. 기업들은 보통 고객에 대한 방대한 데이터를 보유하고 있으며, 이를 활용해 지원 품질을 개선하는 AI 시스템을 강화할 수 있습니다. 각 고객의 과거 상호작용에 대한 세부 정보는 미래의 맞춤형 경험을 제공하는 데 도움을 줄 수 있습니다.

하지만 기업들은 이를 훨씬 더 심화시킬 수 있습니다. 예를 들어, 제조업체는 디지털 제조 장비에서 생성된 데이터 자산을 활용해 기계 상태를 최적화할 수 있습니다. 생명과학 기업은 수십 년간 축적한 신약 개발 경험을 활용해 AI 모델을 학습시키고, 이를 통해 미래 치료제를 더 빠르게 발견할 수 있습니다. 금융 서비스 기업은 심도 있는 전문 지식을 바탕으로 고객이 투자 포트폴리오를 개선할 수 있도록 돕는 특화된 모델을 구축할 수 있습니다.

“기업들은 기본적인 작업을 자동화하고 필요에 따라 데이터 인텔리전스를 생성함으로써 엄청난 효율성을 달성할 수 있습니다. 하지만 이는 시작에 불과합니다. 비즈니스 리더들은 AI를 활용해 새로운 성장 영역을 개척하고, 고객 서비스를 개선하며, 궁극적으로 경쟁사보다 우위를 점할 수 있을 것입니다.”
— Arsalan Tavakoli, SVP of Field Engineering

거버넌스는 경영진의 대화에서 중심이 될 것입니다

AI 거버넌스에 대한 논의는 지금까지 보안과 규제를 중심으로 진행되었습니다

그러나 이제 경영진은 데이터 거버넌스와 AI의 정확성 및 신뢰성 간의 관계를 인식하고 있습니다. 거버넌스에 대한 총체적 접근 방식은 AI의 책임감 있는 개발, 배포, 사용을 보장하면서도 위험을 완화하고 규제 준수를 지원하는 것을 목표로 합니다.

많은 기업이 이미 데이터와 AI 자산의 메타데이터를 하나의 장소에 통합해 중복을 제거하고 데이터 무결성을 개선하는 초기 단계를 밟고 있습니다. 기업들이 더 많은 AI 사용 사례를 배포함에 따라 이는 중요한 기반이 될 것입니다. 데이터와 AI를 함께 거버넌스함으로써 AI 모델이 고품질 데이터 세트를 기반으로 결과를 생성하고 작업을 수행하도록 보장할 수 있습니다. 이는 AI 시스템의 전반적인 성능을 향상시키는 동시에, 이를 구축하고 유지하는 데 소요되는 운영 비용을 줄입니다.

“더 많은 기업이 데이터 인텔리전스를 수용함에 따라, 리더들은 광범위한 접근성과 프라이버시, 보안, 비용 문제를 어떻게 균형 있게 조율할지에 대해 비판적으로 고민해야 합니다. 올바른 엔드투엔드 거버넌스 프레임워크는 기업이 접근성, 사용량, 리스크를 보다 쉽게 모니터링하고, 효율성을 개선하며 비용을 절감할 방법을 발견하게 해줍니다. 이는 기업들이 AI 전략에 더 많은 투자를 할 수 있도록 자신감을 제공합니다.”
— Trâm Phi, General Counsel

AI 도입 촉진을 위한 역량 강화가 초점이 될 것입니다

AI 프로젝트에서 인간 개입(human-in-the-loop) 접근법은 앞으로도 수년간 필요할 것입니다. 지난 2년 동안 AI 역량 강화는 이러한 시스템의 작동 방식과 프롬프트 엔지니어링을 이해하는 데 초점이 맞춰졌습니다. 하지만 오늘날의 모델 적용 방법은 이제 막 표면을 드러냈을 뿐이며, 새로운 애플리케이션을 개발하는 데 있어 진정한 장애물은 인간의 행동에 관한 것입니다. 이 때문에 조직들은 정교한 채용 관행, 내부 AI 애플리케이션 개발, 특화된 사용 사례 교육 등을 통해 AI 도입을 촉진하는 데 주력할 것입니다.

“현재 우리가 운영하는 세상에서는 기술적인 숙련도(skillset)보다 사고방식(mindset)이 더 중요합니다. 기술은 빠르게 진화하고 있으므로, 우리는 열린 사고방식, 창의적인 성장 마인드셋, 새로운 것을 배우고 시도하는 데 열정을 가진 사람들을 찾아야 합니다”
— Amy Reichanadter, Chief People Officer