CIO코리아가 주최하고 IBM이 후원한 조찬 행사 ‘디지털 리더스 브렉퍼스트 미팅(Digital Leaders’ Breakfast Meeting)’이 10월 29일 오전 7시 30분, 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스 호텔에서 열렸다.
‘비즈니스 혁신을 위한 AI 레디 데이터(AI-Ready Data) 전략과 에이전틱 미래 설계’를 주제로 진행된 이번 행사에는 국내 주요 기업의 CIO 및 IT 리더 25여 명이 참석해, 급변하는 AI 환경에서 데이터 전략의 방향과 기업의 대응 방안에 대해 논의했다.
행사의 첫 세션은 김경민 IDC코리아 이사가 ‘에이전틱 미래 설계: 데이터로 여는 가치 혁신’이라는 주제로 시작했다. 김 이사는 “AI는 이제 실험의 단계를 넘어 비즈니스 전반을 오케스트레이션하는 새로운 국면에 진입했다”라며, “기술이 단순히 비즈니스를 지원하는 수단을 넘어 비즈니스를 직접 이끄는 전략 그 자체가 되는 시대가 왔다”라고 강조했다.
그는 IDC의 최근 조사 결과를 인용하며, 아시아태평양 기업의 절반이 ‘AI 활용을 위한 준비된 데이터 즉, AI 레디 데이터를 최우선 과제로 삼고 있다고 설명했다. 김 이사는 “AI 혁신의 핵심은 모델보다 데이터에 있다”라며, “설명 가능성과 신뢰성을 갖춘 AI를 위해서는 데이터의 품질, 접근성, 거버넌스가 중요하다”라고 말했다.
IDC의 분석에 따르면 전 세계 기업 중 42%가 이미 AI 에이전트를 프로덕션 단계에서 운영 중이며, 이는 단순 자동화가 아닌 자율적 의사결정과 실시간 반응을 수행하는 수준으로 진화하고 있다. 김 이사는 이를 “인간과 AI가 상호 작용하며 자율적으로 가치 창출을 수행하는 에이전틱 시대”로 정의했다.
이어 김경민 이사는 기업이 이 새로운 시대에 대비하기 위해 갖춰야 할 ‘데이터 중심 AI(Data-Centric AI)’ 전략을 제시했다. 김 이사는 “데이터 센트릭 AI는 모델을 바꾸기보다 데이터를 개선해 AI의 학습 효율과 정확도를 높이는 접근법”이라며 “기업은 데이터 파이프라인의 품질을 개선해 AI 가치 실현 속도를 단축해야 한다”라고 조언했다.
두 번째 세션에서는 한국IBM 이지은 전무 겸 CTO가 ‘AI 가속화를 위한 AI-레디 데이터 전략 및 최신 기술’을 주제로 발표를 이어갔다.
이지은 전무는 “AI 여정에서 기업이 가진 고유 데이터야말로 차별화의 핵심”이라며, “특히 전체 데이터의 90%를 차지하는 비정형 데이터를 AI가 신뢰할 수 있는 자산으로 전환하는 것이 혁신의 열쇠”라고 강조했다.
이지은 CTO는 AI 레디 Data를 위한 핵심 요소로 ▲데이터 통합(Integration) ▲데이터 저장소(레이크하우스) ▲데이터 인텔리전스 ▲거버넌스 ▲보안을 제시했다.
이지은 전무는 데이터 통합과 관련해 “실시간·배치 등 다양한 방식으로 데이터를 신속하게 수집할 수 있어야 한다”라며, “데이터 저장소는 하이브리드 환경을 지원해 물리적 위치와 상관없이 사용자가 필요한 데이터를 활용할 수 있도록 통합돼야 한다”라고 설명했다.
이어 데이터 인텔리전스 영역에서는 “메타데이터, 품질 관리, 데이터 리니지 등 거버넌스는 끊임없이 관리해야 하는 과제”라며 “데이터는 조직과 프로세스에 따라 계속 변하기 때문에 사람에게만 의존하면 흐트러질 수밖에 없다”고 지적했다. 그는 “플랫폼 기반의 시스템화를 통해 사람 의존도를 줄이고 노하우를 시스템에 내재화해야 한다”고 밝혔다.
또한 데이터 거버넌스의 중요성을 거듭 강조하며 “데이터의 의미나 출처를 모르면 활용 가치가 떨어지고, AI에서 데이터를 제대로 활용하지 못하면 실패로 이어질 수 있다”라고 말했다.
이 전무는 다섯 가지 요소 중에서도 보안을 핵심으로 꼽으며 “기업의 핵심 업무에 AI를 적용해야 ROI를 기대할 수 있지만, 보안이 확보되지 않으면 이는 모래 위에 성을 쌓는 것과 같다”라며 “데이터 권한 관리와 데이터 민주화를 균형 있게 추진해 필요한 사람에게만 적절히 접근이 이뤄져야 한다”라고 덧붙였다.
또한 이지은 전무는 올해 초 IBM이 데이터스택스(DataStax)를 인수하며 벡터 데이터베이스(Vector DB) 역량을 한층 강화하고 있다고 설명했다. 데이터스택스는 아파치 카산드라(Apache Cassandra) 오픈소스를 기반으로, NoSQL과 벡터 DB를 지원하는 기술이다.
이지은 전무는 특히 에이전트 AI 시대에 실시간 데이터 처리의 중요성을 강조하며 데이터스택스 기술이 기업에 도움이 될 것이라고 언급했다. 이 CTO는 “에이전트 AI가 확산되면 클릭스트림 데이터, 로그 데이터, 이벤트 데이터 등을 실시간으로 분석·활용해야 하는 상황이 많아진다”라며 “따라서 원천 시스템에서 발생하는 데이터를 실시간으로 스트리밍하고, 대용량이면서도 실시간으로 활용 가능한 운영형 데이터 스토어의 역할이 점점 더 중요해질 것”이라고 설명했다.
그는 이어 “대용량 배치 데이터를 벡터 DB에 저장해 시맨틱 검색을 수행하는 경우도 있고, 반대로 실시간으로 들어오는 데이터를 즉시 검색해야 하는 경우도 있다”며 “IBM의 데이터스택스 기반 솔루션은 이러한 다양한 워크로드에 모두 대응할 수 있는 유연한 옵션을 제공한다”고 덧붙였다.
jihyun.lee@foundryco.com
