2026.06.10
BC카드가 오픈소스 기반 인공지능(AI) 인프라 최적화 전략을 공개하며, 'AI 네이티브' 기업으로의 전환 여정을 소개했다. 회사는 미국 애틀랜타에서 열린 '레드햇 서밋 2026'에서 글로벌 오픈소스 기업 레드햇과 공동 구축한 '에이전틱 AI 운영 플랫폼'을 공식 발표했다.
이번에 공개된 플랫폼은 하나의 대규모언어모델(LLM)에 모든 업무를 집중시키는 방식 대신, 업무 영역별로 특화된 다수의 소형언어모델(SLM)을 군집화해 동시에 처리하는 구조를 채택했다. 이를 통해 특정 업무에 최적화된 안정적인 결과 도출과 함께, 추론 속도를 최대 3배 이상 높이고 그래픽처리장치(GPU) 자원을 최대 70%까지 절감할 수 있었다는 설명이다.
BC카드는 연간 100억 건 이상의 결제 데이터를 처리해 온 경험을 바탕으로 고가의 GPU 자원을 효율적으로 분산하는 방식을 구축했으며, 실시간 소비 패턴 분석 기반 맛집 추천 서비스 'Eat.pl', 금융 특화 생성형 AI 플랫폼 'BCGPT', 다중 AI 연결 업무 자동화 플랫폼 'MOAI' 등 실제 서비스에 이를 적용하고 있다.
또한 자체 개발한 AI 모델과 한국 금융 특화 데이터셋을 글로벌 오픈소스 커뮤니티에 공개하는 등 오픈소스 생태계 기여도 확대하고 있다. 이번 사례는 GPU 물량 확보에만 의존하지 않고 오픈소스 기반의 SW 최적화로 AI 인프라 경쟁력을 확보할 수 있음을 보여준 대표적 사례로 평가된다.
원문보기 : https://www.ddaily.co.kr/page/view/2026061013474890426
[원문출처]
※ 본 내용은 디지털데일리(www.ddaily.co.kr)의 저작권 동의에 의해 공유되고 있습니다.
Copyright ⓒ디지털데일리 및 재배포 금지
자세한 기사는 링크를 참조하시기 바라며 한국저작권위원회는 공정한 오픈소스SW 사용을 위하여 상담, 컨설팅, 라이선스 교육, 오픈소스SW 라이선스 검사서비스 등을 무료로 제공하고 있습니다.
|
