2026.09.03
기업의 생성형 인공지능(AI) 활용이 시험 단계를 넘어 실제 서비스로 확산하면서 오픈소스 기반 AI 인프라 운영 책임이 새로운 과제로 떠올랐다. AI 모델부터 개발도구와 추론 엔진, 쿠버네티스까지 여러 오픈소스 기술을 조합하는 방식이 보편화됐지만, 장애나 보안 문제가 발생했을 때 이를 누가 관리하고 책임질 것인지에 대한 체계는 아직 부족하다는 지적이다.
클라우드네이티브컴퓨팅재단(CNCF)이 올해 1월 공개한 조사에 따르면 컨테이너 이용 기업 중 82%가 실제 운영 환경에서 쿠버네티스를 사용하고 있다. 생성형 AI 모델을 운영하는 기업 가운데 66%는 일부 또는 전체 AI 추론 작업을 쿠버네티스로 관리하는 것으로 나타났다.
과거 웹과 애플리케이션을 운영하는 데 주로 쓰였던 쿠버네티스가 이제는 AI 모델 학습과 추론, 그래픽처리장치(GPU) 자원 관리까지 담당하는 공통 기반으로 자리 잡고 있는 셈이다. 기업 AI 인프라도 단일 제품이 아니라 오픈모델과 파이토치 같은 머신러닝 개발도구, vLLM 같은 추론 엔진, 쿠버네티스와 각종 배포·점검 도구가 결합된 형태로 바뀌고 있다.
오픈소스 활용 속도와 관리 체계 사이에는 여전히 격차가 있다. 리눅스재단이 전 세계 관계자 851명을 조사한 ‘글로벌 오픈소스 현황 2025’에 따르면 AI·머신러닝 분야의 오픈소스 도입률은 40%로 전년보다 5%포인트 증가했다.
원문보기 : https://www.ddaily.co.kr/page/view/2026090217393002752
[원문출처]
※ 본 내용은 디지털데일리(www.ddaily.co.kr)의 저작권 동의에 의해 공유되고 있습니다.
Copyright ⓒ디지털데일리 및 재배포 금지
자세한 기사는 링크를 참조하시기 바라며 한국저작권위원회는 공정한 오픈소스SW 사용을 위하여 상담, 컨설팅, 라이선스 교육, 오픈소스SW 라이선스 검사서비스 등을 무료로 제공하고 있습니다.
