태그 · #open-source

NVIDIA와 AI4Bharat, 2.8조 토큰의 인디언어 코퍼스 및 오픈 파이프라인 공개

읽어야 하는 이유 이번 공개는 방대하고 검증 가능한 합성 코퍼스와 이를 생성하는 데 사용된 재사용 가능한 도구를 제공하여 인도 언어의 심각한 데이터 부족 문제를 해결합니다.

NVIDIA와 AI4Bharat은 22개 언어를 위한 2.8조 토큰 규모의 인디언어 사전학습 코퍼스와 GPU 가속 데이터 생성 파이프라인을 공개했습니다.

읽어야 하는 이유 본 연구는 멀티모달 코딩을 위한 고품질 학습 데이터의 중요한 격차를 해소하며, 분해된 기준 합성을 통해 독점 시스템에 맞서는 오픈 모델을 제시합니다.

PrismaCoder-9B 및 35B 모델은 새로운 기준 기반 데이터 파이프라인을 활용하여 오픈 멀티모달 코드 지능 벤치마크에서 선도적인 성과를 거두었습니다.

읽어야 하는 이유 Holo4는 다중 인터페이스 자동화를 위한 통합 모델을 제공하며, 훈련 궤적을 오픈소스로 공개하면서 저비용으로 최전선 모델과 경쟁합니다.

Hcompany는 GUI, 코드, MCP, API 인터페이스를 지원하는 범용 컴퓨터 작업용 Holo4 에이전트 모델을 출시했으며, 훈련 궤적을 오픈소스로 공개하고 저비용으로 최전선 모델과 경쟁합니다.

읽어야 하는 이유 개발자들은 비디오, 오디오, 이미지 모달리티를 아우르는 경쟁력 있는 멀티모달 모델을 훈련하기 위해 이 규모의 데이터가 필요합니다.

LAION-BVD 는 CommonCrawl 에서 수집한 총 8000 만 개 비디오 (1000 만 시간) 를 포함하는 대규모 오픈 비디오 데이터셋으로, 비독점 데이터를 활용한 멀티모달 모델 학습에 필수적입니다.

Cloudflare의 Rust 기반 Infire 엔진이 프리필/디코드 분리 아키텍처로 H100 풀로드 시 vLLM 0.10 대비 20% 높은 처리량 달성. Unweight는 15–22% 무손실 가중치 압축 실현.

vLLM v0.20.0: 커밋 752개, 기여자 320명. CUDA 13.0 기본화, PyTorch 2.11, Transformers v5, Python 3.14, FlashAttention 4 기본화, TurboQuant 2-bit KV cache 4배 용량.