태그 · #gpu

Ai2, 코먼즈의 비극 해결을 위해 우선순위 스케줄링을 GPU 시간 예산으로 대체

읽어야 하는 이유 이 사례 연구는 시간 예산과 같은 경제적 인센티브가 공유 GPU 클러스터에서의 자원 스쿼팅 및 우선순위 인플레이션과 같은 기술적 스케줄링 문제를 어떻게 해결할 수 있는지 보여줍니다.

Ai2는 결함이 있는 우선순위 기반 스케줄러에서 GPU 시간 예산이 포함된 계층적 공정 공유 시스템으로 전환하여 클러스터 점유율과 연구 영향력을 개선했습니다.

읽어야 하는 이유 확산 기반 언어 모델을 다루는 연구자 및 엔지니어는 이 학습 없는 가속 프레임워크를 채택하여 추론 지연 시간과 메모리 오버헤드를 크게 줄일 수 있습니다.

Flash-dLLM은 보조 모델 없이 확산 LLM을 가속화하기 위해 I/O 인식 융합 KV-캐시 커널과 병렬 디코딩 전략을 도입합니다.

읽어야 하는 이유 이 컴파일러 접근 방식은 커널 호출 오버헤드를 제거하여, 이전에는 CPU가 우세했던 대규모 게임에서도 GPU 기반 CFR을 가능하게 합니다.

GPU-CFR는 게임 트리를 정적 데이터플로우로 컴파일하여 기존 GPU 구현 대비 최대 80배 속도 향상을 달성하고 CPU 베이스라인을 압도합니다.