Giới Thiệu

Chào mừng các đội! Tài liệu này là hướng dẫn để định hướng phát triển tập trung Post-Training mô hình cho cuộc thi. Hướng dẫn này dựa trên các thực tiễn tốt nhất từ:

• Smol Training Playbook
• Nanotron Ultrascale Playbook
• Post-training 101

Trong khuôn khổ cuộc thi AI Thực Chiến, chúng tôi đề xuất quy trình huấn luyện mô hình gồm 4 giai đoạn chính:

• Giai đoạn I: Chiến lược & Thiết lập Tiền huấn luyện
• Giai đoạn II: Huấn luyện phân tán (Distributed Training)
• Giai đoạn III: Hậu huấn luyện & Hiệu chỉnh (Alignment)
• Giai đoạn IV: Hoàn thiện & Nộp Mô hình