Nemotron Giới thiệu

Nemotron hoạt động thông qua các biến thể chuyên biệt khác nhau được tối ưu hóa cho các trường hợp sử dụng cụ thể. Các mô hình cơ bản phục vụ như nền tảng, trong khi các mô hình hướng dẫn được tinh chỉnh cho mục đích trò chuyện và tương tác. Các mô hình thưởng giúp tạo ra dữ liệu đào tạo chất lượng cao phù hợp với sở thích của con người. Để triển khai, Nemotron tích hợp với NeMo Framework của NVIDIA và có thể được sử dụng thông qua các dịch vụ vi mô gốc đám mây qua NVIDIA NIM. Các mô hình sử dụng các kỹ thuật tiên tiến như Học Tăng cường từ Phản hồi của Con người (RLHF), tinh chỉnh hiệu quả tham số và hỗ trợ độ dài ngữ cảnh lên đến 4.096 token. Đối với các ứng dụng trò chơi, các biến thể nhỏ hơn như Nemotron-4 4B có thể chạy trên thiết bị để cho phép các tương tác NPC tự nhiên, trong khi các mô hình lớn hơn phục vụ cho các ứng dụng cấp doanh nghiệp.