Hãy đặt câu hỏi đầu tiên
Dữ liệu chỉ xử lý trong máy chủ nội bộ, không gửi ra internet. Lần hỏi đầu tiên có thể chậm do phải nạp mô hình vào RAM.
CPU
–
–
RAM
–
–
Swap
–
–
Ổ đĩa (/)
–
–
Nhiệt độ
–
–
Ollama
–
–
Từng nhân CPU
Mô hình đang nạp trong RAM
Tốc độ sinh chữ gần đây (token/giây)
Mô hình đã cài
| Tên | Dung lượng | Tham số | Lượng tử hóa | Trạng thái |
|---|
Nạp trước giúp lần hỏi đầu không phải chờ. Giải phóng để trả RAM khi không dùng. Mô hình tự giải phóng sau thời gian không hoạt động (mặc định 30 phút).
Khóa quản trị
Chỉ cần khi quản trị viên đã đặt biến ADMIN_KEY trên máy chủ. Muốn cài hoặc xóa mô hình, dùng lệnh
ollama pull / ollama rm trên máy chủ.Số lượt hỏi
–
từ khi bắt đầu ghi nhận
Token đã đọc
–
đầu vào (câu hỏi + ngữ cảnh)
Token đã sinh
–
đầu ra (câu trả lời)
Tốc độ trung bình
–
token/giây (500 lượt gần nhất)
30 lượt gần nhất
| Thời gian | Địa chỉ IP | Mô hình | Đọc | Sinh | Tốc độ sinh | Tốc độ đọc | Tổng (s) |
|---|