Phần việc AI hữu ích hiếm khi nằm ở mô hình. Nó nằm ở lớp truy xuất bao quanh, bước hậu xử lý phía sau, và phần cứng bên dưới. Chúng tôi xây cả ba, theo đúng khối lượng tài liệu của quý vị và đặt ở nơi dữ liệu được phép tồn tại.
Chúng tôi tập trung vào đâu
- OCR và hiểu tài liệu cho bản quét, chữ viết tay và ảnh chụp.
- Truy xuất và hỏi đáp tiếng Việt, đánh giá dựa trên VMLU và chính tài liệu của quý vị.
- Cụm suy luận nội bộ trên GPU phổ thông, điều phối bằng cùng bộ công cụ với phần còn lại của nền tảng.
- Tính năng mô hình ngôn ngữ bên trong công cụ nội bộ, với khóa và prompt giữ ở phía máy chủ.
Cách chúng tôi làm việc
Chúng tôi bắt đầu từ một mẫu tài liệu quý vị thực sự có và một mức trần chi phí mỗi trang. Chúng tôi đánh giá các mô hình ứng viên theo tiêu chí đó, không theo bảng xếp hạng, và bàn giao bộ nhỏ nhất vượt được ngưỡng. Mọi thứ chạy trên phần cứng mà quý vị chỉ tay vào được.