Dùng Tự động để chọn mô hình AI tốt nhất cho từng nhiệm vụ

Tự động là bộ định tuyến mô hình, đọc từng nhiệm vụ và chuyển nhiệm vụ đó đến mô hình cân bằng tốt nhất giữa chất lượng, tốc độ và chi phí. Với mỗi nhiệm vụ, Tự động chọn một mô hình từ nhiều nhà cung cấp AI, dựa trên đánh giá của Notion và các mô hình mà không gian làm việc của bạn cho phép. Chế độ này sử dụng các mô hình nhanh hơn cho câu hỏi và chỉnh sửa đơn giản, còn các mô hình mạnh hơn cho công việc phức tạp.

Tự động được bật theo mặc định trong trình chọn mô hình, trong cuộc trò chuyện với Trợ lý Notion và trong phần cài đặt của trợ lý tùy chỉnh. Khi bạn sử dụng Tự động, Notion sẽ chọn mô hình tốt nhất cho từng nhiệm vụ. Sau đây là cách hoạt động:

• Tự động chọn mô hình phù hợp với nhiệm vụ. Các câu hỏi, chỉnh sửa và tóm tắt đơn giản sẽ được chuyển đến các mô hình nhanh và hiệu quả. Các nhiệm vụ phức tạp hơn, chẳng hạn như nghiên cứu chuyên sâu, viết mã hoặc xây dựng trợ lý tùy chỉnh, có thể được chuyển đến các mô hình mạnh hơn.

• Tự động có thể điều chỉnh trong khi thực hiện nhiệm vụ. Với nhiệm vụ gồm nhiều bước, Tự động có thể chuyển sang mô hình mạnh hơn cho các bước khó, rồi chuyển sang mô hình khác cho các bước đơn giản hơn.

• Tự động luôn cập nhật các mô hình mới. Notion đánh giá các mô hình mới về chất lượng, tốc độ, chi phí và độ tin cậy trước khi cung cấp chúng. Các mô hình có sẵn thông qua Tự động có thể thay đổi. Tìm hiểu cách Notion đánh giá các mô hình qua những công việc tri thức thường gặp →

• Tự động tuân theo cài đặt không gian làm việc của bạn. Chế độ này chỉ sử dụng các mô hình được không gian làm việc của bạn cho phép và đáp ứng các yêu cầu của không gian làm việc, bao gồm các quy định kiểm soát mô hình và hạn chế về nhà cung cấp. Nếu chủ sở hữu giới hạn các mô hình mà Tự động có thể sử dụng, chế độ này sẽ chuyển sang mô hình có chi phí thấp nhất tiếp theo mà không gian làm việc cho phép.

• Tự động cần có đủ mô hình được bật để hoạt động hiệu quả. Nếu chủ sở hữu tắt quá nhiều mô hình trong không gian làm việc, Tự động sẽ kém hiệu quả hơn. Khi lưu thay đổi làm giảm chất lượng chung của Tự động, chủ sở hữu không gian làm việc sẽ thấy cảnh báo.

Bạn có thể tự chọn mô hình bất cứ lúc nào. Hãy tự chọn khi:

• Bạn muốn dùng cùng một mô hình trong suốt cuộc trò chuyện, thay vì để Tự động chọn hoặc chuyển mô hình khi công việc thay đổi.

• Bạn ưu tiên một mô hình cụ thể cho một loại công việc nhất định.

• Tự động chưa cho ra kết quả bạn cần và bạn muốn thử mô hình khác.

Để chọn mô hình

Trong cuộc trò chuyện với Trợ lý Notion:

1. Chọn Tự động để mở trình chọn mô hình.

2. Di chuột qua một mô hình để so sánh tốc độ, trí thông minh và chi phí.

3. Chọn mô hình.

Sau khi bạn chọn, Trợ lý Notion sẽ dùng mô hình đó trong cuộc trò chuyện. Để chuyển lại sang Tự động, hãy mở trình chọn mô hình rồi chọn Tự động.

Trong cài đặt trợ lý tùy chỉnh:

1. Mở Cài đặt của trợ lý.

2. Đi tới phần mô hình rồi mở trình chọn mô hình.

3. Chọn mô hình.

4. Chọn Lưu.

Sau khi chọn, trợ lý tùy chỉnh sẽ sử dụng mô hình đó cho đến khi bạn thay đổi mô hình.

Chủ sở hữu không gian làm việc kiểm soát những mô hình nào mà thành viên có thể chọn. Các mô hình từ nhà cung cấp mà không gian làm việc của bạn đã tắt sẽ không xuất hiện. Các mô hình mà không gian làm việc của bạn đã hạn chế sẽ xuất hiện trong Mô hình bị hạn chế và không thể chọn được. Tìm hiểu cách quản lý các mô hình AI và mức chi tiêu tín dụng của thành viên →

Với các gói Business và Enterprise, Trợ lý Notion dùng tín dụng Tiêu chuẩn khi bạn dùng Tự động và tín dụng Chọn khi bạn tự chọn mô hình. Nếu bạn dùng hết một trong hai loại tín dụng, quản trị viên có thể cho phép bạn tiếp tục dùng các tính năng AI bằng tín dụng Notion. Tìm hiểu thêm về cách quản lý tín dụng AI của bạn →

Đối với hầu hết công việc hằng ngày trong Notion, Tự động có thể giúp bạn làm được nhiều việc hơn tới 10 lần với cùng số tín dụng so với khi tự chọn một mô hình hàng đầu. Tự động chọn mô hình phù hợp với công việc và tiêu tốn ít tín dụng hơn cho mỗi nhiệm vụ, giúp bạn dùng tín dụng để hoàn thành nhiều việc hơn. Trong quá trình thử nghiệm của chúng tôi:

• Chi phí trung bình cho mỗi lượt chạy của Tự động thấp hơn 87% so với Opus 5.5.

• Việc trau chuốt tài liệu hoặc email tiêu tốn lượng tín dụng bằng khoảng một phần tám so với việc xây dựng tài liệu chiến lược chi tiết hoặc kế hoạch hằng quý.

Bảng này so sánh mức sử dụng tín dụng ước tính cho các nhiệm vụ phổ biến khi dùng Tự động và Opus 5.5. Mức sử dụng thực tế của bạn có thể khác.

Mức sử dụng tín dụng thay đổi tùy theo từng tình huống. Ví dụ, yêu cầu Trợ lý Notion trau chuốt một email trong chuỗi email dài chứa thông tin phức tạp có thể tiêu tốn nhiều tín dụng hơn. Ngay cả với những nhiệm vụ thường tiêu tốn nhiều tín dụng hơn, Tự động vẫn tạo ra kết quả tương đương với các mô hình tiên tiến nhất.

Chúng tôi đã cho Tự động thực hiện lại hàng nghìn nhiệm vụ thường gặp trong thực tế ở môi trường Notion mô phỏng, rồi so sánh kết quả giữa các mô hình. Cách thực hiện như sau:

1. Chúng tôi so sánh từng cặp mô hình một. Chúng tôi cho một nhóm các mô hình hàng đầu xem kết quả công việc từ hai mô hình khác nhau, đặt cạnh nhau.

2. Nhóm giám khảo chọn kết quả tốt hơn mỗi lần, sử dụng một bộ hướng dẫn chấm điểm.

3. Chúng tôi đã cho mỗi mô hình một điểm Elo dựa trên tất cả các lần so sánh trực tiếp này.

Điểm Elo đánh giá kỹ năng dựa trên cách một người chơi thể hiện trước những người khác qua nhiều trận đối đầu trực tiếp, giống như xếp hạng các kỳ thủ cờ vua. Đây là một cách đơn giản, đáng tin cậy để chấm điểm các mô hình dựa trên công việc thực tế.

Việc chạy thủ công mọi trận đối đầu rất tốn kém, vì vậy chúng tôi đã huấn luyện một giám khảo AI để khớp sát với các bảng xếp hạng này, cho phép chúng tôi thực hiện nhiều so sánh cùng một lúc. Điểm số của chúng tôi đến từ phương pháp đó.