Cập nhật GPT-3.5 Turbo fine-tuning

Có một cập nhật mới từ GPT-3.5 Turbo và quá trình tinh chỉnh mô hình, mang đến cho các nhà phát triển khả năng tùy chỉnh mô hình theo dữ liệu riêng của họ để phù hợp với các trường hợp sử dụng cụ thể. Quá trình tinh chỉnh GPT-3.5 Turbo đã được giới thiệu, và tinh chỉnh GPT-4 sẽ ra mắt vào mùa thu này. Điều này mang đến cho các nhà phát triển khả năng tạo ra các mô hình tinh chỉnh hoạt động hiệu quả hơn cho các trường hợp sử dụng cụ thể của họ và triển khai những mô hình tùy chỉnh này ở quy mô lớn. Các thử nghiệm ban đầu đã cho thấy phiên bản tinh chỉnh của GPT-3.5 Turbo có thể tương đương hoặc vượt qua khả năng cơ bản của GPT-4 đối với một số nhiệm vụ cụ thể.

Như thường lệ với các giao diện lập trình ứng dụng (API) của OpenAI, dữ liệu được sử dụng trong quá trình tinh chỉnh không bị chia sẻ hoặc sử dụng để huấn luyện các mô hình khác.

Tinh chỉnh để phù hợp với các trường hợp sử dụng cụ thể Kể từ khi GPT-3.5 Turbo được giới thiệu, các nhà phát triển và doanh nghiệp đã yêu cầu khả năng tinh chỉnh mô hình để tạo ra trải nghiệm độc đáo cho người dùng của họ. Qua cập nhật này, các nhà phát triển có thể thực hiện tinh chỉnh giám sát để tối ưu hóa mô hình cho các trường hợp sử dụng cụ thể của họ.

Fine-tuning use cases

Các ứng dụng của tinh chỉnh là vô cùng đa dạng, bao gồm:

1. Nâng cao khả năng điều khiển: Tinh chỉnh cho phép doanh nghiệp điều chỉnh mô hình để tuân theo hướng dẫn tốt hơn, như tạo ra kết quả ngắn gọn hoặc phản hồi bằng ngôn ngữ cụ thể. Ví dụ, tinh chỉnh có thể được sử dụng để đảm bảo rằng mô hình luôn phản hồi bằng tiếng Đức khi yêu cầu sử dụng ngôn ngữ này.

2. Định dạng đầu ra đáng tin cậy: Tinh chỉnh giúp cải thiện khả năng định dạng các phản hồi một cách nhất quán - một yếu tố quan trọng đối với các ứng dụng yêu cầu định dạng phản hồi cụ thể, như hoàn thiện mã hoặc tạo cuộc gọi API. Tinh chỉnh có thể giúp chuyển đổi yêu cầu từ người dùng thành đoạn mã JSON chất lượng cao, phù hợp với hệ thống riêng của doanh nghiệp.

3. Tùy chỉnh tone: Tinh chỉnh giúp làm cho đầu ra của mô hình phù hợp hơn với cảm giác và giọng điệu của thương hiệu doanh nghiệp. Điều này có thể giúp tạo ra một đầu ra có cảm giác chất lượng hơn, phù hợp với giọng điệu thương hiệu cụ thể.

Các bước Fine-tuning

Bước 1: Chuẩn bị dữ liệu của bạn

Bước 2: Tải tập tin lên

Bước 3: Tạo một công việc tinh chỉnh

Sau khi một mô hình hoàn tất quá trình tinh chỉnh, mô hình đó sẽ có sẵn để sử dụng ngay trong sản xuất và có cùng giới hạn tốc độ chung như mô hình cơ bản.

Bước 4: Sử dụng mô hình tinh chỉnh

Tinh chỉnh mô hình GPT-3.5 Turbo cũng cho phép rút ngắn kích thước câu hỏi mà không ảnh hưởng đến hiệu suất, và có thể xử lý đến 4,000 token, gấp đôi so với các mô hình tinh chỉnh trước đó.

Tinh chỉnh kết hợp với các kỹ thuật khác Tinh chỉnh mô hình GPT-3.5 Turbo kết hợp với các kỹ thuật khác như kỹ thuật kích thích, truy xuất thông tin và gọi hàm có thể tạo ra hiệu suất tối ưu hơn và trải nghiệm tùy chỉnh hơn. Điều này đặc biệt hữu ích trong việc tạo ra các ứng dụng trí tuệ nhân tạo đa dạng và mạnh mẽ.

Hướng dẫn tinh chỉnh chi tiết và giao diện người dùng sắp ra mắt sẽ giúp các nhà phát triển tiếp cận và quản lý quá trình tinh chỉnh dễ dàng hơn.

Đảm bảo tính an toàn

An toàn và chi phí OpenAI luôn chú trọng đến an toàn trong việc triển khai tinh chỉnh. Để đảm bảo tính an toàn, dữ liệu đào tạo trong quá trình tinh chỉnh được kiểm tra qua giao diện kiểm duyệt của OpenAI và hệ thống kiểm duyệt của GPT-4 để ngăn dữ liệu không an toàn.

Chính sách giá cả

Về giá cả, chi phí tinh chỉnh bao gồm chi phí đào tạo ban đầu và chi phí sử dụng:

• Đào tạo: $0,008 / 1K Token

• Dữ liệu đầu vào sử dụng: $0,012 / 1K Token

• Dữ liệu đầu ra sử dụng: $0,016 / 1K Token

Chẳng hạn, một công việc tinh chỉnh gpt-3.5-turbo với tệp đào tạo 100,000 token và được đào tạo trong 3 chu kỳ có chi phí ước tính là $2,40.

Các cập nhật mô hình GPT-3

Các cập nhật về các mô hình GPT-3 cơ bản Để đáp ứng việc tắt GPT-3 cơ bản, OpenAI đã giới thiệu babbage-002 và davinci-002 như các phiên bản thay thế. Các phiên bản này có thể được tinh chỉnh bằng API mới /v1/fine_tuning/jobs. Giá cả cho các mô hình này là:

• Mô hình cơ bản:

  • Đào tạo: $0,0004 / 1K token

  • Dữ liệu đầu vào sử dụng: $0,0004 / 1K token

  • Dữ liệu đầu ra sử dụng: $0,0004 / 1K token

• Mô hình tinh chỉnh:

  • Đào tạo: $0,0016 / 1K token

  • Dữ liệu đầu vào sử dụng: $0,002 / 1K token

  • Dữ liệu đầu ra sử dụng: $0,002 / 1K token

Hướng dẫn chi tiết về tinh chỉnh và cập nhật mô hình có thể được tìm thấy trong tài liệu của OpenAI.