VI ▾

Grok quá nghiêm ngặt? Chuyển sang API không kiểm duyệt

Cập nhật

Khi bạn cảm thấy grok ai quá nghiêm ngặt cho dự án của mình, trước tiên hãy tìm hiểu xem nguyên nhân là do prompt hay do quy định của mô hình. Nếu là quy định, việc chuyển sang API tương thích OpenAI không kiểm duyệt chỉ cần thay đổi ba giá trị trong mã của bạn.

Một bong bóng trò chuyện bị chặn bởi hàng rào ở một bên và chảy tự do qua cáp đến thiết bị đầu cuối ở bên kia

Trước tiên, xác định loại nghiêm ngặt bạn đang gặp

Nhiều nhà phát triển nhận thấy grok ai quá nghiêm ngặt khi dự án chuyển từ bản demo sang nội dung thực tế: tiểu thuyết có bạo lực, nhân vật người lớn trong ứng dụng đồng hành, hài hước đen, thảo luận về bảo mật. Trước khi thay nhà cung cấp, hãy dành mười phút để xác định xem bạn gặp phải một trong hai vấn đề nào. Lỗi do prompt có thể khắc phục bằng hướng dẫn tốt hơn. Lỗi do chính sách không thể khắc phục bằng bất kỳ cách diễn đạt nào, và việc thử chỉ tốn thời gian và token.

Tín hiệu nhanh là tính nhất quán. Nếu cùng một yêu cầu bị từ chối mọi lúc, trong một phiên sạch và với một prompt hệ thống đơn giản, bạn đang nhìn vào một quy tắc. Nếu nó thành công đôi khi và thất bại vào những lúc khác, hoặc nếu câu trả lời chỉ bị pha loãng, nguyên nhân có lẽ nằm ở cách bạn hỏi.

Bài kiểm tra mười phút để tách prompt khỏi chính sách

  1. Hãy sử dụng chính xác yêu cầu đã thất bại và thực thi yêu cầu đó trong một phiên mới không có tin nhắn trước đó. Văn bản hội thoại cũ có thể khiến mô hình trở nên thận trọng hơn.
  2. Giản lược prompt hệ thống của bạn xuống còn một câu đơn giản mô tả nhiệm vụ và đối tượng. Các prompt hệ thống dài, gây lo lắng khi cảnh báo về rủi ro có thể làm tăng khả năng từ chối, chứ không phải giảm.
  3. Mô tả ngữ cảnh mà một biên tập viên người sẽ muốn biết: thể loại, việc các nhân vật đã trưởng thành và mục đích của cảnh đó.
  4. Hãy giảm nhiệt độ xuống 0.7 trở xuống và thử lại năm lần. Nếu bạn nhận được năm lần từ chối, hành vi đó là ổn định và không phải do may mắn.
  5. Chia nhiệm vụ. Một yêu cầu dài với một phần nhạy cảm đôi khi thất bại dưới dạng toàn bộ trong khi các phần an toàn thành công riêng lẻ.

Nếu các bước 1 đến 5 vẫn kết thúc bằng từ chối, bạn đã có câu trả lời. Ngừng điều chỉnh prompt và xem xét mô hình, không phải cách diễn đạt.

Hãy ghi chép nhỏ trong quá trình thử nghiệm. Ghi lại prompt, các cài đặt, xem phản hồi là từ chối, trả lời một phần hay đầy đủ, và ước lượng số token đã sử dụng. Hai mươi dòng là đủ để nhận ra quy luật. Bạn sẽ thấy, ví dụ, rằng một nhóm yêu cầu cụ thể luôn bị từ chối trong khi mọi thứ khác đều hoạt động, và điều đó cho bạn biết chính xác những gì cần ở nhà cung cấp thay thế. Nó cũng cung cấp cho bạn một bộ kiểm tra sẵn để so sánh bất kỳ nhà cung cấp mới nào sau này, để bạn đánh giá việc chuyển đổi dựa trên dữ liệu thực tế của mình thay vì các tuyên bố marketing.

Dấu hiệu cho thấy đó là mô hình, không phải bạn

Một lời từ chối đến ngay lập tức với một câu mẫu, một câu trả lời lặng lẽ bỏ qua phần bạn đã yêu cầu, một câu trả lời giảng dạy thay vì viết, và một câu chuyện kết thúc cảnh với một bài học đạo đức đều là những đặc điểm điển hình của việc tinh chỉnh an toàn. Nếu hầu hết các lỗi của bạn trông như vậy, prompt của bạn có lẽ ổn và việc viết lại prompt sẽ tiếp tục tốn thời gian của bạn.

Lý do trợ lý lưu trữ từ chối

Tôi không thể nhìn thấy bên trong hệ thống của bất kỳ nhà cung cấp nào, vì vậy ở đây chỉ là những gì thường đúng với các mô hình trò chuyện được lưu trữ. Chúng thường được huấn luyện để từ chối một số danh mục yêu cầu, chúng thường chạy đằng sau một prompt hệ thống thêm nhiều quy tắc hơn, và một số dịch vụ thêm một lớp kiểm duyệt riêng biệt kiểm tra đầu vào và đầu ra. Bất kỳ điều nào trong số này đều có thể kích hoạt một lời từ chối đối với nội dung hoàn toàn hợp pháp cho khán giả người lớn.

Kết quả đối với các nhà xây dựng là sự không khớp: mô hình được tinh chỉnh cho công chúng rộng nhất có thể, trong khi sản phẩm của bạn có một khán giả người lớn xác định và một mục đích rõ ràng. Đó là một điều hợp lý để muốn thay đổi, miễn là bạn chấp nhận trách nhiệm đi kèm với nó, bao gồm kiểm tra độ tuổi và các giới hạn của riêng bạn nơi người dùng của bạn cần chúng.

Việc chuyển đổi: ba giá trị cần thay đổi

API trên trang web này tuân theo định dạng chat completions của OpenAI. Bất kỳ SDK hoặc client OpenAI nào cũng hoạt động một khi bạn đặt Base URL và khóa mới và sử dụng model ID uncensored. Đây không phải là dịch vụ xAI. Nó chạy một mô hình trọng số mở, được lưu trữ bởi một nhà cung cấp độc lập, được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng hợp pháp của người lớn.

Python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_KEY",
    base_url="https://api.grokunrestricted.com/v1",
)

stream = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a co-writer for an adult fiction platform."},
        {"role": "user", "content": "Continue the scene: the smuggler confronts her old partner."},
    ],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Node

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.API_KEY,
  baseURL: "https://api.grokunrestricted.com/v1",
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three plot twists for a heist story." }],
});
console.log(res.choices[0].message.content);

curl

curl https://api.grokunrestricted.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Cuộc gọi mô hình là một kiểm tra đầu tiên hữu ích: nó xác nhận khóa của bạn hoạt động và rằng endpoint trả lời trước khi bạn kết nối nó vào một ứng dụng.

Di chuyển ứng dụng thực, không phải kịch bản kiểm tra

Hầu hết quá trình di chuyển đã được thực hiện một khi ba giá trị thay đổi, nhưng một vài chi tiết đáng chú ý.

  • Prompt hệ thống. Hãy giữ chúng ngắn gọn và cụ thể. Hãy mô tả vai trò, giọng điệu và đối tượng. Bạn không còn cần phải dành token để thuyết phục mô hình hợp tác.
  • Gọi công cụ và chế độ JSON. Cả hai đều được hỗ trợ. Truyền tools và tool_choice như bạn sẽ cho OpenAI, trả kết quả dưới dạng tin nhắn role: "tool" và sử dụng response_format: {"type":"json_object"} khi bạn cần đầu ra có cấu trúc.
  • Lấy mẫu. Nhiệt độ, top_p, stop, seed và các hình phạt được chuyển qua, vì vậy các cài đặt hiện tại được chuyển tiếp. Hãy xem xét lại nhiệt độ, vì một mô hình khác có thể hoạt động khác nhau ở cùng một giá trị.
  • Đồng thời. Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút. Một stream giữ vị trí của nó cho đến khi nó kết thúc, vì vậy hãy giới hạn số worker của bạn và thử lại trên HTTP 429 với độ trễ ngắn. Một header Retry-After: 5 có nghĩa là quá tải tạm thời.
  • Ngữ cảnh. Cửa sổ là 100.000 token bao gồm phần phản hồi được tạo ra, điều này đủ cho các lịch sử đóng vai dài, mặc dù bạn vẫn phải trả tiền cho các token đầu vào trên mỗi lượt.

So sánh đầu ra trên một tập cố định các prompt thực của bạn trước khi chuyển hẳn sang. Một mô hình khác có một giọng điệu khác và một số prompt đã hoạt động trên thiết lập cũ của bạn có thể cần chỉnh sửa nhỏ.

Những gì không thay đổi và chi phí của nó

Chuyển sang một mô hình không kiểm duyệt loại bỏ từ chối trên nội dung hợp pháp. Nó không loại bỏ tất cả các giới hạn. Nội dung tình dục liên quan đến người chưa thành niên bị chặn, không có ngoại lệ. Dịch vụ chỉ là văn bản, vì vậy không có tạo hình ảnh, âm thanh hoặc video. Các prompt không được sử dụng để đào tạo.

Giá cả là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra, được thanh toán từ tín dụng trả trước không có đăng ký. Các yêu cầu bị từ chối hoặc thất bại không được tính phí. Để có cảm nhận về quy mô, một yêu cầu cảnh với 3.000 token đầu vào và 1.000 đầu ra tốn $0.00045 + $0.0005 = $0.00095, dưới một phần mười của một cent. Các khoản nạp tiền là $20 đến $500 bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base), với các khoản bonus từ $50. Chi tiết có trên trang giá cả.

Để kiểm tra trước khi trả phí, hãy tạo tài khoản và nhận $0.50 dùng thử trên trang khóa API. Bạn không cần thanh toán, thời hạn 7 ngày và cho phép 2 yêu cầu đồng thời. Trang tài liệu hướng dẫn yêu cầu đầu tiên, còn trang thay thế API Grok cung cấp thêm thông tin về ánh xạ mã hiện có.

Câu hỏi and answers

Việc diễn đạt lại các prompt của tôi có khắc phục được các lời từ chối không?

Đôi khi, nguyên nhân là ngữ cảnh hoặc prompt hệ thống quá rối. Nếu cùng một yêu cầu rõ ràng bị từ chối mọi lúc, đó là một dòng chính sách, và việc diễn đạt lại sẽ không thay đổi được điều đó.

Tôi có phải viết lại mã của mình để chuyển đổi không?

Không. Nếu bạn sử dụng SDK OpenAI hoặc client có cài đặt base URL tùy chỉnh, hãy thay đổi base URL, khóa và tên mô hình thành uncensored.

Đây có phải là cùng mô hình với Grok không?

Không. Đó là một mô hình open-weight khác do nhà cung cấp độc lập vận hành và không do xAI tạo ra.

Có nội dung nào vẫn bị cấm không?

Có. Nội dung tình dục liên quan đến người chưa thành niên không được phép. Việc sử dụng dành cho mục đích người trưởng thành hợp pháp, và bạn chịu trách nhiệm về các quy tắc của sản phẩm của riêng mình.

Bạn key is one form away

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API