JA ▾

Grokは厳しすぎる?無検閲APIに切り替えよう

更新日:

Grok AIがプロジェクトに厳しすぎると感じた場合、まず原因がプロンプトかモデルのルールかを確認してください。ルールが原因の場合、OpenAI互換の無検閲APIへの切り替えにはコード内の3つの値を変更するだけです。

片側でバリアによってブロックされ、もう片側でケーブルを介してターミナルに自由に流れるチャットバブル

まず、どのような厳格さの制限がかかっているのかを特定してください

多くの開発者は、プロジェクトがデモから実際のコンテンツ(暴力を伴うフィクション、コンパニオンアプリ内の大人キャラクター、ダークユーモア、セキュリティに関する議論など)に移行すると、grok ai が厳しすぎると感じます。プロバイダーを変更する前に、2つの問題のどちらを抱えているかを確認するために10分費やしてください。プロンプトの問題は、より適切な指示で解決できます。ポリシーの問題は、どのような文章でも解決できません。試行錯誤するだけでは時間とトークンがもったいないだけです。

重要な指標は一貫性です。同じリクエストがクリーンなセッションとシンプルなシステムプロンプトで毎回拒否される場合、それはルールです。時々は成功し、時々は失敗する場合、または回答が単にマイルドになっている場合は、おそらくあなたの伝え方に原因があります。

プロンプトとポリシーを分離するための10分のテスト

  1. 失敗したリクエストをそのままコピーして、以前のメッセージがない新しいセッションで実行してください。過去の会話のテキストは、モデルを慎重な方向に誘導する可能性があります。
  2. システムプロンプトを、タスクと対象者を説明するシンプルな一文にまで簡素化してください。危害についての警告を含む長く不安なシステムプロンプトは、拒否を減らすのではなく、むしろ増やす可能性があります。
  3. 人間の編集者が求めるコンテキストを明記してください:ジャンル、キャラクターが成人であること、およびシーンの用途です。
  4. 温度を0.7以下に下げて、5回再試行してください。5回すべて拒否された場合、その挙動は安定しており、偶然ではありません。
  5. タスクを分割してください。1つの敏感な要素を含む長いリクエストは、全体として失敗する場合でも、安全な部分のみでは成功することがあります。

ステップ1〜5を実行しても拒否が続く場合、答えは出ました。プロンプトの調整を止め、言葉遣いではなくモデルに注目してください。

テスト中は小さなログを記録し続けてください。プロンプト、設定、回答が拒否か、部分的な回答か、完全な回答か、そしておよそどのくらいのトークンを使用したかを記録します。20行程度記録すれば、パターンが明確になります。例えば、特定のカテゴリのリクエストは毎回失敗し、それ以外はすべて成功することなどがわかり、代替プロバイダに求めるべき要件が正確に把握できます。また、後ほど他のプロバイダを比較するためのテストセットとしても活用できるため、マーケティングの主張ではなく、あなた自身のデータに基づいて切り替えを判断できます。

モデルの問題であり、あなた自身の問題ではない兆候

即座に到着する定型文の拒否、あなたが尋ねた部分を静かにスキップする回答、書く代わりに説教をする応答、道徳でシーンを終わらせる物語は、すべてセーフティチューニングの典型的なものです。失敗の大部分がこれに該当する場合、あなたのプロンプトはおそらく問題なく、プロンプトの書き換えは時間だけ無駄にします。

ホスト型アシスタントが拒否する理由

ベンダーのシステム内部を見ることはできませんが、ホスト型チャットモデルに一般的に当てはまる事実を記載します。通常、特定カテゴリのリクエストを拒否するように訓練されており、さらにルールを追加するシステムプロンプトの背後で実行されることが多く、一部のサービスは入出力をチェックする別のモデレーションレイヤーを追加しています。これらいずれかが、成人向けに完全に合合法的なコンテンツに対して拒否を引き起こす可能性があります。

ビルダーにとっての結果はミスマッチです:モデルは可能な限り広い一般向けにチューニングされていますが、あなたの製品は定義された成人向けユーザーベースと明確な目的を持っています。これは、年齢確認やユーザーが必要な場合の独自の制限など、それに伴う責任を受け入れる限り、変更したいと考える合理的なことです。

切り替え:変更する3つの値

このサイトのAPIはOpenAIのchat completions形式に従っています。新しいBase URLとAPI キーを設定し、モデルID uncensoredを使用すれば、任意のOpenAI SDKまたはクライアントが動作します。これはxAIサービスではありません。独立したプロバイダがホストするオープンウェイトモデルを1つ実行しており、成人による合法的な利用に対してコンテンツ拒否なしで回答するようにチューニングされています。

Python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_KEY",
    base_url="https://api.grokunrestricted.com/v1",
)

stream = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a co-writer for an adult fiction platform."},
        {"role": "user", "content": "Continue the scene: the smuggler confronts her old partner."},
    ],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Node

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.API_KEY,
  baseURL: "https://api.grokunrestricted.com/v1",
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three plot twists for a heist story." }],
});
console.log(res.choices[0].message.content);

curl

curl https://api.grokunrestricted.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

モデルの呼び出しは便利な最初のチェックです:アプリに接続する前に、API キーが機能し、エンドポイントが応答することを確認します。

テストスクリプトではなく、実際のアプリの移行

3つの値を変更すれば移行の大部分は完了しますが、いくつかの詳細に注意が必要です。

  • システムプロンプト。短く具体的に保ってください。役割、トーン、対象者を説明してください。モデルを協力させるためにトークンを費やす必要はもうありません。
  • 関数呼び出しとJSON モード。両方ともサポートされています。OpenAIの場合と同様に tools と tool_choice を渡し、結果を role: "tool" メッセージとして返し、構造化出力が必要な場合は response_format: {"type":"json_object"} を使用してください。
  • サンプリング。 温度、top_p、stop、seed、ペナルティはそのまま渡されるため、既存の設定が引き継がれます。別のモデルは同じ値でも異なる挙動をする可能性があるため、温度を再検討してください。
  • 同時実行数。 完全なAPI キーでは8つの同時リクエストと1分あたり300リクエストが許可されます。ストリームは終了するまでスロットを保持するため、ワーカー数を制限し、HTTP 429で短いバックオフで再試行してください。Retry-After: 5 ヘッダーは一時的な過負荷を意味します。
  • コンテキスト。 ウィンドウは生成された出力を含む100,000トークンで、長いロールプレイ履歴には十分ですが、各ターンで入力トークンに対して課金されます。

切り替える前に、実際のプロンプトの固定セットで出力を比較してください。異なるモデルは異なる声を持っており、古いセットアップで機能していたプロンプトの一部は小さな編集が必要になる場合があります。

変わらないもの、およびコスト

無検閲モデルへの移行により、合法的なコンテンツに対する拒否がなくなります。すべての制限がなくなるわけではありません。未成年者を含む性的コンテンツは例外なくブロックされます。サービスはテキストのみなので、画像、音声、動画の生成はありません。プロンプトはトレーニングには使用されません。

料金は入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、前払いクレジットから支払い、サブスクリプションはありません。拒否または失敗したリクエストには課金されません。参考として、3,000トークンの入力と1,000トークンの出力を持つシーンのリクエストは、$0.00045 + $0.0005 = $0.00095、1セントの10分の1未満です。チャージは$20〜$500で暗号資産(TRC20上のUSDTまたはBase上のUSDC)で可能で、$50以上でボーナスがあります。詳細は料金ページをご覧ください。

お支払い前にテストするには、アカウントを作成し、API キーページで$0.50の無料トライアルクレジットを請求してください。お支払いは不要で、7日間有効、同時2リクエストまで可能です。ドキュメントで最初のリクエストの手順を確認でき、Grok API 代替ページでは既存コードのマッピングについて詳しく解説しています。

質問 and answers

プロンプトの文章を変更すれば拒否は解消されますか?

場合によっては、原因がコンテキストやごちゃごちゃしたシステムプロンプトにあることがあります。同じクリーンなリクエストが毎回拒否される場合はポリシーの制限であり、文章を変えても変化しません。

切り替えるためにコードを書き直す必要がありますか?

いいえ。OpenAI SDKまたはカスタムBase URL設定を持つクライアントを使用している場合、Base URL、API キー、モデル名をuncensoredに変更するだけです。

これはGrokと同じモデルですか?

いいえ。異なるオープンウェイトモデルであり、独立したプロバイダが運用しており、xAI製ではありません。

制限されている内容はありますか?

はい。未成年者を含む性的コンテンツは許可されていません。本製品は成人による合法的な用途を目的としており、製品独自のルールについては自己責任となります。

あなたの key is one form away

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得