トークンを理解してカウントする

<ph type="x-smartling-placeholder"></ph>


Gemini やその他の生成 AI モデルが入出力を粒度で処理する トークンと呼ばれます。

このガイドでは、 特定のモデルのコンテキスト ウィンドウと、 テキスト入力、チャット、マルチモーダルなどのユースケースでトークンをカウントする システムの指示とツールが含まれます。

トークンについて

トークンには、z などの 1 文字または cat などの単語全体を使用できます。長い単語 いくつかのトークンに分割されますモデルで使用されるすべてのトークンのセットは、 があります。テキストをトークンに分割するプロセスを「語彙」と呼びます。 トークン化

Gemini モデルの場合、トークンは約 4 文字に相当します。 100 トークンは約 60 ~ 80 単語に相当します。

課金を有効にすると、Gemini API 呼び出しの費用 入力トークンと出力トークンの数によって決まるため、 カウント トークンが有用です。