というわけで続きをやっていきましょう(プレイグラウンドで試すぐらいは前回しておけばよかった)
Azure OpenAI Studioで早速触ってみましょう。とりあえず試すにはプレイグラウンドが簡単です。プレイグラウンドはStudio内で(ブラウザで)モデルのCompletions API(入力候補って翻訳されてる)にプロンプト等を投げてテキストを生成したりできます。
プレイグラウンドとデプロイメント
Studioのランディングページにある「プレイグラウンドに移動」からプレイグラウンドのページにいってみましょう。
プレイグラウンドは簡単にモデルを試せるといっても、試すモデルはすべて自分の管理下のモデルが対象になります。
Azure OpenAI Serviceではモデルはデプロイという単位で管理されるので、まずは使うモデルをデプロイします。「新しいデプロイの作成」ボタンでデプロイを作ります。今回はとりあえずテキストのDavinciモデルを使うことにします。
ベースモデルはすぐにデプロイできると思います。※モデルの費用についてはベースモデル(Fine-tuningしてないモデル)についてはホスティング料金はかからずに1000トークンあたりの推論でいくら、という形式です。Davinciは最新で高速だけど費用が桁違いで高いので注意しましょう。公式的にはDavinciから始めて期待した結果が得られるか確認しながらのほうがいいみたいな感じですけど)
先にデプロイされたモデル見ておくと以下のようになります。ベースモデルは編集する余地がないので見るだけですね。なお1つのモデルに対して複数デプロイはできません。(する必要がないでしょう)
さて、デプロイもできたことだしプレイグラウンドを見てみましょう。右側のパラメーターはとりあえず置いておいて、テキスト入れて生成ボタンを実行したら結果が得られる、シンプルな作りです。とりあえず雰囲気つかむために「例」からSummarize Textでも選んでみて生成してみましょう。
サンプルのテキストはこんな感じ
「A neutron star is the collapsed core of a massive supergiant star, which had a total mass of between 10 and 25 solar masses, possibly more if the star was especially metal-rich.[1] Neutron stars are the smallest and densest stellar objects, excluding black holes and hypothetical white holes, quark stars, and strange stars.[2] Neutron stars have a radius on the order of 10 kilometres (6.2 mi) and a mass of about 1.4 solar masses.[3] They result from the supernova explosion of a massive star, combined with gravitational collapse, that compresses the core past white dwarf star density to that of atomic nuclei.
Tl;dr」
中性子星の説明文ですね。最後の「Tl;dr」で要約してほしいというのを伝える感じです。
結果は緑色の部分で追記されました。生成するたびに結果は変わります。(基本的にAPIの応答は確定的なので結果が多少かわります。パラメーターのTemperature(日本語訳だと温度)で変えられます)
プレイグラウンドは簡単に試せる環境なので、パラメーターを操作して納得する結果が得られるようになったら「コードビュー」でREST APIやPythonで呼び出すためのコードサンプルが見れます。
APIキーだけAzure ポータルで取得すればすぐにアプリから使えます。
なかなか直球な要約ですね。
東方Projectの音楽専門レーベルを作った人になった。
まぁこんな感じです(?)
文章書いたらSQL文にすることに特化したモデルなんてのもあるしモデルによって特性などが異なるので、プロンプトやパラメーターの調整なども含めていろいろ試してみましょう。
パラメーターについてはREST APIのパラメーターになるので、こちらを参照。
また応答についてはコンテンツフィルターされてる場合があるので、そのあたりはこちらを参照。
現在使用できるモデルや機能、特徴についてはこちらを。
という感じで、いそいそとプロンプトの研究に励んでみたいと思います。
現状のモデルは最近の話題は知らない(2019年あたりで更新止められてる)のでそのあたり注意。
次は独自のデータセットを用いたFIne-tuningとカスタムモデルのデプロイ、アプリへの組み込みあたりでしょうか?
ネタが溜まったら続きを書くと思います。