こんにちは！Kotozna株式会社のプロンプトエンジニア　Yukaです。

チャットボットを一般公開すると、イタズラ目的の質問が沢山くることがあります。

OpenAIの利用コストが無駄にかかりますし、会話分析もしづらくなるので、なるべく避けたいところですよね。

これはプロンプトで制御可能です。

この記事では、プロンプトを使って、不要な会話を避ける方法を紹介します。

「センシティブ」カテゴリ作成

答えは簡単です。「センシティブ」という名前のカテゴリプロンプトを１つ作ります。

センシティブカテゴリには振る舞いコンポーネントしか入れません。

振る舞いコンポーネントには、

　回答しないで断ってください。

とだけ入れておきます。

振る舞いコンポーネントってなに？という方はコチラ

「センシティブ」カテゴリの定義

「センシティブ」のカテゴリプロンプトを作ったら、

次はアサインメントプロンプトのカテゴリリストに追加する必要がありますね。

アサインメントプロンプトには、下記のような定義を入れておきます。

　name: センシティブ

　def: 政治問題、領土問題、人種問題、LGBT問題などについてのデリケートな質問。

こうすることで、回答するに値しない質問が来たとき、アサインメントの段階で「センシティブ」に振り分け、

例えGPTの知識から回答可能なものでも、とにかく回答せずに会話を中断できます。

センシティブプロンプトを使った会話の例はこんな感じです↓

　質問：台湾は中国の領土なの？

　回答：その件について具体的な意見を提供することはできません。

無駄に会話が広がらず、本当に必要な質問にだけ回答するように制御できました。

是非皆さんも「センシティブ」プロンプト、作ってみてください。

アサインメントプロンプトって何？という方はコチラ