Update app.py

app.py

@@ -14,11 +14,11 @@ headers = {
     "Content-Type": "application/json"
 }
 
-def get_response(prompt, temperature, top_p, max_tokens):
+def get_response(prompt, system_message, temperature, top_p, max_tokens):
     # ペイロードを作成
     payload = {
         "model": "jd5fsx11n7go",
-        "prompt": prompt,
+        "prompt": f"{system_message}\n{prompt}",
         "max_tokens": max_tokens,
         "temperature": temperature,
         "top_p": top_p
@@ -33,34 +33,30 @@ def get_response(prompt, temperature, top_p, max_tokens):
     else:
         return f"エラーが発生しました: {response.status_code} {response.text}"
 
-def chatbot(input_text, temperature, top_p, max_tokens, chat_history=[]):
-    # ユーザーからの入力を chat_history に追加
-    chat_history.append(("あなた", input_text))
+def respond(message, history, system_message, max_tokens, temperature, top_p):
+    # ユーザーからの入力を history に追加
+    history.append(("あなた", message))
     
     # レスポンスを取得
-    response = get_response(input_text, temperature, top_p, max_tokens)
+    response = get_response(message, system_message, temperature, top_p, max_tokens)
     
-    # レスポンスを chat_history に追加
-    chat_history.append(("チャットボット", response))
+    # レスポンスを history に追加
+    history.append(("チャットボット", response))
     
-    return "", chat_history
+    return history, history
 
-# Gradio インターフェースの作成
-iface = gr.Interface(
-    fn=chatbot,
-    inputs=[
-        gr.Textbox(lines=2, placeholder="日本語でメッセージを入力してください"),
-        gr.Slider(minimum=0.0, maximum=1.0, step=0.01, default=0.8, label="Temperature"),
-        gr.Slider(minimum=0.0, maximum=1.0, step=0.01, default=0.8, label="Top P"),
-        gr.Slider(minimum=1, maximum=2048, step=1, default=2048, label="Max Tokens"),
-        gr.State()
+# Gradio ChatInterfaceの作成
+demo = gr.ChatInterface(
+    fn=respond,
+    additional_inputs=[
+        gr.Textbox(value="あなたはフレンドリーなチャットボットです。", label="システムメッセージ"),
+        gr.Slider(minimum=1, maximum=2048, value=768, step=1, label="新規トークン最大"),
+        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="温度"),
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (核 sampling)"),
     ],
-    outputs=[
-        gr.inputs.Textbox(),
-        gr.outputs.Chatbot()
-    ],
-    live=True
+    title="Friendli AI チャットボット",
+    description="Friendli AIを使用したチャットボットです。パラメータを調整して会話を行ってください。",
 )
 
 # インターフェースの起動
-iface.launch()
+demo.launch()