Update app.py

app.py

@@ -13,22 +13,17 @@ from huggingface_hub import hf_hub_download
 
 # モデルのダウンロード
 hf_hub_download(
-    repo_id="team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF",
-    filename="Tanuki-8x8B-dpo-v1.0-IQ4_NL.gguf",
+    repo_id="mmnga/c4ai-command-r-plus-08-2024-gguf",
+    filename="c4ai-command-r-plus-08-2024-IQ2_M.gguf",
     local_dir="./models"
 )
 
 hf_hub_download(
-    repo_id="team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF",
-    filename="Tanuki-8x8B-dpo-v1.0-Q6_K.gguf",
+    repo_id="mmnga/c4ai-command-r-plus-08-2024-gguf",
+    filename="c4ai-command-r-plus-08-2024-IQ1_M.gguf",
     local_dir="./models"
 )
 
-hf_hub_download(
-    repo_id="team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF",
-    filename="Tanuki-8x8B-dpo-v1.0-IQ3_M.gguf",
-    local_dir="./models"
-)
 
 
 
@@ -121,11 +116,9 @@ def respond(
         yield outputs
 
 description = """<p align="center">★画面下のAdditional Inputから、使用したいモデルと、チャットテンプレートを選択してください。★</p>
-<p align="center">★使用時の注意：現在GGUF版は著明な性能低下が確認されていますので、本来の性能が発揮されていません。本来の性能は公式推奨の推論方法ご利用ください★</p>
 <p><center>
-<a href="https://huggingface.co/team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF/" target="_blank">Tanuki-8x8B-dpo-v1.0-IQ4_NL.gguf</a><br>
-<a href="https://huggingface.co/team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF/" target="_blank">Tanuki-8x8B-dpo-v1.0-Q6_K.gguf</a><br>
-<a href="https://huggingface.co/team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GGUF/" target="_blank">Tanuki-8x8B-dpo-v1.0-IQ3_M.gguf</a><br>
+<a href="https://huggingface.co/mmnga/c4ai-command-r-plus-08-2024-gguf/" target="_blank">c4ai-command-r-plus-08-2024-IQ2_M.gguf</a><br>
+<a href="https://huggingface.co/mmnga/c4ai-command-r-plus-08-2024-gguf/" target="_blank">c4ai-command-r-plus-08-2024-IQ1_M.gguf</a><br>
 </center></p>
 """
 
@@ -139,16 +132,15 @@ demo = gr.ChatInterface(
     respond,
     additional_inputs=[
         gr.Dropdown([
-                'Tanuki-8x8B-dpo-v1.0-IQ4_NL.gguf',
-                'Tanuki-8x8B-dpo-v1.0-Q6_K.gguf',
-                'Tanuki-8x8B-dpo-v1.0-IQ3_M.gguf'
+                'c4ai-command-r-plus-08-2024-IQ2_M.gguf',
+                'c4ai-command-r-plus-08-2024-IQ2_M.gguf'
             ],
-            value="Tanuki-8x8B-dpo-v1.0-IQ4_NL.gguf",
+            value="c4ai-command-r-plus-08-2024-IQ2_M.gguf",
             label="Model"
         ),
         gr.Dropdown(
             choices=templates,
-            value="ALPACA",
+            value="CHATML",
             label="Template"
         ),
         gr.Textbox(value="以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。", label="System message"),