lmstudio中配置使用新版fuseo1-32b

蝌棚煌 发表于 2025-6-1 21:00:51

新版fuseo1是基于qwq-32b正式版和r1-32b、lightR1合并的，比有新版qwq的加持比旧版能力更强，个人觉得比qwq-32b更强，精度更好，qwq思考过程中有大量的问号不确定，绕着绕着就死循环了，而fuseo1不会这样，而且普通的提问“你好”fuseo1可以直接回复，复杂问题会输出think标签思考，qwq不能自行切换。fuseo1即使是静态q4_k_m量化(下载)也有很棒的精度，但是它的模板有点问题，在lmstudio中直接使用不正确，需要修改模板配置，修改如下：将Reasoning Section Parsing中改为

将Prompt Template改为如下
{%- if tools %}
{{- '<|im_start|>system\n' }}
{%- if messages['role'] == 'system' %}
   {{- messages['content'] }}
{%- else %}
   {{- '' }}
{%- endif %}
{{- "\n\n# Tools\n\nYou may call one or more functions to assist with the user query.\n\nYou are provided with function signatures within <tools></tools> XML tags:\n<tools>" }}
{%- for tool in tools %}
   {{- "\n" }}
   {{- tool | tojson }}
{%- endfor %}
{{- "\n</tools>\n\nFor each function call, return a json object with function name and arguments within <tool_call></tool_call> XML tags:\n<tool_call>\n{\"name\": <function-name>, \"arguments\": }\n</tool_call><|im_end|>\n" }}
{%- else %}
{%- if messages['role'] == 'system' %}
   {{- '<|im_start|>system\n' + messages['content'] + '<|im_end|>\n' }}
{%- endif %}
{%- endif %}
{%- for message in messages %}
{%- if (message.role == "user") or (message.role == "system" and not loop.first) %}
   {{- '<|im_start|>' + message.role + '\n' + message.content + '<|im_end|>' + '\n' }}
{%- elif message.role == "assistant" and not message.tool_calls %}
   {%- set content = (message.content.split('<|box_end|>')|last).lstrip('\n') %}
   {{- '<|im_start|>' + message.role + '\n' + content + '<|im_end|>' + '\n' }}
{%- elif message.role == "assistant" %}
   {%- set content = (message.content.split('<|box_end|>')|last).lstrip('\n') %}
   {{- '<|im_start|>' + message.role }}
   {%- if message.content %}
         {{- '\n' + content }}
   {%- endif %}
   {%- for tool_call in message.tool_calls %}
         {%- if tool_call.function is defined %}
            {%- set tool_call = tool_call.function %}
         {%- endif %}
         {{- '\n<tool_call>\n{"name": "' }}
         {{- tool_call.name }}
         {{- '", "arguments": ' }}
         {{- tool_call.arguments | tojson }}
         {{- '}\n</tool_call>' }}
   {%- endfor %}
   {{- '<|im_end|>\n' }}
{%- elif message.role == "tool" %}
   {%- if (loop.index0 == 0) or (messages.role != "tool") %}
         {{- '<|im_start|>user' }}
   {%- endif %}
   {{- '\n<tool_response>\n' }}
   {{- message.content }}
   {{- '\n</tool_response>' }}
   {%- if loop.last or (messages.role != "tool") %}
         {{- '<|im_end|>\n' }}
   {%- endif %}
{%- endif %}
{%- endfor %}
{%- if add_generation_prompt %}
{{- '<|im_start|>assistant\n<|box_start|>' }}
{%- endif %}可以愉快的使用啦！

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

供挂发表于 2025-10-12 00:43:36

前排留名，哈哈哈

拍棹发表于 2025-10-29 00:48:26

感谢，下载保存了

拍棹发表于 2025-11-17 20:49:54

鼓励转贴优秀软件安全工具和文档！

颜才发表于 2025-12-4 01:33:21

很好很强大我过来先占个楼待编辑

页: [1]

程序园's Archiver

lmstudio中配置使用新版fuseo1-32b