需要访问密钥
该推理服务已启用 API 鉴权。输入密钥后浏览器会记住,下次自动登录。
密钥保存在服务器
/opt/llama.cpp/api.key
。
进入
本地模型
连接中…
新对话
Qwen3.8-27B 本地推理
由 Tesla P100 + GTX 1080 Ti 双卡驱动,MTP 投机解码加速
数据不出内网,可直接拖入图片提问
介绍一下你自己的能力和限制
写一个 Python 快速排序并解释复杂度
用三句话说明 MoE 和稠密模型的区别