Skip to content
New issue

Have a question about this project? # for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “#”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? # to your account

华为云DeepSeek-R1-Distill-Qwen-32B支持问题 #2080

Open
4 of 5 tasks
cqzuxia opened this issue Feb 12, 2025 · 7 comments
Open
4 of 5 tasks

华为云DeepSeek-R1-Distill-Qwen-32B支持问题 #2080

cqzuxia opened this issue Feb 12, 2025 · 7 comments
Labels
bug Something isn't working

Comments

@cqzuxia
Copy link

cqzuxia commented Feb 12, 2025

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述
使用one-apiv0.6.7配置华为云的DeepSeek-R1-Distill-Qwen-32B,已配置华为云提供的Base URL,名称和模型配置为DeepSeek-R1-Distill-Qwen-32B,密钥使用curl进行了测试,能正常使用,使用one-api配置后测试,返回错误:status code 404: bad response status code 404

curl测试方法如下
curl -X POST "https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/某字符串/v1/chat/completions" -H "Content-Type: application/json" -H "Authorization: Bearer 密钥" -d '{"model": "DeepSeek-R1-Distill-Qwen-32B", "max_tokens": 20, "messages": [{"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "hello"}], "stream": false, "temperature": 1.0 }' --insecure

复现步骤
点击渠道测试

预期结果
正常访问

@cqzuxia cqzuxia added the bug Something isn't working label Feb 12, 2025
@KevinZhangYY
Copy link

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/
即去掉v1/chat/completions保留最后的“/"

@verkyer
Copy link

verkyer commented Feb 12, 2025

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

大佬这样配置后 可以使用了吗?我这边还是不行呢

@cqzuxia
Copy link
Author

cqzuxia commented Feb 13, 2025

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

我在这里配置one-api测试正常,在处理fastgpt

@verkyer
Copy link

verkyer commented Feb 13, 2025

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

我在这里配置one-api测试正常,在处理fastgpt

打扰下 能看下咋填的吗 我这里一直不通过0.0;忙的话就等后边更新了

@cqzuxia
Copy link
Author

cqzuxia commented Feb 13, 2025

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

我在这里配置one-api测试正常,在处理fastgpt

打扰下 能看下咋填的吗 我这里一直不通过0.0;忙的话就等后边更新了

仅去掉了v1/chat/completions

@KevinZhangYY
Copy link

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

大佬这样配置后 可以使用了吗?我这边还是不行呢

检查一下Base URL的地址对了吗 华为云的每一个模型为了分流地址都不一样 你是不是用了别的模型的地址

@verkyer
Copy link

verkyer commented Feb 17, 2025

把Base URL修改为https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/%E6%9F%90%E5%AD%97%E7%AC%A6%E4%B8%B2/ 即去掉v1/chat/completions保留最后的“/"

大佬这样配置后 可以使用了吗?我这边还是不行呢

检查一下Base URL的地址对了吗 华为云的每一个模型为了分流地址都不一样 你是不是用了别的模型的地址

感谢 可以了 忘了回复。华为确实每个模型一个地址

# for free to join this conversation on GitHub. Already have an account? # to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests

3 participants