本文探讨了国内多个大模型对 OpenAI SDK 的兼容性问题，发现目前还没有一家模型完全支持 OpenAI SDK 的 function 调用功能，包括百川、月之暗面、通义千问、智谱等。这对于开发者来说是一个很大的困扰，因为他们无法直接使用 OpenAI SDK 的功能来开发 Agent。文章呼吁国内大模型厂商尽快解决这些问题，以更好地服务开发者。

🤔 国内大模型对 OpenAI SDK 的兼容性问题普遍存在，目前还没有一家模型完全支持 OpenAI SDK 的 function 调用功能，包括百川、月之暗面、通义千问、智谱等。

😔 这些问题给开发者带来了很大的困扰，因为他们无法直接使用 OpenAI SDK 的功能来开发 Agent。

🙏 文章呼吁国内大模型厂商尽快解决这些问题，以更好地服务开发者，提高开发效率，推动 AI 应用的发展。

😔 国内大模型厂商在 OpenAI SDK 兼容性方面还有很长的路要走。

😔 希望国内大模型厂商能够重视这些问题，尽快解决，为开发者提供更好的服务。

原创 金色传说大聪明 2024-06-30 23:58 广东

全部模型都报错，没人在乎开发者...

为了方便开发者迁移

国内的很多大模型

都做了 OpenAI SDK 兼容

但不幸的是...

目前，还没见到哪家把做对

包括不仅限于

百川/月之暗面/通义千问/智谱/...

很悲哀...

这篇文章不是挑刺

而是公开的问题反馈

毕竟，如果真的做 agent 开发

应该在第一天就遇到了这些问题

这里以如下请求为例

（老版本的 function 调用）

from google.colab import userdatafrom openai import OpenAI
def LLM(model_version='gpt-3.5-turbo', client = object):    messages = [    {"role": "system", "content": "我是一个天气预报机器人"},    {"role": "assistant", "content": "我有什么可以帮你的？"},    {"role": "function", "name": "local_temperature", "content": "当前室外温度 27 度"},    {"role": "user", "content": "现在多少度了？"}    ]    api_params = {        "model": model_version,        "messages": messages,    }
    return client.chat.completions.create(**api_params)

如果是 OpenAI API

可以正常返回

接下来是各厂测试

大致按模型首字母排序

Baichuan4 / 百川

测试结果：报错

报错原因：不支持 Role 为 Function

deepseek-chat / 深度求索

测试结果：报错

报错原因：不支持 Role 为 Function

glm-4-flash / 智谱

测试结果：报错

报错原因：不支持 Role 为 Function

moonshot-v1-8k / 月之暗面

测试结果：报错

报错原因：不支持 Role 为 Function

qwen-max / 通义千问

测试结果：报错

报错原因：不支持 Role 为 Function

ERNIE / 文心一言

测试结果：开不起服务

报错原因：穷

结论

其实 问题远不止这些

每家都一大堆问题

希望下次我测的时候

可以更好吧