阿里技术 11小时前
大模型终于能“听懂”云操作了?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文分享了作者使用阿里云OpenAPI MCP Server的实践经验,旨在通过自然语言操作云产品。文章介绍了MCP Server的配置流程,以及使用CherryStudio进行体验的过程。同时,深入探讨了MCP的工作原理,并提供了代码验证和解决上下文长度限制问题的方案。最终,作者希望通过该实践,帮助用户更好地理解和应用MCP技术,提升云产品管理效率。

⚙️ **配置流程简化**: 阿里云OpenAPI MCP Server的配置主要分为三步:创建MCP Server、授权阿里云账号、配置CherryStudio,整个过程简单快捷。

🤔 **MCP工作原理**: Host通过MCP Client与MCP Server建立连接,获取所有Tools(API)并提供给LLM。LLM根据用户提问选择相关工具,Host调用MCP服务并返回响应,最后LLM综合分析结果反馈给用户。

🔑 **代码验证与授权**: 通过代码演示了使用OAuth2.0获取Access Token的过程,为后续MCP应用的开发提供了基础。Access Token用于在请求头中进行身份验证。

💡 **解决上下文长度限制**: 针对大模型上下文长度限制问题,文章提出了一种通用解决方案,通过减少tools集合数据量来解决,从而提升了MCP的使用体验。

冷林 2025-06-27 08:30 浙江

这是2025年的第72篇文章

( 本文阅读时间:15分钟 )

01

前言

对于阿里云用户而言,管理云产品通常有几种方式:控制台、OpenAPI SDK、CADT、Terraform 等。虽然形式不同,但本质上这些操作都要依赖于 OpenAPI 来完成。在 MCP 出现之前,如果用户希望通过自然语言来操作云产品,唯一的办法就是对照产品文档,手动编写一条条 FunctionCall 描述,再交给大模型进行调用。这种方式不仅繁琐,而且效率低下。

几周前,当得知 OpenAPI 推出内测版的 MCP Server 时,我意识到一个重要的机会来了。设想一下,在简单配置好 MCP Server 后,只需问一句:“我在杭州可用区有哪些资源?”、“哪个RegionL20 显卡,费用是多少?”、“杭州某个 ACK 集群当前的负载情况如何?”等问题,大模型就能自动调用相关工具,然后给出准确的回答。这种交互体验和效率提升将是前所未有的。

在这篇小文中,我会结合自己的实际使用情况,和大家一起“趟趟水”、“踩踩坑”。本文主要基于个人的理解与实践,只讲大白话,如有理解错误的地方非常欢迎大家批评、指正。

02

上手体验

以下以CherryStudio为例,简要介绍一下快速上手过程。

如何配置

总共分三步:

第一步:点OpenAPI MCP[1]服务来创建一个云产品的MCP Server,每个云产品最多选30个;

图1. 选择某云产品(如ECS)API列表

第二步:确保已登录阿里云账号,CherryStudio需要通过OAuth2.0来授权,如果使用的是RAM账号的话需要提前添加服务策略;

第三步:配置CherrySudio,该软件是一款国人开发的多模型聚合、一体化工具,有很多现成的智能体(主要是提示词),也和百炼MCP做了深度集成。

图2. 在CherryStudio里配置MCP Server

当右上角的按钮变成绿色,整个配置就结束了。看,就是这么快。

备注:1、CherryStudio需要大模型API Key,建议到百炼申请;2、第一次使用会跳出一个授权对话框,选择同意即可。

如何使用

我们选择大模型为“qwen-max",选上MCP服务,在对话框里询问LLM关于云产品相关问题,这里可以看到LLM的调用工具情况。

图3. 在CherryStudio查询云产品情况

有些什么问题

使用中还是不少问题的,比如要频繁选择不同MCP Server、大模型响应慢(qwen3-235b-a22b、max使用效果比较好),其中最主要的问题是下面这个:

图4. 由于超出大模型上下文窗口长度限制而报错

为了解决这个问题,我们只能在设置里手工disable此次询问可能不需要的工具,之后大模型又能正确工作了。

图5. 设置中取消部分API以减少上下文长度

大家看到这里是不是都会心里凉了一把,“这也太麻烦了,我还得提前根据客户问什么再看选什么API列表,这么折腾谁用啊”。实话说,我当时也是这么想的。到了这里我觉得更有必要去细致研究一下,探究内部原理到底是啥。

提前说一句,本文第三章给出一种通用解决方案、可以有效解决该问题,请大家继续往下看:-)

03

原理探究

这里以Qwen-max、Agno(本文称为LLM框架,也是MCP Host)、ECS OpenAPI MCP Server为例进行梳理。

Agno框架已有27.6K star(对比LangGraph 13.4k),不限所用模型,运行速度快。

基础背景

以下四条是理解原理的基础背景,我们会以这些原则来理解后续一系列动作。

1、大模型是无状态、无记忆的除非有内部偏好或记忆设置,各家大模型基本上都是无状态的,也只有这样才能撑起高并发;

2、关注同一个会话里的上下文在浏览器的对话窗口里,每次会话都会把对话历史信息再发给大模型(根据模型上下文长度限制进行滑动截取),原因也是第一条。在框架里为了灵活控制,一般由用户来选择是否把历史信息发给大模型;

3、框架会做很多事为了方便用户使用,框架会做很多事情,有些暴露给客户,有些则内部处理而不通知客户,如果不看源码和帮助文档,框架的行为将是一个黑盒;

4、Agent就是“专家”只要是围绕着LLM组织起来、具备某种专项能力的,就是Agent,也可以理解为专家。Agent的实现形式,可以是简单地定制一个SystemPrompt,也可以是使用WorkFlow、Memory、RAG等复杂组件来实现。从这个角度看,框架(LangChain、Agno等)也是AI Agent。

整体框架

这里的Host可以是Agno框架,也可以是CherryStudio应用。

图6. MCP整体框架

简要说明:

1)Host会采用1:1的方式创建MCP Client,与远端MCP Server建连,可选SSE或Streamable http两种方式,建议优选Streamable http,因为其性能高、资源消耗低;

2)Host通过MCP协议拿到所有Tools(也就是API),发送给LLM供选择;

3)LLM根据用户提问选择相关工具,将信息发给Host,Host调用MCP服务后返回响应;

4)当所需工具调用完,LLM会综合分析结果,然后由Host反馈给到用户。

通过上图我们可以看到,MCP Server基本上起一个代理的做用,也可以看做是MCP协议的卸载点。因此,如果MCP Server本身比较轻量、主要由后端提供服务的话,它完全可以做得很轻,甚至集成到AI网关里。

需要说明的是,OpenAPI MCP Server都是远程连接的,而MCP Client本身也支持本地连接(采用STDIO模式),这种情况下MCP Server运行在本地,一般会运行Node.js(使用npx命令,下载到本地后运行)或Python(使用uv命令,也是下载到本地后运行)。具体可参考本文文末的参考资料。

交互流程

这里以Agno的视角来看具体交互流程,其他框架类似。

图7. MCP交互流程

简要说明:

1)Agno根据MCP Server个数建立相应个数的MCP Client,使用JsonRPC方式与MCP Server交互;

2)初始化完成后,通过tools/list获得Server提供的所有工具列表;

3)当客户发来查询请求时,Host将所有工具信息放在SystemPrompt、连同用户请求一起发给LLM;

4)LLM判断需要调用工具时,发送<tool_use>给Agno,Agno据此调用tools/call来返回响应;

5)整个交互过程中,根据用户配置来显示调用信息,返回最终的LLM输出信息。

MCP Inspector

MCP官网提供了一个Node工具,可以很方便地本地运行这个工具来对MCP Server进行验证。

图8. Inspector配置

图9. Initialize和tools/list命令及响应

04

代码验证

以下代码均在本地Mac中调试通过,如需移植到其他平台(如ECS)需要提工单申请配置OAuth CallBack路径。

OAuth2.0授权

首先,按照OAuth标准的“Metadata Discovery”方式,通过在MCP Server地址拼接".well-known/oauth-authorization-server"来获得OAuth服务器信息:

图10. OAuth服务器元数据信息

接着,使用PKCE方式来获取AccessToken,注意这里的ClientID可使用预先定义的ID,若无则需重新注册一下:

from utility import set_key

app = Flask(__name__)

app.secret_key = secrets.token_urlsafe(16)

CLIENT_ID = "40711518457*******"

REDIRECT_URI = "http://127.0.0.1:5000/oauth/callback"

DISCOVERY_URL = "https://openapi-mcp.cn-hangzhou.aliyuncs.com/.well-known/oauth-authorization-server"

def fetch_discovery_info():

    """从 discovery url 获取 Oauth 端点信息"""

    try:

        resp = requests.get(DISCOVERY_URL, timeout=5)

        if resp.status_code == 200:

            data = resp.json()

            return {

                "authorization_endpoint": data.get("authorization_endpoint"),

                "token_endpoint": data.get("token_endpoint"),

                "registration_endpoint": data.get("registration_endpoint")

            }

    except Exception as e:

        print(f"Failed to fetch discovery info: {e}")

    return {}

# 默认端点

AUTHORIZATION_ENDPOINT = "https://signin.aliyun.com/oauth2/v1/auth"

TOKEN_ENDPOINT = "https://oauth.aliyun.com/v1/token"

def generate_pkce():

    """生成 PKCE 的 code_verifier 和 code_challenge"""

    code_verifier = base64.urlsafe_b64encode(secrets.token_bytes(32)).decode().rstrip("=")

    

    # 计算 S256 code_challenge

    digest = hashlib.sha256(code_verifier.encode()).digest()

    code_challenge = base64.urlsafe_b64encode(digest).decode().rstrip("=")

    

    return code_verifier, code_challenge

@app.route("/")

def home():

    return'<a href="/login">Login with OAuth</a>'

@app.route("/login")

def login():

    registration_endpoint = ""

    # 尝试用 discovery 信息覆盖端点

    discovery = fetch_discovery_info()

    print(f"Discovery info: {discovery}")

    if discovery.get("authorization_endpoint"):

        AUTHORIZATION_ENDPOINT = discovery["authorization_endpoint"]

    if discovery.get("token_endpoint"):

        TOKEN_ENDPOINT = discovery["token_endpoint"]

    if discovery.get("registration_endpoint"):

        registration_endpoint = discovery["registration_endpoint"]

    # 注册一个 client(如果 CLIENT_ID 未设置或为占位符)

    client_id = CLIENT_ID

    if (not client_id) or client_id.endswith("*******"):

        ifnot registration_endpoint:

            return"Registration endpoint not available"400

        # 注册 client

        reg_data = {

            "redirect_uris": [REDIRECT_URI],

            "grant_types": ["authorization_code"],

            "response_types": ["code"],

        }

        try:

            reg_resp = requests.post(registration_endpoint, json=reg_data, timeout=5)

            if reg_resp.status_code != 201:

                return f"Client registration failed: {reg_resp.text}"400

            reg_json = reg_resp.json()

            client_id = reg_json.get("client_id")

            ifnot client_id:

                return"No client_id returned from registration"400

            session["client_id"] = client_id

        except Exception as e:

            return f"Client registration exception: {e}"400

    else:

        session["client_id"] = client_id

    # 生成 PKCE 参数

    code_verifier, code_challenge = generate_pkce()

    

    # 生成随机 state 防止 CSRF

    state = secrets.token_urlsafe(16)

    

    # 保存到 session

    session.update({

        "code_verifier": code_verifier,

        "state": state

    })

    

    # 构造授权请求 URL

    params = {

        "response_type""code",

        "client_id": session["client_id"],

        "redirect_uri": REDIRECT_URI,

        "code_challenge": code_challenge,

        "code_challenge_method""S256",

        "state": state

    }

    

    auth_url = f"{AUTHORIZATION_ENDPOINT}?{urllib.parse.urlencode(params)}"

    return redirect(auth_url)

@app.route("/oauth/callback")

def callback():

    # 检查错误响应

    if"error" in request.args:

        return f"Error: {request.args['error']}"

    

    # 验证 state

    if request.args.get("state") != session.get("state"):

        return"Invalid state parameter"400

    

    # 获取授权码

    auth_code = request.args.get("amp;code"or request.args.get('code')  # 尝试两种可能的参数名

    ifnot auth_code:

        return"Missing authorization code"400

    

    # 用授权码换取 token

    data = {

        "grant_type""authorization_code",

        "code": auth_code,

        "redirect_uri": REDIRECT_URI,

        "client_id": session.get("client_id", CLIENT_ID),

        "code_verifier": session["code_verifier"]

    }

    

    response = requests.post(TOKEN_ENDPOINT, data=data)

    

    if response.status_code != 200:

        return f"Token request failed: {response.text}"400

    

    token_info = response.json().get("access_token")

    

    # 存储到本地配置文件

    print(f"Your access_token: {token_info}")

    set_key("ALI_OPENAPI_ACCESS_TOKEN", token_info)

    # 删掉session参数

    session.pop("code_verifier"None)

    session.pop("state"None)

    

    return response.json()

if __name__ == "__main__":

    app.run(port=5000, debug=True)

最后,在已经登录阿里云账号的状态下使用浏览器访问“http://127.0.0.1:5000”来获取access_token,将此token存入到本地配置文件中。与1.1节里CherryStudio在弹出的界面里要求授权一样,两者的目的都是为获得access_token,这个token将在下次访问MCP Server时配置在Heard中的Authorization中,其格式为{'Authorization': f'Bearer {access_token}'}。类似的,在2.4节中的MCP Inspector中也要配置此项。

说明:1)access_token默认有效时长259199s(3天),在失效前建议使用refresh_token来请求更新access_token;2)官方Python SDK的MCP Client也支持OAuth鉴权,读者可参照说明自行实现。

第一个MCP应用

拿到access_token后,我们就可以实现这个应用:

print(f"Current path is {os.getcwd()}")

load_keys()

async def run_agent(message: str) -> None:

    server_params = StreamableHTTPClientParams(

        url = "https://openapi-mcp.cn-hangzhou.aliyuncs.com/accounts/1411741061209533/custom/ecs_tst_agno/id/RXPfhaBVHq7w3wkp/mcp,    # ECS

        headers = {'Authorization': f'Bearer {os.getenv("ALI_OPENAPI_ACCESS_TOKEN")}'}

    )

    async with MCPTools(server_params=server_params, transport="streamable-http", timeout_seconds=30 ) as mcp_tools:

        # Initialize the model

        model=OpenAILike(id="qwen-max", 

                         api_key=os.getenv("DASHSCOPE_API_KEY"),

                         base_url="https://dashscope.aliyuncs.com/compatible-mode/v1")

        

        # Initialize the agent

        agent = Agent(model=model,

                      tools=[mcp_tools],

                      instructions=dedent("""\

                          你是一个阿里云云计算专家,请根据用户的问题,使用MCP服务查询阿里云的云产品信息,给出详细的解释。

                          请使用中文回答

                      """),

                      markdown=True,

                      show_tool_calls=True)

        # Run the agent

        await agent.aprint_response(message, stream=True)

# Example usage

if __name__ == "__main__":

    asyncio.run(run_agent("我在上海有哪些ECS实例?"))

程序运行结果如下:

图11. MCP应用运行结果

说明:1)Agno框架的mcp.py的174行有bug,先使用“client_timeout = self.timeout_seconds”来跳过;2)运行时会报错“JSONRPCRequest.method. Field required [type=missing, input_value={'result': 'ok'}”,这个主要与Server端实现有关,内部已排期修复。不影响正常使用。

解决"Input length ouf of range"

1.3节中我们使用的ECS MCP Server有26个工具,在使用全量工具集、模型为Qwen-max的时候CherryStudio会报“超出上下文长度限制”的错误。在Agno中,报错类似:

图12. Agno报错上下文长度超限

由2.3的交互流程可以发现,上下文超标主要是因为tools集合数据太多导致。进一步观察后,发现每个tool由name、description、inputSchema、annotaions四部分组成,其中inputSchema的占用量最大。为此,我们可以让LLM先根据全集列表中的name、description判断一把,告诉我们需要哪些tool,然后再配置LLM,这样便能有效减少上下文长度。具体流程如下:

图13. 预筛选-调用流程

代码实现如下:

1)使用mcp client 获取全量tools信息,然后由LLM根据用户请求判断要哪些工具。注意这里的提示词里要明确说明不能返回"```"、"json"等字符串,不然无法进行格式化。

def get_selected_tools_list(server_url, hearders, llm_api_key, user_question):

    from mcp.client.streamable_http import streamablehttp_client

    from mcp import ClientSession

    import asyncio

    from agno.agent import Agent, RunResponse

    from agno.models.openai.like import OpenAILike

    import json

    # Important: Just to avoid such logging error like "JSONRPCError.jsonrpc Field required ...

    import logging

    logging.disable(logging.CRITICAL)

    # 1. Get all tools via tools/list

    all_tools = None

    async def get_all_tools():

        # Connect to a streamable HTTP server

        async with streamablehttp_client(url=server_url,headers=hearders)as(read_stream, write_stream,_):

            # Create a session using the client streams

            async with ClientSession(read_stream, write_stream) as session:

                await session.initialize()

                all_tools = await session.list_tools()

                print(f"Number of tools: {len(all_tools.tools)}")

                return all_tools

    all_tools = asyncio.run(get_all_tools())

    # 2. Collect all tools brief info

    brife_tools_info = [

        {

            "name": tool.name,

            "description": tool.description,

        }

        for tool in all_tools.tools]

    # 3. Create an agent

    simple_agent = Agent(

        model=OpenAILike(

            id="qwen-max",

            api_key=llm_api_key,

            base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"

        ),

        system_message="""

            你是一个云计算专家,严格按照请客户提供的上下文信息回答问题。

            """,

        )

   

    # 4. Run the agent to tell us which tools are needed for user questio

    prompt = (

        f"请根据提供的工具信息以及用户请求,你需要给出可能需要调用的api列表,以Json形式返回,要精简、不需要其他信息。格式上,返回值不带```、json等字符串,"

        f"工具信息如下:{json.dumps(brife_tools_info)},"

        f"现在客户提问:{user_question}"

    )

    response: RunResponse = simple_agent.run(prompt)

    print(response.content)

    tool_to_use_list = json.loads(response.content)

    print(f"Selected Tool List: {tool_to_use_list}")

    return tool_to_use_list

2)MCPTools构造时加入白名单(include_tools=config["tool_to_use_list"]),只有白名单上的tool可以被调取,然后正式发起查询。

print(f"Current path is {os.getcwd()}")

load_keys()

async def run_agent(config):

    # Setup agent with MCP tools

    server_params = StreamableHTTPClientParams(url=config["server_url"], headers=config["headers"])

    async with MCPTools(server_params=server_params, 

                        transport="streamable-http"

                        timeout_seconds=30

                        include_tools=config["tool_to_use_list"]) as mcp_tools:

        # Initialize the model

        model=OpenAILike(id="qwen-max"

                         api_key=config["llm_api_key"],

                         base_url="https://dashscope.aliyuncs.com/compatible-mode/v1")

        

        # Initialize the agent

        agent = Agent(model=model,

                      tools=[mcp_tools],

                      instructions=dedent("""\

                          你是一个阿里云云计算专家,请根据用户的问题,使用MCP服务查询阿里云的云产品信息,给出详细的解释。

                          请使用中文回答

                      """),

                      markdown=True,

                      show_tool_calls=True)

        # Run the agent

        await agent.aprint_response(config["user_question"], stream=True)

# Example usage

if __name__ == "__main__":

    # 1. User question goes here

    user_question = "我在上海有哪些ECS实例?"

    # 2. Prepare arguments for the agent

    url = "https://openapi-mcp.cn-hangzhou.aliyuncs.com/accounts/1411741061209533/custom/ecs_mcp/id/vwAaigJjvaOkaqHf/mcp"     # Full ECS List

    headers = {'Authorization'f'Bearer {os.getenv("ALI_OPENAPI_ACCESS_TOKEN")}'}

    llm_api_key = os.getenv("DASHSCOPE_API_KEY")

    # 3. Get selected tools list by user question

    seleted_tools = get_selected_tools_list(url, headers, llm_api_key, user_question)

    # print(seleted_tools)

    # # 4. Setup config

    config = {

        "server_url": url,

        "llm_api_key": llm_api_key,

        "headers": headers,

        "user_question": user_question,

        "tool_to_use_list": seleted_tools

    }

    # 5. Query LLM

    asyncio.run(run_agent(config))

当用户询问“我在上海有哪些ECS实例?”时,LLM判断只要一个工具(Ecs-20140526-DescribeInstances)就够了,然后再次装载MCPTools后程序运行正常,结果如下:

图14. 从26个tools中挑选1个来查询

后续优化

以上三个小实验只是从代码层面验证了MCP的基本功能,离真正的工程生产还相差甚远,后续将在以下方面优化:

1)将每个云产品的MCP Server按照不同维度拆分,比如按照操作类型分为Describe*、Get*、Modify*、Create/Run*等,建立不同种类的MCP Server。这样可以做到更细粒度的拆分,从源头减少Tools数量问题;

2)使用MultiMCPTools来组装多个MCP Server,使LLM可以同时使用多个Server;

3)进一步优化工具筛选,根据客户请求分析多个MCP Server,然后给出筛选建议;

4)使用图形化界面,将筛选、运行组装成一个工作流,白屏化操作;

5)对非查询类(如Create、Delete、Update)的MCP需要引入客户交互,告知客户风险,由客户确认每一步是否可以操作。

05

未来展望

开放平台现有2W多个OpenAPI,在MCP Server的帮助下这些API可以被更加灵活地利用起来,相信有非常多的实用场景会被创造出来,届时云对普通大众来说也许就是“一两句话的事儿”。

在此从个人角度地展望一下:

1、推动文档完善LLM能否有效调用tool的关键在于文档(描述、参数说明等),只有表达更清楚、更全面才能更有利于LLM决策。这方面开放平台也允许用户自行调优;

2、控制幻觉LLM一大优势是能帮我们补充各种细节,选工具、填参数、分析结果,可另一方面它也有幻觉,可以生成很多貌似正确的东西,且不同的模型幻觉程度也不一样,因此必须由人做最终控制和决策。当然,也可以加入另一个LLM来审核前一个LLM的动作,减轻人的工作量;

3、建立每个云产品AgentECS、NAS、RocketMQ等都可以建立自己的专业Agent(搭配RAG),用户只要描述需求,剩下将由专业Agent在最佳实践基础上一键搞定;

4、搭建Agent矩阵通过A2A协议在不同的云产品间进行协作,为客户提供完整解决方案;

5、实现高度安全:制定整体安全框架,确保Agent所有行为安全、可控。

参考资料1、阿里云官网 - OpenAPI MCP控制台:https://api.aliyun.com/mcp

2、Model Context Protocol:https://modelcontextprotocol.io/docs/concepts/architecture

3、MCP - Python SDK:https://github.com/modelcontextprotocol/python-sdk

4、Agno - Full-stack framework for building Multi-Agent System:https://docs.agno.com/introduction

欢迎留言一起参与讨论~

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

阿里云 MCP OpenAPI 自然语言 云产品
相关文章