Shortcuts

工具服务器

AgentLego 提供了一套工具服务器辅助程序,帮助您在服务器上部署工具,并在客户端上像使用本地工具一样调用这些工具。

启动服务器

我们提供了一个命令行工具 agentlego-server 来启动工具服务器。您可以指定要启动的工具类别。

agentlego-server start Calculator ImageDescription TextToImage

然后,服务器将启动所有工具。

INFO:    Started server process [1741344]
INFO:    Waiting for application startup.
INFO:    Application startup complete.
INFO:    Uvicorn running on http://127.0.0.1:16180 (Press CTRL+C to quit)

在客户端使用工具

在客户端,您可以使用工具服务器的 URL 创建所有远程工具。

from agentlego.tools.remote import RemoteTool

# 从工具服务器 URL 创建所有远程工具。
tools = RemoteTool.from_server('http://127.0.0.1:16180')
for tool in tools:
   print(tool.name, tool.url)

# 从工具服务器端点创建单个远程工具。
# 所有端点都可以在工具服务器的文档中找到,例如 http://127.0.0.1:16180/docs
tool = RemoteTool.from_url('http://127.0.0.1:16180/ImageDescription')
print(tool.description)

如何部署自己的工具

agentlego-server 接受额外的工具模块,这意味着你不需要修改 AgentLego 的源码,只需要在一个 Python 文件或者模 块里编写你的工具源码,即可使用 agentlego-server 部署工具。

首先,我们新建一个 Python 文件,名称为 my_tool.py

from agentlego.tools import BaseTool

class Clock(BaseTool):
    default_desc = '返回当前日期和时间的时钟。'

    def apply(self) -> str:
        from datetime import datetime
        return datetime.now().strftime('%Y/%m/%d %H:%M')

class RandomNumber(BaseTool):
    default_desc = '返回一个不大于 `max` 的随机数'

    def apply(self, max: int) -> int:
        import random
        return random.randint(0, max)

在这个文件中,我们定义了两个工具 ClockRandomNumber,保存文件之后,在命令行中,使用如下命令,检查 agentlego-server 是否能够正确读取这两个工具:

# 我们使用 --extra 选项,指定额外的工具源码文件
# 使用 --no-official 选项隐藏 AgentLego 内置的工具
agentlego-server list --extra ./my_tool.py --no-official

获得如下输出,说明 agentlego-server 能够读取这些工具

┏━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┓
┃ Class        ┃ source           ┃
┡━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━┩
│ Clock        │ /home/my_tool.py │
│ RandomNumber │ /home/my_tool.py │
└──────────────┴──────────────────┘

启动工具服务器:

agentlego-server start --extra ./my_tool.py Clock RandomNumber