随着人工智能（AI）技术的大模飞速发展，其在各行各业的运用应用越来越广泛，尤其是大模在IT运维领域，AI的运用应用正逐渐改变着传统的工作模式。本文将讲述如何在我们本地来部署一个我们自己的大模ai小助手。    

文中所运用的运用工具AgentScope：一款全新的Multi-Agent框架，专为应用开发者打造，大模提供高易用、运用高可靠的大模编程体验，支持纯Python编程，运用内置丰富的大模API。LLM：模型选择的运用是开源模型Llama3。conda：用于创建Python环境，大模便于管理。运用conda安装 复制conda安装 URL: https://repo.anaconda.com/archive/Anaconda3-2024.06-1-Linux-x86_64.sh bash Anaconda3-2024.06-1-Linux-x86_64.sh #下载好后回车yes即可 ln -s /root/anaconda3/bin/conda /usr/bin/conda conda create --name python-3.12 python=3.12.7 #创建python环境 conda activate python-3.12 #切换环境1.2.3.4.5.6. Llama3本地部署启动

通过ollama进行本地部署和启动

RAM：Llama 3 8B至少16GB执行以下命令，大模默认下载的网站模板是8B版本复制ollama下载地址：https://ollama.com/ ollama run llama3:latest1.2.

注意：如果没有ollama命令，需要配置环境变量。

Agentscope安装

需要安装Python 3.9或更高版本。

源码安装： 复制# 从GitHub上拉取AgentScope的源代码 git clone https://github.com/modelscope/agentscope.git cd agentscope # 安装需要的Python 包 pip install -e . #创建供自己调整的目录 mkdir AI1.2.3.4.5.6.7.

准备模型配置和初始化注册Agentscope-test.py 复制### cd AI ### vim Agentscope-test.py # -*- coding: utf-8 -*- import agentscope from agentscope.agents import DialogAgent, UserAgent from agentscope.message import Msg # 模型配置 model_configs_name = "test-llama3" model_configs = [ { "config_name": "test-llama3", "model_type": "ollama_chat", "model_name": "llama3:latest", "host": "192.168.100.134:11434" # ollama所在服务器的IP和端口，端口默认11434 } ] #初始化agentscope agentscope.init(model_configs = model_configs, project = "test-1", studio_url="http://0.0.0.0:5000") #初始化agent dialogAgent = DialogAgent(name="小助手", model_config_name=model_configs_name, sys_prompt="你是一个AI小助手") user = UserAgent(name="User") x = None while True: if x is not None and x.content == "exit": break x = user(x) x = dialogAgent(x)1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29. 启动Agentscope Studio

AgentScope Studio是一个开源的Web UI工具包，用于构建和监控多智能体应用程序。可以通过运行以下Python代码启动。

复制### vim start_studio.py import agentscope agentscope.studio.init( host="0.0.0.0", port=5000 )1.2.3.4.5.6.7.8.

不设置host和port，studio默认访问路径为127.0.0.1。

启动Agent 复制#启动Agentscope Studio nohup python start_studio.py & #启动Agent python Agentscope.py1.2.3.4.5.

访问Studio，进入dashboard就可以看到启动的agent了。

以上使用的是Agentscope中的DialogAgent，可以完成类似客服机器人的需求，除此之外，站群服务器他还有ReActAgent 这种能够调用工具方法，可以根据我们的需求自行开发的agent，可以处理较为复杂的任务。

总结

随着人工智能技术的不断进步，AI在运维领域的应用已经成为提升效率和降低成本的关键因素。通过复杂工具调用，AI也能够处理大量的日志数据，快速定位问题根源，为运维团队提供决策支持。它不仅能够提高运维工作的效率和准确性，还能够释放运维人员的时间，让他们能够专注于更复杂和战略性的任务。随着技术的不断发展，我们可以预见AI将在未来的运维工作中扮演越来越重要的角色。企商汇