MiniCPM-o-4.5-nvidia-FlagOS保姆级教程：GPU显存监控+推理瓶颈定位工具链集成

MiniCPM-o-4.5-nvidia-FlagOS保姆级教程GPU显存监控推理瓶颈定位工具链集成你是不是也遇到过这种情况好不容易把一个大模型部署起来打开Web界面输入问题然后……页面就卡住了。你盯着屏幕心里直犯嘀咕是模型在思考还是程序卡死了GPU显存用完了吗到底是哪个环节成了瓶颈如果你正在使用MiniCPM-o-4.5-nvidia-FlagOS这个强大的多模态AI助手并且希望它能跑得更快、更稳那么今天这篇教程就是为你准备的。我们将手把手教你如何为这个模型集成一套完整的GPU显存监控和推理瓶颈定位工具链。学完之后你不仅能实时看到模型运行时的“健康状况”还能精准定位拖慢速度的“罪魁祸首”让推理过程从此变得透明、可控。1. 为什么需要监控和定位工具在开始动手之前我们先花几分钟聊聊为什么这件事值得做。你可能会想模型能跑起来不就行了吗想象一下你开着一辆没有仪表盘的车。你不知道油箱还剩多少油显存不知道发动机转速多少GPU利用率更不知道是哪个轮胎漏了气推理瓶颈。全凭感觉开心里肯定没底。模型推理也是一样尤其是在资源宝贵的GPU上。对于MiniCPM-o-4.5-nvidia-FlagOS这类模型监控工具能帮你解决几个核心痛点告别“盲人摸象”模型加载后到底占了多少显存处理一张图片时显存峰值会冲到多高没有数据你只能靠猜。工具能给你确切的数字。快速定位问题当响应变慢时是数据加载I/O太慢是模型计算GPU跑满了还是CPU在拖后腿工具能帮你一眼看穿。优化资源配置知道了瓶颈所在你才能有的放矢。比如发现是数据预处理太慢你就可以考虑优化这部分代码或者升级CPU/磁盘。预防“爆显存”这是最让人头疼的错误。通过监控显存趋势你可以在程序崩溃之前就发现苗头及时调整输入或批处理大小。所以集成这套工具链不是为了炫技而是为了让你真正“掌控”模型的运行过程。下面我们就从零开始把它装到你的MiniCPM-o-4.5-nvidia-FlagOS环境里。2. 环境与工具准备工欲善其事必先利其器。我们需要安装几个轻量但强大的Python库。别担心它们都不会和现有的环境冲突。2.1 核心监控工具安装打开你的终端确保你已经进入了MiniCPM-o-4.5-nvidia-FlagOS项目所在的目录。然后依次执行以下命令来安装我们的“三件套”# 安装GPU监控核心库 pip install pynvml # 安装轻量级性能分析器 pip install pyinstrument # 安装一个更友好的进度和资源监控工具可选但推荐 pip install rich简单介绍一下这三个工具pynvml: NVIDIA官方提供的Python绑定库用于查询GPU状态显存、利用率、温度等。它非常底层几乎不占资源。pyinstrument: 一个统计式性能分析器。它不会像cProfile那样带来很大开销就能告诉你代码中哪些函数最耗时。rich: 一个让终端输出变得色彩丰富、格式漂亮的库。我们会用它来让监控信息看起来更直观。安装过程通常很快。如果遇到网络问题可以尝试使用国内镜像源比如在命令后面加上-i https://pypi.tuna.tsinghua.edu.cn/simple。2.2 验证安装与基础GPU信息安装完成后我们先写一个简单的脚本来验证工具是否正常工作并看一眼你的GPU家底。创建一个名为check_gpu.py的新文件import pynvml import torch def get_gpu_info(): 获取并打印基础GPU信息 try: pynvml.nvmlInit() device_count pynvml.nvmlDeviceGetCount() print(f 系统检测到 {device_count} 块GPU ) for i in range(device_count): handle pynvml.nvmlDeviceGetHandleByIndex(i) name pynvml.nvmlDeviceGetName(handle).decode(utf-8) mem_info pynvml.nvmlDeviceGetMemoryInfo(handle) print(f\nGPU [{i}]: {name}) print(f 显存总量: {mem_info.total / 1024**3:.2f} GB) print(f 当前已用: {mem_info.used / 1024**3:.2f} GB) print(f 当前空闲: {mem_info.free / 1024**3:.2f} GB) pynvml.nvmlShutdown() except pynvml.NVMLError as error: print(f无法获取GPU信息: {error}) # 顺便检查PyTorch的CUDA状态 print(f\n PyTorch CUDA 状态 ) print(fCUDA 是否可用: {torch.cuda.is_available()}) if torch.cuda.is_available(): print(f当前设备: {torch.cuda.get_device_name(0)}) print(fPyTorch CUDA版本: {torch.version.cuda}) if __name__ __main__: get_gpu_info()运行这个脚本python check_gpu.py你会看到类似下面的输出这确认了你的GPU可以被监控也让你对可用资源心中有数。 系统检测到 1 块GPU GPU [0]: NVIDIA GeForce RTX 4090 D 显存总量: 24.00 GB 当前已用: 1.52 GB 当前空闲: 22.48 GB PyTorch CUDA 状态 CUDA 是否可用: True 当前设备: NVIDIA GeForce RTX 4090 D PyTorch CUDA版本: 12.1好的工具和环境都准备好了。接下来我们要把这些监控能力缝进MiniCPM-o-4.5-nvidia-FlagOS的Web服务里。3. 改造Web服务集成实时监控面板原来的app.py文件启动了Gradio Web界面。我们现在要改造它在不影响原有对话功能的前提下增加一个实时监控侧边栏。3.1 创建监控工具模块首先我们创建一个独立的工具模块这样代码更清晰。在项目根目录下创建一个新文件monitor_utils.py# monitor_utils.py import pynvml import time import threading from typing import Dict, Any import psutil # 用于监控CPU和内存需要安装: pip install psutil class ResourceMonitor: 资源监控器用于周期性收集GPU、CPU、内存信息 def __init__(self, update_interval2.0): # 每2秒更新一次 self.update_interval update_interval self.current_stats {} self._stop_event threading.Event() self._monitor_thread None try: pynvml.nvmlInit() self.gpu_available True except: self.gpu_available False print(警告: 未能初始化NVML将仅监控CPU/内存) def _collect_stats(self) - Dict[str, Any]: 收集一次系统资源快照 stats {} # 1. 收集CPU和内存信息 (使用psutil) stats[cpu_percent] psutil.cpu_percent(intervalNone) mem psutil.virtual_memory() stats[mem_total_gb] mem.total / (1024**3) stats[mem_used_gb] mem.used / (1024**3) stats[mem_percent] mem.percent # 2. 收集GPU信息 (使用pynvml) if self.gpu_available: gpu_stats [] try: device_count pynvml.nvmlDeviceGetCount() for i in range(device_count): handle pynvml.nvmlDeviceGetHandleByIndex(i) name pynvml.nvmlDeviceGetName(handle).decode(utf-8) mem_info pynvml.nvmlDeviceGetMemoryInfo(handle) util pynvml.nvmlDeviceGetUtilizationRates(handle) gpu_stats.append({ id: i, name: name, mem_total_gb: mem_info.total / (1024**3), mem_used_gb: mem_info.used / (1024**3), mem_free_gb: mem_info.free / (1024**3), mem_percent: (mem_info.used / mem_info.total) * 100, gpu_util_percent: util.gpu, mem_util_percent: util.memory }) except pynvml.NVMLError as e: gpu_stats [{error: str(e)}] stats[gpus] gpu_stats # 3. 时间戳 stats[timestamp] time.strftime(%H:%M:%S) return stats def start(self): 启动后台监控线程 if self._monitor_thread is None or not self._monitor_thread.is_alive(): self._stop_event.clear() self._monitor_thread threading.Thread(targetself._monitor_loop, daemonTrue) self._monitor_thread.start() print(资源监控器已启动) def _monitor_loop(self): 监控循环在后台线程中运行 while not self._stop_event.is_set(): self.current_stats self._collect_stats() time.sleep(self.update_interval) def stop(self): 停止监控 self._stop_event.set() if self._monitor_thread: self._monitor_thread.join(timeout2) if self.gpu_available: pynvml.nvmlShutdown() print(资源监控器已停止) def get_stats(self) - Dict[str, Any]: 获取最新的监控数据 return self.current_stats if self.current_stats else self._collect_stats() def format_stats_for_display(stats: Dict) - str: 将监控数据格式化为易读的HTML字符串用于在Gradio中显示 html_lines [] html_lines.append(fsmall更新时间: {stats.get(timestamp, N/A)}/small) html_lines.append(hr stylemargin: 10px 0;) # CPU和内存信息 html_lines.append(h4️ 系统资源/h4) html_lines.append(fbCPU使用率:/b {stats.get(cpu_percent, 0):.1f}%) mem_pct stats.get(mem_percent, 0) mem_color green if mem_pct 70 else orange if mem_pct 90 else red html_lines.append(fb内存使用:/b span stylecolor:{mem_color}{mem_pct:.1f}%/span ({stats.get(mem_used_gb, 0):.1f} / {stats.get(mem_total_gb, 0):.1f} GB)) # GPU信息 if gpus in stats and stats[gpus]: html_lines.append(hr stylemargin: 10px 0;) html_lines.append(h4 GPU 状态/h4) for gpu in stats[gpus]: if error in gpu: html_lines.append(fspan stylecolor:red错误: {gpu[error]}/span) continue html_lines.append(fb{gpu[name]}/b) # GPU利用率 gpu_util gpu.get(gpu_util_percent, 0) util_color green if gpu_util 50 else orange if gpu_util 80 else red html_lines.append(f · 计算负载: span stylecolor:{util_color}{gpu_util:.1f}%/span) # 显存使用 mem_pct gpu.get(mem_percent, 0) mem_color green if mem_pct 70 else orange if mem_pct 90 else red html_lines.append(f · 显存使用: span stylecolor:{mem_color}{mem_pct:.1f}%/span) html_lines.append(f · 显存用量: {gpu.get(mem_used_gb, 0):.2f} / {gpu.get(mem_total_gb, 0):.2f} GB) html_lines.append(br) return br.join(html_lines)这个模块做了几件事定义了一个ResourceMonitor类它会在后台线程里定期抓取GPU、CPU和内存数据。提供了一个format_stats_for_display函数把原始数据变成好看的HTML方便在网页上显示。使用了颜色编码绿色/橙色/红色让你一眼就能看出资源使用是否健康。别忘了安装psutilpip install psutil3.2 修改主程序 app.py接下来我们要修改原来的app.py。强烈建议你先备份原文件。然后用下面的代码替换或整合到你的app.py中。关键改动是集成了监控器并添加了一个刷新按钮。# app.py import gradio as gr from transformers import AutoModelForCausalLM, AutoTokenizer import torch from PIL import Image import time import threading # 导入我们刚写的监控工具 from monitor_utils import ResourceMonitor, format_stats_for_display # 1. 初始化全局监控器 resource_monitor ResourceMonitor(update_interval2.0) # 2秒更新一次 resource_monitor.start() # 启动后台监控线程 # 2. 加载模型和分词器 (根据你的实际路径调整) model_path /root/ai-models/FlagRelease/MiniCPM-o-4___5-nvidia-FlagOS print(正在加载模型和分词器...) tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_path, torch_dtypetorch.bfloat16, trust_remote_codeTrue ).to(cuda) model.eval() print(模型加载完成) # 3. 定义处理函数 def chat_with_model(text_input, image_input, history): 处理用户输入文本和图像并生成回复 if not text_input and image_input is None: return history, 请输入文本或上传图片。 # 准备对话历史格式根据模型要求调整 # 这里是一个简单示例实际格式需参考MiniCPM-o的文档 messages [] if history: for human, assistant in history: messages.append({role: user, content: human}) messages.append({role: assistant, content: assistant}) messages.append({role: user, content: text_input}) # 准备图像 image None if image_input is not None: image Image.open(image_input).convert(RGB) # 生成回复 with torch.no_grad(): # 注意此处生成参数和调用方式需根据MiniCPM-o的具体API调整 # 以下为示意代码 inputs tokenizer.apply_chat_template(messages, add_generation_promptTrue, return_tensorspt).to(cuda) if image is not None: # 多模态处理此处需要根据模型实际接口调整 # 例如可能需要对图像进行编码并与文本拼接 pass outputs model.generate(inputs, max_new_tokens512, do_sampleTrue, temperature0.7) response tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokensTrue) # 更新历史 history.append((text_input, response)) return history, # 4. 定义获取监控数据的函数 def get_monitor_data(): 获取当前监控数据并格式化为HTML stats resource_monitor.get_stats() return format_stats_for_display(stats) # 5. 构建Gradio界面 with gr.Blocks(titleMiniCPM-o-4.5 助手 (带资源监控), themegr.themes.Soft()) as demo: gr.Markdown(# MiniCPM-o-4.5-nvidia-FlagOS 多模态助手) gr.Markdown(**支持文本对话与图像理解** | **集成实时资源监控**) with gr.Row(): # 左侧聊天主界面 with gr.Column(scale3): chatbot gr.Chatbot(label对话历史, height500) with gr.Row(): with gr.Column(scale4): text_input gr.Textbox(label输入消息, placeholder输入您的问题..., lines2) with gr.Column(scale1): image_input gr.Image(label上传图片 (可选), typefilepath) with gr.Row(): submit_btn gr.Button(发送, variantprimary) clear_btn gr.Button(清空历史) # 将按钮点击事件绑定到处理函数 submit_btn.click( fnchat_with_model, inputs[text_input, image_input, chatbot], outputs[chatbot, text_input] ).then( lambda: , None, text_input # 发送后清空输入框 ) clear_btn.click(lambda: [], None, chatbot) # 右侧资源监控面板 with gr.Column(scale1): gr.Markdown(## 资源监控面板) monitor_html gr.HTML(valueget_monitor_data(), label实时状态) refresh_btn gr.Button( 手动刷新, variantsecondary, sizesm) # 手动刷新按钮事件 refresh_btn.click( fnget_monitor_data, inputsNone, outputsmonitor_html ) gr.Markdown(---) gr.Markdown( **状态说明** - span stylecolor:green绿色/span: 资源使用正常 (70%) - span stylecolor:orange橙色/span: 资源使用较高 (70%~90%) - span stylecolor:red红色/span: 资源使用告警 (90%) ) # 自动刷新每3秒一次 demo.load( fnget_monitor_data, inputsNone, outputsmonitor_html, every3 ) # 6. 启动应用 if __name__ __main__: try: demo.launch(server_name0.0.0.0, server_port7860, shareFalse) except KeyboardInterrupt: print(\n正在关闭服务...) finally: # 确保程序退出前停止监控线程 resource_monitor.stop()主要改动点导入并启动监控器在开头初始化ResourceMonitor并启动后台线程。新增右侧监控面板在Gradio界面布局中增加了一个侧边栏用于显示实时监控数据。添加刷新功能提供了一个手动刷新按钮并且设置了页面每3秒自动刷新一次监控数据。安全关闭在程序退出时确保监控线程被正确停止。现在保存文件然后像以前一样启动服务python3 app.py访问http://localhost:7860你应该能看到一个带有实时资源监控面板的新界面了一边和模型对话一边观察右侧的GPU显存、利用率和系统内存变化是不是感觉一切尽在掌握4. 定位推理瓶颈性能分析实战监控面板让我们看到了“是什么”资源状态但我们还想知道“为什么”哪里慢。接下来我们使用pyinstrument来给推理过程做个“体检”找出最耗时的环节。4.1 对推理函数进行性能分析我们将修改chat_with_model函数或者创建一个它的分析版本。为了不影响正常使用我们新建一个分析脚本profile_inference.py# profile_inference.py import torch from transformers import AutoModelForCausalLM, AutoTokenizer from PIL import Image import gradio as gr from pyinstrument import Profiler import io import contextlib # 加载模型 (复用之前的代码) model_path /root/ai-models/FlagRelease/MiniCPM-o-4___5-nvidia-FlagOS print(正在加载模型用于性能分析...) tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_path, torch_dtypetorch.bfloat16, trust_remote_codeTrue ).to(cuda) model.eval() def profile_single_inference(): 分析一次典型推理过程的性能瓶颈 print(开始性能分析...) print(*50) # 创建一个性能分析器 profiler Profiler() profiler.start() # 模拟一次用户输入 test_text 请描述这张图片中的主要内容。 # 你可以准备一张测试图片这里用None代替 test_image_path None # 模拟图像加载如果有图片 image None if test_image_path: with Image.open(test_image_path) as img: image img.convert(RGB) # 模拟模型推理的核心步骤 with torch.no_grad(): # 1. 文本编码Tokenizer inputs tokenizer.apply_chat_template( [{role: user, content: test_text}], add_generation_promptTrue, return_tensorspt ).to(cuda) # 2. 模型生成这是最可能耗时的部分 # 我们分析生成10个token的过程 outputs model.generate( inputs, max_new_tokens10, # 为了快速分析只生成少量token do_sampleTrue, temperature0.7, pad_token_idtokenizer.eos_token_id ) # 3. 解码 response tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokensTrue) profiler.stop() print(f生成的响应前10个token: {response}) print(\n *50) print( 性能分析报告 (按耗时排序):) print(*50) # 输出分析结果到控制台 profiler.print(show_allFalse) # show_allFalse 可以折叠不重要的内部调用让报告更清晰 # 你也可以将报告保存到文件 with open(inference_profile.html, w) as f: f.write(profiler.output_html()) print(\n详细HTML报告已保存至: inference_profile.html) print(*50) if __name__ __main__: profile_single_inference()运行这个脚本python profile_inference.py你会得到一个详细的性能分析报告它按耗时排序显示了推理过程中各个函数的执行时间。报告可能长这样简化版_ ._ __/__ _ _ _ _ _/_ Recorded: 10:21:35 Samples: 132 /_//_/// /_\ / //_// / //_/ // Duration: 1.423 CPU time: 1.120 / _/ v4.6.1 Program: profile_inference.py 1.423 module ../profile_inference.py:1 └─ 1.423 profile_single_inference profile_inference.py:15 ├─ 0.891 generate .../generation/utils.py:1234 │ ├─ 0.512 _get_logits_processor .../generation/logits_process.py:45 │ └─ 0.379 sample .../generation/utils.py:1456 ├─ 0.285 apply_chat_template .../tokenization_utils_base.py:2100 └─ 0.247 decode .../tokenization_utils_base.py:998怎么看这个报告最耗时的函数排在越前面、耗时占比越大的函数就是主要的性能瓶颈。通常model.generate()会是最大的消耗源。各环节占比你可以清楚地看到时间花在了生成逻辑、文本编码还是解码上。优化方向如果apply_chat_template文本编码耗时很长可能是输入文本太长或tokenizer效率问题。如果generate内部某个步骤如_get_logits_processor耗时高可能需要检查生成参数如top_p,temperature是否设置合理。4.2 结合监控数据综合分析性能分析告诉了我们代码层面的瓶颈。现在我们结合之前的GPU监控进行一个综合诊断实验。我们再创建一个脚本comprehensive_diagnosis.py它会在模型推理的同时记录GPU利用率的变化# comprehensive_diagnosis.py import torch import time import pynvml from transformers import AutoModelForCausalLM, AutoTokenizer # 初始化GPU监控 pynvml.nvmlInit() handle pynvml.nvmlDeviceGetHandleByIndex(0) def get_gpu_utilization(): 获取当前GPU利用率 util pynvml.nvmlDeviceGetUtilizationRates(handle) return util.gpu, util.memory # 加载模型 model_path /root/ai-models/FlagRelease/MiniCPM-o-4___5-nvidia-FlagOS tokenizer AutoTokenizer.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_path, torch_dtypetorch.bfloat16, trust_remote_codeTrue ).to(cuda) model.eval() print(开始综合诊断测试...) print(时间轴 | GPU计算负载 | GPU显存负载 | 阶段描述) print(- * 60) # 1. 预热阶段空跑一次排除首次加载开销 print(f{time.strftime(%H:%M:%S)} | - | - | 模型预热开始) with torch.no_grad(): _ model.generate(torch.tensor([[1]]).to(cuda), max_new_tokens1) print(f{time.strftime(%H:%M:%S)} | - | - | 模型预热结束) # 2. 数据准备阶段 print(f{time.strftime(%H:%M:%S)} | - | - | 数据准备开始) inputs tokenizer(今天的天气怎么样, return_tensorspt).to(cuda) gpu_util, mem_util get_gpu_utilization() print(f{time.strftime(%H:%M:%S)} | {gpu_util:3d}% | {mem_util:3d}% | 数据准备结束 (Tokenization)) # 3. 推理生成阶段核心 print(f{time.strftime(%H:%M:%S)} | - | - | 模型推理开始) start_time time.time() with torch.no_grad(): outputs model.generate(**inputs, max_new_tokens50, do_sampleTrue, temperature0.8) inference_time time.time() - start_time # 在生成过程中我们可以尝试采样几次注意频繁采样会影响性能 # 这里我们只在开始和结束时采样 mid_point inference_time / 2 time.sleep(mid_point) # 模拟在推理中点采样 gpu_util, mem_util get_gpu_utilization() print(f{time.strftime(%H:%M:%S)} | {gpu_util:3d}% | {mem_util:3d}% | 模型推理中...) print(f{time.strftime(%H:%M:%S)} | - | - | 模型推理结束) gpu_util, mem_util get_gpu_utilization() print(f{time.strftime(%H:%M:%S)} | {gpu_util:3d}% | {mem_util:3d}% | 推理完成耗时 {inference_time:.2f} 秒) # 4. 结果解码阶段 response tokenizer.decode(outputs[0], skip_special_tokensTrue) gpu_util, mem_util get_gpu_utilization() print(f{time.strftime(%H:%M:%S)} | {gpu_util:3d}% | {mem_util:3d}% | 结果解码完成) print(f生成内容: {response[:50]}...) pynvml.nvmlShutdown() print(- * 60) print(诊断完成。) print(分析建议) print(1. 如果数据准备阶段GPU利用率低但耗时长可能是CPU或I/O瓶颈。) print(2. 如果模型推理阶段GPU利用率未接近100%可能受限于模型计算强度或批次大小。) print(3. 观察显存负载变化可判断当前输入是否接近显存容量上限。)运行这个脚本你会得到一个时间轴上的GPU利用率快照。这能帮你判断瓶颈在CPU还是GPU如果数据准备时GPU闲着说明瓶颈在数据加载/预处理CPU/磁盘。GPU是否跑满如果推理时GPU利用率很低可能意味着模型计算不密集或者批次大小batch size太小没有充分利用GPU。显存瓶颈如果显存使用率一直很高那么减少生成长度max_new_tokens或使用更小的精度如fp16可能会有帮助。5. 总结与进阶建议恭喜你至此你已经成功为你的MiniCPM-o-4.5-nvidia-FlagOS Web服务集成了一套从“监控”到“诊断”的完整工具链。5.1 本教程核心回顾让我们回顾一下你刚刚完成的工作搭建了实时监控面板通过集成pynvml和psutil你在Web界面侧边栏创建了一个实时显示GPU、CPU、内存使用情况的仪表盘让资源消耗一目了然。实现了性能瓶颈定位通过使用pyinstrument分析推理代码你能精准定位到是模型生成、数据编码还是其他环节拖慢了整体速度。进行了综合诊断通过编写诊断脚本你学会了如何在推理过程的不同阶段采样GPU状态从而判断瓶颈类型CPU/GPU/IO。5.2 下一步优化建议有了这些工具和数据你可以尝试以下优化方向针对GPU利用率低尝试增加批处理大小如果支持或者检查是否有不必要的CPU-GPU数据拷贝。对于文本生成可以尝试使用更高效的推理库如vLLM或TGI需确认与FlagOS的兼容性。针对显存不足考虑使用量化技术如GPTQ、AWQ来减少模型加载的显存占用。或者在生成时启用use_cache并配合past_key_values来优化长序列生成的显存。针对数据加载慢如果分析发现数据预处理如图像解码、文本分词是瓶颈可以考虑使用异步加载、预加载或更高效的图像处理库如opencv-python-headless。长期监控与告警你可以将monitor_utils.py中的数据定期写入日志文件或发送到监控系统如Prometheus并设置告警规则例如显存使用率超过90%时发送通知。记住优化是一个持续的过程。这套工具链就是你最好的“听诊器”能帮助你在模型服务的整个生命周期中持续地倾听、诊断和调优。现在去享受对模型运行状态了如指掌的掌控感吧获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。