Zabbix 官方中没有监控GPU模板。在GitHub上有大神制作了关于GPU状态的模板，其原理为监控NVidia-smi的状态。通过自动发现规则发现服务器中的显卡，并通过监控NVidia-smi的状态后输出至zabbix中。环境：1）Centos9安装zabbix 7.0；2）GPU服务器为...

本文背景最近研究Dify知识库，要求2022-2025年所发帖子、手册导入Dify知识库，根据关键词进行检索。找出相关的信息。由于年份跨度较大及内容较杂，刚开始时确实无从下手。在尝试各种模型、各种Dify模式、各种形式的文本及各种文本内容后总结出此文章。网上关于此Dify知识库的搭建文档相对较...

PS：下面的内容会非常枯燥，没有耐心的肯定看不下去。因为我写的时候也是觉得很枯燥。。本文背景最近在测试模型稳定性时反复出现掉模型的现象，研究时发现模型稳定与各类参数相互作用。模型参数设置对于模型稳定至关重要。模型参数使用默认值或配置不合理时则会出现模型不稳定或者OOM直接将模型冲爆，导致掉模型...

本文Dify升级和Open-WebUI升级。Dify 升级时需将主要文件进行备份。所有的升级操作均需谨慎！Dify 升级需备份的文件为：docker 文件夹中的：volumes文件夹、.env文件和docker-compose.yamlWindows Dify升级Dify本机环境：1）系统：w...

xinference 介绍Xorbits Inference (Xinference) 是一款面向大模型的推理平台，支持大语言模型、向量模型、文生图模型等。 它底层基于Xoscar 提供的分布式能力，使得模型可以在集群上部署，上层提供了类OpenAI 的接口，用户可以在上面部署和调用开源大模型...