in 默认分类

局域网中的用户终端通常采用配置一个默认网关的形式访问外部网络,如果默认网关设备发生故障,那么所有用户终端访问外部网络的流量将会中断。可以通过部署多个网关的方式来解决单点故障,但是需要解决多个网关之间的冲突问题。VRRP(Virtual Router Redundancy Protocol,虚拟...

in 默认分类

Speakr是AI 会议记录软件,作用为将音频通过whisper模型转换为文字,由语言大模型进行归纳总结。Speakr支持现场录音记录、线上会议记录及音频文件上传等方式。此次实验环境如下:1)语言大模型:Qwen3-32B2)whisper 模型服务器:ubuntu 22版本,whisper模...

in 默认分类

Zabbix 官方中没有监控GPU模板。在GitHub上有大神制作了关于GPU状态的模板,其原理为监控NVidia-smi的状态。通过自动发现规则发现服务器中的显卡,并通过监控NVidia-smi的状态后输出至zabbix中。环境:1)Centos9安装zabbix 7.0;2)GPU服务器为...

in 默认分类

本文背景最近研究Dify知识库,要求2022-2025年所发帖子、手册导入Dify知识库,根据关键词进行检索。找出相关的信息。由于年份跨度较大及内容较杂,刚开始时确实无从下手。在尝试各种模型、各种Dify模式、各种形式的文本及各种文本内容后总结出此文章。网上关于此Dify知识库的搭建文档相对较...

in 默认分类

PS:下面的内容会非常枯燥,没有耐心的肯定看不下去。因为我写的时候也是觉得很枯燥。。本文背景最近在测试模型稳定性时反复出现掉模型的现象,研究时发现模型稳定与各类参数相互作用。模型参数设置对于模型稳定至关重要。模型参数使用默认值或配置不合理时则会出现模型不稳定或者OOM直接将模型冲爆,导致掉模型...