xinference 介绍：Xorbits Inference (Xinference) 是一款面向大模型的推理平台，支持大语言模型、向量模型、文生图模型等。 它底层基于Xoscar 提供的分布式能力，使得模型可以在集群上部署，上层提供了类OpenAI 的接口，用户可以在上面部署和调用开源大模...

本次实验使用ubuntu 22.04版本从魔搭社区下载Qwen2-0.5B-Instruct-AWQ部署并运行。（此处必须使用ubuntu 22.04版本，因为下面所用CUDA 12.4.0最高支持版本为ubuntu 22.04）实验中所用机器硬件为：（1）显卡：英伟达RTX 2080 spu...

LDAP配置（如下图所示）主机：AD域控IP地址端口：389Application DN：CN=xxxx,CN=xx,DC=xxxxx,DC=xxxxx //域控中有管理员权限的账号Application DN 密码：xxxx密码 //上述账号密码邮箱属性：mail ...

office和deepseek对接有两个方式，两种方式都使用的是本地模型Deepseek-v2:16b。（使用Deepseek-R1:14b模型会出现大段推理过程，使用Deepseek-v2:16b则会直接出结果）一、使用vba代码制作office 插件前提条件：1）下载wps.vba.exe...

前提条件Windows 11 安装Ollama，部署deepseek-r1:14b模型；centos 7中安装zabbix 7.0；实验目的及效果本文旨在使用Deepseek-r1:14b模型与Zabbix对接，最终实现效果为Zabbix 接收告警提示，Deepseek模型对出现告警进行分析并...