分类 部署文心4.5开源模型给Android设备调用 2025-07-05 141 阅读 PaddlePaddle 大语言模型 人工智能 PaddlePaddle 大模型 在上一篇文章《文心4.5开源大模型的使用和部署》已经介绍了如何使用fastdeploy部署文心4.5开源大模型的,并且简单调用了接口,本篇文章来介绍Android如何调用这个部署的接口,并实现对话。 阅读全文 快速从零部署一个DeepSeek-R1服务 2025-04-05 445 阅读 大语言模型 人工智能 大语言模型 DeepSeek vllm 这里使用最简单的几条命令介绍如何部署DeepSeek-R1的服务,默认已经安装了Anaconda,使用的是vllm框架,国内也可以轻松部署。 阅读全文 基于大语言模型实现文本端点检测 2025-01-18 412 阅读 大语言模型 人工智能 语言模型 自然语言处理 本文介绍了使用大语言模型进行文本端点检测的方法,以改进语音对话中的语音活动检测(VAD)。通过训练一个微调后的模型来预测句子是否完整,可以更准确地判断用户的意图。具体步骤包括: 1. **原理与数据准备**:利用大语言模型的文本生成功能,基于预定义的数据集和特定格式进行微调。 2. **微调模型**:使用LLaMA-Factory工具进行训练,并选择合适的提示模板及优化后的数据格式。 3. ** 阅读全文