分类 技术 下的文章 - qNFCpの屋
qNFCpの屋
您正在查看: 技术 分类下的文章
# Ollama 绕过LLM深度思考 ## 目录 [TOC] ## 背景 截止本文撰写时间,2025/05/06。市面上常见的会使用深度思考的模型如:Deepseek-R1、Qwen3、QwQ。 他们均会在回复时先输出标签,其内容为“深度思考”过程。 但在实际使用过程中,我们会有很多需求是不需要LLM进行深度思考,直接输出即可的。 因此,我们需要一种办法来绕过LLM思考。 本文撰写前,新推出的Qwen3系列模型,标称可选是否进行深度思考。但Ollama并未支持该选项。

April 27, 2025
# SearXNG 部署相关步骤 ## 目录 [TOC] ## 介绍 SearXNG是一个开源的互联网元搜索引擎,可聚合多个不同搜索服务的结果。并确保用户不会被追踪与分析。 SearXNG可通过代理、Tor使用实现匿名。 [官方文档](https://docs.searxng.org/) [Github链接](https://github.com/searxng/searxng) ## 部署方案 本部署方案采取Docker方式运行。是为了配合OpenWebUI使用的。

April 27, 2025
# Open-WebUI 部署相关步骤 ## 目录 [TOC] ## 介绍 Open WebUI是一个可扩展、功能丰富且注重用户友好的自托管AI平台,旨在完全实现离线运行AI应用。它支持各种LLM运行框架,如Ollama、LM Stdio等。以及支持与OpenAI兼容的API。并且内置RAG推理引擎,使其成为一个强大的AI部署解决方案。 ## 部署方案 本部署方案基于官方推荐的Docker部署方案修订制成。

Title - Artist
0:00