DeepSeek的本地部署

by Web全栈工程师 on 2025 年 01 月 28 日

DeepSeek 的本地部署是基于 Ollama➕WebUI 的方式部署,这里的Ollama用于后台运行LLM模型,WebUI由Chatbox或者Cherry Studio或者Page Assist提供支持。

安装Ollama

Ollama是一个基于Go语言开发的开源大型语言模型服务工具,Ollama简化在本地环境中部署和运行大型语言模型(LLM)的过程,可以将其类比为docker。Ollama 支持多平台部署,可以在官网,选择适合的平台,下载对应的安装包。
Ollama官网地址:https://ollama.com/
Ollama项目地址:https://github.com/ollama/ollama
Ollama模型库:https://ollama.com/library
ollama 安装之后,其同时还是一个命令,与模型交互就是通过命令来进行的。
ollama serve #启动ollama
ollama create #从模型文件创建模型
ollama show #显示模型信息
ollama run #运行模型
ollama pull #从注册表中拉取模型
ollama push #将模型推送到注册表
ollama list #列出模型
ollama cp #复制模型
ollama rm #删除模型
ollama help #获取有关任何命令的帮助信息

下载&运行DeepSeek模型

在模型库https://ollama.com/library中,找到deepseek-r1模型
这里选择8b模型来调试
打开命令行工具,运行 ollama run deepseek-r1:8b
Ollama 没有图形界面,在后台运行
打开浏览器,访问 http://localhost:11434, 显示Ollama is running,表示正常运行。

[click to continue…]

{ 0 comments }

使用acme.sh申请ssl证书

by Web全栈工程师 on 2019 年 11 月 10 日

Let’s Encrypt 是一个免费的,自动化的,开放的证书颁发机构(CA),Let’s Encrypt 由于是非盈利性的组织,需要控制开支,他们做了一个非常有创意的事情,设计了一个 ACME 协议,ACME协议规范化了证书申请、更新、撤销等流程,只要一个客户端实现了该协议的功能,通过客户端就可以向 Let’s Encrypt 申请证书,也就是说 Let’s Encrypt CA 完全是自动化操作的。

而acme.sh实现了acme协议,在客户端执行命令,即可从letsencrypt 生成免费的证书.

安装acme.sh

安装很简单,一条命令:

curl https://get.acme.sh | sh

默认acme.sh安装在home目录下

~/.acme.sh

创建 一个 shell 的 alias, 例如 .bashrc,方便使用:

alias acme.sh=~/.acme.sh/acme.sh

生成证书

acme.sh 实现了 acme 协议支持的所有验证协议. 一般有两种方式验证: http 和 dns 验证.

比如手动DNS方式,手动在域名添加一条txt解析记录验证域名的所有权

~/.acme.sh/acme.sh --issue --dns -d www.magentonotes.com \
 --yes-I-know-dns-manual-mode-enough-go-ahead-please

然后, acme.sh 会生成相应的解析记录显示出来, 只需要在域名管理面板中添加这条 txt 记录即可.

等待解析完成之后, 重新生成证书:

~/.acme.sh/acme.sh --renew --dns -d www.magentonotes.com \
 --yes-I-know-dns-manual-mode-enough-go-ahead-please

查看已安装证书的信息

~/.acme.sh/acme.sh --info -d www.magentonotes.com	

[click to continue…]

{ Comments on this entry are closed }

Chrome浏览器通过命令行参数设置Socket5代理

1月 11, 2019

最新版本的Chrome不能直接安装Proxy SwitchyOmega的ctx扩展,只能通过Chrome应用商 […]

Read the full article →

Manim 数学动画

1月 2, 2019

Manim 是一个用 Python 编写的数学动画引擎,主要用于创建数学相关的动画和视觉展示。它最初是由 Gr […]

Read the full article →

Ubuntu 安装配置Anaconda

12月 9, 2018

Anaconda是一种Python语言的免费增值开源发行版,用于进行大规模数据处理、预测分析,和科学计算,致力 […]

Read the full article →

在搜索引擎的搜索结果中屏蔽CSDN

11月 23, 2018

CSDN虽然是一个好的技术博客平台,但是CSDN体谅太大,文章质量良莠不齐,而且长期霸占搜索结果的前几条,加上 […]

Read the full article →

Vercel、Heroku、Netlify的开源替代方案Dokploy和Coolify

11月 19, 2018

Dokploy是一款稳定、易于使用的部署解决方案,旨在简化应用程序管理流程。它可以作为Heroku、Verce […]

Read the full article →

如何优化印象笔记Evernote的卡顿问题

11月 13, 2018

印象笔记底层为了跨平台,最新版本的PC客户端,使用了以JavaScript为基础的electron方案。此方案 […]

Read the full article →

IPv6的访问和使用

11月 11, 2018

浏览器访问IPv6 访问http://[ipv6]/ 的形式 Ping IPv6地址 ping6 Curl 访 […]

Read the full article →

华为HG255D通过TTL线刷uboot、Openwrt固件笔记整理

6月 11, 2018

原理说明: TTL线就是串口线(USB转串口) 系统固件不是通过TTL线传输到路由器中 TTL线的作用是让PC […]

Read the full article →