前面的本地部署部分,我已经搭建好了。可以参考:https://www.cnblogs.com/haochuang/p/18700495
这里只是在本地基于模型搭建代码编写相关组件
使用deepseek-r1 + Vscode + Cline/Continue 构建本地代码编辑器
这个落地方案是实现本地代码编辑器,但是具体的效果见仁见智,prompt使用的好的话还是挺不错的。主要的好处就是本地搭建的大模型可以很好的保护隐私。本文提供了两种方案,一个是deepseek-r1 + Continue的方案,另一种是deepseek-r1 + Cline的方案。
1.deepseek-r1 + Vscode + Continue
在Vscode中下载 Continue插件
配置Continue
在config.json文件中,models中加入我们下载好的deepseek-r1模型,配置可以参考如下
{ "model": "deepseek-r1:14b", "title": "deepseek-r1:14b", "provider": "ollama", "systemMessage": "You are an expert software developer. You give helpful and concise responses." }, { "model": "deepseek-r1:8b", "title": "deepseek-r1:8b", "provider": "ollama", "systemMessage": "You are an expert software developer. You give helpful and concise responses." }
然后可以在左侧的对话框中选择配置好的模型了。
最后测试一下,参考 Prompt 如下
**资深深度学习专家**:你是一名拥有10年深度学习开发经验的人工智能专家,并且专注于时序序列领域,尤其是股票预测方向。### 目标 - 复现一个Transformer模型,并且能够通用的在时序序列数据上使用(主要是股票数据)。生成预测数据与真实对比的图像。### 技能 - 擅长使用Vscode编程,使用python语言,并且能够进行代码调试。 - 擅长模型参数调试,知道如何调试模型并选取优秀的参数。 - 擅长本地环境搭建### 工作流程 模型设计: 1. 设计Transformer模型组件Attention 2. 设计Transformer模型的encoder 3. 设计Transformer模型的decoder 4. 设计Transformer模型model 5. 上面提到的模型文件分别用.py文件存储,然后统一放在src下的models文件夹中 6. 模型参数: - 嵌入维度:32,64 - 注意力头数:8,4 - 注意力层数:2,1 - 学习率:0.001,0.01 预处理: 1. 对于给定的数据(csv文件)进行预处理,删除字符和日期这类特征。 2. 将数据进行归一化,然后进行分批(batch)输入到模型中 3. 归一化提供Z-score标准化、Min-Max标准化或不使用标准化三种方法 4. 训练集和测试集比例为8:2,使用滑动窗口,默认使用7天预测下一天的数据 5. 数据放在src文件夹下的data文件夹中模型训练: 1. 设计不同的参数进行训练 2. 设计模型训练,epoch为100-200 3. 使用Adam optimizer。 4. 早停条件,监控验证集损失,当连续若干epoch损失不再下降时停止训练。 5. 为模型设计中的参数设置不同组合,以寻找最佳配置结果保存: 1. 绘图使用python的matplotlib库 2. 预测的值用橙色线画出,真实值用蓝色画出 3. 将不同的参数设置为图片名进行保存 4. 将最终的MSE、MAE、R2、MAPE的结果保存到csv中,上面指标为纵轴,横轴为模型中的参数。 5. 结果统一放在src下的result中,图片放在/src/result/figures,结果放在/src/result/data### 定义 - Transformer表示人工智能自然语言处理(Natrual Language Process)领域中的论文《Attention is All you Need》中提出的模型Transformer。### 约束条件 - 确保代码不用于非法金融活动,如操纵市场 - 主机配置: 1. cpu:amd r3-3100 2. gpu:RTX3060 8g 3. SYSTEM:win11 4. MEMORY: 16G### 描述### 输出格式 1. 首先生成模型的目录结构 2. 然后生成对应的模型文件 3. 如果模型无法运行,需要自动debug(调试)### 初始化 你是一名拥有10年深度学习开发经验的人工智能专家,并且专注于时序序列领域,尤其是股票预测方向,请以专业和创新的视角思考问题。
由于输出太长了,仅展示部分输出。
2.deepseek-r1 + Vscode + Cline
首先是安装Cline插件
配置信息可以参考
API选择 Ollama,指令这里我只设了一个简单的“使用中文回答问题”。
使用Prompt和Continue测试的Prompt一致,部分结果展示如下
摘自:https://blog.csdn.net/weixin_44555174/article/details/145359573