news 2026/6/10 1:31:27

【小白笔记】梯度下降(Gradient Descent)来训练模型

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【小白笔记】梯度下降(Gradient Descent)来训练模型

importnumpyasnp# 读取训练样本数 kk=int(input())# 读取训练数据:共 k*4 个整数(每样本 3 特征 + 1 标签)data=list(map(int,input().split()))# 读取预测样本数 nn=int(input())# 读取待预测数据:共 n*3 个整数(每样本 3 特征)pred_data=list(map(int,input().split()))# 构建训练集 x (特征) 和 y (标签)x=[]y=[]foriinrange(k):start=i*4feature=data[start:start+3]# 前3个是特征price=data[start+3]# 第4个是价格(标签)x.append(feature)y.append(price)x=np.array(x,dtype=float)# 转为浮点型(梯度下降需要)x=np.c_[np.ones(x.shape[0]),x]# 添加偏置列(全1)y=np.array(y,dtype=float)# ========== 梯度下降替代正规方程 ==========m,p=x.shape# m: 样本数, p: 特征数(含偏置)theta=np.zeros(p)# 初始化参数 theta 为 0learning_rate=0.01# 学习率(可调)num_iterations=10000# 迭代次数(可调)# 梯度下降主循环for_inrange(num_iterations):# 计算预测值y_pred=x @ theta# 计算梯度:(1/m) * X^T (Xθ - y)gradient=(1/m)*x.T @(y_pred-y)# 更新参数theta=theta-learning_rate*gradient# ========== 预测部分(保持不变)==========x_pred=[]foriinrange(n):start=i*3feature=pred_data[start:start+3]x_pred.append(feature)x_pred=np.array(x_pred,dtype=float)x_pred=np.c_[np.ones(x_pred.shape[0]),x_pred]# 添加偏置列# 使用学到的 theta 进行预测y_pred=x_pred @ theta y_pred_rounded=[round(i)foriiny_pred]# 输出结果(拼接成字符串)print(''.join(map(str,y_pred_rounded)))

🔧 关键改动说明

原代码(正规方程)新代码(梯度下降)
theta = np.linalg.inv(x.T@x)@x.T@yfor循环迭代更新theta
不需要设置超参数需要设置learning_ratenum_iterations
一步求解多次迭代逼近最优解

⚙️ 超参数建议(可根据数据调整)

  • learning_rate
    • 如果 loss 震荡或发散 → 减小(如0.001
    • 如果收敛太慢 → 增大(如0.1
  • num_iterations
    • 一般1000~10000足够;也可加早停机制(当 loss 变化很小时停止)

💡提示:如果特征尺度差异大(比如一个特征是“面积=100”,另一个是“房间数=3”),建议先做特征标准化(如(x - mean)/std),否则梯度下降会很慢。但本题输入是整数且未说明范围,暂时省略。


✅ 示例输入/输出(验证用)

输入

2 1 2 3 10 4 5 6 30 1 7 8 9
  • 训练样本1: [1,2,3] → 10
  • 训练样本2: [4,5,6] → 30
  • 预测样本: [7,8,9] → ?

输出(近似):

50

(因为模型学到大致是y ≈ x1 + x2 + x3,7+8+9=24?但实际拟合可能不同;若用正规方程得精确解,梯度下降应接近)

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/10 10:39:15

MicroPython-adf固件编译

Ubuntu系统版本信息:lsb_release -aDistributor ID: Ubuntu Description: Ubuntu 24.04.3 LTS Release: 24.041. 安装依赖sudo apt install git python3.10-venv cmake make gcc2. 安装 Micropython (1) 下载micropythongit clone https://github.com/mic…

作者头像 李华
网站建设 2026/6/9 12:12:28

3步搞定DuckDB Java连接:从零到一的实战指南

3步搞定DuckDB Java连接:从零到一的实战指南 【免费下载链接】duckdb DuckDB is an in-process SQL OLAP Database Management System 项目地址: https://gitcode.com/GitHub_Trending/du/duckdb DuckDB作为嵌入式OLAP数据库的明星产品,其Java连接…

作者头像 李华
网站建设 2026/6/9 22:19:05

EmotiVoice情感分类模型训练过程全公开

EmotiVoice情感分类模型训练过程全公开 在虚拟助手开始对你“冷笑”、游戏NPC因剧情转折而声音颤抖的今天,语音合成早已不再是简单的文字朗读。人们期待的不再是一段清晰但冰冷的语音输出,而是一个能感知情绪、表达情感、甚至带有“人格”的声音伙伴。正…

作者头像 李华
网站建设 2026/6/9 23:29:29

2025全新方案:5步构建高性能现代化Web架构实战指南

2025全新方案:5步构建高性能现代化Web架构实战指南 【免费下载链接】strapi 🚀 Strapi is the leading open-source headless CMS. It’s 100% JavaScript/TypeScript, fully customizable and developer-first. 项目地址: https://gitcode.com/GitHub…

作者头像 李华
网站建设 2026/6/10 12:02:26

10分钟掌握Lime编辑器:从零到精通的完整指南

还在为寻找完美的开源代码编辑器而纠结吗?作为Sublime Text的完美开源替代品,Lime编辑器凭借其API兼容性和强大扩展性,正在成为开发者们的新宠。无论你是编程新手还是资深开发者,这篇指南都能让你在10分钟内彻底掌握Lime编辑器&am…

作者头像 李华
网站建设 2026/6/10 12:01:18

高校科研单位使用EmotiVoice可申请优惠

高校科研单位使用 EmotiVoice 可申请优惠 在心理学实验室里,研究人员正试图验证一个假设:不同情绪语调的安慰话语,是否会影响受试者的共情反应。过去,他们需要招募多名配音演员,在录音棚中反复录制同一句话的不同版本—…

作者头像 李华