Tag: Pytorch
All the articles with the tag "Pytorch".
-
Rust Candle 的 PyTorch 等价操作记录
Published date:记录PyTorch与Rust Candle之间的等价操作,包括缩放点积注意力(SDPA)和linspace函数的实现及代码示例。
-
从零开始构建手写输入法:准备篇
Published date:介绍从零开始构建汉字手写输入法的准备工作,包括数据集选择和技术路线,使用PyTorch进行训练,Rust Candle进行推理,以及WASM进行部署。
-
Rust 实现 RMBG 推理
Published date:本文介绍了如何使用 Rust 实现 RMBG(移除图片背景)推理。通过加载 ONNX 模型,对输入图片进行预处理(resize、归一化),完成模型推理后生成掩码图,并基于掩码实现背景去除或透明度混合处理。最后优化了掩码反归一化算法,提升背景纯净度,适用于海报、游戏等领域。
-
rust candle 的一些杂项
Published date:本文总结了 Rust Candle 框架中的一些杂项功能,包括自定义实现的 `masked_fill`、广播机制(`broadcast_add`)、矩阵乘法(`matmul` 与逐元素乘法的区别)以及模块容器 `ModuleList` 的替代实现。通过对比 PyTorch,分析了 Candle 在张量操作和模型加载上的差异及解决方案。
-
Rust Candle 框架与 Pytorch nn 模块网络层转换(1)
Published date:本文对比了 Rust Candle 框架与 PyTorch 在神经网络层实现上的异同,涵盖顺序容器、卷积层(1D/2D 及转置卷积)、池化层(最大池化与平均池化)及常见激活函数。重点分析了两者在功能实现、参数配置及使用方式上的对应关系,并指出 Candle 暂不支持 3D 卷积等部分功能。
-
Rust Candle 框架与 Pytorch nn 模块网络层转换(2)
Published date:本文对比了 Rust Candle 框架与 PyTorch 中常见神经网络层的实现,包括归一化层(BatchNorm、LayerNorm、RMSNorm)、循环层(LSTM、GRU)、Transformer、线性层、Dropout 层、嵌入层及上采样层。总结了两者的功能对应关系及差异,并指出 Candle 在大模型推理场景下的支持情况。