Tag: Candle
All the articles with the tag "Candle".
-
用 candle 实现腾讯的翻译模型 hy-mt-1.8b 的一些感受
Published date:分享使用Rust的Candle框架实现腾讯轻量级翻译模型hy-mt-1.8b的经验和心得，包括对其简单架构的观察以及在GPU上运行的情况。
-
Yolov10 模型使用 Rust Candle 框架在显卡上运行碰到的错误
Published date:记录使用Rust Candle框架在GPU上运行Yolov10模型时遇到的问题，特别是与topk函数实现相关的CUDA驱动程序错误。
-
Rust Candle 的 PyTorch 等价操作记录
Published date:记录PyTorch与Rust Candle之间的等价操作，包括缩放点积注意力(SDPA)和linspace函数的实现及代码示例。
-
从零开始构建手写输入法：准备篇
Published date:介绍从零开始构建汉字手写输入法的准备工作，包括数据集选择和技术路线，使用PyTorch进行训练，Rust Candle进行推理，以及WASM进行部署。
-
rust candle 的一些杂项
Published date:本文总结了 Rust Candle 框架中的一些杂项功能，包括自定义实现的 `masked_fill`、广播机制（`broadcast_add`）、矩阵乘法（`matmul` 与逐元素乘法的区别）以及模块容器 `ModuleList` 的替代实现。通过对比 PyTorch，分析了 Candle 在张量操作和模型加载上的差异及解决方案。