宝玉 (@dotey)T2·78 分
Cheng Lou 开源 Handwired:手写权重将程序逻辑转为可微分神经网络,实现零训练精确推理与 WebGPU 加速
原标题:Cheng Lou 开源 Handwired:手写权重,把程序逻辑变成不用训练的神经网络
- 核心原理是利用 ReLU 函数构造阶跃信号来模拟布尔判断,将控制流逻辑硬编码进矩阵乘法权重中,实现零训练下的精确推理。
- 项目具备完全可微分特性,允许使用反向传播算法对由手写权重构成的网络进行微调或联合训练,打破了传统神经网络必须从头训练的定式。
- 演示了 WebGPU 在手写神经网络上的应用潜力,如在特定场景下比浏览器原生正则引擎更快,且能在 CPU 降级模式下保持功能可用。