术语slug: tokenization

词元化

Tokenization

将文本序列转换为模型可处理的数字 ID 序列的过程

收录情报动态

共 3 篇 · 第 1/1 页
腾讯技术工程 (微信公众号)T2·基座大模型
78 分
腾讯发布 TGR 生成式推荐技术栈,重塑工业级推荐系统架构

腾讯推出 TGR(Tencent Generative Recommendation)技术栈,旨在解决传统级联推荐系统的规模效应缺失、列表质量刻画不足及冷启动瓶颈。该方案通过 GenRank、GenRec 和 Reason 三大方向,引入 CCFormer 排序模型、端到端列表生成及大模型推理增强,已在新闻、视频等 10+ 场景落地并显著提升核心指标。相关成果发表于 AAAI、ACL 等顶会,标志着推荐系统从判别式向生成式范式的重大演进。

Hacker News AIT2·开发与工程
58 分
Node.js 从零构建 LLM 开源教程:用 TypeScript 实现注意力机制与训练循环

该项目提供了一套在 Node.js/TypeScript 环境中从零构建大语言模型的完整教程,涵盖数据加载、嵌入层、注意力机制及 Transformer 块等核心组件。所有代码均封装为可运行的 GitHub 包,旨在通过非 Python 语言的重新实现帮助开发者深入理解模型底层原理,消除“黑盒”认知障碍。