腾讯技术工程 (微信公众号)T2·基座大模型
78 分
腾讯推出 TGR(Tencent Generative Recommendation)技术栈,旨在解决传统级联推荐系统的规模效应缺失、列表质量刻画不足及冷启动瓶颈。该方案通过 GenRank、GenRec 和 Reason 三大方向,引入 CCFormer 排序模型、端到端列表生成及大模型推理增强,已在新闻、视频等 10+ 场景落地并显著提升核心指标。相关成果发表于 AAAI、ACL 等顶会,标志着推荐系统从判别式向生成式范式的重大演进。
Tokenization
将文本序列转换为模型可处理的数字 ID 序列的过程
腾讯推出 TGR(Tencent Generative Recommendation)技术栈,旨在解决传统级联推荐系统的规模效应缺失、列表质量刻画不足及冷启动瓶颈。该方案通过 GenRank、GenRec 和 Reason 三大方向,引入 CCFormer 排序模型、端到端列表生成及大模型推理增强,已在新闻、视频等 10+ 场景落地并显著提升核心指标。相关成果发表于 AAAI、ACL 等顶会,标志着推荐系统从判别式向生成式范式的重大演进。
该项目提供了一套在 Node.js/TypeScript 环境中从零构建大语言模型的完整教程,涵盖数据加载、嵌入层、注意力机制及 Transformer 块等核心组件。所有代码均封装为可运行的 GitHub 包,旨在通过非 Python 语言的重新实现帮助开发者深入理解模型底层原理,消除“黑盒”认知障碍。
Simon Willison 发布了 ttok 0.4 版本,主要包含维护性更新。该 CLI 工具基于 tiktoken 库,此次更新修复了 Click 警告、更新了 CI 流程,并新增了 `--list-models` 命令以列出可用模型。用户可通过 `uvx ttok` 快速在命令行中统计和截断文本 token。