EXPLORE / 06
术语索引
AI 与软件开发中的专用名词及其说明
实体记录
5263 条记录 · 126/132
- 5001
AI 安全
研究如何确保人工智能系统行为符合人类价值观且无害的领域
官网待补 - 5002
上下文工程
优化输入给模型的背景信息以提升输出质量的方法论
官网待补 - 5003
安全防护措施
用于防止模型产生有害输出或被滥用的技术与管理机制
官网待补 - 5004
显式断点
在提示中手动标记缓存边界以精确控制缓存范围的方法
官网待补 - 5005
前沿模型
指处于技术最尖端、具备最强通用能力的大规模基础模型
官网待补 - 5006
多语言模型
能够理解和生成多种自然语言的预训练大模型
官网待补 - 5007
人类监督
人类对自主系统进行监控、干预或控制的机制
官网待补 - 5008
AI 对齐
确保 AI 系统行为符合人类意图和价值观的技术领域
官网待补 - 5009
色彩分级
调整视频色调以营造特定氛围或视觉风格的过程
官网待补 - 5010
用户意图识别
解析自然语言指令以明确用户真实目标的技术
官网待补 - 5011
人机协同控制
在自动化流程中保留人类监督与干预能力的机制
官网待补 - 5012
主动式智能体
能自主发起行动、规划多步任务而非仅响应指令的 AI 系统
官网待补 - 5013
模型错位
AI 系统的实际行为或目标与其设计意图不一致的现象
官网待补 - 5014
安全案例
论证系统风险可控并满足特定安全标准的结构化文档
官网待补 - 5015
API 令牌
大模型服务中用于计量输入输出文本长度的基本单位
官网待补 - 5016
对抗性提取
利用对抗手段从黑盒模型中窃取内部逻辑或数据的行为
官网待补 - 5017
模型蒸馏
通过教师模型输出训练学生模型以压缩知识的技术
官网待补 - 5018
企业级大模型
面向商业场景提供安全、合规及定制服务的大语言模型版本
官网待补 - 5019
推理努力度
控制模型在生成答案前进行深度思考程度的参数
官网待补 - 5020
前沿实验室
开发最先进大规模人工智能模型的研究机构
官网待补 - 5021
开源权重模型
公开模型参数供公众下载、修改和部署的大语言模型
官网待补 - 5022
数学推理
模型通过逻辑步骤解决复杂数学问题的能力
官网待补 - 5023
从零训练
不依赖预训练权重，直接从随机初始化开始学习数据
官网待补 - 5024
最后一公里问题
指系统在接近最终目标时遇到的难以解决的细微错误或实际部署障碍
官网待补 - 5025
董事及高管责任险
为公司董事和高管因职务行为引发的法律诉讼提供赔偿的保险
官网待补 - 5026
多模态
模型能同时处理和理解多种类型的数据输入
官网待补 - 5027
向量嵌入
将非结构化数据转换为数值向量以便计算相似度的技术
官网待补 - 5028
API 定价
开发者通过应用程序接口调用云服务时按使用量支付的费用结构
官网待补 - 5029
图像生成模型
利用深度学习算法根据文本提示或其他输入创建视觉内容的系统
官网待补 - 5030
安全对齐
确保 AI 系统行为符合人类价值观和安全准则的技术过程
官网待补 - 5031
红队测试
模拟攻击者行为以评估系统安全性的对抗性测试方法
官网待补 - 5032
自蒸馏
模型从自身或教师模型的中间表示中提取知识以优化自身的过程
官网待补 - 5033
评分标准
用于评估模型输出质量的详细、结构化的文本描述准则
官网待补 - 5034
护栏
限制 AI 输出内容以防止有害或不当行为的约束机制
官网待补 - 5035
对齐
确保 AI 系统的行为符合人类价值观和意图的技术过程
官网待补 - 5036
精确率-召回率
衡量分类器检出正样本准确性与完整性的指标对
官网待补 - 5037
代码审查
在软件发布前检查代码以发现错误和改进建议的过程
官网待补 - 5038
向量相似度搜索
基于向量距离查找语义相近内容的算法
官网待补 - 5039
智能体检索
由AI代理规划并执行多步检索任务的机制
官网待补 - 5040
可解释性
模型决策过程对人类而言透明且可理解的程度
官网待补