MAE AI 术语词典
基础
12 词 AGI 通用人工智能——在绝大多数认知任务上达到或超过人类水平的 AI,目前还不存在 大模型 读了海量文字、学会不断猜下一个字的 AI;ChatGPT、Claude、DeepSeek 背后都是它 少样本 在提示词里给 AI 几个例子,它照着学 提示词 你对 AI 说的那段话,问法越具体,答得越好 提示词注入 用话术骗 AI 无视原本指令、去干不该干的事 温度 控制 AI 发挥的「随机度」,低=稳妥,高=天马行空 知识截止 AI 训练数据只到某个日期,之后发生的事它天生不知道 竞技场 让网友盲选两个模型的回答再投票,排出真实高下 系统提示词 对话开始前就给 AI 设定好的「人设和规矩」 结构化输出 让 AI 按固定格式(JSON/表格)吐结果,方便程序直接用 联网检索 让 AI 实时上网查再回答,弥补知识截止和幻觉 零样本 不给例子,直接让 AI 干,靠它自己的本事
模型
38 词 对齐Alignment 让模型的行为和人类意图一致——不仅要回答正确，还要拒绝危险请求、不输出有害内容、不编造事实。 评测基准Benchmark 用标准化测试集给模型打分的体系。 数据污染Contamination 评测数据被混进了训练数据，导致模型在 Benchmark 上的分数虚高——相当于考试前偷看了答案。 上下文窗口Context Window 模型一次能看到的 Token 上限;超出的部分它是真的看不见,不是记性差 思维链CoT 让模型把推理过程一步步写出来再给答案,准确率显著高于直接蹦结论 Dense 模型 所有参数每次都参与计算的传统模型 蒸馏Distillation 用大模型（教师模型）的输出来训练小模型（学生模型），让小模型学到大模型 80-90% 的能力但体积小几十倍。 DPO Direct Preference Optimization，直接偏好优化。 涌现能力Emergent Ability 模型小的时候完全没有、大到一定程度突然出现的能力。 Few-shot Zero-shot 是不给任何示例直接让模型做任务（"帮我翻译这句话"）；Few-shot 是在 Prompt 里给几个示例再让模型做（"参考这3个例子，帮我翻译"）。 微调Fine-tuning 在已经训好的通用模型上,用你自己的数据继续训一小段,让它更贴合特定场景 基座模型Foundation Model 用海量数据（万亿级Token）预训练出来的通用大模型，本身什么具体任务都不会做，但什么都能学。 前沿模型Frontier Model 当前能力最强的那一批模型，代表AI能力的天花板。 幻觉Hallucination 模型非常自信地输出了错误信息——编造论文、虚构条文、捏造数据,而且语气毫无破绽 长上下文Long Context 128K Token 以上的超长上下文窗口能力。 混合专家MoE 模型里养一堆「专家」子网络,每次推理只叫醒其中几个——总参数很大,单次计算很省 多模态Multimodal 模型能同时理解和生成多种类型的内容——文本、图片、音频、视频。 Open Source vs Closed Source 开源模型（Meta Llama、阿里 Qwen、DeepSeek）公开了模型权重，谁都可以下载使用和微调；闭源模型（GPT、Claude）只通过 API 提供服务。 Open Weight 只公开了模型权重，但没公开训练数据、训练代码和训练流程。 后训练Post-training 预训练之后所有训练步骤的统称，包括 SFT、RLHF/DPO 等。 预训练Pre-training 大模型训练的第一阶段，让模型读完互联网上几乎所有的文本，学会语言的基本规律、世界知识和推理模式。 量化Quantization 把模型参数的数值精度降下来(比如 FP16 降到 INT4),换更小的体积和更快的速度 推理能力Reasoning 模型像人一样进行逻辑推理、多步思考的能力，而不是简单的模式匹配。 RLHF Reinforcement Learning from Human Feedback，基于人类反馈的强化学习。 缩放定律Scaling Law OpenAI 在 2020 年提出的经验规律：模型参数量、训练数据量、算力三者按比例扩大，模型效果就会持续提升，而且这种提升是可预测的。 监督微调SFT Supervised Fine-Tuning。 SoTA State of the Art，某个特定任务上的当前最佳成绩。 Temperature 控制模型输出随机性的参数，范围通常 0-2。 Token 模型处理文本的最小单位,不是字也不是词;所有大模型 API 都按它计费 Top-P 和 Temperature 配合使用的采样参数。 世界模型 让 AI 在脑子里模拟世界怎么运转,而不只是接话 参数量 模型里「旋钮」的数量,常用来衡量它多大,越多不一定越强 向量 把一句话/一张图压缩成一串数字,方便按「意思」搜索 强化学习 让 AI 通过「试错 + 奖励」自己越练越强 推理 模型训练完之后,真正拿来回答你问题的那个过程 推理模型 回答前会多想几步、更擅长啃复杂问题的 AI 涌现 模型大到一定程度,突然会了没专门教过的本事 训练 喂海量数据让模型学本事的过程,极烧钱烧算力
数据
18 词 主动学习Active Learning 让模型自己挑出"最不确定的数据"优先给人标注，好钢用在刀刃上，用更少的标注量达到更好的效果。 标注Annotation 人工给数据打标签的过程。 分块Chunking 把长文档切成小段再做向量化。 语料库Corpus 训练用的文本集合的统称，可以是通用的也可以是领域特定的。 数据清洗Data Cleaning 去掉训练数据里的噪音、重复、低质量内容、有毒内容、个人隐私信息等。 数据飞轮Data Flywheel 用户越用→产生越多数据→数据回流优化模型→模型越好→用户越爱用的正向循环。 Data Labeling Pipeline 标注数据的工业化流水线：原始数据采集→任务分发→标注员执行→质检审核→数据入库。 数据护城河Data Moat 你拥有的独家、高质量、持续增长的数据形成的竞争壁垒。 去重Deduplication 去除训练数据中的重复内容。 向量化Embedding 把文本或图片转成一串数字(向量),让计算机能用数学算「意思有多接近」 ETL for AI Extract-Transform-Load，把企业散落在各系统里的数据抽取、清洗、转换成模型能用的格式。 黄金测试集Golden Set 一组经过严格人工审核的标准答案数据，用来衡量模型好不好。 知识库Knowledge Base 企业私有的文档、FAQ、产品手册等，经过整理后接入AI系统。 个人可识别信息PII Personally Identifiable Information，姓名、手机号、身份证号等能定位到具体个人的信息。 偏好数据Preference Data "回答A好还是回答B好"这种人类偏好判断的标注数据，RLHF 和 DPO 的燃料。 合成数据Synthetic Data 用AI模型生成的训练数据，而不是从真实世界收集的。 训练数据Training Data 喂给模型学习的原始数据，预训练阶段通常是从互联网爬取的海量文本（万亿级 Token）。 向量数据库Vector Database 专门存向量、并能在海量向量里毫秒级找出最相似那几条的数据库
产品
32 词 A 对不同版本的 Prompt 做对照实验，用真实用户流量测哪个版本效果更好。 智能体Agent 不只回答问题,还能自己规划步骤、调用工具、看结果再决定下一步的 AI 系统 Agentic Workflow 多个Agent按照编排好的流程协作完成复杂任务。 Batch vs Real-time 两种处理模式。 引用溯源Citation AI回答时标注信息出处，让用户能点击查看原文、验证真假。 Co-pilot vs Autopilot 两种产品定位。 置信度Confidence Score 模型对自己答案的"把握程度"的量化指标。 对话设计Conversation Design 设计AI该怎么和用户对话的整体策略：什么时候主动引导、什么时候追问、什么时候总结、用什么语气、回复多长合适。 降级策略Degradation 模型服务不可用（宕机、超时、限流）时，产品如何保证基本可用。 边缘场景Edge Case 用户的非典型、低频、奇葩输入。 评测Eval 在你自己的业务场景下系统化测试模型表现的过程。 可解释性Explainability AI能不能解释清楚"为什么给出这个结果"。 兜底策略Fallback AI答不上来、答错了、或者遇到超出能力范围的请求时，产品应该怎么处理。 工具调用Function Calling 模型根据用户需求自主判断该调用哪个外部工具（API），并生成正确的参数。 接地Grounding 让AI的回答基于可验证的真实数据，而不是凭自己的"想象"生成。 护栏Guardrails 在模型输入和输出两端设置的安全过滤机制。 意图识别Intent Recognition 判断用户输入的真实目的是什么。 MCP Anthropic 提出的开放协议,让 AI 用统一的方式接外部工具和数据源,不用为每个模型各写一遍 记忆Memory AI记住用户的历史信息和偏好的能力。 多轮对话Multi-turn 用户和AI来回交互多轮才完成一件事。 Multimodal UX 多模态交互设计——在什么场景下应该让用户用文字、语音、图片、还是视频与AI交互，以及AI应该用什么形式回复。 人设Persona 给AI设定的性格特征和说话风格。 插件Plugin 给AI挂载的外部能力扩展，让AI能做它本身做不了的事。 Prompt Engineering 通过设计给模型的指令来稳定拿到想要的结果;不是「会问问题」,是一套可测量的工程方法 Prompt Template 预设好的提示词框架，把复杂的 Prompt 工程封装成用户只需要"填空"的简单操作。 检索增强生成RAG 先从你的知识库里检索出相关内容,再让模型基于这些内容作答——给私有知识接上模型的主流方案 骨架屏Skeleton Screen AI在思考生成回答时，先展示一个灰色的内容框架占位，让用户知道"内容正在来"。 槽位填充Slot Filling 从用户输入中提取完成任务所需的关键信息。 流式输出Streaming 模型生成一个字就往前端推一个字，用户可以边看边等，而不是等全部生成完再一次性展示。 System Prompt 写在对话最前面的"底层指令"，定义了AI的角色、行为规则、输出格式等。 工作流编排Workflow 把多个AI能力、工具、判断节点串联成一条自动化流水线。 渐进式信任 产品策略：先让AI做低风险的小事（查信息、写草稿），用户觉得靠谱后再逐步交给AI做更重要的事（做决策、发邮件）。
智能体
8 词AI 编程
69 词 AFK A working pattern where the user kicks off a session and leaves the agent to run unattended (away from keyboard). Agent Mode AI 不只补代码,还能自己读、改、跑,完成整个任务 AGENTS.md A file in the environment that the harness loads into the context window at session start — the project's standing brief to the agent. AI A moving label, not a technology. Points at whatever computers can newly, impressively do — right now, large language models. AI 建站 描述需求,AI 直接生成能上线的网页/应用 Attention budget Each token has a finite amount of influence to distribute across the rest of the context. Per-token, doesn't grow when context does. Attention degradation As a session grows, each token's attention budget spreads across more competitors; signal on meaningful relationships shrinks. Attention relationship The pairing between two tokens — meaningful pairs influence each other more than unrelated ones. A context of N tokens has ~N² of these. Autocompact Compaction triggered automatically by the harness when the context window approaches full. Automated check A deterministic verification that runs in the environment — tests, type checks, lints, build, pre-commit hooks. Pass/fail, no judgement. Automated review "An agent reviewing another agent's work, often with a different model or system prompt. Non-deterministic: it forms a judgement." AX "Agent experience: how well the environment is set up for an agent to do good work — checks, architecture, and free context." Cache tokens Input tokens the provider has cached from a previous request via its prefix cache, billed at a much lower rate. Claude Code Claude 专门干编程的命令行/工具模式 Clearing Ending the current session and starting a fresh one. The next message begins with an empty session and an empty context window. Compaction A handoff done in-memory: the previous session's history is summarised and seeds a fresh session. Lossy — detail traded for headroom. Context The relevant information the agent has access to right now — what the agent knows that's pertinent to the task. Context pointer A mention in one document that points to another, so the agent can pull it into context only when the task calls for it. Contextual knowledge Facts the agent can read directly from the context right now. Counterpart to parametric knowledge. Copilot AI 副驾驶,边写边帮你补全代码 Cursor 最火的 AI 编程编辑器 Design concept The shared understanding of what's being built, held in common between user and agent but separate from any asset. DX "Developer experience: how easy a codebase and its toolchain make it for humans to do good work — docs, feedback speed, errors." Effort A dial for how much reasoning the model does before it answers. More effort spends more output tokens for a better shot at hard problems. Environment The world the agent acts on — anything outside the harness that the agent perceives via tool results and changes via tool calls. Filesystem A tree of files and directories the agent reads from, writes to, and executes within — the default environment for a coding agent. Grilling "A technique for developing a design concept: the agent interviews the user Socratically, one decision at a time." Handoff Transferring agent context from one session to another, with no return path. Carry mechanism varies — artifact, compaction, others. Handoff artifact A document used as the carry mechanism for a handoff — written by one session to be read by another. Harness "Everything around the model that turns it into an agent: tools, system prompt, context-window management, permissions, hooks." Human review The user reading the code the agent produced and forming a judgement on it. Reading the diff counts; reading the summary doesn't. Human-in-the-loop A working pattern where one or more humans pair with the agent during a session — reviewing, redirecting, or collaborating in real time. Inference Running a trained model to generate output — what happens on every model provider request. Parameters stay fixed. Input tokens Tokens the harness sends on each model provider request. Billed at a lower rate than output tokens. Knowledge cutoff The date past which a model has no parametric knowledge. Post-cutoff libraries and APIs are fabrication traps unless docs are loaded. Memory system A system that attempts to make an agent stateful across sessions by persisting to the environment and reloading at session start. Model The parameters. Stateless — does next-token prediction and nothing else. Cannot do anything agentic on its own. Model provider Whatever serves a model for inference. Usually remote (Anthropic, OpenAI, Google), but can also be local (Ollama, llama.cpp). Model provider request One round-trip from the harness to the model provider. The harness sends context; the provider returns one response. Next-token prediction What the model actually does. Samples one next token from the context, appends it, and runs again. Its only mode of operation. Non-determinism The same input can produce different output. A property of how models generate text and how providers serve requests. Output tokens Tokens the model generates back. Billed at a higher rate than input tokens, since they cost more compute to produce. Parameters The numbers inside a model — often billions — tuned during training. Everything the model knows lives in them. Also called weights. Parametric knowledge What the model knows from training, stored in its parameters. Frozen at training time. Counterpart to contextual knowledge. Permission mode The permission-gating slice of an agent mode — which tool calls trigger a permission request and which run automatically. Permission request What the harness shows the user before executing a tool call that isn't pre-approved. The mechanism for putting a human in the loop. Prefix cache The provider-side store that lets consecutive requests skip re-processing a shared prefix, billing those tokens at a lower rate. Primary source The thing itself — code, transcripts, raw data. Complete and authoritative, but expensive to load into context. Progressive disclosure Loading only the context an agent needs right now, with context pointers to the rest. Borrowed from UI design. Prototyping Having the agent build a quick, rough version when conversation is too low-fidelity and you need a real artifact to talk about. Sandbox An isolated environment the agent runs inside — container, VM, or restricted shell. Limits the blast radius of agent actions. Secondary source An account of a primary source, one step removed — summaries, docs, compaction summaries. Cheap to load, lossy by construction. Session One bounded run of interaction with an agent. Starts empty, accumulates, ends when cleared, closed, or compacted into a fresh session. Skill A teachable capability bundled as a unit — kept out of the context window until a context pointer pulls it in for the task at hand. Smart zone "Early in a session the agent is sharp and focused. As the session grows it drifts into a dumb zone: sloppier, forgetful, more mistakes." Spec A handoff artifact describing a multi-session piece of work — what's being built, not how each session does its share. Made of tickets. Stateful Carries information forward. Sessions are stateful across turns; agents can be made stateful across sessions via a memory system. Stateless Carries no information forward. The model is stateless across requests; an agent is stateless across sessions by default. Subagent An agent spawned by another agent via a tool call. Runs in its own session, reports a single tool result. Cannot spawn further subagents. SWE-bench 考 AI 会不会修真实开源项目 bug 的权威测试 Sycophancy Confidently agreeable model output. Caused by training that shaped the model to favor answers humans liked — including agreement. Ticket A handoff artifact scoping one session of work. Stands alone or hangs off a spec. Can block or be blocked by sibling tickets. Tool A function the harness exposes for the agent to call — Read, Write, Bash, Search. How an agent perceives and acts on the environment. Tool call The model's output naming a tool and its arguments — just structured text. The harness has to read it and execute. Tool result What the harness sends back after executing a tool call — file contents, output, or error. The agent's only view of the environment. Training The process that sets a model's parameters by exposing it to vast amounts of text and adjusting to improve next-token prediction. Turn One user message plus everything the agent does in response, up until it yields back to the user. Contains one or more provider requests. Vibe Coding 不太会写代码也能靠 AI 一边聊一边把软件做出来 Windsurf 另一款流行的 AI 编程编辑器
图像
12 词 ControlNet 控制人物姿势和画面结构,让 AI 不会画跑 Flux 近两年最强的开源画图模型之一 LoRA 给画图模型装的一个「小插件」,几十 MB 就能学会一种画风 Midjourney 出图质感最出圈的闭源文生图工具 SDXL Stable Diffusion 的高清版本 图生图 上传一张图,让 AI 在它基础上改 局部重绘 只改图片里的一小块,其余不动 扩散模型 从一堆噪点一点点「去噪」成图的 AI 画图原理 文生图 输入一句话,AI 生成一张图 种子 决定随机性的一个数字,同种子同参数能复现同一张图 负向提示词 告诉 AI「别画什么」(多余的手指、水印、模糊) 超分 把生成的小图无损放大、补细节
视频
9 词用户
20 词 Activation Rate 新用户完成"关键动作"的比例。 Aha Moment 用户第一次真正感受到"这个AI产品有用"的顿悟时刻。 流失率Churn 用户在某个时间段内停止使用产品的比例。 DAU 日活跃用户 / 月活跃用户。 Engagement Depth 衡量用户用得"有多深"。 隐式反馈Implicit Feedback 用户没有主动点赞或踩，但他的行为本身就是反馈信号。 新用户引导Onboarding 新用户第一次使用产品时的引导体验。 PMF Signal 判断产品是否找到 Product-Market Fit 的信号。 重度用户Power User 高频、深度使用产品的核心用户群体。 Prompt 素养Prompt Literacy 用户会不会写有效的 Prompt。 留存断崖Retention Cliff 用户留存率在某个时间点突然大幅下跌。 Thumbs Up 最简单的用户反馈机制，在AI回答下面放一个赞和踩的按钮。 Time to Value 用户从注册/打开产品到获得第一次实际价值的时间。 User Journey 用户从第一次接触产品到成为付费用户、再到长期留存的完整路径。 任务完成率 用户发起一个任务后，AI成功帮用户完成的比例。 冷启动 产品初期既没有用户也没有数据的困境。 反馈闭环 用户使用产品→产生反馈信号（点赞/踩、重新生成、复制使用）→反馈数据被收集→标注后回流到模型训练→模型变好→用户体验提升。 对话轮次 用户完成一个任务平均需要和AI交互几个来回。 用户教育成本 让用户学会"怎么正确使用AI产品"所需要付出的时间和精力。 首次成功率 用户第一次使用某个功能就成功完成任务的比例。
商业
53 词 10x 效率或体验提升十倍,而不是好一点点 AI Native 天生就是围绕 AI 设计的产品 AI 套壳 在别人的大模型外面套一层做的产品 API as a Service 把模型能力封装成标准化 API 接口对外售卖。 ARPU Average Revenue Per User，每用户平均收入。 ARR Annual/Monthly Recurring Revenue，年/月经常性收入。 捆绑Bundling 把AI能力打包进已有产品一起卖。 Burn Rate 每月烧多少钱（支出减收入）。 CAC Customer Acquisition Cost，获客成本。 CAC Payback 获客成本回收周期——花出去的获客成本需要多少个月才能通过用户付费赚回来。 商品化Commoditization 模型能力趋同后，AI产品之间的差异越来越小，最终变成拼价格。 转化率Conversion Rate 免费用户转为付费用户的比例。 积分制Credit System 把算力成本包装成"积分"，用户购买积分来消费AI服务。 Feature Gating 按功能级别划分付费等级。 Freemium 基础功能免费使用，高级功能付费解锁。 GPU Poor 算力不够用。 毛利率Gross Margin 收入减去直接成本（主要是推理成本/GPU费用）后的利润率。 GTM 产品怎么卖出去的整体策略。 水平AIHorizontal AI 跨行业的通用型AI工具，比如AI写作、AI翻译、AI搜索。 推理成本Inference Cost 模型每处理一次请求的计算成本，包括 GPU 算力费用。 智能溢价Intelligence Premium 用户愿意为AI能力额外支付的费用。 Land and Expand 先用低价甚至免费让一个团队或部门用起来（Land），然后靠口碑和效果扩展到整个组织（Expand）。 LTV Lifetime Value，用户生命周期总价值。 LTV:CAC 用户终身价值和获客成本的比值，衡量增长效率的核心指标。 模型即服务MaaS Model as a Service，云厂商把大模型封装成服务对外出售。 Marketplace 围绕AI生态建立的交易市场。 护城河Moat 产品的竞争壁垒。 Monetization Moment 用户刚刚体验到产品价值、正处于"感动/惊喜"状态的那个时刻。 网络效应Network Effect 使用产品的人越多，产品对每个人越有价值。 净收入留存率NRR Net Revenue Retention，老客户在下一年贡献的收入占上一年的比例。 付费墙Paywall 免费使用到一定量或触碰到高级功能时弹出的付费引导。 Platform Tax 依赖别人的模型 API 所要支付的成本。 产品驱动增长PLG Product-Led Growth，不靠销售团队而靠产品本身的体验来获客和转化。 PMF Product-Market Fit，产品和市场需求的匹配度。 概念验证POC Proof of Concept，To B 客户在正式采购前先小范围试用，验证AI在他们的场景里到底好不好使。 Price Sensitivity 价格敏感度。 配额Quota 每天、每月能使用的总量限额。 限速Rate Limit 限制用户在单位时间内的调用次数。 Seat-based Pricing 按人头/席位收费。 迁移成本Switching Cost 用户从你的产品切换到竞品需要付出的成本。 TAM Total Addressable Market / Serviceable Addressable Market / Serviceable Obtainable Market。 Token Economics 大模型按 Token 计费的商业模式。 拆分Unbundling 把大平台里的某个AI功能拆出来做成独立产品。 Unit Economics 单位经济模型——每服务一个用户、每处理一次请求到底赚不赚钱。 Upsell Upsell 是让用户从低版本升到高版本（基础版→Pro版），Cross-sell 是让用户买更多产品线（买了AI写作又买AI画图）。 Usage-based Pricing 按用量收费，用多少付多少。 垂直AIVertical AI 深耕某一个特定行业的AI产品，比如法律AI、医疗AI、教育AI。 套壳Wrapper 在别人的大模型 API 上面包一层 UI 就当成自己的产品卖。 WTP 用户愿意为某个功能付多少钱。 人机协同 人和 AI 各干自己擅长的,配合把活干好 价值锚定 让用户把AI产品的价值和一个"更贵的东西"对比，从而觉得定价合理。 按量付费 用多少付多少,AI 产品主流的计费方式 订阅疲劳 用户已经订阅了太多 SaaS 服务（视频、音乐、云存储、各种AI工具），再加一个订阅的心理阻力很大。
工程部署
27 词 API Gateway API 网关，所有模型调用请求的统一入口，负责限流、鉴权、计费、日志记录等。 CI 模型的持续集成和持续部署。 CUDA NVIDIA 的 GPU 编程平台,几乎所有 AI 都靠它 端侧部署Edge Deployment 把模型部署在用户的终端设备上（手机、PC、IoT设备），不需要联网调用云端服务。 Fine-tuning Pipeline 从数据准备→数据清洗→训练配置→模型训练→评测→部署上线的自动化流水线。 FP16 半精度计算,AI 推理最常见的格式 GPU 跑大模型的核心硬件。 H100 英伟达训练 AI 的主力数据中心显卡 推理优化Inference Optimization 让模型推理跑得更快、更省钱的各种技术手段。 INT4 超低精度,量化后的模型更省显存 KV Cache Key-Value Cache，在推理过程中缓存已经计算过的中间结果，避免重复计算。 延迟Latency 从发出请求到收到完整回复的总时间。 LLMOps 大模型的运维体系，类比传统的 MLOps。 模型路由Model Router 根据请求的复杂度和类型，自动分配到不同的模型处理。 Model Serving 把训练好的模型部署成可以在线调用的服务。 可观测性Observability 对线上AI系统进行全面监控的能力——延迟多少、错误率多高、用户满意度如何、成本消耗多少、是否有幻觉/安全问题。 编排Orchestration 把模型、工具、数据库、外部 API 等多个组件串联起来协同工作的调度层。 Prompt Management Prompt 的版本管理、效果追踪、A/B 测试、回滚等管理机制。 投机解码Speculative Decoding 用一个快速的小模型先猜大模型可能输出什么，然后让大模型验证。 TensorRT NVIDIA 的推理加速框架,让模型跑得更快 吞吐量Throughput 系统单位时间内能处理多少 Token 或多少个请求。 TTFT Time To First Token，从用户发送请求到看到第一个输出字符的时间。 VRAM 显卡内存,决定你能跑多大的模型 本地部署 把模型下载到自己电脑/服务器跑,数据不出门 算力 训练和运行 AI 靠的「发动机」,越多越快也越贵 算力穷人 显卡不够用的自嘲,小团队和个人的常态 首字延迟 从你提问到蹦出第一个字的等待时间
安全合规
15 词 偏见Bias 模型对特定群体的系统性歧视或不公平对待。 合规Compliance AI产品满足法律法规和监管要求。 内容审核Content Moderation 对模型输出内容进行审核和过滤，拦截违规、有害、不当的内容。 HITL Human in the Loop，在AI决策流程的关键节点让人类介入审核。 越狱Jailbreak 用各种花招绕过模型的安全限制，让它输出本该拒绝的内容。 Model Card 模型的"产品说明书"——写清楚模型的能力边界、适用场景、已知局限、潜在风险、训练数据来源等。 Prompt Injection 恶意用户在输入里藏入攻击性指令，试图劫持模型的行为。 红队测试Red Teaming 组建一支专门"找茬"的团队，用各种方式攻击自家的AI系统，发现漏洞和风险。 Responsible AI 负责任的AI——确保AI系统在伦理、公平、透明、安全、隐私等方面都符合标准的总体理念和实践。 安全过滤器Safety Filter 部署在模型输入和输出端的安全检测机制，用于拦截危险请求和不当输出。 有毒内容Toxicity 模型输出的歧视、仇恨、暴力、性暗示等有害内容。 Transparency Report 透明度报告，公开披露AI系统被滥用的情况、安全事件、内容审核数据等。 水印Watermark 在AI生成的内容中嵌入不可见的标记，用于事后追溯"这段内容是AI生成的"。 数据出境 中国用户的数据传输到境外服务器的合规限制。 算法备案 中国特色的AI监管制度，面向公众提供生成式AI服务的产品必须向网信办进行算法备案。
开源
11 词 DeepSeek 中国团队的开源模型,性价比出圈 GGUF 本地跑模型的通用文件格式 Hugging Face AI 界的 GitHub,模型、数据集、demo 都在这 Llama Meta 的开源大模型,开源生态的基石 llama.cpp 让大模型在普通电脑甚至手机上跑起来的项目 LM Studio 桌面版本地大模型工具,Windows/Mac 都能跑 Ollama 本地跑大模型最简单的软件,一条命令下载即用 Qwen 阿里的开源模型系列,中文能力强 SGLang 新一代大模型推理框架,主打快 Transformers 最流行的大模型开发库 vLLM 高性能大模型服务器,很多 AI 产品后台在用
没找到匹配的词,换个说法试试。