人工智能安全
我关于人工智能安全所写的全部内容，研究文章在前。每篇都以一件您周一就能做的事收尾。
您自己正面对其中某个问题吗？我与需要答案、而不是又一份幻灯片的组织合作。我们谈谈。
五个角度短文的结构
这里的大多数主题是一页五个短节，顺序始终如一。文章内每一节各有自己的颜色，方便您跳到所需的部分。
- 1我会从哪里入手：我会迈出的第一步，以及在花钱之前我会先问的问题。
- 2计划在哪里失败：这个主题上的计划通常在哪里出问题，以及我会首先检验的假设。
- 3超越术语：剥去厂商话术之后，这个主题的真正含义。
- 4好的状态是什么样：能告诉您它奏效了的结果，以及我会盯着看的那个数字。
- 5领导者无法回避的抉择：领导层必须承担的决定，以及做出决定需要摆上桌面的东西。
-
在授予 AI 智能体行动权限之前
AI 智能体不只是回答问题，还能采取行动。我审视权限、工具访问、人工监督，以及让自动化保持可问责所需的条件。
-
AI 智能体行动之前，先决定它绝不能触碰什么
我如何审视 AI 智能体的权限、它迫使您做出的决定，以及在您投入之前可信的证据是什么样子。
-
如何让 AI 智能体始终限定在人工批准的范围之内？
将 AI 智能体的批准绑定到具体的操作、目标和载荷。处理数据变化、委托凭据、重试和执行结果不确定的情形，而不扩大授权范围。
-
如何阻止 AI 智能体执行文档中的指令？
通过任务绑定的工具授权、经过验证的接收方、数据流控制，以及在模型出错时仍然有效的批准检查，约束检索到的内容。
-
如何阻止 RAG 助手在访问权限被撤销后仍泄露文档？
追踪被撤销的文档访问权限在 RAG 权限、索引、缓存和对话中的去向。划定一条站得住脚的撤销边界，并用合成数据加以测试。
-
公司应如何批准员工使用生成式 AI？
按任务、数据和账户来批准员工使用 AI，而不是只看品牌。评估合同、连接器、审核能力，以及撤回许可的条件。
-
AI 治理：谁真正能叫停系统？
写一份声明人类始终掌控局面的政策并不难。我想知道的是：当 AI 系统产出的结果人人都满意、截止日期临近时……
-
AI 智能体权限
在 AI 智能体权限上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
AI 治理
在 AI 治理上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
AI 网络钓鱼
在 AI 网络钓鱼上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
AI 风险沟通
在 AI 风险沟通上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
有权采取行动的 AI 智能体是一个安全架构问题
回答问题的 AI 助手是一类风险。能够读取客户数据库、发送消息、更改权限、执行工作……
-
授予 AI 智能体行动权限之前
回答问题的 AI 系统可能误导您。能够开立工单、更改配置、检索私密记录或发送消息……
-
不必理解每个答案，也能控制 AI 吗？
了解 AI 控制如何聚焦于权限、证据和后果，而无需完全理解每一次内部计算。
-
第二个 AI 模型算得上独立的检查吗？
两个 AI 模型意见一致，并不能构成独立的检查。要审视它们的证据、共同的依赖，以及什么可能暴露共同的错误。
-
如何在不授予 AI 全部权限的前提下保留它的益处？
在保留 AI 有用能力的同时限制不必要的权限。把审核放在能改变后果的地方，并计入等待的成本。
-
大语言模型数据泄露
在大语言模型数据泄露上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
模型评估
在模型评估上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
模型监控
在模型监控上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
模型供应链
在模型供应链上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
提示注入
在提示注入上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
RAG 安全
在 RAG 安全上，我不会从购买另一个平台或启动大型项目开始。我会先找出边界、明确的责任人，以及一个……
-
是否应该让 AI 供应商用贵公司的数据进行训练？
从数据权限、模型隔离、隐私证据、业务价值，以及涵盖衍生模型的退出方案出发，评估供应商的训练请求。
-
AI 助手获得行动权限后，会发生什么变化？
把 AI 从提供建议推进到采取行动，控制问题随之改变。审查工具、凭据、委托的操作，以及任务真正需要的权限。
-
2035 年的一次 AI 故障复盘，能给今天带来什么启示？
一份虚构的 2035 年 AI 故障复盘可以暴露当下的依赖关系。用这个情景来检验控制措施，而不是把它当作预测或概率估计。
-
AI 决策摘要应当保留什么？
AI 决策摘要应当保留可能改变行动的不确定性、证据和分歧，而不只是给出一个更干净利落的绿灯。
-
真正叫停您的 AI 系统需要什么？
测试 AI 停止机制究竟能停止什么、谁能启动它、哪些仍在运行。关停权限需要一条可信的恢复路径。
-
AI 警示何时会变成有效的控制措施？
把 AI 风险警示变成有人负责、有资金支持、可测试的控制措施。来自 Boxing Einstein 的一篇短文，谈认识到问题与真正改变问题之间的差距。
-
人工批准何时只是走过场？
人工批准按钮只是 AI 监督的一部分。要审视让否决权真正可用的证据、时间、权限和替代方案。
-
为什么有用的 AI 反而更难治理
为什么一个有用的 AI 答案在更广泛使用之前仍需要证据：区分已观察到的益处、隐藏的后果和等待的成本。
-
您的员工已经在使用 AI 了。接下来怎么办？
禁止并不奏效。我还没见过哪家机构的政策能阻止员工把合同粘贴到聊天机器人里做摘要。禁令真正造成的是……
没有匹配项。请换一个词，或直接问我。