孩子这一课究竟在学什么
智能体只应获得完成任务所需的最少权限,高风险动作必须确认并能随时停止。
读和写、草稿和发布、查看日历和邀请他人具有不同风险。设计时要列出允许动作、需要人工确认的动作、绝对禁止事项、预算与次数上限、失败停止条件和操作记录。权限不是对模型的奖励,而是对现实后果的控制。
按照最小权限原则为智能体设置允许、确认、禁止和停止四类规则。
智能体只应获得完成任务所需的最少权限,高风险动作必须确认并能随时停止。
读和写、草稿和发布、查看日历和邀请他人具有不同风险。设计时要列出允许动作、需要人工确认的动作、绝对禁止事项、预算与次数上限、失败停止条件和操作记录。权限不是对模型的奖励,而是对现实后果的控制。
准备纸和笔,打开课程页面。活动卡片直接使用,不需要家长另外制作。
提前准备:准备纸和笔,打开课程页面;页面中的卡片直接使用,不需要另做卡片,也不需要孩子注册或登录外部 AI 产品。
现场展示:本课先把概念和判断方法练清楚,不必为了“看起来像 AI 课”而额外打开工具。完成后如想延伸,可以由家长用虚构、安全的例子做一次简短演示。
安全边界:如果做可选演示,仍由家长操作账号,并避免输入任何能识别孩子或他人的信息。
“今天我们要一起想一个问题:为了方便,是否应该一次把邮箱、云盘和发布权限全部交给智能体? 先说说你现在怎么想,不用马上答对。然后我们通过「智能体安全控制台」找证据。”
每一步都对应本课目标,不再使用所有课程都一样的通用话术。
这一步把“智能体只应获得完成任务所需的最少权限,高风险动作必须确认并能随时停止。”变成孩子可以实际操作的任务。
家长可以这样问先请孩子自己完成“把权限分为允许、确认、禁止”,再问:“你为什么从这里开始?你准备用什么线索判断?”
孩子卡住时如果孩子卡住,只给一个本课例子作为提示:“允许起草邮件,不允许自动发送”,不要替孩子完成选择。
这一步让孩子把刚才的选择与本课目标连接起来:按照最小权限原则为智能体设置允许、确认、禁止和停止四类规则。
家长可以这样问请孩子完成“为每项说明最坏后果”,然后追问:“你的决定依据是什么?如果换成‘允许读项目文件,删除前必须确认’,结果会不会不同?”
孩子卡住时不要直接纠正;可以问:“这会不会落入这个常见误解——最后看一眼不等于全过程有人监督。”
最后一步用来确认孩子是否真正理解,而不只是照着做完。
家长可以这样问完成“写出预算、次数和失败停止条件”后,请孩子用自己的话解释今天的结论:“让智能体有工具,也要给它边界、记录和随时可踩的刹车。”为什么成立?
孩子卡住时如果解释跑偏,可以提醒孩子避开这个误解:“任务重要不等于权限越大越好。”
把这句话再读一次:“智能体只应获得完成任务所需的最少权限,高风险动作必须确认并能随时停止。”
只提示“允许起草邮件,不允许自动发送”,让孩子自己说它和任务有什么关系。
问孩子:“任务重要不等于权限越大越好。”让孩子找证据判断。