人工智能训练师三级
当前浏览器未启用 JavaScript。下面保留背景、术语和完整示例。启用 JavaScript 后可以做题和保存进度。
理论课程
考试内容与学习顺序
一条记录怎样变成模型的学习材料
商家想在顾客下单时估计退货的可能性。历史订单里既有下单时知道的信息,也有后来发生的结果。机器学习先利用这些历史记录找规律,再判断新订单。
- 样本
- 一次被研究的记录。本例一笔订单就是一个样本。
- 特征 X
- 作判断时提供给模型的信息,可以有多列。
- 目标 y/标签
- 希望模型预测的结果,历史记录中应已知道这个结果。
- 训练与推理
- 训练用旧记录学习规律;推理用学好的模型判断新记录。
完整教学示例
一笔历史订单的价格是 80 元,商品类别是杯子,最终发生了退货。任务要求在下单时预测是否退货。
- 把价格 80 元和类别“杯子”放在输入 X 中。这两项在下单时已知。
- 把最终“退货”作为这条记录的标签 y。训练时让模型将输入与这个结果对应起来。
- 新订单还没有退货结果。模型接收它的 X,输出退货预测;之后才能用实际结果检查预测。
订单号用于辨认记录,不因它是数字就必须作为特征。退货结果和下单后才知道的信息应从本例的输入中排除。
把六项操作任务放到同一张学习地图上
训练师会处理多种工作。有些任务按给定条件数人数,有些要让模型从历史数据学习,还有些要求写一份别人能照做的说明。先看最终交付物,才能选对处理方法。
- 统计
- 按明确规则整理已有数据,例如数住院超过 7 天的人数。
- 数据清洗
- 处理缺失、无效值和重复记录,为后续计算准备可用数据。
- 模型文件
- 保存已学到的规律,加载后可以对新数据作预测。
完整教学示例
医疗任务要求读取患者表,按住院天数生成组别,再按年龄和 BMI 统计人数。BMI 是由身高和体重计算的身体质量指数,本题已把数值放在表里。
- 先读患者表,找到住院天数、年龄和 BMI 三列。此时只需要理解每列代表什么。
- 按题目条件给记录分类,再数每组人数。规则由题目直接提供,不需要额外训练模型。
- 把分组结果保存为表格,并按原题要求截图。文件与截图分别证明结果可继续使用、页面曾显示指定内容。
患者统计对应读取、条件判断和分组课程。信用分类要继续学模型训练与评价;图像任务重点是使用已有模型;零售指导最终交一份操作说明。
理论复习与操作训练怎样相互帮助
同一个知识可以在两种场景使用。理论练习检查你是否理解规则,实操要求你用规则处理具体材料。本站的小节题已经计入章节进度,四节做完后可直接继续学习。
- 理论练习
- 通过选择与解释检查概念。
- 实操
- 运行代码、处理文件或写出可执行方案。
- 加权成绩
- 各科分数先乘各自权重,再相加。
完整教学示例
上传资料中有两种成绩规则。认定版要求理论和操作分别达到 60 分;竞赛方案用理论 30%、操作 70% 计算加权成绩。假设两科分别为 58 和 90 分。
- 按认定版检查两科,理论 58 小于 60,因此没有同时满足两科要求。
- 按上传竞赛方案计算,58×0.30 为 17.4,90×0.70 为 63,相加得到 80.4。
- 先确认使用哪份资料的规则,再解释成绩。教学题和教学数据也要与原题、附件原答案分清。
80.4 是这份竞赛方案下的加权结果,不能拿来替代认定版的两科门槛。报考时以对应机构现行通知为准。
照着任务写一张检查卡
一项实操往往同时要求计算结果、保存文件和提交截图。代码能够运行,只证明流程走到了某一步。检查卡把每个要求和可见证据配在一起,帮助你发现漏项。
- 输入
- 开始处理时需要的文件或数据。
- 检查证据
- 能证明动作已经完成的输出或文件内容。
- 交付物
- 任务要求提交给检查者的最终文件。
完整教学示例
任务要求显示患者表前五行,把处理结果保存为 CSV,并提交一张统计截图。CSV 是用分隔符保存表格内容的文本文件。
- 读取输入表,用 head() 显示前五行。核对表头与题目字段是否一致。
- 使用保存表格的命令写出 CSV。print("已保存") 只会显示一句话,无法替代写文件动作。
- 重新打开 CSV 检查行列与关键值,再查看截图是否拍到指定结果。
检查卡可以写“前五行已显示、CSV 可重新打开、截图包含统计结果”。每一项都有实际证据后再勾选。
Office、快捷键与电脑基础
先弄清文件、工作簿、工作表和数据范围
在 Excel 中看到多张标签页时,你打开的是一个工作簿。它可以装多张工作表。程序读文件时还需要知道读取哪张表,以及哪些单元格属于数据区域。
- 工作簿
- 通常以 .xlsx 保存的整份 Excel 文件。
- 工作表
- 工作簿里的一张表,常显示为底部标签页。
- CSV
- 以文本保存的一张数据表,不能保留工作簿的全部格式与多张表。
完整教学示例
销售.xlsx 包含“订单”和“客户”两张工作表,现在要把“订单”交给 Python 处理。
- 打开“订单”工作表,确认第一行是列名,下面每行是一笔订单。
- 通过另存或导出功能保存订单 CSV。导出前确认所选表格范围。
- 重新打开 CSV,检查中文、日期与行数。另存出的文件只包含这张表的数据。
把销售.xlsx 的后缀直接改为 .csv,不会转换里面的文件格式。正确导出后,程序才能按 CSV 格式读取。
相对、绝对和混合引用:按移动量推算
复制 Excel 公式时,软件会根据新位置移动引用的单元格。金额计算常需要让“本行数量”跟着行号变化,同时让“固定单价”保持不动。
- 单元格地址
- 列字母加行号,例如 A2。
- 相对引用
- 复制公式时跟着位置移动,例如 A2。
- 绝对/混合引用
- $ 固定紧随其后的列或行;$A$2 两者固定,$A2 只固定列。
完整教学示例
C2 中的公式是 =$A2*B$1。把它向下复制一行,放到 C3。
- 目标位置只向下移动一行,列的位置没有移动。
- $A2 中的 A 被固定,行号 2 没有固定,所以变成 $A3。
- B$1 的行号 1 被固定。列又没有移动,所以仍为 B$1。
C3 中的公式是 =$A3*B$1。判断引用时,分别检查列和行是否固定,再应用移动量。
从业务问题选函数、统计口径和图表
同一列金额可以用于不同计算。数有多少笔订单、算总收入、求每笔平均金额,得到的数字含义不同。先用普通话说清要统计的对象,再选择函数。
- 计数
- 数符合条件的记录有多少条。
- 求和
- 把数值加起来。
- 平均值
- 总和除以参与计算的数量。
完整教学示例
三笔订单金额分别是 10 元、20 元、30 元,没有缺失记录。
- 订单数量按记录数计算,得到 3 笔。Excel 中数数字单元格可用 COUNT。
- 总金额用 SUM 求和,10+20+30=60 元。
- 每笔平均金额用 AVERAGE,60÷3=20 元。
“3 笔”“60 元”“20 元/笔”分别回答数量、总额和均额。出现缺失或筛选条件时,需要重新确认参与计算的记录。
常用操作与报错时的第一步
同一个按键组合在不同软件中可能有不同作用。遇到保存失败、路径错误或文件打不开时,先确认软件和文件类型,可以减少无效尝试。
- 快捷键
- 软件为某个命令设置的按键组合。
- 路径
- 文件所在位置,包含文件夹与文件名。
- 扩展名
- 文件名最后的格式标识,例如 .csv、.xlsx。
完整教学示例
你正在浏览器查看课程,按 Ctrl+T 后出现一个新标签页;随后切换到 Excel。
- 先查看当前激活的软件窗口,确认键盘输入会送给谁。
- 在 Excel 的菜单或帮助中找到需要的命令,再核对它的快捷键。
- 保存后到所选文件夹检查文件名和类型,必要时重新打开。
浏览器的新标签页和 Excel 的工作表属于不同软件对象。快捷键的作用要结合当前软件判断。
职业道德、数据安全与法规
职业责任落在每天的哪些动作里
模型报告会影响他人对系统能力的判断。训练师需要让报告里的每个数字都能对应到真实计算,保留效果不好的情况,方便团队决定下一步。
- 测试结果
- 模型在指定测试数据上的实际表现。
- 合成数据
- 按规则生成的教学或实验记录。
- 问题留痕
- 记录问题、处理依据和复核结论。
完整教学示例
一次教学测试有 100 条记录,模型答对 82 条。训练数据上的准确率为 98%。
- 测试准确率按 82÷100 计算,得到 82%。
- 报告写明这 100 条记录的来源、范围与模型版本,将训练分数另外标注。
- 保留 18 条错误记录,检查它们集中在哪些情形,并记录后续改进计划。
已经得到的 82%、训练阶段的 98% 和计划达到的目标需要分别说明。删掉难题后计算的新分数不能冒充原测试结果。
加密、权限、脱敏和备份各管什么
一份数据从保存到查看会经过不同环节。有人未经授权打开文件、页面显示过多信息、电脑损坏导致数据丢失,分别需要不同措施处理。
- 加密
- 按密钥转换内容,限制没有密钥的人读取。
- 访问权限
- 规定谁能查看、修改或导出。
- 脱敏
- 减少展示或使用中的可识别信息。
- 备份
- 保留可用于恢复的副本,并需要验证恢复是否成功。
完整教学示例
页面把手机号显示为 138****1234,但下载按钮仍能导出原始手机号。
- 检查页面显示,确认中间四位已隐藏,这只说明展示层做了处理。
- 检查下载权限与导出字段,确认导出者是否有对应授权,导出的内容是否必要。
- 为保存的数据配置相应保护,并按机构流程验证备份能够恢复。
隐藏页面文字不会自动限制原始文件下载。每个数据出口都需要检查。
按数据生命周期写保护方案
数据会经历获取、处理、共享、保存和退出。项目结束时,文件和成员权限可能仍然存在,因此保护方案需要覆盖整个过程。
- 数据生命周期
- 数据从获得到停止使用的各个阶段。
- 最小必要
- 只获取和开放完成任务需要的信息。
- 保留期限
- 按适用要求确定数据保存多久。
完整教学示例
某教学项目结束,成员保留了一份临时 CSV,系统中的项目访问权限也仍然有效。
- 核对任务用途、机构流程与适用要求,确认哪些资料需要保留。
- 按批准的处理方式处置不再需要的临时副本,记录处置范围。
- 收回不再需要的项目权限,并核对共享链接或导出副本。
保存期限和处置方式需要依据实际要求确定。仅归档主文件,无法说明所有临时副本和权限都已处理。
把法规题拆成对象、条件和范围
法规题的结论通常有适用前提。对象、数据种类或条件发生变化,适用结论也可能变化。复习时应把前提和结论一起读。
- 适用对象
- 规则约束的是谁或什么行为。
- 适用条件
- 规则在什么情况下生效。
- 例外
- 规则明确列出的特殊情形。
完整教学示例
一道练习使用“所有数据在任何情况下都能按同一方式共享”的表述。
- 先圈出“所有”“任何”等范围词,查看题目是否提供了足够条件。
- 到本章来源中的对应法规文本核对对象、前提和例外,保留条款的完整限制。
- 用查到的适用范围判断题目,避免脱离条件记一个字母答案。
这里训练的是阅读方法。实际业务判断需使用当时有效的规定和本单位流程,练习答案不能替代具体事项的审核。
数据来源、ETL、存储与数据质量
从数据源走到ETL,而不是只记三个字母
业务数据通常分散在不同系统。分析之前需要把数据取出、整理成一致形式,再放到目标表里。ETL 是这三个动作的英文缩写。
- 抽取 Extract
- 从来源取出数据。
- 转换 Transform
- 按规则改格式、清洗或计算。
- 加载 Load
- 把处理结果写入目标位置。
完整教学示例
订单系统导出日期为“2026/10/03”的订单,分析表要求统一为“2026-10-03”。
- 从订单系统读取需要的字段与记录,这一步是抽取。
- 把日期解析后转换为目标格式,同时检查不能识别的日期,这一步是转换。
- 将结果写到分析表,核对写入数量与关键记录,这一步是加载。
完整流程应记录来源、处理规则和写入结果。只把文件复制到另一处,尚不能证明转换规则已执行。
结构化、半结构化与非结构化
选择读取工具前,需要先了解数据怎样组织。表格的字段固定,JSON 可以在一个字段里放多层内容,图片则由像素组成。
- 结构化数据
- 按固定字段组织的数据,例如订单表。
- 半结构化数据
- 带键或标签,但结构可以嵌套或变化,例如 JSON。
- 非结构化数据
- 无法直接按常规业务表字段表达主体内容的数据,例如图片。
- 元数据
- 描述数据的信息,例如图片拍摄时间。
完整教学示例
同一张商品图片旁边记录了文件名、拍摄时间和宽高。
- 文件名和时间可以分别作为表格列,这些描述信息是结构化元数据。
- 图片里的商品外观仍保存在像素中,需要图像处理或模型解释。
- 读取时把文件记录与图片内容按文件标识对应,分别处理。
图片带有时间字段,并不会让像素内容自动变成一张业务表。主体内容和描述信息可以采用不同结构。
质量检查要能定位问题,而不是只报一个总分
数据质量需要具体检查,才能知道哪里需要修复。没有空白只代表完整性的一部分,还要看数值是否合理、单位是否一致和来源是否可信。
- 完整性
- 所需内容是否缺失。
- 有效性
- 取值是否符合格式和范围规则。
- 一致性
- 同一含义在不同记录或来源中是否统一。
完整教学示例
年龄列每行都有值,但有一条为 -3,另一张表把同一字段按月记录。
- 先用缺失检查确认空白数量。结果为 0,只能说明没有检测到缺失。
- 按年龄的业务范围检查 -3,并回到原始记录核实。
- 确认不同来源的单位,统一为任务要求的单位后再合并或统计。
问题记录应写出字段、原值和处理依据。一个“质量合格”的总标签不足以定位错误。
关联、留痕和可重复执行
合并两张表时,程序按连接键寻找匹配记录。连接键重复会形成多组匹配,合并后的行数可能比任意一张原表都多。
- 连接键
- 用于对应两张表的字段,例如用户编号。
- 一对多
- 一条记录在另一张表中对应多条。
- 可重复执行
- 使用相同输入和规则能重新得到可核查结果。
完整教学示例
左表中 U1 出现 2 行,右表中 U1 出现 3 行,按 UserID 匹配。
- 左表第一行 U1 能匹配右表的 3 行,产生 3 个组合。
- 左表第二行 U1 同样产生 3 个组合,合计可能得到 6 行。
- 合并前检查业务是否需要这些组合;合并后核对行数与未匹配记录。
程序完成匹配不等于匹配符合业务含义。保留输入版本、连接键和处理记录,才能追查行数变化。
Python入门:读懂常见代码
从一行代码读出对象和动作
Python 代码由名称、数据和动作组成。读代码时先找“拿什么数据、做什么动作、把结果放哪里”,可以逐行理解,不必先背整段程序。
- 变量
- 给数据起的名字,例如 x。
- 字符串
- 用引号包住的文字,'7' 也是文字。
- 函数/方法
- 可执行的动作,通常用括号调用,例如 print(x)。
- 属性
- 对象已有的信息,例如 data.shape,读取时通常不加调用括号。
完整教学示例
依次执行 x = 7、print(x == 7)、print('7' == 7),再看 import pandas as pd。
- x = 7 把数值 7 交给名字 x。单个等号表示赋值。
- x == 7 比较两边是否相等,得到 True。'7' == 7 得到 False,因为文字与数值的类型不同。
- import pandas as pd 让代码使用已经安装的 Pandas,并给它短名 pd。后面 pd.read_csv(...) 就是调用它的读表功能。
print 把结果显示出来;= 保存到变量;== 作比较。import 使用已安装的库,安装库需要在运行环境中另外完成。
列表、索引和切片先用小数列练习
列表把多项数据按顺序放在一起。程序要取其中某一项或一段数据时,需要用位置编号。Python 的第一个位置编号是 0。
- 列表
- 用方括号保存的有序数据,例如 [20, 26, 40]。
- 索引
- 单个位置编号,例如 [1] 取编号 1 的项。
- 切片
- 取一段连续位置。起点与终点写在方括号中,以冒号分隔,终点不取。
- Pandas
- Python 中处理表格的工具。本节只用它说明方括号怎样选列,后面的章节会从读取表格开始讲。
- Series 与 DataFrame
- Series 可以理解为带行标签的一列数据。DataFrame 是带行标签和列名的表格,可以有一列或多列。
完整教学示例
ages = [20, 26, 40]。三个值的位置依次为 0、1、2。
- ages[1] 取编号 1,所以得到 26。它对应列表的第二项。
- ages[0:2] 从编号 0 开始,到编号 2 之前停止,依次取 20 和 26。
- ages[-1] 从末尾向前取第一项,得到 40。负数索引便于从末尾找数据。
ages[0:2] 的结果是 [20, 26]。起点包含在结果中,终点位置不取。ages[::-1] 中的 -1 表示从后往前每次取一项,因此得到 [40, 26, 20]。
Pandas 选列时,data['Age'] 得到一列 Series。data[['Age']] 的内层 ['Age'] 是列名列表,外层方括号按列表选列,得到只有一列的 DataFrame。两者数据值可以相同,但对象类型不同。
data[['Age','BMI']] 用列名列表选出 Age 与 BMI 两列,得到一个 DataFrame。这里按名字选列,不使用列表切片的位置规则。
单个条件和整列条件分开理解
处理表格时,往往只需要符合条件的几行。程序先给每行作真假判断,再保留结果为真的行。组合两个条件时,需要明确要求同时满足还是至少满足一个。
- 布尔值
- True 表示真,False 表示假。
- 条件掩码
- 与原表逐行对应的一列真假结果。
- 条件连接符
- 在 Pandas 整列条件中,& 表示同时满足,竖线符号表示至少满足一个。
完整教学示例
三行的年龄/BMI 依次为 20/25、30/23、40/26。要求年龄大于 25,且 BMI 至少为 24。
- 年龄条件产生 False、True、True。BMI 条件产生 True、False、True。
- 逐行用“且”组合,只有第三行的两个条件都为 True。
- 代码写成 data[(data['Age'] > 25) & (data['BMI'] >= 24)]。每个比较条件各用括号括起来。
只保留 40 岁、BMI 为 26 的记录。若改成“或”,这三行都至少满足一个条件。未知值应先按任务规则处理。
函数、返回值、缩进和执行顺序
函数可以把一段处理过程起一个名字,以后用相同名字重复调用。函数内部的动作由缩进确定范围,结果是否交给后续代码由 return 决定。
- def
- 定义函数的关键字。
- return
- 把结果交回调用位置。
- None
- 没有给出具体返回值时常见的空结果。
- Notebook 单元格
- 可以单独执行的一段代码,后面可能依赖前面建立的变量。
完整教学示例
定义一个函数,它在内部执行 print(3),但没有 return。再把函数的调用结果赋给 result。
- 调用函数时,print(3) 会在输出区显示 3。
- 函数没有写 return,result 得到 None。显示出来的文字不会自动成为函数返回值。
- 若后续需要用 3 计算,应在函数中写 return 3,并按顺序运行定义和调用它的代码。
Notebook 出现 NameError 时,先检查变量是否已定义。重新启动内核后从头运行,可以发现遗漏的前置单元格。
Pandas与DataFrame:读取、查看和保存表格
先建立一张可看懂的小表
CSV 文件存在硬盘上,Pandas 把它读入后,程序才可以选列、筛行和计算。读入后的 DataFrame 保留表头以及行与列的结构。
- Pandas
- Python 中常用的表格处理库。
- DataFrame
- 带列名和行索引的二维表格。
- shape
- 按“行数、列数”的顺序返回表格大小。
- Series
- 一列带索引的数据。
完整教学示例
教学表有 3 位患者,列为 PatientID、Age、BMI、DaysInHospital,共 4 列。
- 每位患者占一行,因此有 3 行。PatientID 是患者编号,也占一列。
- data.shape 得到 (3, 4),先看行数再看列数。
- len(data) 得到 3;data['Age'] 选出年龄这一列,结果为 Series。
编号列和行索引分别存在。编号用于辨认患者,行索引用于定位行,两者不能在不核对含义的情况下互换。
读取以后,按五个问题做初检
文件读入成功后,还不知道数据是否适合计算。需要检查整个表的结构与缺失情况。只看到前五行正常,无法排除后面记录有问题。
- read_csv
- 把 CSV 读成 DataFrame 的函数。
- head
- 查看开头几行,默认五行。
- dtype
- 一列数据的类型,例如数值或文字。
- isna
- 检查缺失位置,缺失处返回 True。
完整教学示例
某张 100 行的患者表,前五行的年龄都有值,第 80 行年龄为空。
- 用 head() 确认列名和示例内容。这个步骤帮助看懂数据,不负责检查全部记录。
- 查看 shape、columns 和 dtypes,核对数量、字段与类型。
- 执行 data.isna().sum(),把每列的缺失标记相加,年龄列会统计出 1 个缺失。
初检需要结合示例和全表统计。类型错误或缺失应定位到具体列,再进入清洗步骤。
选列、筛行和赋值是不同动作
表格的两个方向要分开指定。选列决定“看哪种信息”,筛行决定“看哪些记录”。loc 可以在一个表达式里同时说明行和列。
- 列名
- 字段名称,例如 Age 或 BMI。
- loc
- 按行条件或标签、列名选择数据的入口。
- 赋值
- 将新值写入指定位置。
完整教学示例
患者年龄分别为 20、26、40;BMI 分别为 25、23、26。现在查看年龄大于 25 的患者 BMI。
- data['Age'] > 25 得到 False、True、True,第二和第三行符合。
- 在 loc 的逗号前放这个条件,逗号后放列名 'BMI'。
- 完整写法为 data.loc[data['Age'] > 25, 'BMI'],结果包含第二行 23、第三行 26。
loc[行条件, 列名] 先明确记录范围,再明确字段。需要修改值时,也可在明确选中的位置上赋值。
保存、重新读取和对齐检查
内存中的处理结果在程序结束后可能消失。保存到文件后,下一次才能重新读取,也便于交给其他人检查。写入后再读一次,能够发现路径和格式问题。
- to_csv
- 把表格写成 CSV 的方法。
- 行索引
- DataFrame 给每行使用的标签,不一定是业务编号。
- index
- False=写 CSV 时不另外写出行索引。
完整教学示例
data 有 PatientID 和 Age 两列,三条记录,要保存为 cleaned.csv。
- 执行 data.to_csv('cleaned.csv', index=False),让文件只包含现有数据列。
- 使用 read_csv 重新读取 cleaned.csv,并核对仍为 3 行、2 列。
- 查看 PatientID 的值,确认患者编号仍然保留,年龄处理也已写入。
index=False 控制的是额外行索引。它不会删除本来就存在的 PatientID 数据列。
缺失值、异常值与重复记录
缺失值不是0,先查缺在哪里
缺失值表示某项信息没有记录或无法使用。如果把缺失统一写成 0,统计时就会把“未知”当作一个已知数值,改变结果。
- 缺失值
- 没有可用信息的单元格,Pandas 常用 NaN 或其他缺失标记表示。
- 缺失率
- 某列缺失记录数除以本次检查的记录数。
- 填补
- 依据明确规则为缺失位置提供替代值。
完整教学示例
100 位患者中,20 人的年龄没有记录,其余 80 人年龄已知。
- 先统计年龄列的缺失数量,得到 20。
- 计算 20÷100=20%,说明这批记录里有五分之一的年龄未知。
- 按任务规则决定保留未知、删除相关记录或填补。处理前记录数量,处理后重新统计。
0 岁和年龄未知含义不同。填补规则会影响后续均值和分组,应在结果中说明。
把字符串数字转换后,还要再查一遍缺失
表格里看起来像数字的内容,读入后可能仍是文字。问号等占位符会阻止数值计算。转换类型时,应同时检查哪些内容无法转换。
- to_numeric
- 把数据转换成数值的 Pandas 函数。
- errors
- 'coerce'=无法转换的内容变为缺失值。
- NaN
- 常见的数值缺失标记,后续需要检查。
完整教学示例
原列是 ['100', '?', '80', None],需要把它变成可计算的数值列。
- 用 pd.to_numeric(..., errors='coerce') 转换。'100' 和 '80' 变为数值。
- 问号无法代表一个确定数值,变成 NaN;None 仍属于缺失。
- 转换后运行 isna().sum(),得到 2。此时再按题目要求处理缺失。
转换前只检查空白,可能漏掉问号。数值转换之后的缺失统计才反映这一列实际可用的数值数量。
异常检测和删除之间,还差业务判断
数值特别大或特别小,是需要检查的线索。它可能来自录入错误,也可能是真实少见的业务事件。删除之前先找依据,避免把有价值的数据删掉。
- 异常值
- 偏离常见范围、需要进一步核查的值。
- 单位
- 数值的计量方式,例如元、万元或秒。
- 有效范围
- 任务允许的取值范围,应有业务依据。
完整教学示例
大部分订单为几十元,有一笔记录为 100000。
- 检查原始订单,确认录入值、币种与单位。若原值是 10 万元,大金额可能合理。
- 检查任务是否规定异常阈值或审核流程。统计规则可以标记异常,但不自动证明它错误。
- 确认错误后再更正或剔除,并保留处理原因;真实大单应按规则保留。
检测异常和决定删除是两个步骤。结果报告应说明处理了哪些记录及其依据。
去重、按组填充和清洗后的复核
同一用户可以有多笔真实交易。去重前先确认一行代表什么,再选择能识别这条业务记录的字段。否则去重会误删正常记录。
- 重复键
- 用于判断两行是否代表同一事件的字段组合。
- 前向填充
- 使用前面的已知值填补后面的缺失。
- 组内填充
- 只使用同一对象的数据填补,避免把别人的值带过来。
完整教学示例
两行记录的 UserID 都是 U1,OrderID 分别为 O1 和 O2。
- 一行代表一笔订单,两个 OrderID 不同,说明它们可能是两笔真实订单。
- 只按 UserID 去重会丢掉其中一笔,应先按订单规则确认重复键。
- 若要填补传感器时序数据,先按设备分组并按时间排序,再在组内填充。
清洗后核对行数变化、重复键和缺失数量。每一次减少或增加数据都应能解释。
分组统计:人数、平均值和占比
每个统计之前先写分子和分母
比例把“符合条件的数量”放到一个明确范围里理解。同样 3 人,用本组 4 人作范围与用全体 10 人作范围,会回答不同问题。
- 分子
- 比例中被计数的目标数量。
- 分母
- 这次比例所针对的总体数量。
- 组内比例
- 分子与分母都来自同一组。
完整教学示例
A 组有 4 人,其中 3 人符合条件。B 组有 6 人,其中 1 人符合条件。
- A 组内部计算 3÷4=75%,表示 A 组有四分之三符合条件。
- 全体共有 4+6=10 人,符合条件的共 3+1=4 人,全体比例为 40%。
- 3÷10=30% 表示 A 组符合条件人数占全体的比例,范围已经改变。
先在纸上写清“谁除以谁”,再写计算代码。报告中的比例名称应让人看出分母。
布尔值为什么能算比例,什么时候不能直接套
每行是否符合条件,可以表示为 True 或 False。普通布尔值参与数值计算时,True 按 1,False 按 0,因此求和能数出符合条件的行。
- 布尔求和
- 将真记为 1、假记为 0 后相加。
- 布尔均值
- 符合条件数除以参与计算的记录数。
- 未知
- 原字段缺失时尚不能确认的状态。
完整教学示例
四条已知记录的判断结果为 [True, False, True, False]。
- 把判断结果写成 [1, 0, 1, 0],相加得到 2 条符合条件。
- 均值为 2÷4=0.5,也就是 50%。
- 如果另有一条未知记录,应先决定计算全体占比还是已知记录中的比例,再明确分母。
布尔均值的解释依赖参与计算的范围。某些缺失值比较会变成 False,不能据此认定未知记录确实不符合条件。
size、count、nunique与value_counts怎样选
一张订单表可以同时统计记录数、已填写金额数和不同用户数。它们使用的计数函数不同,也不能用同一个结果互相代替。
- size
- 统计行数,包括某列缺失的行。
- count
- 统计指定列的非缺失数量。
- nunique
- 统计不同取值的数量,默认忽略缺失。
- value_counts
- 统计各个值出现的次数,默认忽略缺失。
完整教学示例
三行用户分别为 U1、U1、U2,金额分别为 10、缺失、30。
- 用 size 数记录,共 3 行,所以有 3 条订单记录。
- 金额列 count 为 2,说明只有两条有已知金额。
- 用户列 nunique 为 2;value_counts 显示 U1 出现 2 次、U2 出现 1 次。
写统计代码前先确定要数什么。本例 3、2、2 都正确,但各自含义不同。
空组、排序和输出怎样核对
分组结果有时包含没人进入的组。这样的空组缺少比例所需的分母。显示人数和统计范围,可以帮助读者正确理解结果。
- 空组
- 按分组规则保留的类别中没有记录。
- 0%
- 存在有效分母,但符合条件的数量为 0。
- 无数据
- 缺少可计算比例的记录。
完整教学示例
A 组没有人,B 组有 10 人且全部不符合条件。
- A 组比例需要计算 0÷0,无法得到有定义的比例,应显示无数据。
- B 组比例为 0÷10=0%,这是一条有记录支持的统计结果。
- 输出时同时保留人数、符合条件人数和比例,再按题目要求排序。
“无人”和“有人但都不符合”需要分开表示。排序也应核对依据是组名、人数还是比例。
pd.cut与区间边界
先在数轴上判断,再写参数
把连续数值分成几组时,需要规定每个边界归哪一侧。否则刚好等于边界的值容易分错,或者落不到任何组里。
- 区间
- 一段允许的数值范围。
- 方括号 [ ]
- 包含紧邻的端点。
- 圆括号 ( )
- 不包含紧邻的端点。
完整教学示例
BMI 分组中有一个区间 [18.5, 24),下一组从 24 开始。
- 18.5 旁边是方括号,所以 18.5 进入这一组。
- 24 旁边是圆括号,所以 24 不进入这一组。
- 检查下一组 [24, 28),左端包含 24,因此 24 进入下一组。
区间写法先决定边界归属,代码参数再落实这个规则。这里按任务给定范围学习分组,不用于个人健康判断。
bins、labels和right三个参数各做什么
pd.cut 根据分界点把每个数值映射到一个区间。分界点列出哪里分开,标签给各段起名,right 决定右端点是否属于本段。
- bins
- 从小到大排列的分界点。
- labels
- 各区间的名称,数量应比边界点少一个。
- right
- False=采用左端包含、右端不包含的区间。
完整教学示例
边界为 [0, 18.5, 24, 28, 100],共有 5 个点;教学上给四段分别命名。
- 相邻两个边界组成一段,因此共有 4 段,需要 4 个标签。
- 设置 right=False 后,第二段为 [18.5, 24),第三段为 [24, 28)。
- 把 24 传给 pd.cut,它会匹配第三段。最后边界 100 本身不在 [28,100) 内。
检查所有需要处理的数值是否被边界覆盖。标签数量和区间数量必须一致。
年龄分组为什么用26而不是25作断点
题目用“25 岁及以下、26 至 35 岁”描述整数年龄。代码区间需要把这些文字准确转换成边界,前提是年龄确实按整数岁记录。
- 整数年龄
- 使用 25、26 等整岁数值的年龄字段。
- 左闭右开
- 包含左边界,不包含右边界。
- 断点
- 两个区间之间的分界数值。
完整教学示例
需要把 25 岁和 26 岁分到相邻两组,使用 [0,26) 与 [26,36)。
- 25 小于 26,进入 [0,26),对应 25 岁及以下。
- 26 恰好等于第二段的左端点,第二段包含它,所以进入 26 至 35 岁组。
- 35 小于 36,也在第二段;36 进入下一组。
若数据包含 25.5 岁,先确认题目按周岁还是连续年龄分组,不能直接沿用整数岁假设。
用小测试发现漏分、重分与空组
分组代码没有报错,也可能把边界值分错。用少量专门选择的数值测试,可以比查看大表更快发现遗漏。
- 边界测试
- 分别检查分界点两侧和分界点本身。
- 漏分
- 有效记录没有进入任何预定组。
- 非法输入
- 不符合字段规则的数据,例如无法识别的文字。
完整教学示例
要检查以 24 为分界、左闭右开的 BMI 分组,准备 23.9、24、24.1 三个测试值。
- 23.9 应进入 24 下方的区间。
- 24 与 24.1 应进入从 24 开始的区间,边界值与上侧值保持相同归属。
- 另检查缺失、负数和超出最大边界的值,明确它们如何标记或报告。
测试表同时列出输入、预期组别与实际组别。每个有效值应恰好进入一个组。
特征、标签与标注规范
特征和标签由任务决定,不由列的位置决定
同一张表在不同任务里,输入和答案可能不同。先说明这次想预测什么,再把目标列取出来,其余列按任务要求选择。
- 特征 X
- 预测时提供给模型的输入列。
- 标签 y
- 训练时已经知道、希望模型学会预测的结果。
- 标签泄漏
- 把答案或由答案得到的信息放进输入,导致评价失真。
完整教学示例
燃油效率任务以 mpg 为目标,题目另列了 7 个输入字段。mpg 表示每加仑燃料可行驶的英里数。
- 取 mpg 列作为 y,让它保留每辆车的已知燃油效率。
- 从指定的 7 个字段组成 X,并核对每行仍对应同一辆车。
- 检查 X 中没有 mpg,也没有只在目标结果发生后才能知道的信息。
X 和 y 的角色由任务决定。目标放在文件第一列或最后一列,都不改变它的含义。
分类、检测、分割与实体标注怎样区别
模型学习什么输出,取决于标注提供什么信息。给整张图一个名称、给物体画框、逐像素描出区域,要求的标注精度不同。
- 分类
- 给整体样本分配类别。
- 目标检测
- 标出对象类别和位置框。
- 分割
- 给像素或像素区域分配类别。
- 实体标注
- 标出文本中的人名、地点等具体片段。
完整教学示例
一张图里有两个人,任务要求标出每个人的位置。
- 只写“有人”只能说明整张图片的类别信息,没有提供各人的位置。
- 分别为两个人画出位置框,并填写类别,才能满足检测标注要求。
- 若要求精确到身体轮廓,就需要像素区域标注,框无法表达所有轮廓细节。
先读任务输出要求,再选择标注方式。不要因素材都是图片,就使用同一种标签格式。
标注规范至少让人知道边界和争议怎么办
两名标注员遇到边界样本时,可能作出不同判断。规范需要给出类别含义和争议处理方法,才能让结果保持可比。
- 标注规范
- 告诉操作人员怎样确定标签的书面规则。
- 边界样例
- 容易在两个类别之间产生分歧的示例。
- 复核
- 由指定人员依据规则检查有争议的记录。
完整教学示例
评论“包装很好,可惜瓶子漏了”同时包含正面和负面信息,项目要求标注整体情感。
- 先查规范如何处理转折与多方面评价,确认整体情感的判断依据。
- 若规则没有覆盖这类句子,将其标记为待复核,保留原文和分歧原因。
- 复核人员补充规则及样例后,再按同一版本处理相同类型记录。
自行增加类别会让标签体系失去一致性。争议需要形成可供后续人员使用的规则。
质量控制靠抽检和复核,不是只增加人数
增加标注人数可以加快产出,但不同人对规则的理解仍可能不同。先用同一小批样本校准,再抽查大批结果,可以发现规则或执行的问题。
- 校准
- 让标注人员用同一批样本对齐规则理解。
- 抽检
- 从已完成记录中取一部分检查。
- 一致性
- 不同人员在同一规则下的判断是否相近。
完整教学示例
三名标注员处理同样 20 条评论,其中 6 条出现分歧。
- 汇总这 6 条,检查是否集中在否定、转折或多方面评价。
- 复核类别定义与边界样例,修改不清楚的规则并记录版本。
- 用另一批样本独立标注,再检查相同问题是否减少。
仅讨论到大家口头同意还不够。新样本上的结果可以检验规则是否真的更容易执行。
分类、回归、聚类与常见算法
分类、回归和聚类先看要输出什么
模型任务首先由输出决定。输出“会不会退货”是类别,输出“销售额多少”是数值;没有现成类别、只想找相似人群时,可以考虑聚类。
- 分类
- 预测预先定义的类别。
- 回归
- 预测可连续变化的数值。
- 聚类
- 在没有现成类别标签时,按相似性寻找分组。
完整教学示例
三个任务分别为判断是否退货、预测销售金额、按购物习惯寻找客户群。
- 是否退货的输出为“是/否”,即使用 1/0 编码,仍然是分类。
- 销售金额需要预测一个数值,例如 125.5 元,属于回归。
- 客户分群没有预先给定的类别答案,按特征相似性分组,属于聚类。
列中出现数字,并不能独自决定任务类型。先看数字代表类别代码还是可计算的目标量。
Logistic的“回归”名称不要遮住分类用途
Logistic 回归在这里用于二分类。它根据输入估计属于正类的概率,再用阈值把概率转换成一个类别。
- 正类
- 本任务重点识别的类别,通常编码为 1。
- 概率
- 单条记录属于某类的模型估计值。
- 阈值
- 把概率转换为类别的分界值。
完整教学示例
某订单的退货概率估计为 0.7,约定概率至少为 0.5 就预测退货。
- 把 0.7 与 0.5 比较,0.7 达到阈值,因此输出正类“退货”。
- 另一订单概率为 0.3,没有达到阈值,输出负类。
- 收集许多订单的预测,再与实际是否退货比较,才能计算整个模型的准确率。
一笔订单的 0.7 不能解释为模型整体准确率 70%。调整阈值后,误报和漏报也会改变。
树、近邻与集成:用什么规则做决定
不同模型以不同方式形成判断。理解决策方式,有助于知道需要什么输入,以及模型可能在哪里出错。
- 决策树
- 依次按条件走分支,最后给出预测。
- 近邻方法
- 参考特征相近的已知样本作判断。
- 集成
- 组合多个模型的预测。
- 过拟合
- 学到了训练数据中的偶然细节,对新数据效果较差。
完整教学示例
一棵分类树不断增加深度,训练准确率从 90% 升到 99%,验证准确率却下降。
- 深度增加后,树可以把训练数据划分得更细,因此更容易答对训练样本。
- 查看独立验证数据,下降说明新增细分没有同样帮助新样本。
- 限制深度或比较其他设置,并在相同验证数据上检查变化。
训练分数需要与验证分数一起看。训练数据上更精细的划分不保证预测新数据更好。
K-means、DBSCAN与关联规则的输出不同
聚类算法的分组规则不同,输出也需要按规则解释。交易共现规则则用于描述哪些项目常一起出现。
- 簇
- 聚类算法找到的一组相似样本。
- K-means
- 先指定簇数,再按距离组织样本。
- DBSCAN
- 依据邻近区域内的密度形成簇,也可能标出噪声点。
- 关联规则
- 描述项目之间的共现关系。
完整教学示例
在平面上的一批点中使用 DBSCAN,设置 eps 和 min_samples。
- eps 规定多远以内算邻居,它使用所选距离的尺度。
- min_samples 规定邻近区域达到密集要求所需的样本数量。
- 算法连接密集区域形成簇,不满足连接条件的点可能被标为噪声。
eps 控制距离范围。K-means 的簇数参数 K 才直接指定要分几组。关联规则则回答共现关系,需要另外解释支持度等指标。
训练集、验证集、测试集与交叉验证
训练、验证、测试分别负责什么
模型可以记住训练数据中的细节。若只拿训练数据检查,会高估它遇到新记录时的能力,因此要把部分数据留在训练过程之外。
- 训练集
- 用于学习模型参数的数据。
- 验证集
- 开发期间比较方案、选择设置的数据。
- 测试集
- 方案确定后作最终评价的数据。
完整教学示例
准备比较两种模型设置,手里有一批带标签的历史记录。
- 先划分数据,让训练、选择方案和最终评价各有对应部分。
- 用训练集学习参数,在验证集比较设置,选定方案。
- 最后在保留的测试集评价一次,报告数据范围与指标。
反复根据测试分数选参数,会让选择过程利用测试信息。之后的测试分数可能过于乐观。
用1000条样本把划分数量算清楚
比例相同,分母不同,得到的数量也不同。分两次划分数据时,第二次处理的是第一次留下的部分。
- 划分比例
- 本轮要分出的数量占本轮输入数量的比例。
- 测试占比
- 最终测试记录数占全部记录数的比例。
- 随机种子
- 控制随机过程,便于复现同一划分。
完整教学示例
共有 1000 条记录。先取 20% 作测试,再从剩余记录中取 25% 作验证。
- 第一轮测试为 1000×20%=200 条,剩余 800 条。
- 第二轮验证为 800×25%=200 条,第二次的分母是 800。
- 训练为 800−200=600 条,三部分总和为 1000。
最终比例是训练 60%、验证 20%、测试 20%。第二轮取 25% 并不表示验证占总数据的 25%。
随机划分不是所有数据的默认答案
数据记录之间可能存在联系。同一个人多次出现,或过去与未来按时间相连时,随机逐行划分可能让测试侧包含训练时已见过的信息。
- 分组划分
- 让同一对象的相关记录留在同一侧。
- 时间划分
- 按先后时间安排训练和评价。
- 数据泄漏
- 训练或选择过程使用了本不该获得的评价信息。
完整教学示例
同一病人有三次检查记录,希望评价模型对从未见过的新病人的表现。
- 先用病人编号识别属于同一人的记录。
- 按病人分配训练和测试,让同一病人的记录不跨两侧。
- 检查两侧病人编号没有重叠,再检查类别分布是否适合评价。
划分方式要对应真实使用场景。预测未来记录时,还需保证训练只使用预测时已经发生的数据。
交叉验证怎样用,怎样避免偷看答案
单次训练与验证划分可能偶然偏容易或偏难。交叉验证轮换多组训练和验证数据,帮助观察方案在不同划分下的表现。
- 折
- 交叉验证的一份数据分组。
- 5 折交叉验证
- 轮流用其中一折验证,其余四折训练。
- 管线 Pipeline
- 把预处理和模型按顺序连接,统一拟合与预测。
完整教学示例
把开发数据分成 5 折,要在每轮先标准化再训练模型。
- 第一轮只用四折训练数据计算缩放参数,再转换这一轮的训练与验证数据。
- 换下一折验证时,重新在新的四折训练部分拟合预处理与模型。
- 汇总五轮的验证分数,比较平均表现及波动。
若在分折前就对全部数据计算均值,每轮的验证信息已经进入预处理。管线可让每折按正确顺序重新拟合。
标准化、归一化与白化
标准化是在改变尺度,不是自动改好数据
不同特征可能有很不一样的数值范围,例如年龄几十、收入几万。某些模型会受到尺度影响,需要先按明确公式转换输入。
- 均值
- 本列参与计算的数值的平均。
- 标准差
- 描述数值围绕均值分散程度的量。
- 标准化
- 常用公式为“原值减均值,再除以标准差”。
完整教学示例
某训练特征的均值为 50,标准差为 10,要转换数值 70。
- 计算与均值的距离,70−50=20。
- 把这个距离除以标准差,20÷10=2。
- 转换后的 2 表示比训练均值高两个标准差。它已不使用原来的计量单位。
标准化只改变数值尺度。缺失、错误录入和重复记录仍需单独处理。
Min-Max缩放与标准化不是一个公式
Min-Max 缩放用训练数据中的最小值和最大值定义一个范围。把原值在这个范围里的相对位置表示出来,常用于把训练数值映射到 0 至 1。
- Min-Max 公式
- (原值−训练最小值)÷(训练最大值−训练最小值)。
- 训练范围
- 拟合缩放器时观察到的范围。
- 裁剪
- 把超出范围的结果限制在边界,需要明确启用和说明。
完整教学示例
训练最小值为 10,最大值为 30。现在转换 20,以及后来出现的 40。
- 训练范围宽度为 30−10=20。
- 20 转换为 (20−10)÷20=0.5,位于训练范围中间。
- 40 转换为 (40−10)÷20=1.5,超过训练时最大值对应的位置。
没有启用裁剪时,新数据可以超出 0 至 1。对测试数据另算一组最小值和最大值,会改变与训练时的对应关系。
fit、transform、fit_transform:究竟学到了什么
缩放器需要先从数据中计算参数,再使用这些参数改变数值。机器学习库把这两个动作分别叫 fit 和 transform。
- fit
- 从提供的数据学习参数,例如均值与标准差。
- transform
- 使用已经学到的参数处理数据。
- fit_transform
- 连续完成学习参数和转换这两步。
完整教学示例
训练列为 [10,20,30],测试列中出现 40,使用 Min-Max 缩放。
- 在训练列上 fit,得到最小值 10、最大值 30。
- 用这个缩放器 transform 训练列,结果为 [0,0.5,1]。
- 使用同一个缩放器 transform 测试值 40,得到 1.5。
测试值的位置应按训练尺度解释。测试侧重新 fit 会创建另一把尺度,也使用了测试信息。
白化、编码与降维不要混在一起
预处理方法各有目标。把文字类别变成数值表示、减少输入列、调整特征之间的相关性,是不同的操作。
- 编码
- 把类别等信息换成模型可用的表示。
- 降维
- 用更少的维度表示原数据。
- 白化
- 对特征作变换,使结果在所用方法的定义下去相关并调整尺度。
- PCA
- 按数据变化方向构造新坐标,可用于降维。
完整教学示例
两列测量高度相关,使用 PCA 得到新坐标,并选择是否开启白化。
- PCA 将原特征组合成新的坐标轴;若只保留一部分轴,就减少了维度。
- 开启白化后,还会按对应尺度调整这些新坐标。
- 记录该变换并在新数据上使用相同处理,才能保持输入含义。
白化处理的是数据的数值关系。它不能单独证明个人信息已经匿名,也不能替代类别编码。
模型训练、超参数与过拟合
fit在用哪些数据,predict需要哪些数据
训练需要已知输入与结果,模型据此学习关联。预测时,模型只接收输入,真实结果留给后续检查使用。
- fit(X_train,y_train)
- 用训练特征和对应标签学习模型。
- predict(X_test)
- 为测试特征生成预测。
- y_pred
- 模型给出的预测结果。
- y_test
- 测试记录已有的真实标签。
完整教学示例
已有一份固定训练集和测试集,任务是预测每条记录的类别。
- 把训练特征 X_train 和标签 y_train 一起交给 fit,保持逐行对应。
- 把 X_test 交给 predict,得到顺序对应的 y_pred。
- 将 y_pred 与相同行顺序的 y_test 比较,统计正确与错误。
predict 不需要传入 y_test。否则就把用于检查的答案混进了预测过程。
参数、超参数、损失和学习率分别是什么
训练会不断调整模型内部数值,让预测更接近已知结果。另一些设置在训练前由开发者选择,用来控制模型结构或学习过程。
- 参数
- 模型从训练数据中学到的数值,例如权重。
- 超参数
- 人为选择、控制模型或训练过程的设置。
- 损失
- 衡量预测与目标差异的数值。
- 学习率
- 控制一次参数更新幅度的设置。
完整教学示例
一个线性模型要学习权重;一棵决策树设置最大深度为 3。
- 线性模型训练时根据数据调整权重,因此权重属于模型参数。
- 树的最大深度 3 在训练前选定,限制树能分多少层,属于超参数。
- 比较不同设置时,在验证数据上看效果,并记录其他条件是否相同。
损失描述当前误差,学习率控制怎样调整。它们与预测后报告的准确率不是同一个量。
看训练和验证表现的组合,而不是只看一个数
只看一个分数,难以知道模型是在稳定学习,还是只记住训练样本。训练与验证表现放在一起,能提供排查方向。
- 欠拟合
- 模型对当前任务学到的规律不足。
- 过拟合
- 训练细节学得过多,泛化表现较差。
- 泛化
- 模型处理未见样本的能力。
完整教学示例
训练准确率为 99%,验证准确率为 70%,两侧差距较大。
- 先确认两份分数使用相同类别定义和计算方法。
- 检查是否有训练过拟合,也核对两侧数据来源、标签质量与划分方式。
- 针对发现的问题调整,再在同一验证口径下比较。
分数差距是线索,无法单独证明唯一原因。训练和验证都低时,还需检查特征、模型能力及数据质量。
把调参当成可复现的小实验
修改模型后想知道是否有帮助,需要保留可比较的旧结果。固定评价数据、记录改动,可以让提升或退步有可追查的原因。
- 基线
- 作为比较起点的简单方案。
- 对照
- 在明确条件下比较不同方案。
- 复现
- 依据保存的输入、版本和设置重新运行。
完整教学示例
基线模型使用 7 个特征。准备尝试增加一个新特征,并调整模型参数。
- 先保存基线设置、数据划分和验证结果。
- 先比较新增特征的方案,保留同样划分和指标,再记录其他参数实验。
- 将每次改动与对应结果写在一起,最后使用独立测试集评价选定方案。
同时更换特征、模型和划分会使原因难以分清。必要时可以设计多因素实验,但需记录每组条件。
准确率、精确率、召回率与F1
先规定正类,再填混淆矩阵
分类模型会把某些记录报为目标类别。检查时需要同时看真实结果和模型预测,才能区分找对、误报与漏报。混淆矩阵就是这四种情况的计数表。
- 正类
- 本任务要重点识别的类别,本例为有严重逾期。
- TP/真阳性
- 真实正类,也预测为正类,即找对。
- FP/假阳性
- 真实负类,却预测为正类,即误报。
- FN 与 TN
- FN 是真实正类被预测为负类,即漏报;TN 是真实负类也预测为负类。
完整教学示例
100 条记录中有 12 条真实正类。模型报出 10 条正类,其中 8 条报对。
- 10 条报出的正类里,8 条为 TP,剩余 2 条为 FP。
- 真实正类有 12 条,只找到 8 条,所以 FN=12−8=4。
- 真实负类有 88 条,被误报 2 条,因此 TN=88−2=86。
四格为 TP 8、FP 2、FN 4、TN 86,总和为 100。正类的“正”表示关注的类别,不表示好事。
四个指标用不同分母回答不同问题
不同指标检查的是不同范围。精确率检查报出的目标有多少是真的,召回率检查真实目标找回了多少。先确定范围,公式就更容易理解。
- 精确率 Precision
- TP÷(TP+FP),范围是预测为正的记录。
- 召回率 Recall
- TP÷(TP+FN),范围是真实正类。
- 准确率 Accuracy
- (TP+TN)÷全部记录。
- F1
- 精确率与召回率的调和平均,可用 2TP÷(2TP+FP+FN) 计算。
完整教学示例
沿用 TP=8、FP=2、FN=4、TN=86,总记录数为 100。
- 报出的 10 条正类中有 8 条真实,精确率 8÷10=80%。真实正类共 12 条,找回 8 条,召回率约 66.67%。
- 总体答对 8+86=94 条,准确率为 94%。它把正类和负类都算在内。
- F1 为 16÷(16+2+4)=16÷22≈72.73%,不能直接用两个百分比的普通平均代替。
“报出的准不准”和“该找的找全没有”使用不同分母。报告两项指标时,应说明哪一类被设为正类。
为什么95%准确率仍可能完全没找到目标
当目标类别很少时,全部猜多数类也可能得到较高准确率。需要另外查看少数类的召回率,确认模型是否真的找到了目标。
- 多数类/少数类
- 在这批数据中数量较多/较少的类别。
- support
- 报告中按真实标签统计的该类样本数。
- 除零处理
- 分母为 0 时,工具如何显示结果的约定。
完整教学示例
100 条记录有 5 条正类、95 条负类。模型把全部记录预测为负类。
- 负类 95 条全部猜对,所以总体准确率为 95%。
- 正类一条都没找到,TP=0、FN=5,召回率 0÷5=0。
- 预测正类数量为 0,精确率的分母也是 0,应说明工具采用的显示约定。
分类报告中正类 support 为 5。95% 的准确率无法说明少数类已被正确识别。
回归指标和报告表达
回归预测的是数值。评价时先看每条预测与真实值差多少,再按选定方法汇总误差。不同汇总方式对大误差的敏感程度不同。
- MAE
- 绝对误差的平均值。
- MSE
- 误差平方的平均值。
- RMSE
- MSE 的平方根,单位与目标相同。
- R²
- 与用目标均值预测的基线比较,表现更差时可以为负。
完整教学示例
真实值为 [10,20,30],预测为 [12,18,33],单位都是元。
- 逐条用预测减真实,误差为 [2,−2,3]。取绝对值后为 [2,2,3],MAE=7÷3≈2.33 元。
- 平方后为 [4,4,9],MSE=17÷3≈5.67 平方元。
- 对 MSE 开平方,RMSE≈2.38 元。平方会使较大的误差获得更大权重。
报告应保留指标名称、单位与样本范围。R² 和分类精确率回答不同问题,数值含义不能互换。
类别不平衡与SMOTE
先看标签分布,再建立基线
真实业务中,少数情况可能恰好是重点,例如少见故障。模型训练之前,先统计各类数量,才能判断一个高分是不是只来自多数类。
- 类别分布
- 各类标签的数量或比例。
- 基线
- 用于对比的简单起点。
- 少数类召回率
- 真实少数类中被模型找回的比例。
完整教学示例
1000 条记录中,950 条正常,50 条故障。建立一个始终预测正常的基线。
- 基线答对 950 条,准确率为 95%。
- 50 条故障全部漏掉,故障召回率为 0。
- 新模型应与这个基线比较,重点观察故障找回情况及误报数量。
基线让后续分数有参照。只报告“准确率超过 90%”,可能掩盖目标类别完全未被识别。
随机过采样、欠采样、权重和SMOTE
少数类太少时,可以调整训练数据的构成,也可以提高模型对少数类错误的重视程度。不同方法改变的部分不同。
- 随机过采样
- 增加少数类样本的使用次数。
- 欠采样
- 减少部分多数类训练样本。
- 类别权重
- 让不同类的错误承担不同训练代价。
- SMOTE
- 在少数类样本与其邻居之间插值生成合成点。
完整教学示例
为解释插值,假设两个少数类点只有一个数值特征,取值为 2 和 6。
- 在两个点之间选一个比例,例如一半,计算 2+0.5×(6−2)=4。
- 数值 4 是这个示意方法生成的合成点,保留少数类标签。
- 实际使用前检查特征类型和距离含义,普通插值不适合任意类别代码。
合成点没有增加真实采集的人数。SMOTE 的适用性需要结合特征和任务验证。
重采样只放在训练这一侧
重采样为训练提供更多或不同组合的样本。测试集应代表要评价的真实分布,因此需要在划分之后,只处理训练部分。
- 重采样
- 改变用于训练的样本数量或分布。
- 训练管线
- 把缩放、重采样和模型训练依次连接。
- 评价分布
- 用于评价的各类记录构成。
完整教学示例
600 条合成信用记录已划成训练 480 条、测试 120 条,准备使用 SMOTE。
- 先保留原测试集的 120 条记录及标签。
- 只用训练部分拟合预处理、寻找少数类邻居并生成合成点。
- 训练完成后,对同一原测试集预测,再与基线报告比较。
若先全表合成再划分,相关衍生样本可能跨两侧,测试分布也被改变。这样的分数难以反映实际使用效果。
从“有没有提高”走到“提高了什么”
一种方法可能找回更多目标,同时报出更多错误目标。解释效果时需要说清改善了哪个指标,以及付出了什么代价。
- 漏报
- 真实正类未被找回,计为 FN。
- 误报
- 真实负类被报为正,计为 FP。
- 取舍
- 多个目标之间不能只看一个数字的变化。
完整教学示例
两方案在同一测试集上的精确率/召回率,分别为 0.60/0.20 和 0.40/0.60。
- 旧方案 F1=2×0.60×0.20÷(0.60+0.20)=0.30。
- 新方案 F1=2×0.40×0.60÷(0.40+0.60)=0.48,召回率也从 20% 升到 60%。
- 新方案精确率下降,说明报出的正类中错误所占比例增加,需要结合处理成本判断是否接受。
可以报告找回更多正类,以及误报比例增加。是否上线仍需结合业务要求,不能用“效果更好”代替具体说明。
特征工程、PCA、时间序列与知识图谱
特征选择、构造和提取回答不同问题
模型输入可以来自现有字段,也可以通过计算得到。区分保留列、计算新列和生成新表示,有助于说明每个特征是怎样产生的。
- 特征选择
- 从已有特征中保留一部分。
- 特征构造
- 依据规则计算新的特征。
- 特征提取
- 把原信息转换为新的表示,常包含多个原字段的组合。
完整教学示例
用户总金额为 600 元、订单数为 3,准备构造平均每笔金额。
- 用 600÷3 得到 200 元/笔,并新建一列保存,属于特征构造。
- 如果只从已有字段中保留订单数、删除其他列,属于特征选择。
- 若用 PCA 组合多个数值列生成主成分,属于特征提取。
构造前确认计算所需信息在预测时已知。订单数为 0 时,还需要单独规定处理办法。
过滤、包装、嵌入与PCA
减少特征时,可以先看统计关系,也可以实际训练模型比较不同组合。PCA 则改变坐标表示,输出列一般不再等于某个原始字段。
- 过滤法
- 依据统计量筛选特征。
- 包装法
- 把特征组合交给模型评价后选择。
- 嵌入法
- 在模型训练过程中完成特征选择。
- 主成分
- 由多个原始数值特征线性组合得到的新方向。
完整教学示例
原表有身高和体重两列,使用 PCA 生成第一主成分。
- PCA 从训练数据的变化方向计算组合关系,可能把两列共同用于一个新值。
- 新值的含义需要结合组合系数解释,不能继续直接写成“身高”。
- 使用相同变换处理新数据,并保留训练阶段的参数。
选择原列与提取主成分会得到不同表示。是否缩放、保留几维和如何解释,都需结合任务确认。
时间序列特征最怕用到了未来
预测未来时,只能使用作出预测的那一刻已经知道的信息。时间序列特征很容易把未来数据混进平均值或累计量,需要沿时间线检查。
- 时间序列
- 按时间顺序记录的数值。
- 滞后特征
- 使用之前时点的值。
- 滚动均值
- 对一段移动的历史窗口求平均。
完整教学示例
今晚预测明天销量,已知最近三天销量为 10、20、30。
- 只使用截至今晚已知的数据,三天均值为 (10+20+30)÷3=20。
- 明天真实销量尚未发生,不能加入今晚的特征计算。
- 验证时按历史时间模拟预测,检查每个窗口是否只含当时已知的信息。
把明天的真实值加入均值,会让模型提前看到答案的一部分,产生数据泄漏。
知识图谱、关系网络与数据融合
不同来源会用不同名称描述同一个商品或人物。知识图谱把对象与关系明确记录下来,数据融合时还需要确认不同标识是否确实指向同一对象。
- 实体
- 可以单独辨认的对象,例如商品 A。
- 关系
- 实体之间的联系,例如“属于”。
- 属性
- 对象自身的描述,例如颜色、价格。
- 数据融合
- 把不同来源的相关信息对应并整合。
完整教学示例
记录“商品 A 属于清洁用品”,另一系统用编号 0007 表示商品 A。
- 商品 A 和清洁用品分别作为实体,“属于”连接这两个实体。
- 将价格、包装规格等信息作为合适对象的属性保存。
- 确认编号 0007 与商品 A 的映射依据,再合并另一系统的记录。
名称相似不能单独证明是同一对象。关联错误会把别的商品信息带入后续分析。
CNN、RNN、GAN与激活函数
神经网络先看一次前向计算
神经网络由许多简单计算组合而成。先看一次“输入乘权重,再加偏置”的计算,可以理解前向预测与训练调整的区别。
- 权重
- 控制某个输入影响大小的参数。
- 偏置
- 加到计算结果上的参数。
- 激活函数
- 对计算结果作变换,例如 ReLU 把负值变为 0。
- 前向计算
- 用当前参数从输入算出输出。
完整教学示例
单个输入为 3,权重为 2,偏置为 1,后面使用 ReLU。
- 先算加权和,3×2+1=7。
- ReLU 取 7 与 0 中较大的值,输出仍为 7;输入若为 −2,则输出为 0。
- 训练时把输出与目标比较,根据损失调整参数,再进行下一次计算。
只用已有参数算输出属于前向计算。参数是否更新,决定是否正在进行训练。
CNN为什么常用于图像
图像包含很多相邻像素。CNN 会让同一组小范围计算在图像多个位置使用,从局部模式逐渐形成更复杂的表示。
- 卷积
- 用一组共享参数在局部区域计算响应。
- 卷积核
- 执行这种局部计算的小组参数。
- 特征图
- 卷积在不同位置得到的响应结果。
- 池化
- 按区域汇总特征,常用于减少空间尺寸。
完整教学示例
假设某个已学到的卷积核对垂直边缘响应较强。
- 把卷积核移到图像各个局部位置,分别计算响应。
- 把各位置的响应组成特征图,较强位置可能对应相似的局部模式。
- 后续层再组合前面特征,形成更复杂的表示用于分类等任务。
卷积核通常通过训练学习。具体学到什么取决于数据和训练,不能预先把每一层固定解释成某一种物体。
RNN、LSTM与GAN的训练目标不同
序列任务需要利用前后信息,生成任务则可能要求产生新的样本。RNN、LSTM 与 GAN 名称相近时,应先分清各自计算结构和训练目标。
- RNN
- 把前一步状态用于当前计算的循环网络。
- LSTM/GRU
- 加入门控机制的循环网络变体。
- 门控
- 控制信息保留、更新或输出的计算结构。
- GAN
- 由生成器与判别器相互训练的生成模型框架。
完整教学示例
逐词处理“今天的天气很好”,并与生成图片的 GAN 作比较。
- RNN 处理当前词时使用前面的状态,因此当前表示可以包含前文信息。
- LSTM 用门控结构管理状态,基本 RNN 并不自动具有同样门控。
- GAN 的生成器尝试产生样本,判别器判断样本来源,两者在训练中相互影响。
处理序列与对抗生成是不同目标。选择模型时先看任务需要什么输入输出。
数据增强、Dropout与训练/评估模式
训练时可以变化样本或随机关闭部分计算,减少模型过度依赖训练细节。评价时需要按模型约定切换模式,保证结果可比较。
- 数据增强
- 对样本作保持任务标签含义的变换。
- Dropout
- 训练期间随机屏蔽部分单元输出的方法。
- 训练/评价模式
- 控制 Dropout 等层在不同阶段的行为。
完整教学示例
准备用旋转数字图片的方式增加训练样本,其中有数字 6。
- 先检查旋转后的图片是否仍应标为 6;某些角度可能改变数字含义。
- 只使用符合任务条件的变换,并把增强限制在训练侧。
- 评价时使用规定的评价模式,避免训练期的随机行为干扰比较。
增强需要保持标签正确。可用的变换取决于任务,不能把所有翻转、旋转都默认当作有效增强。
文本处理、情感分析与TF-IDF
同样是一段话,任务可以完全不同
一段文本可以同时包含情感、人物、地点与事件。处理前需要定义输出,否则无法确定标注方式与模型评价方法。
- 情感分析
- 判断整体或某方面的评价倾向。
- 实体识别
- 找出文本中的姓名、地点等片段。
- 分词
- 把文本切成后续处理使用的词项。
完整教学示例
句子“上海这家店服务不错”,分别用于地点识别和整体情感分类。
- 地点识别需要标出“上海”对应的文字位置与类别。
- 整体情感分类需要为整句给出一个标签,例如按既定规则标为正向。
- 两种任务使用不同的标注单位,也应采用相应的评价方式。
同一段话可以服务不同任务。素材相同,不代表输出和标签相同。
词袋和TF-IDF如何把文本变成数值
常见机器学习模型需要数值输入。词袋方法把文本转换成词项计数,TF-IDF 再调整词项权重,让不同词对表示的影响有所区别。
- 词袋
- 以词项出现情况表示文本,通常不保留完整词序。
- TF
- 词项在当前文本中的出现程度。
- IDF
- 依据词项出现在多少篇文本中调整的权重。
完整教学示例
为便于理解,假设两句话被切成相同词项。“我 喜欢 它”和“它 喜欢 我”都含我、喜欢、它各一次。
- 按固定词表统计,两句话的计数向量都为 [1,1,1]。
- 虽然向量相同,主语和宾语的位置已经交换,含义有所不同。
- TF-IDF 可以改变词项权重,但这种基本表示仍没有完整保存句中顺序。
数值表示会保留一部分信息,也会丢失一部分信息。选择方法时需要检查丢失的信息是否影响任务。
从训练文本到新文本,词表也有fit过程
文本向量的每一列必须始终代表同一个词。训练时建立词表后,新文本应沿用该词表,模型才能正确理解相同列号。
- 向量器
- 把文本转换为数值表示的工具。
- fit
- 从训练文本建立词表并计算所需统计。
- transform
- 按已建立的词表转换文本。
完整教学示例
训练词表按顺序为“好、慢”,对应两列。新文本为“慢”。
- 训练时记录第 0 列代表“好”,第 1 列代表“慢”。
- 使用同一向量器转换“慢”,计数表示为 [0,1]。
- 若新建词表只含“慢”,第 0 列会改为另一含义,原模型无法沿用原列解释。
词表与模型需要一起保存。交叉验证中也应在每折训练文本上拟合向量器。
情感标注里的困难句要有处理规则
情感不能总靠某个词决定。否定、转折或不同评价对象会改变句意,规范需要说明按整体判断还是分别标注各个方面。
- 否定
- 改变肯定含义的表达,例如“不好”。
- 转折
- 后文改变或限制前文,如“但是”。
- 方面情感
- 分别判断包装、质量、服务等评价对象。
完整教学示例
评论为“包装很好,可惜瓶子漏了”。
- 先识别两个评价方面,包装为正面,漏液是负面问题。
- 如果任务要求方面情感,分别记录两个方面的标签。
- 如果任务要求整体情感,按照项目对转折和重要问题的规则判断;规则缺失时提交复核。
只看到“好”就标正向,会漏掉后面的内容。例子说明如何阅读句子,最终标签仍需统一规范。
图像推理:从图片到Top-5结果
原题给了模型,所以任务是推理
模型可以在一个工具中训练,再保存为其他运行环境可加载的格式。ONNX 图像任务的主要工作是按模型约定准备图片,再执行推理。
- ONNX
- 保存模型计算结构和参数的一种表示格式。
- ONNX Runtime
- 加载并执行 ONNX 模型的软件。
- 输入约定
- 模型要求的名称、数据类型、维度和数值处理方式。
- 标签表
- 把模型输出位置对应到类别名的清单。
完整教学示例
原题提供 ResNet 模型路径、标签表和测试图片。本站另外提供一个用于学习流程的颜色模型。
- 先查看要用的是哪一个模型,再读取它的输入信息。
- 按该模型的要求处理图片,并让标签顺序对应输出位置。
- 加载模型并执行计算,得到新图片的候选类别,这一步叫推理。
颜色教学模型与原题模型的预处理分别定义。原题模型素材未随当前资料提供,不能拿教学结果当作原模型运行结果。
预处理过程每一步都改变了什么
图片在程序中是一组像素数值。模型除了要求图片尺寸,还会要求这些数值按什么顺序排列、采用什么类型和缩放规则。
- RGB
- 红、绿、蓝三个颜色通道。
- HWC
- 高、宽、通道的排列顺序。
- NCHW
- 批量、通道、高、宽的排列顺序。
- float32
- 使用 32 位浮点数保存数据的类型。
完整教学示例
一张 224×224 的 RGB 图片,数组原形状为 (224,224,3)。模型要求单张 NCHW 输入。
- 先按模型规定转换像素类型与数值范围;颜色教学模型使用 float32 并除以 255。
- 把最后的通道维移到前面,形状变为 (3,224,224)。
- 再添加一个表示图片数量的维度,得到 (1,3,224,224)。
开头的 1 表示本次一张图,3 表示三个颜色通道。原 ResNet 参考另有缩放、裁剪及均值标准差要求,需要按对应模型执行。
推理、softmax和索引排序
模型输出的位置通常只有数值,没有直接写类别名。需要先按约定解释分数,再找出最高分的位置,最后到标签表中取名称。
- logits
- 模型输出的未归一化分数。
- softmax
- 把一组分数转换成和为 1 的分布。
- argsort
- 返回按数值排序后的位置索引。
完整教学示例
标签顺序为 [猫,狗,鸟],本教学例子已给概率 [0.1,0.6,0.3],要取前两名。
- 从小到大排序的位置为 [0,2,1],分别对应 0.1、0.3、0.6。
- 改成从大到小后取两项,位置为 [1,2]。
- 标签表的第 1 项是狗、第 2 项是鸟,因此结果为狗 0.6、鸟 0.3。
这里已给概率,不需要重复 softmax。模型实际返回的是分数还是概率,应先查看输出约定。
Top-5结果要核对,界面还要能处理失败
Top-5 是单次预测中分数最高的五个候选。检查整个系统时,还要考虑候选是否显示正确,以及错误输入能否得到清楚提示。
- Top-5 候选
- 一条输入对应的前五个类别。
- Top-5 准确率
- 有真实标签的数据集中,真实类别进入前五候选的比例。
- 错误恢复
- 出错后保留输入并提供修正或重试路径。
完整教学示例
10 张带真实标签的图片中,有 8 张的真实类别出现在前五候选中。
- 逐张比较真实标签与候选列表,记录是否命中。
- 8 张命中除以 10 张,得到 Top-5 准确率 80%。
- 再测试空文件、错误格式和类别名错位,检查页面能否指出原因并提供重试。
单张图片的候选列表无法给出这批数据的准确率。候选也不代表图中一定有五种物体。
业务流程分析与优化方案
把用户抱怨转成能检查的问题
用户说系统慢,只说明体验结果。一次请求可能经过上传、排队、数据处理、模型计算和展示。把总耗时拆开,才能知道该修改哪里。
- 业务流程
- 为完成一个目标而经过的步骤。
- 端到端耗时
- 从发起任务到看到可用结果的总时间。
- 瓶颈
- 当前限制整体表现的主要环节。
完整教学示例
一次识别请求总耗时 3 秒,其中上传 2 秒,排队与处理 0.7 秒,模型计算 0.3 秒。
- 记录各阶段开始和结束时间,核对总和是否与用户等待接近。
- 上传占 2 秒,是本例最大的已测部分,应先检查文件大小与网络过程。
- 为这一步提出修改,再在相同条件下复测总耗时。
模型只占 0.3 秒,因此只优化模型无法消除另外 2.7 秒。测量范围要覆盖用户真正等待的过程。
画流程时要写分支和责任
实际流程除了正常完成,还会遇到输入错误、网络失败或材料缺失。把失败后的去向写出来,使用者才知道怎样恢复。
- 判断分支
- 按条件选择不同后续步骤。
- 责任人
- 负责某项动作或处理问题的人。
- 恢复路径
- 失败后可重新开始或继续的具体办法。
完整教学示例
用户提交图片,系统先检查格式,支持的图片进入识别,不支持的文件需要返回修改。
- 在“格式是否支持”的判断处分两条路径。通过时进入处理,未通过时显示支持格式。
- 提供重新选择文件的入口,并保留用户已填写的说明。
- 若后台持续失败,给出反馈入口和负责处理的角色,记录失败阶段。
画流程时,每条分支都应有可理解的后续动作。只画成功路径会遗漏用户最容易卡住的地方。
措施与指标一一对应
“提高效率”需要变成可测量的目标。每项措施对应一个已观察的问题,再用相同条件下的指标检查是否改善。
- 措施
- 准备修改的具体环节。
- 指标
- 用来观察变化的可计算量。
- 同口径
- 使用相同范围、定义与条件计算。
完整教学示例
日志显示重复加载模型平均需要 1.5 秒,单次推理需要 0.2 秒。
- 先确认加载确实每次重复发生,记录当前总耗时。
- 尝试在允许的条件下预加载并复用模型,减少重复加载。
- 用相同图片、设备与并发条件比较总耗时,同时检查内存和失败率。
措施是否有效,要看实际复测。耗时降低如果伴随大量失败,也不能单看速度就认定通过。
写出一个有验证步骤的小方案
改进方案需要让接手的人知道问题证据、准备做什么以及怎样检查结果。原因尚未证实时,应保留为待查假设。
- 问题证据
- 可查看的错误记录或测量结果。
- 验证集
- 开发时用于比较方案的固定数据。
- 复测
- 修改后按约定条件重新检查。
完整教学示例
情感模型经常把“不好用”判为正向,已收集到一组相关错误样本。
- 核对原文和真实标签,确认错误是否与否定表达有关。
- 检查处理流程是否遗漏否定词,再决定补规则、调整表示或补训练样本。
- 在固定验证集比较否定句错误数量,同时检查其他句型是否退步。
方案应把已知错误与待验证原因分开。一次修改后,需要保留新旧结果供复查。
智能产品分析与优化报告
先确定一行代表什么,再谈最受欢迎
产品日志的一行可能是一次调用,也可能是一个用户或某天汇总。统计之前确认这个单位,才能避免把调用次数误读成人数。
- 调用
- 用户或系统发起的一次功能请求。
- 用户数
- 按用户标识去重后的数量。
- 统计单位
- 一条记录在业务中代表的对象。
完整教学示例
A 场景有 10 人,每人调用 10 次;B 场景有 100 人,每人调用 1 次。
- A 的调用量为 10×10=100 次,用户数为 10。
- B 的调用量同样为 100 次,但用户数为 100。
- 报告分别给调用量和去重用户数,才能解释使用频繁程度与覆盖范围。
相同调用量可能来自不同使用方式。确定一行含义后,再选择计数或求和。
用一张教学汇总表练习写结论
汇总表已经把多条调用压缩成每个功能一行。再次计算全体平均值时,需要让每次调用都得到相同权重,不能忽略各功能的调用数量。
- 加权平均
- 先按数量乘各组均值,再除以总数量。
- 调用占比
- 某功能调用次数除以全部调用次数。
- 统计范围
- 结论对应的时间、数据和条件。
完整教学示例
天气 100 次、均时 1 秒;音乐 60 次、均时 2 秒;家居 40 次、均时 4 秒。
- 总调用为 200 次,天气占 100÷200=50%。
- 总耗时按汇总表计算为 100×1+60×2+40×4=380 秒。
- 全体每次调用平均 380÷200=1.9 秒。直接平均三个均值会得到约 2.33 秒,权重含义不同。
本表中家居调用平均最慢。是否优先优化,还需结合失败率、使用影响与处理成本。
报告从观察走到检查,再走到措施
数据结论能说明发生了什么,通常还不足以直接证明原因。报告需要把观察、原因检查和修改措施连接起来。
- 观察
- 数据中已计算出的现象。
- 假设
- 解释现象、但仍需检查的可能原因。
- 验收
- 按照约定指标检查修改是否达到要求。
完整教学示例
本例控制家居平均耗时 4 秒,明显高于另外两个功能。
- 把“平均 4 秒”写为观察,并注明数据范围和计算方式。
- 提出需要检查的连接等待、网络传输等环节,用分阶段日志验证。
- 对主要耗时环节试改,再在同样设备和网络条件下检查总耗时及成功率。
不能从一个均值直接断定网络就是原因。措施应指向已检查的环节,并附复测方法。
把验收、可扩展性和安全放回方案里
方案上线后会遇到更多请求和不同输入。验收既要检查这次修改,也要说明数据、负载和恢复条件,方便判断方案能否持续使用。
- 负载
- 系统在某段时间处理的请求规模。
- 可扩展性
- 请求或数据增长时,系统维持要求的能力。
- 回滚
- 出现问题后恢复到已验证的旧版本。
完整教学示例
优化前用复杂图片测试,优化后改用简单图片,平均耗时降低。
- 先核对图片数量、复杂度、设备和并发是否相同,识别比较条件的差异。
- 使用相同测试集和负载重新比较,记录耗时、成功率与资源占用。
- 说明上线监控、异常反馈与回滚条件,保留版本信息。
样本变化本身也能影响速度。只有条件可比较时,才能更可靠地解释优化带来的变化。
人机交互:输入、反馈与错误恢复
从用户目标出发,而不是先画按钮
学习页面的用户目标是理解内容并继续学习。设计入口时,需要围绕这个任务安排顺序,而不能只列出网站拥有的功能。
- UI
- 用户直接看到和操作的界面。
- UX
- 使用过程中完成任务的整体体验。
- 动线
- 用户从入口到完成目标所经过的步骤。
完整教学示例
用户读完一个知识小节,准备检查理解,然后学习下一节。
- 讲解结束处提供对应练习,并说明这次练习检查什么。
- 提交后展示选择结果与解释,让用户知道哪条规则需要回看。
- 提供下一节入口,同时保存已完成的练习,避免再次要求完成相同题目。
结果页应接住用户下一步目标。反馈、保存与继续入口共同影响任务能否顺利完成。
输入校验、状态反馈和结果解释
用户操作后需要知道系统是否收到请求,以及结果意味着什么。提示应贴近问题,并给出可执行的修正办法。
- 输入校验
- 提交前检查空值、格式等明显问题。
- 状态反馈
- 说明等待、处理中、完成或失败。
- 结果解释
- 说明输出的含义及适用范围。
完整教学示例
图片识别页只接受 JPG 和 PNG,用户选择了一个不支持的文件。
- 在文件选择区域提示“请选择 JPG 或 PNG 图片”,说明允许格式。
- 保留重新选择入口,让用户可以直接修正。
- 处理通过后显示结果含义;等待时显示真实处理状态,避免虚构进度。
只显示错误编号无法帮助多数用户修改输入。颜色变化也应配合文字,让信息不只依赖视觉辨认。
错误恢复和多模态交互
网络或输入问题可能让任务中断。恢复设计应保留已经完成的工作,并清楚说明重试是否会重复提交。
- 错误恢复
- 从失败状态回到可继续操作的路径。
- 多模态
- 多种输入或输出方式协作,例如语音和文字。
- 超时
- 在约定等待时间内没有得到完成结果。
完整教学示例
用户填写了说明并上传图片,网络超时后页面没有收到识别结果。
- 保留已填写的说明与可保留的文件状态,避免要求全部重输。
- 说明当前是否知道请求已完成,提供适当的重试或查询入口。
- 若语音输入不适用,也可提供文字输入,帮助用户完成相同任务。
恢复方式应让用户知道当前状态。AR 在现实环境上叠加信息,VR 构造沉浸环境,具体交互仍需围绕任务设计。
用任务测试验证动线有没有走通
设计者熟悉页面,容易忽略新用户看不懂的地方。任务测试让用户独立完成一件事,观察记录可以显示入口和解释是否清楚。
- 任务成功率
- 成功完成任务的人数占参与人数的比例。
- 定性记录
- 卡住的原因、犹豫位置或用户表述。
- 定量记录
- 完成时间、错误次数等可计数信息。
完整教学示例
测试任务是“读完指定小节,提交练习,找到下一节”,让 5 位新用户尝试。
- 先说明目标,不逐步指挥用户点击,观察他们实际怎么走。
- 记录是否完成、在哪里停顿、发生哪些错误;必要时询问当时的理解。
- 修改集中出现的问题,再按相同任务复测并比较。
满意评价和实际成功需要分别看。被旁人一路提示后完成,也不能直接代表流程本身清楚。
测试、部署、日志与故障排查
测试模型,也要测试周围的系统
模型分数只是系统表现的一部分。实际页面还要接收文件、检查格式、处理失败并展示结果,因此验收应覆盖整个任务流程。
- 功能测试
- 检查规定功能是否按要求工作。
- 性能测试
- 检查耗时、容量或资源表现。
- 异常测试
- 检查错误输入与失败时的行为。
完整教学示例
模型在正常图片上达到项目指标,但上传空文件后页面一直停在处理中。
- 正常样本测试记录模型指标和输出显示。
- 用空文件测试输入检查,确认页面能及时解释错误。
- 检查用户能否重新选择文件,系统是否恢复到可继续的状态。
模型指标达标后,仍需完成系统功能和恢复检查,才能判断整条使用流程是否通过。
部署要保存的不只是一个模型文件
训练时的输入经过清洗、编码或缩放。部署时需要重复相同处理,模型才能按训练时学到的含义解释新输入。
- 部署
- 把已准备的程序和模型放入实际运行环境。
- 预处理
- 进入模型前对输入执行的转换。
- 特征顺序
- 每个输入位置对应哪个字段的固定关系。
完整教学示例
模型训练时把收入标准化,部署页面收到收入原值 50000。
- 加载训练时保存的缩放器,按原参数转换 50000。
- 按训练时的列顺序组成模型输入,同时使用相同类别编码。
- 保存并核对模型、预处理、标签和依赖版本,执行一条已知样例检查结果。
只复制模型文件可能遗漏它依赖的输入处理。顺序或尺度变化会改变模型看到的含义。
日志怎样帮助找到真正耗时和错误位置
一次请求可能在多个阶段等待。日志记录阶段、时间与状态,可以帮助定位慢点,也能追踪某次失败发生在哪里。
- 日志
- 程序运行时保存的事件记录。
- 请求标识
- 把同一次任务的多条日志对应起来的编号。
- P95
- 按指定分位数方法计算的 95% 位置阈值。
完整教学示例
上传耗时 3 秒,模型推理耗时 0.2 秒,其后还需要展示结果。
- 分别记录上传、推理和展示的起止时间,用请求标识连接。
- 计算用户开始到可见结果的总耗时,不能只报 0.2 秒作为用户等待。
- 多次测试后同时查看均值与 P95,说明样本量和计算方法。
P95 为 2 秒通常表示这批测量约 95% 不超过该阈值,不能解释为所有请求都在 2 秒内。日志避免写入不必要的敏感原文。
看到报错,先定位再修复
错误消息通常指出问题类型和发生位置。先读这两项,再检查对应输入,比从头随机改参数更容易找到原因。
- KeyError
- 程序请求的键或列名不存在。
- FileNotFoundError
- 指定路径没有找到文件。
- NameError
- 当前执行状态中没有定义该名字。
- shape/dtype
- 数组维度和元素类型,用于检查模型输入。
完整教学示例
代码 data['Age'] 报 KeyError,实际 CSV 的表头是 'Age ',末尾多了空格。
- 查看错误行,确认程序正在请求 Age 列。
- 打印实际列名,发现 'Age ' 与 'Age' 不完全相同。
- 按数据规则统一列名或修正引用后,再运行该步骤,确认取到预期内容。
错误名称提供排查方向,具体消息和输入决定怎样修复。修复后应复测原失败情形。
数据、模型、部署与界面设计工具
先分清语言、库、环境和文件
一个项目里会同时出现语言名、软件库名和文件后缀。先分清它们各自的作用,可以理解为什么“安装了软件”和“读到了数据”是不同步骤。
- Python
- 编写与执行程序的语言。
- Pandas
- 帮助 Python 处理表格的库。
- CSV
- 保存表格数据的文件格式。
- 运行环境
- 解释器和已安装依赖组成的执行条件。
完整教学示例
代码使用 Pandas 读取 CSV,另一段代码用 ONNX Runtime 加载模型。
- Python 解释器执行程序;Pandas 提供读表与处理表格的功能。
- CSV 存放数据,程序读取它;ONNX 文件存放模型,ONNX Runtime 执行模型。
- 安装依赖后,确认 Notebook 内核使用同一个解释器,再执行 import。
某台电脑装过库,不代表当前 Notebook 的环境里也能找到。报缺库时先核对解释器与内核。
数据库、云和容器解决不同问题
数据保存、远程计算和应用打包属于不同需求。数据库、云服务和容器可以协作,但各自不会自动完成其他环节的工作。
- 数据库
- 按一定结构保存、查询和管理数据的软件。
- 云服务
- 通过远程基础设施提供计算或存储等资源。
- 镜像
- 包含应用与依赖的运行模板。
- 容器
- 从镜像启动的运行实例,通常共享宿主系统内核。
完整教学示例
把一份含缺失值的 CSV 上传到云存储,再让容器中的程序读取。
- 上传改变了文件的存放位置,文件中的缺失仍然存在。
- 容器提供程序的运行条件,程序仍要执行明确的清洗规则。
- 需要长期保留的结果写到持久化位置,不能只依赖临时容器内部。
虚拟机通常包含独立客户操作系统,容器的隔离方式不同。选用工具时需核对实际资源和维护条件。
数据、训练、部署与界面工具怎样协作
数据处理到结果展示会经过多种工具。每次交接都需要确认输入输出的含义,才能避免某一步处理成功、后一步却读错。
- 工具链
- 按任务顺序连接的多种工具。
- 原型
- 在完整开发前用于检查结构和交互的界面模型。
- 接口
- 两个环节交换数据的约定。
完整教学示例
Pandas 清洗表格,scikit-learn 训练模型,界面展示预测。
- 清洗后检查 X、y、数据类型与行顺序,交给训练步骤。
- 训练后保存模型及预处理,定义预测输入与输出结构。
- 通过原型或任务测试检查用户怎样提供输入、理解结果和处理错误。
绘图工具用于展示,数据库负责数据管理,界面原型帮助检查交互。工具名称不能替代每个交接点的核对。
选择工具时写清约束,保留可复现环境
代码能否在另一台电脑运行,取决于数据、路径、解释器和依赖等条件。保存环境信息可以帮助他人复现,也便于定位版本变化造成的问题。
- 依赖
- 程序需要的其他软件库。
- 版本
- 某个软件或数据的一次具体发布。
- 随机设置
- 控制划分或训练随机过程的参数。
完整教学示例
同一 Notebook 在原电脑运行成功,在另一台电脑提示找不到模块。
- 比较 Python 解释器与 Notebook 内核,确认指向同一项目环境。
- 核对依赖清单、版本和安装状态,再检查文件路径与输入数据。
- 按记录的运行命令从头执行,保存实际输出和差异。
按任务规模与部署条件选择工具。为一个小表格任务引入复杂平台,会增加额外环境要求。
培训、技术指导与交卷检查
培训目标要写成学员能完成的任务
培训目标决定讲解需要多详细,也决定用什么结果检查学习。抽象的“掌握数据清洗”无法说明这次课结束后应独立做成什么。
- 学习目标
- 学完后能独立完成的具体任务。
- 前置知识
- 开始本课前需要理解的概念或操作。
- 验收证据
- 能证明任务完成的文件、结果或解释。
完整教学示例
培训对象会基本电脑操作,但尚未使用过 Pandas。目标是处理一份带缺失的 CSV。
- 先解释文件、一行一列和 DataFrame,再展示输入与预期结果。
- 把目标写成“能读表、识别无效数值、按规则另存并核对结果”。
- 用清洗后的文件、行数变化和处理说明检查目标是否达成。
会使用电脑不能直接推出已经懂模型或表格库。讲解应把本课必需的基础补到能操作的程度。
把一节Pandas课写成可执行提纲
示范让学员看到完整过程,独立练习则检查能否把规则用于新数据。先讲清每个动作和结果,再给变化过的材料。
- 示范
- 教师完整展示处理过程并解释原因。
- 迁移
- 把学到的规则用于不同数据或情境。
- 反馈
- 指出具体错误及可修正的步骤。
完整教学示例
示范表中只有空白缺失,练习表新增一个问号 '?' 作为未知数值。
- 示范读取表格、检查类型和缺失,再按规则另存结果。
- 练习时先检查数值列,使用转换把无法识别的问号变成缺失。
- 转换后重新统计并处理缺失,保存文件后核对行数与类型。
能复制示范代码只证明完成了同一过程。能解释并处理问号,才显示已经理解转换与缺失检查的关系。
指导零售数据与标注问题怎样具体写
技术指导要让另一位操作人员拿到材料就知道怎样处理。需要写出来源字段、处理条件、检查方法与问题接收人。
- POS
- 记录收银交易的系统。
- 连接键
- 让不同表中同一对象相互对应的字段。
- 异常清单
- 暂时无法按规则处理、需要复核的记录集合。
完整教学示例
零售项目要把交易表与库存表关联,交易表含商品编号、数量和金额,库存表含商品编号与盘点时间。
- 说明从哪个系统取得各字段,以及数据使用目的与采集频率。
- 核对商品编号的含义,统一时间和金额单位,再选择正确时点关联。
- 把未匹配编号和异常金额列入清单,交给指定角色复核,并记录结果。
“保证数据准确”需要落实到字段、规则与检查证据。标注争议也应有规则版本与复核入口。
考场最后一轮检查按交付物走
交卷时,检查者看到的是文件与内容。文件名、格式、能否打开和结果是否齐全都需要核对,运行窗口里显示成功还不足以证明已交付。
- 文件格式
- 文件内部实际采用的组织方式。
- 文件名
- 用于识别文件的名称,包括扩展名。
- 交付清单
- 按任务要求逐项列出的待提交文件。
完整教学示例
原题要求一个 Word 报告、一个 CSV 数据表和一张 JPG 截图。
- 在相应软件中按正确格式保存文件,按题目规定命名。
- 重新打开报告和 CSV,查看内容是否完整;检查截图是否包含指定结果。
- 按清单核对保存位置,保留实际运行信息,再确认全部文件已提交。
把 .txt 改名为 .docx 不会改变内部格式。教学数据结果与原考试数据结果也应明确区分。
实操材料
下载六套教学实训包完整解压后,先读 README.md,按对应 Notebook 逐格运行。
1.1.1 根据住院天数生成分组标签,按 BMI 和整数年龄统计人数及比例。
这项任务用一张患者表练习条件判断和分组统计。每行代表一位患者。题目已经规定住院超过 7 天的组别,程序只需落实这个规则,再统计各组人数。这里不建立诊断模型。
读入患者表
读表首先是为了知道每一行和每一列代表什么。确认这些含义后,才可以决定哪些值能参加计算。
一张缩小的示意表有编号 P1、年龄 26、BMI 24、住院天数 8。
- 把 P1 看作一位患者的记录,Age 26 是该患者年龄。
- BMI 24 用于后面的 BMI 分组,住院天数 8 用于判断本题的风险标签。
- 若住院天数为空,只能说明标签暂时未知,年龄与 BMI 仍可能可用。
完整教学文件有 12 行。先核对 PatientID、Age、BMI、DaysInHospital 四列,再进入条件判断。
输入共 12 条记录。找到 Age、BMI 和 DaysInHospital。
生成风险标签
题目中的“超过 7 天”是严格大于 7。已知天数与未知天数需要分开处理,否则空白可能被错误归成低风险。
用住院天数 7、8、缺失三条记录看判断过程。
- 7 > 7 为 False,因此 7 天不进入高风险组。
- 8 > 7 为 True,因此 8 天进入高风险组。
- 缺失值保留为未知,不先填 0,也不把未知解释为已知低风险。
完整表中高风险 5 条、已知低风险 6 条、未知 1 条,总数为 12。
高风险 5 条,未知 1 条。住院 7 天按本题规则属于低风险。
核对分组边界
按区间分组时,刚好落在分界点上的值最容易分错。先按文字说明判断,再核对代码参数。
检查 BMI 24 与整数年龄 26。BMI 区间包含 [18.5,24) 和 [24,28)。
- 方括号表示包含端点,圆括号表示不包含。因此 24 不在 [18.5,24) 中,而在 [24,28) 中。
- 本题把 [24,28) 命名为超重,所以 BMI 24 得到“超重”。
- 年龄区间 [0,26) 不含 26,[26,36) 包含 26,对应 26 至 35 岁组。
pd.cut 的 right=False 落实左端包含、右端不包含。年龄规则以整数岁为前提。
BMI=24 归入超重组,26 岁归入 26 至 35 岁组。
计算人数和占比
“占全部记录的比例”和“已知记录中的比例”回答不同问题。输出两种比例时,需要让名称直接说明分母。
全表有 12 位患者,11 人住院天数已知,5 人超过 7 天,另有 1 人未知。
- 高风险占全部患者的比例是 5÷12≈41.67%。分母包括那位未知患者。
- 已知患者中的高风险比例是 5÷11≈45.45%。分母只包含能判断标签的人。
- 分组表对每组分别计算 total、known、unknown、high,再用本组 high 除以 known。
high_rate_known 表示已知记录中的高风险率。某组 known 为 0 时应显示无数据,无法计算 0÷0。
全体高风险人数占比为 5/12≈41.67%;已知住院天数记录中的高风险率为 5/11≈45.45%。
保存并重新检查
结果既要能看到,也要能重新读取。核对文件内容可以发现写错路径、遗漏列或误用旧输出。
本次输出包含患者明细、两张分组表和一份统计摘要。
- 在 patient_processed.csv 查看 AgeRange、BMIRange 和 HighRisk,确认标签已经保存。
- 打开 AgeRange.csv 与 BMIRange.csv,逐组查看人数和 high_rate_known。
- 打开 summary.json,核对 total 12、known 11、unknown 1、high 5,并查看文件修改时间。
JSON 摘要按字段名保存统计值,CSV 保存可继续分析的表格。截图按原题要求另行保存。
结果目录含两张分组表、patient_processed.csv 和 summary.json。
2.1.1 清洗燃油效率数据,设置 X 与 y,先划分数据,再用训练集拟合缩放器。
这项任务为燃油效率预测准备表格。每行是一辆车,mpg 是已经测得的燃油效率。先清洗,再把输入和目标分开,最后让训练与测试使用同一套缩放参数。
读取并检查字段
原始文件是按空白分隔的 UCI 文本,读取时需要提供列名。先确认读入结果,避免把格式错误当作缺失问题。
本包有 9 个字段,包括 mpg、horsepower 与 car name,原始记录共 398 条。
- 读取时用规定分隔方式与列名,带空格的车名需要保持在同一字段。
- mpg 表示燃油效率,horsepower 表示马力,car name 为车名。
- 用 shape 与列名检查 398 行及字段对应,再查看类型。
Notebook 的读取语句已用 na_values='?' 将问号识别成缺失,后续仍需核对数值转换结果。
读取 398 条记录。mpg 是目标字段,horsepower 中有无效数值表示。
转换数值并查缺失
马力列的问号表示没有数值。它不能当成 0 马力;本实训按既定规则删除相关缺失记录,保存处理前后的数量。
原始 398 条记录,其中 horsepower 有 6 条缺失。
- 先按数值类型转换规定字段,并用缺失统计确认不可计算的位置。
- 按本实训规则删除相关缺失行,398−6=392。
- 重新查看缺失数量与行数,确认没有额外删掉其他记录。
392 是这份公共教学数据的清洗结果。换一份数据后需要实际计算,不能继续填写同样数字。
horsepower 缺失 6 条,清洗后保留 392 条。
设置特征并划分
训练输入不能包含要预测的答案。将目标单独取出后,再固定划分,后面的两种输出才能逐行对应。
清洗后的 392 条记录,目标为 mpg,输入为题目指定的 7 列。
- 特征为 cylinders、displacement、horsepower、weight、acceleration、model year、origin。车名和 mpg 不进入 X。
- 把 mpg 作为 y,保留与 X 相同的行对应关系。
- 按 test_size=0.2、random_state=42 划分,测试取 79 条,剩余 313 条训练。
测试比例需要取整,392×0.2=78.4,因此不能要求测试恰为 78.4 行。结果以划分工具的实际输出核对。
训练 313 条,测试 79 条。X 中不包含 mpg。
只在训练侧拟合缩放器
测试数据应模拟未见记录。缩放参数若从全表计算,就已使用了测试信息,因此先划分,再只从训练部分学习参数。
本任务只缩放 displacement、horsepower、weight、acceleration 四列。
- StandardScaler.fit(train[scaled]) 从训练四列计算均值和尺度。
- scaler.transform(train[scaled]) 用这些参数转换训练数据。
- 同一个 scaler.transform(test[scaled]) 转换测试数据,不再重新 fit。
两侧使用同一尺度,mpg 保持为目标值。原附件的处理顺序在原题参考中保留,教学流程明确采用训练侧拟合。
测试数据使用训练集学到的均值和尺度。
核对导出文件
导出文件分别承担检查清洗和检查模型输入的用途。文件名说明阶段,可以避免把未缩放数据和已缩放数据混在一起。
结果目录有 cleaned_unscaled.csv、train_processed.csv、test_processed.csv。
- cleaned_unscaled.csv 保留 392 条清洗后的原尺度记录,用来核查输入含义。
- 训练与测试表分别有 313 和 79 行,指定四列已按同一缩放器转换。
- 在 summary.json 核对 features、scaled_columns、train_means 和 train_scales。
需要交原考试文件时,按原任务单另行命名并核对内容。教学包的文件名说明教学阶段。
三张表分别保留清洗结果和处理后的训练、测试记录。原考试另有指定文件名。
2.2.1 在固定数据划分上比较 Logistic 基线与 SMOTE 方案,解释漏报和误报。
这项任务比较两个事先指定的分类方案。每行是一条合成信用记录,标签说明是否属于需要识别的目标类。两方案在同一批测试记录上比较,才能解释变化来自哪里。
检查目标与数据划分
少数类是本次需要重点识别的目标。先看标签数量和划分范围,后面才能理解为什么准确率高也可能漏掉目标。
600 条合成记录按 80%/20% 划分;训练类 0 有 411 条,类 1 有 69 条。
- SeriousDlqin2yrs 作为 y,从输入 X 中移除;索引号也不作为特征。
- 使用 stratify=y 让划分尽量保持类别比例,并固定随机种子。
- 核对训练 480 条、测试 120 条,测试标签只留给评价。
这份数据用于教学比较,不是对真实个人作信用判断。所有后续方案使用相同测试记录。
训练 480 条,测试 120 条。训练类别计数为 411 与 69。
运行基线模型
基线把缺失填补、标准化和 Logistic 分类连接起来。管线保证这些处理参数从训练数据学习,并在预测时沿用。
基线管线按 imputer、scale、model 的顺序运行。
- imputer 用训练列中位数填补缺失。中位数是排序后居中的值,避免把缺失统一当作 0。
- scale 根据训练数据计算尺度,然后 Logistic 模型用处理后的 X 和 y 学习分类。
- predict 处理 X_test,报告再把预测与 y_test 比较。
包内基线正类召回为 0,说明没有找回正类。它仍可能因负类多而得到较高总体准确率。
取得 accuracy、precision、recall、F1 和正类支持数。
仅对训练数据使用 SMOTE
SMOTE 通过增加少数类的合成训练点改变学习条件。测试记录保持原样,才能比较它对未见样本的影响。
第二条管线在标准化之后、分类器之前加入 SMOTE。
- 先在训练数据上完成填补与缩放,让邻居距离使用一致尺度。
- SMOTE 从训练少数类寻找邻居并插值,分类器在处理后的训练数据上学习。
- 预测时处理原来的 120 条测试数据,测试记录不参加重采样。
k_neighbors 是寻找邻居时使用的数量,需要少于可用少数类样本数。不能从测试集取样补足。
测试集仍为 120 条,且没有参与 SMOTE。
比较漏报与误报
分类报告中的四格计数可以直接对应实际错误。先解释哪些记录被报出和漏掉,再比较指标。
教学示意中真实正类 12 条,模型报出 10 条,其中 8 条正确。这组小数字用来学习读报告,不是本包运行结果。
- 找对的 TP 为 8;报错的 FP 为 10−8=2;漏掉的 FN 为 12−8=4。
- 精确率为 8÷10=80%,召回率为 8÷12≈66.67%,两者的分母不同。
- 打开自己的两份报告,用同样读法比较正类指标和混淆矩阵,再写改善与代价。
本包默认示例中 SMOTE 找回更多正类,同时增加误报。重新运行后应引用自己的实际数值。
包内示例的正类召回提高,同时误报增加、准确率下降。重新运行的具体数值以实际输出为准。
保存并核对产物
模型文件保存管线,预测表保存逐条结果,报告保存汇总指标。这三种材料可以互相检查。
baseline 与 smote 各有模型、predictions.csv、report.txt。
- 打开预测表,source_row 表示来源行,actual 是真实标签,predicted 是预测类别。
- 逐条比较可数出误报和漏报,再与报告汇总核对。
- 代码会重新加载自己刚保存的模型并核对预测一致性;最后查看 summary.json 的指标。
报告中的 zero_division=0 表示工具把无法定义的某些指标显示为 0,不能因此认定真实证据充分。
目录含两个模型、两份预测、两份报告和 summary.json。
3.1.1 清理调用日志,计算各功能的频次、成功率和响应时间,再写改进建议。
智能音箱每次接收功能请求都会留下调用记录。本题先去掉重复上报与非法耗时,再统计功能使用情况。报告需要区分调用量、成功比例和成功调用的等待时间。
确认一行代表一次调用
事件编号用于区分调用。同一人反复调用也会产生多条事件,所以使用频次需要按事件统计。
完整表有 92 行,每行含 EventID、Function、ResponseTimeMs 和 Success。
- EventID 标识这次调用,Function 说明使用了哪个功能。
- ResponseTimeMs 是毫秒单位的耗时,Success 表示是否成功。
- 先观察几行,再检查全表数量、重复编号和取值范围。
同一用户的多次调用可以合法存在;同一事件重复上报需要按规则处理。
原始 92 条记录,每条记录代表一次调用。
处理重复与非法时延
重复上报会把频次抬高,负耗时也无法代表实际等待。清洗要记录去掉多少以及依据是什么。
92 条原始记录,发现 1 条重复事件,去重后另有 1 条非法时延。
- 按 EventID 去重,92−1=91。
- 把时延转换为数值,剔除缺失或小于 0 的非法记录,91−1=90。
- 将 Success 的 true/false 或 1/0 明确转换,失败调用仍留在有效调用中。
有效调用为 90 条。删除全部失败记录再计算成功率,会改变分母并夸大结果。
重复 1 条,非法时延 1 条,有效调用 90 条。
分功能计算指标
成功比例使用全部有效调用作分母,成功调用时延则只看成功记录。两种指标需要分别筛选与计数。
缩小示例中某功能有 5 次有效调用,4 次成功;成功时延为 100、200、300、400 毫秒。
- 成功率为 4÷5=80%,那次失败保留在分母里。
- 成功平均时延为 (100+200+300+400)÷4=250 毫秒。
- P95 按约定分位数算法计算,用来补充观察较慢请求;本包使用 Pandas quantile(0.95)。
完整输出的 calls、successful_calls、mean_success_ms、p95_success_ms 分别记录数量与时延。读列名时先看统计对象。
function_summary.csv 中各指标具有明确统计对象。
处理并列并解释慢点
调用次数并列时,数据没有支持唯一第一名。最慢功能也需要用统一指标比较,并继续检查原因。
完整教学数据中六个功能各 15 次有效调用,控制家居的成功平均时延最高。
- 六组各 15 次,总和为 90,所以调用频次全部并列。
- 按 mean_success_ms 比较,可以报告控制家居在这一指标上最慢。
- 再检查连接、排队或处理阶段的日志,寻找实际耗时位置。
频次并列不能写成某功能唯一最受欢迎。平均时延最高也不能直接证明是模型计算导致。
本组合成数据的功能频次并列。控制家居的成功调用平均时延最高。
写结论并核对文件
优化报告从可复算观察出发,再写待查原因、修改和验收。没有执行的措施应作为计划描述。
示范报告写“本组合成日志中各功能调用量并列,控制家居成功平均时延最高”。
- 给结论附上 function_summary.csv 的对应列与统计范围。
- 提出分阶段测时的检查办法,针对确认的主要延迟尝试修改。
- 用相同样本与条件比较成功率、平均时延及 P95,记录改前改后的结果。
保存统计表、摘要和自己的方案。教学示例中的结论范围仅限这份合成数据。
报告包含可复算的观察、待查原因、措施和验证办法。
3.2.1 运行教学颜色模型,跟踪图片输入、ONNX 输出和 Top-5 候选。
先用一个简单颜色模型理解图像推理。实训生成六种颜色的样本,训练模型并导出为 ONNX。随后对一张教学图片运行模型,学习怎样把数值输出对应到颜色名称。
确认教学模型的用途
简单颜色模型减少了识别任务本身的复杂度,让你专注于输入、模型文件和输出之间怎样连接。
模型标签依次为 red、green、blue、yellow、cyan、magenta。
- 教学脚本为每种颜色生成 100 条带噪声 RGB 样本,共 600 条。
- 分类器从 RGB 特征学习颜色类别,再将权重保存到 ONNX 计算图。
- 推理阶段对图片的空间位置求 RGB 均值,再计算六个类别分数。
模型用于区分六类颜色。它不具备原题 ResNet 的物体分类能力,结果不能互相替代。
模型区分六种颜色。它与原题 ResNet 物体分类模型用途不同。
检查图片预处理
图片尺寸、颜色通道、数值类型和维度顺序都属于模型输入的一部分。任何一项不一致都可能导致报错或错误结果。
本包教学图按 RGB 读取并缩放为 224×224,像素原值范围为 0 至 255。
- 转换为 float32 并除以 255,例如 255 变为 1,0 仍为 0。
- 原形状 (224,224,3) 按 transpose(2,0,1) 变为 (3,224,224)。
- 添加一张图的批量维,得到 (1,3,224,224)。
本颜色模型只用 RGB/255。额外套用其他模型的均值方差会改变本模型约定的输入。
单图输入形状为 (1,3,224,224)。本颜色模型不使用 ImageNet 均值方差。
执行 ONNX 推理
运行时按模型声明的输入名接收数组。执行结果的每个位置对应一个类别分数,需要下一步再解释。
输入一张图,模型声明输入为 image,输出为六类 logits。
- InferenceSession 加载本任务生成的 teaching_colors.onnx。
- get_inputs()[0].name 读取实际输入名,用这个名字把数组交给 session.run。
- 输出形状为 (1,6),表示一张图对应六个类别分数。
logits 还不是百分比。检查输出约定后,本任务用 softmax 将同一张图的六个分数转换成和为 1 的分布。
得到每张图对应六个类别的输出分数。
排序并匹配标签
类别名来自标签表。排序函数给出数值所在的位置,需要保持标签顺序一致才能显示正确名称。
假设三个标签为 red、green、blue,概率为 [0.8,0.05,0.15]。这是帮助读排序的小例子。
- 按降序的索引为 [0,2,1],最高位置是 0。
- 到标签表的第 0 项取 red,再配上 0.8;第二项为 blue 0.15。
- 完整实训有六类,按同样方法取前五;默认图片第一候选为 red,约 0.886。
0.886 是这张图的类别概率输出,不能直接写为模型在所有图片上的准确率。
默认教学图片首位为 red,概率约 0.886。浮点末位可随环境略有差异。
核对结果与交互
导出格式后,需要确认计算仍与原实现一致。界面展示也要说明候选含义,并帮助用户从失败中恢复。
代码对同一输入分别执行 Python 模型和 ONNX 模型,比较分数差异。
- 查看 summary.json 中的输出差异记录,确认满足代码设定的容差。
- 核对模型、标签和 teaching_input.png 均已保存,Top-5 标签顺序正确。
- 为不支持格式准备“请选择 JPG 或 PNG 图片”的提示,保留重新选择入口。
浮点数末位可能略有差异。比较的是同一输入的计算一致性,不能替代真实物体数据上的准确率测试。
保存模型、labels.txt、teaching_input.png 和 summary.json,并解释候选结果。
4.2.1 把零售采集、清洗、标注和反馈要求写成其他人能执行的指导方案。
本题的交付物是一份数据操作指导。零售业务的交易、库存和顾客反馈来自不同系统,你需要说明每份数据怎么取得、怎么对应、发现问题后由谁处理。
列出数据源和用途
不同业务表提供不同信息。先按分析目的选字段,指导人员才能知道需要向哪个系统取什么数据。
计划比较商品销售与库存,手里有 POS 交易、商品主表和库存流水。
- 交易表提供订单行编号、商品编号、数量和金额,用于计算销售。
- 商品主表解释商品编号与类别,库存流水提供时间和库存变化。
- 会员或反馈数据只在本次分析需要时加入,说明具体字段用途。
方案应让每个数据来源都有用途,避免要求操作人员笼统收集所有信息。
每个数据源都有用途和字段说明。
确定采集和关联方法
两个系统的编号与更新时间可能不同。关联前确定匹配规则,才能避免把不同商品或不同时间的库存混起来。
交易表商品编号为 P01,库存表可能使用另一内部编号,且同一商品每天多行。
- 先确认编号映射,让 P01 对应到正确库存商品。
- 按业务要求选取相应时点的库存记录,检查连接键是否会一对多。
- 记录采集批次与失败重试,重复执行时按业务键避免重复写入。
仅按商品名相似就合并,或忽略日期直接连接,可能增加错误匹配与行数。
方案能说明何时采集、如何连接、重复记录怎样处理。
写清洗和标注规则
操作规范需要描述遇到具体值时做什么。写出字段、条件和处理去向,执行者才不用自行猜规则。
某笔交易金额缺失,另一条库存数量为负,评论中出现无法判断的情感。
- 金额缺失进入复核清单,保留订单行编号与来源,按确认规则补充或排除。
- 负库存先检查业务是否允许及原始流水,确认错误后再处理并记录原因。
- 情感争议标记待复核,按项目规范由指定人员判定,不临时增加类别。
清洗记录应保留原值、修改、理由与责任人。处理前后数量也需要能对应。
操作人员能根据规则处理具体样本,并保留前后数量。
安排访问与反馈
数据处理涉及采集、分析和复核等不同角色。每个角色的访问范围及问题去向写清楚后,异常才有人接手。
采集人员负责取得获授权数据,分析人员使用必要字段,复核人员处理异常清单。
- 写明谁可以读取、修改和导出哪些字段,使用任务需要的最小范围。
- 指定异常反馈入口,记录接收人、处理结论和完成状态。
- 规则更新后标注版本,复查受影响数据,并实际验证备份恢复。
“加强安全”需要落实为可检查动作。页面勾选只能记下自查,不能自动验证这些安排已执行。
发现问题后有明确接收人、处理记录和验证方式。
对照要求检查报告
开放方案没有唯一文字答案。检查重点是另一位人员能否依据你的文字完成操作,并留下可验证结果。
guidance.txt 是脚本生成的教学示范,实训报告练习册用于记录自己的方案。
- 先读示范中的来源、采集、清洗、安全与反馈安排,确认每项都指向具体动作。
- 依据原题情境写自己的字段和规则,补上异常时的接收人与检查证据。
- 逐项对照原题评分表,检查缺项与无法执行的笼统句子。
复制参考文字不自动代表完成业务设计。需要人工检查方案与本题要求是否对应。
guidance.txt 是教学示例。自己的报告应有可执行规则和检查证据。