ML-For-Beginners 责任 AI 实战指南机器学习中的公平性、安全、透明与问责原则【免费下载链接】ML-For-Beginners12 weeks, 26 lessons, 52 quizzes, classic Machine Learning for all项目地址: https://gitcode.com/GitHub_Trending/ml/ML-For-Beginners本文基于 ML-For-Beginners 课程 1-Introduction 第 3 课Fairness整理成文系统讲解用负责任的 AIResponsible AI构建机器学习系统这一主题从公平性的五类典型危害到可靠安全、包容性、安全与隐私、透明、问责六大核心原则再到训练前的影响评估Impact Assessment与基于责任 AI 的模型调试方法。读完后你将能够识别数据与模型中潜在的公平性危害、在建模前完成影响评估、并理解 RAIResponsible AI仪表盘四大调试组件的原理与适用场景。引言机器学习已经在替我们做决策当前机器学习系统已经深度介入日常决策任务医疗诊断、贷款审批、欺诈检测等。正如课程原文1-Introduction/3-fairness/README.md所述任何软件应用都可能达不到预期或产生不良结果AI 系统也不例外。因此理解并能解释一个 AI 模型的行为至关重要。课程引导读者思考一系列关键问题如果训练数据缺少某些人群种族、性别、政治观点、宗教等的样本或对这些人群表示失衡会发生什么如果模型输出被解读为偏向某个人群对应用意味着什么当模型产生伤害性结果时谁来为 AI 系统的行为负责本节的课程目标对应六个方面认识公平性及其相关危害、熟悉通过探索异常值与非典型场景来保证可靠与安全、理解设计包容性系统以赋能每个人、认识保护数据与个人隐私安全的必要性、理解玻璃箱glass box式可解释方法对说明 AI 行为的价值、以及意识到问责对建立 AI 系统信任的不可或缺。前置要求课程建议先完成 Responsible AI Principles责任 AI 原则学习路径并观看相关主题视频再进入本节学习。公平性AI 系统应当公平地对待每个人AI 系统应当公平地对待所有人避免以不同方式影响相似的人群。例如当 AI 系统就医疗治疗、贷款申请或雇佣提供建议时对于症状相似、财务状况相似或专业资质相似的个体应当给出相同的推荐。每个人作为人类都携带着与生俱来的偏见影响着决策与行为这些偏见可能显化在用于训练 AI 系统的数据中而这种操纵有时是无意识发生的——往往很难在主观上察觉自己正在向数据中引入偏见。**不公平Unfairness**涵盖对一个人群例如按种族、性别、年龄或残障状态界定的人群的负面影响即危害harms。与公平性相关的主要危害可归纳为以下五类危害类型含义典型案例分配Allocation某个性别或种族群体被优先于另一群体资源分配中偏向特定人群服务质量Quality of service用单一特定场景训练数据而现实更复杂导致服务表现差自动皂液器无法感应深色皮肤人群诋毁Denigration不公正地批评或给某人/某物贴标签图像分类技术曾将深色皮肤人物误标为大猩猩过度或欠代表Over/under-representation某类人群在某个职业中不可见持续强化此现象的服务都在造成危害招聘广告模型偏向某性别受众刻板印象Stereotyping将特定群体与预设属性关联英土翻译系统中因性别刻板词汇导致翻译错误其中刻板印象一类的课程示例值得展开英文 Hes a nurse. Shes a doctor. 翻译成土耳其语时由于土耳其语缺少性别代词被合并译为 O bir hemşire. O bir doktor.他/她是护士。他/她是医生。丧失了原文的性别指代信息——这正是把群体与预设属性关联在语言技术中的体现。下图即课程中展示的这一翻译示例课程强调在设计design和测试testAI 系统时必须确保 AI 是公平的没有被编程去做出有偏见或歧视性的决策——这些决策人类同样被禁止做出。保证 AI 与机器学习中的公平性仍然是一个复杂的社会技术sociotechnical挑战。其他五大责任 AI 原则除公平性外课程围绕责任 AI 六大原则逐一展开每一原则都是构建可信 AI 系统时不可省略的维度。可靠与安全Reliability and safety要建立信任AI 系统需要在正常与异常条件下都保持可靠、安全、一致。关键在于了解 AI 系统在各种情境下的行为尤其是面对异常值outliers时。构建 AI 解决方案时需要大量关注它将要遇到的各种环境条件。课程给出的经典例子是自动驾驶汽车它必须把人的安全放在最高优先级因此驱动汽车的 AI 需要考虑所有可能遇到的场景——黑夜、雷雨或暴风雪、跑过马路的儿童、宠物、道路施工等。AI 系统处理广阔条件范围的能力反映了数据科学家或 AI 开发者在设计或测试系统时所做预判的完备程度。包容性InclusivenessAI 系统应当被设计得能够接触并赋能每个人。在设计并实现 AI 系统时数据科学家与 AI 开发者需要识别并处理系统中可能无意中排除某些人的障碍。课程指出全球约有 10 亿人患有残障随着 AI 的进步他们可以在日常生活中更便捷地获取广泛的信息与机会。处理这些障碍会创造出创新机会开发出体验更好、惠及所有人的 AI 产品。安全与隐私Security and privacyAI 系统应当安全并尊重个人隐私。对于会危及隐私、信息甚至生命的系统人们的信任度更低。训练机器学习模型依赖数据来获得最佳结果在此过程中必须考虑数据的来源与完整性——例如数据是用户提交的还是公开可获取的在处理数据时关键在于开发能够保护机密信息并抵抗攻击的 AI 系统。课程列举了该领域的几个关键事实判断行业在隐私与安全方面取得了重大进展很大程度上由 GDPR通用数据保护条例等法规推动但在 AI 系统中必须承认一个张力需要更多个人数据来让系统更个性化、更有效——与隐私之间的张力就像互联计算机诞生时一样我们也看到与 AI 相关的安全问题数量大幅上升同时AI 也被用于改进安全例如如今大多数现代反病毒扫描器都由 AI 启发式heuristics驱动必须确保数据科学流程与最新的隐私和安全实践协调一致。隐私与数据安全之所以对 AI 需要格外关注是因为访问数据是 AI 系统对个人做出准确、知情预测与决策的前提。透明TransparencyAI 系统应当是可理解的。透明的核心部分是解释 AI 系统及其组件的行为。改进对 AI 系统的理解需要利益相关者stakeholders理解系统如何以及为何运作以便他们能识别潜在的性能问题、安全与隐私隐患、偏见、排他性做法或意外后果。使用 AI 系统的人应当诚实地说明他们何时、为何、如何部署这些系统以及所使用系统的局限性。课程举例如果一家银行用 AI 系统支持其消费信贷决策那么检查结果并理解哪些数据影响了系统推荐就非常重要。由于政府开始跨行业监管 AI数据科学家与组织必须解释其 AI 系统是否满足监管要求尤其是在出现不良结果时。课程同时提示了理解缺失的三重影响AI 系统非常复杂难以理解其工作方式与结果解读这种理解缺失影响系统被管理、运营与文档化的方式更重要的是它影响基于系统产出结果所做的决策。问责Accountability设计并部署 AI 系统的人必须对其系统如何运行负责。对于人脸识别这类敏感技术问责需求尤为关键。课程指出人脸识别需求不断增长尤其是执法组织在寻找失踪儿童等用途中看到了潜力但这些技术也可能被政府用于危及公民基本自由——例如实现对特定个人的持续监控。因此数据科学家与组织必须对其 AI 系统如何影响个人或社会负责。课程的最终追问是作为第一个把 AI 带入社会的世代我们如何确保计算机对人保持问责以及设计计算机的人对其他人保持问责影响评估Impact Assessment训练模型之前的必要步骤在训练机器学习模型之前进行影响评估impact assessment非常重要目的是理解AI 系统的目的、预期用途、部署位置以及将与系统交互的人。这些评估有助于评审者或测试者了解在识别潜在风险与预期后果时需要考虑哪些因素。课程明确列出影响评估的四个关注领域对个人的不利影响Adverse impact on individuals了解任何限制或要求、不受支持的使用方式或任何阻碍系统性能的已知局限对于确保系统不被以伤害个人的方式使用至关重要。数据要求Data requirements理解系统将如何在何处使用数据使评审者能探查需要注意的数据合规要求如 GDPR 或 HIPAA 数据法规并检查训练数据的来源或数量是否充足。影响摘要Summary of impact收集可能因使用系统而引发的潜在危害清单并在机器学习全生命周期中复查这些问题是否已被缓解或处理。六大核心原则的适用目标Applicable goals评估每个原则的目标是否达成是否存在差距。用责任 AI 调试系统Debugging with Responsible AI与调试软件应用类似调试 AI 系统是识别并解决系统问题所必需的流程。课程指出传统方法的两个不足大多数传统模型性能指标是模型性能的量化聚合如整体准确率不足以分析模型如何违反责任 AI 原则机器学习模型是黑盒难以理解是什么驱动其结果也难以在其犯错时给出解释。课程说明稍后在课程第 9 周现实世界部分将学习如何使用责任 AI 仪表盘Responsible AI dashboard帮助调试 AI 系统。该仪表盘为数据科学家与 AI 开发者提供四类能力错误分析Error analysis识别影响系统公平性或可靠性的模型错误分布模型概览Model overview发现模型在不同数据群组cohorts间性能的不平等disparities数据分析Data analysis理解数据分布识别数据中可能导致公平、包容与可靠问题的潜在偏见模型可解释性Model interpretability理解什么因素驱动模型预测帮助解释模型行为这对透明与问责很重要。从课程结构看 RAI 调试的落地四大组件详解从课程仓库结构看上述四个调试能力在第 9 周课程 9-Real-World/2-Debugging-ML-Models/README.md 中得到了完整的展开与工具化说明可以作为本节后继阅读理解各组件的实际用法错误分析传统准确率指标往往是正确 vs 错误预测的计算结果。一个模型可能整体准确率 89%但在数据的某些区域失败率高达 42%。RAI 仪表盘的错误分析组件用树状可视化tree visualization展示模型失败在各群组上的分布树节点中越深的红色表示错误率越高此外还支持用一到两个特征绘制热图heatmap在全数据集或各群组中定位错误贡献源。适用场景包括深入理解模型失败如何在数据集及多个输入/特征维度上分布把聚合性能指标拆解自动发现有错误的群组为针对性缓解提供依据。模型概览评估模型性能需要整体理解其行为要查看不止一个指标错误率、准确率、召回、精确率、MAE 等因为一个指标表现很好时另一个指标可能暴露不准。该组件支持两类不平等disparity指标模型性能不平等计算所选性能指标在不同数据子群之间的差异例如准确率差异、错误率差异、精确率差异、召回率差异、MAE 差异选择率不平等selection rate disparity子群之间有利预测选择率的差异例如贷款批准率的差异。选择率指二分类中被判为 1 的数据点比例或回归中预测值的分布。组件还支持基于特征的群组生成能力如自动生成 time_in_hospital 3 或 time_in_hospital 7 的子群便于把某一特征从更大的数据群体中隔离出来验证它是否是模型错误结果的关键影响因子。数据分析数据是传统性能指标的大盲区。课程仓库给出了一个量化示例如果公司员工数据集中高管层 27% 是女性、73% 是男性基于此数据训练的职位广告 AI 模型就倾向于主要面向男性受众投放高层职位——这种数据失衡把模型预测偏向了某个性别暴露出性别偏见。数据分析组件帮助用户识别数据集中的过度/欠代表区域可基于预测与实际结果、错误群组、特定特征来可视化数据集发现欠代表群组还可能揭示模型没有学好从而产生高错误率。模型可解释性Feature Importance该组件帮助用户理解模型如何做预测支持全局解释哪些特征整体影响模型行为与局部解释哪个特征导致了某个具体案例的预测。一个极具诊断价值的用法是如果某个敏感特征如种族、性别对模型预测影响显著这可能是模型存在种族或性别偏见的信号。可解释性适用于回答三类问题模型调试模型为何犯错、如何改进、人机协作如何理解并信任模型决策、监管合规模型是否满足法律要求。预防危害课程挑战环节的行动清单课程的 Challenge 部分给出了防止危害在源头被引入的三条建议这也是整节课的行动纲领在系统建设团队中保持背景与观点的多样性投资于反映社会多样性的数据集在整个机器学习生命周期中发展更好的方法来检测并纠正已经发生的不负责任的 AI。课程进一步引导思考设想模型不可信untrustworthiness在模型构建与使用中显而易见的真实场景我们还应考虑什么自学扩展与本课程的作业课程的 Review Self Study 部分推荐了深入学习的材料方向由 Besmira Nushi、Mehrnoosh Sameki 与 Amit Sharma 主持的 In pursuit of responsible AI: Bringing principles to practice 工作坊关于责任 AI 工具箱RAI Toolbox一个用于构建责任 AI 的开源框架的研讨视频微软 RAI 资源中心与 FATEFairness, Accountability, Transparency, and Ethics研究主题页以及 Azure Machine Learning 中用于保证公平性的工具文档。其中 RAI Toolbox 是一个帮助数据科学家分析并改进 AI 系统的开源、社区驱动项目。对应本课程的作业定义在 1-Introduction/3-fairness/assignment.md探索 RAI Toolbox 的一个 notebook例如 responsibleaidashboard 下 tabular 的 getting-started 示例并以论文或演示形式报告发现内容应涵盖 Fairlearn 系统、所运行的 notebook 以及从运行中得出的结论。评分标准分为三级优秀级要求论文或演示中讨论 Fairlearn、所运行的 notebook 及运行结论合格级为有论文但无结论不合格为未提交论文。小结这节课Fairness是 ML-For-Beginners 课程Introduction单元中承上启下的一课它先确立了责任 AI 的六大原则与五类公平性危害的分类法随后给出训练前的影响评估框架最后把责任 AI 调试作为后续课程的工具性伏笔。从仓库结构看其四个调试组件在 9-Real-World/2-Debugging-ML-Models/README.md 中有完整的组件级展开错误分析树图与热图、模型概览的两类 disparity 指标、数据分析与特征重要性两者配合构成了从原则认知到工具实操的完整学习路径。掌握本节内容后读者在动手训练模型前会自然地多问四个问题我的数据代表谁错误集中在哪些群组谁将与我系统交互出问题时谁负责——这正是负责任的机器学习工程实践的核心。【免费下载链接】ML-For-Beginners12 weeks, 26 lessons, 52 quizzes, classic Machine Learning for all项目地址: https://gitcode.com/GitHub_Trending/ml/ML-For-Beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 ML-For-Beginners 责任 AI 实战指南：机器学习中的公平性、安全、透明与问责原则
ML-For-Beginners 责任 AI 实战指南机器学习中的公平性、安全、透明与问责原则【免费下载链接】ML-For-Beginners12 weeks, 26 lessons, 52 quizzes, classic Machine Learning for all项目地址: https://gitcode.com/GitHub_Trending/ml/ML-For-Beginners本文基于 ML-For-Beginners 课程 1-Introduction 第 3 课Fairness整理成文系统讲解用负责任的 AIResponsible AI构建机器学习系统这一主题从公平性的五类典型危害到可靠安全、包容性、安全与隐私、透明、问责六大核心原则再到训练前的影响评估Impact Assessment与基于责任 AI 的模型调试方法。读完后你将能够识别数据与模型中潜在的公平性危害、在建模前完成影响评估、并理解 RAIResponsible AI仪表盘四大调试组件的原理与适用场景。引言机器学习已经在替我们做决策当前机器学习系统已经深度介入日常决策任务医疗诊断、贷款审批、欺诈检测等。正如课程原文1-Introduction/3-fairness/README.md所述任何软件应用都可能达不到预期或产生不良结果AI 系统也不例外。因此理解并能解释一个 AI 模型的行为至关重要。课程引导读者思考一系列关键问题如果训练数据缺少某些人群种族、性别、政治观点、宗教等的样本或对这些人群表示失衡会发生什么如果模型输出被解读为偏向某个人群对应用意味着什么当模型产生伤害性结果时谁来为 AI 系统的行为负责本节的课程目标对应六个方面认识公平性及其相关危害、熟悉通过探索异常值与非典型场景来保证可靠与安全、理解设计包容性系统以赋能每个人、认识保护数据与个人隐私安全的必要性、理解玻璃箱glass box式可解释方法对说明 AI 行为的价值、以及意识到问责对建立 AI 系统信任的不可或缺。前置要求课程建议先完成 Responsible AI Principles责任 AI 原则学习路径并观看相关主题视频再进入本节学习。公平性AI 系统应当公平地对待每个人AI 系统应当公平地对待所有人避免以不同方式影响相似的人群。例如当 AI 系统就医疗治疗、贷款申请或雇佣提供建议时对于症状相似、财务状况相似或专业资质相似的个体应当给出相同的推荐。每个人作为人类都携带着与生俱来的偏见影响着决策与行为这些偏见可能显化在用于训练 AI 系统的数据中而这种操纵有时是无意识发生的——往往很难在主观上察觉自己正在向数据中引入偏见。**不公平Unfairness**涵盖对一个人群例如按种族、性别、年龄或残障状态界定的人群的负面影响即危害harms。与公平性相关的主要危害可归纳为以下五类危害类型含义典型案例分配Allocation某个性别或种族群体被优先于另一群体资源分配中偏向特定人群服务质量Quality of service用单一特定场景训练数据而现实更复杂导致服务表现差自动皂液器无法感应深色皮肤人群诋毁Denigration不公正地批评或给某人/某物贴标签图像分类技术曾将深色皮肤人物误标为大猩猩过度或欠代表Over/under-representation某类人群在某个职业中不可见持续强化此现象的服务都在造成危害招聘广告模型偏向某性别受众刻板印象Stereotyping将特定群体与预设属性关联英土翻译系统中因性别刻板词汇导致翻译错误其中刻板印象一类的课程示例值得展开英文 Hes a nurse. Shes a doctor. 翻译成土耳其语时由于土耳其语缺少性别代词被合并译为 O bir hemşire. O bir doktor.他/她是护士。他/她是医生。丧失了原文的性别指代信息——这正是把群体与预设属性关联在语言技术中的体现。下图即课程中展示的这一翻译示例课程强调在设计design和测试testAI 系统时必须确保 AI 是公平的没有被编程去做出有偏见或歧视性的决策——这些决策人类同样被禁止做出。保证 AI 与机器学习中的公平性仍然是一个复杂的社会技术sociotechnical挑战。其他五大责任 AI 原则除公平性外课程围绕责任 AI 六大原则逐一展开每一原则都是构建可信 AI 系统时不可省略的维度。可靠与安全Reliability and safety要建立信任AI 系统需要在正常与异常条件下都保持可靠、安全、一致。关键在于了解 AI 系统在各种情境下的行为尤其是面对异常值outliers时。构建 AI 解决方案时需要大量关注它将要遇到的各种环境条件。课程给出的经典例子是自动驾驶汽车它必须把人的安全放在最高优先级因此驱动汽车的 AI 需要考虑所有可能遇到的场景——黑夜、雷雨或暴风雪、跑过马路的儿童、宠物、道路施工等。AI 系统处理广阔条件范围的能力反映了数据科学家或 AI 开发者在设计或测试系统时所做预判的完备程度。包容性InclusivenessAI 系统应当被设计得能够接触并赋能每个人。在设计并实现 AI 系统时数据科学家与 AI 开发者需要识别并处理系统中可能无意中排除某些人的障碍。课程指出全球约有 10 亿人患有残障随着 AI 的进步他们可以在日常生活中更便捷地获取广泛的信息与机会。处理这些障碍会创造出创新机会开发出体验更好、惠及所有人的 AI 产品。安全与隐私Security and privacyAI 系统应当安全并尊重个人隐私。对于会危及隐私、信息甚至生命的系统人们的信任度更低。训练机器学习模型依赖数据来获得最佳结果在此过程中必须考虑数据的来源与完整性——例如数据是用户提交的还是公开可获取的在处理数据时关键在于开发能够保护机密信息并抵抗攻击的 AI 系统。课程列举了该领域的几个关键事实判断行业在隐私与安全方面取得了重大进展很大程度上由 GDPR通用数据保护条例等法规推动但在 AI 系统中必须承认一个张力需要更多个人数据来让系统更个性化、更有效——与隐私之间的张力就像互联计算机诞生时一样我们也看到与 AI 相关的安全问题数量大幅上升同时AI 也被用于改进安全例如如今大多数现代反病毒扫描器都由 AI 启发式heuristics驱动必须确保数据科学流程与最新的隐私和安全实践协调一致。隐私与数据安全之所以对 AI 需要格外关注是因为访问数据是 AI 系统对个人做出准确、知情预测与决策的前提。透明TransparencyAI 系统应当是可理解的。透明的核心部分是解释 AI 系统及其组件的行为。改进对 AI 系统的理解需要利益相关者stakeholders理解系统如何以及为何运作以便他们能识别潜在的性能问题、安全与隐私隐患、偏见、排他性做法或意外后果。使用 AI 系统的人应当诚实地说明他们何时、为何、如何部署这些系统以及所使用系统的局限性。课程举例如果一家银行用 AI 系统支持其消费信贷决策那么检查结果并理解哪些数据影响了系统推荐就非常重要。由于政府开始跨行业监管 AI数据科学家与组织必须解释其 AI 系统是否满足监管要求尤其是在出现不良结果时。课程同时提示了理解缺失的三重影响AI 系统非常复杂难以理解其工作方式与结果解读这种理解缺失影响系统被管理、运营与文档化的方式更重要的是它影响基于系统产出结果所做的决策。问责Accountability设计并部署 AI 系统的人必须对其系统如何运行负责。对于人脸识别这类敏感技术问责需求尤为关键。课程指出人脸识别需求不断增长尤其是执法组织在寻找失踪儿童等用途中看到了潜力但这些技术也可能被政府用于危及公民基本自由——例如实现对特定个人的持续监控。因此数据科学家与组织必须对其 AI 系统如何影响个人或社会负责。课程的最终追问是作为第一个把 AI 带入社会的世代我们如何确保计算机对人保持问责以及设计计算机的人对其他人保持问责影响评估Impact Assessment训练模型之前的必要步骤在训练机器学习模型之前进行影响评估impact assessment非常重要目的是理解AI 系统的目的、预期用途、部署位置以及将与系统交互的人。这些评估有助于评审者或测试者了解在识别潜在风险与预期后果时需要考虑哪些因素。课程明确列出影响评估的四个关注领域对个人的不利影响Adverse impact on individuals了解任何限制或要求、不受支持的使用方式或任何阻碍系统性能的已知局限对于确保系统不被以伤害个人的方式使用至关重要。数据要求Data requirements理解系统将如何在何处使用数据使评审者能探查需要注意的数据合规要求如 GDPR 或 HIPAA 数据法规并检查训练数据的来源或数量是否充足。影响摘要Summary of impact收集可能因使用系统而引发的潜在危害清单并在机器学习全生命周期中复查这些问题是否已被缓解或处理。六大核心原则的适用目标Applicable goals评估每个原则的目标是否达成是否存在差距。用责任 AI 调试系统Debugging with Responsible AI与调试软件应用类似调试 AI 系统是识别并解决系统问题所必需的流程。课程指出传统方法的两个不足大多数传统模型性能指标是模型性能的量化聚合如整体准确率不足以分析模型如何违反责任 AI 原则机器学习模型是黑盒难以理解是什么驱动其结果也难以在其犯错时给出解释。课程说明稍后在课程第 9 周现实世界部分将学习如何使用责任 AI 仪表盘Responsible AI dashboard帮助调试 AI 系统。该仪表盘为数据科学家与 AI 开发者提供四类能力错误分析Error analysis识别影响系统公平性或可靠性的模型错误分布模型概览Model overview发现模型在不同数据群组cohorts间性能的不平等disparities数据分析Data analysis理解数据分布识别数据中可能导致公平、包容与可靠问题的潜在偏见模型可解释性Model interpretability理解什么因素驱动模型预测帮助解释模型行为这对透明与问责很重要。从课程结构看 RAI 调试的落地四大组件详解从课程仓库结构看上述四个调试能力在第 9 周课程 9-Real-World/2-Debugging-ML-Models/README.md 中得到了完整的展开与工具化说明可以作为本节后继阅读理解各组件的实际用法错误分析传统准确率指标往往是正确 vs 错误预测的计算结果。一个模型可能整体准确率 89%但在数据的某些区域失败率高达 42%。RAI 仪表盘的错误分析组件用树状可视化tree visualization展示模型失败在各群组上的分布树节点中越深的红色表示错误率越高此外还支持用一到两个特征绘制热图heatmap在全数据集或各群组中定位错误贡献源。适用场景包括深入理解模型失败如何在数据集及多个输入/特征维度上分布把聚合性能指标拆解自动发现有错误的群组为针对性缓解提供依据。模型概览评估模型性能需要整体理解其行为要查看不止一个指标错误率、准确率、召回、精确率、MAE 等因为一个指标表现很好时另一个指标可能暴露不准。该组件支持两类不平等disparity指标模型性能不平等计算所选性能指标在不同数据子群之间的差异例如准确率差异、错误率差异、精确率差异、召回率差异、MAE 差异选择率不平等selection rate disparity子群之间有利预测选择率的差异例如贷款批准率的差异。选择率指二分类中被判为 1 的数据点比例或回归中预测值的分布。组件还支持基于特征的群组生成能力如自动生成 time_in_hospital 3 或 time_in_hospital 7 的子群便于把某一特征从更大的数据群体中隔离出来验证它是否是模型错误结果的关键影响因子。数据分析数据是传统性能指标的大盲区。课程仓库给出了一个量化示例如果公司员工数据集中高管层 27% 是女性、73% 是男性基于此数据训练的职位广告 AI 模型就倾向于主要面向男性受众投放高层职位——这种数据失衡把模型预测偏向了某个性别暴露出性别偏见。数据分析组件帮助用户识别数据集中的过度/欠代表区域可基于预测与实际结果、错误群组、特定特征来可视化数据集发现欠代表群组还可能揭示模型没有学好从而产生高错误率。模型可解释性Feature Importance该组件帮助用户理解模型如何做预测支持全局解释哪些特征整体影响模型行为与局部解释哪个特征导致了某个具体案例的预测。一个极具诊断价值的用法是如果某个敏感特征如种族、性别对模型预测影响显著这可能是模型存在种族或性别偏见的信号。可解释性适用于回答三类问题模型调试模型为何犯错、如何改进、人机协作如何理解并信任模型决策、监管合规模型是否满足法律要求。预防危害课程挑战环节的行动清单课程的 Challenge 部分给出了防止危害在源头被引入的三条建议这也是整节课的行动纲领在系统建设团队中保持背景与观点的多样性投资于反映社会多样性的数据集在整个机器学习生命周期中发展更好的方法来检测并纠正已经发生的不负责任的 AI。课程进一步引导思考设想模型不可信untrustworthiness在模型构建与使用中显而易见的真实场景我们还应考虑什么自学扩展与本课程的作业课程的 Review Self Study 部分推荐了深入学习的材料方向由 Besmira Nushi、Mehrnoosh Sameki 与 Amit Sharma 主持的 In pursuit of responsible AI: Bringing principles to practice 工作坊关于责任 AI 工具箱RAI Toolbox一个用于构建责任 AI 的开源框架的研讨视频微软 RAI 资源中心与 FATEFairness, Accountability, Transparency, and Ethics研究主题页以及 Azure Machine Learning 中用于保证公平性的工具文档。其中 RAI Toolbox 是一个帮助数据科学家分析并改进 AI 系统的开源、社区驱动项目。对应本课程的作业定义在 1-Introduction/3-fairness/assignment.md探索 RAI Toolbox 的一个 notebook例如 responsibleaidashboard 下 tabular 的 getting-started 示例并以论文或演示形式报告发现内容应涵盖 Fairlearn 系统、所运行的 notebook 以及从运行中得出的结论。评分标准分为三级优秀级要求论文或演示中讨论 Fairlearn、所运行的 notebook 及运行结论合格级为有论文但无结论不合格为未提交论文。小结这节课Fairness是 ML-For-Beginners 课程Introduction单元中承上启下的一课它先确立了责任 AI 的六大原则与五类公平性危害的分类法随后给出训练前的影响评估框架最后把责任 AI 调试作为后续课程的工具性伏笔。从仓库结构看其四个调试组件在 9-Real-World/2-Debugging-ML-Models/README.md 中有完整的组件级展开错误分析树图与热图、模型概览的两类 disparity 指标、数据分析与特征重要性两者配合构成了从原则认知到工具实操的完整学习路径。掌握本节内容后读者在动手训练模型前会自然地多问四个问题我的数据代表谁错误集中在哪些群组谁将与我系统交互出问题时谁负责——这正是负责任的机器学习工程实践的核心。【免费下载链接】ML-For-Beginners12 weeks, 26 lessons, 52 quizzes, classic Machine Learning for all项目地址: https://gitcode.com/GitHub_Trending/ml/ML-For-Beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考