为 AI 应用设计出色的用户体验generative-ai-for-beginners 第 12 课实战指南【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners用户体验是构建 AI 应用时最关键的环节之一用户需要能高效地完成任务应用也必须让所有人都能用、愿意用。本文基于本仓库第 12 课韩文版translations/ko/12-designing-ux-for-ai-applications/README.md英文原版12-designing-ux-for-ai-applications/README.md系统讲解 AI 应用 UX 设计的方法论并结合仓库内的源码与示例帮助你掌握理解用户需求、围绕有用、可靠、可访问、愉悦四要素设计产品以及通过可解释性、用户控制、反馈循环来建立信任并应对错误。课程脉络本课解决什么问题本课是《Generative AI for Beginners》21 课系列的第 12 课前承提示工程与各类生成式应用构建后接第 13 课为 AI 应用做安全防护。它的关注点从模型能做什么转向用户怎么感知和使用你的产品。课程覆盖三大领域用户体验UX入门与理解用户需求为信任与透明性设计 AI 应用为协作与反馈设计 AI 应用。学习目标也很明确学完本课后你能够构建满足用户需求的 AI 应用并设计出能促进信任与协作的 AI 应用。理解用户需求以用户为中心的设计起点在课程设定的虚拟教育科技创业公司场景中存在两类主要用户——教师与学生他们各有独特的需求。以用户为中心的设计User-Centered Design把用户放在首位确保产品对目标人群既有相关性又有益。一个能提供良好用户体验的 AI 应用应同时具备四个品质有用性Useful、可靠性Reliable、可访问性Accessible与愉悦性Pleasant。有用性Useful有用意味着应用的功能与其设计目的匹配。例如课程中的教育场景自动批改作业的应用应能基于预定义标准准确、高效地为学生作业打分生成复习闪卡的应用应能基于数据生成相关且多样的问题。值得注意的是并非所有问题都能用 AI 解决。AI 的价值在于增强用户体验——无论是自动化人工任务还是个性化用户体验都是锦上添花而非包治百病。可靠性Reliable可靠意味着应用能一致地、无差错地完成任务。但 AI 和人一样并不完美随时可能出错或遇到需要人工介入的意外情况。错误处理策略是可靠性的核心课程在最后一节为协作与反馈设计中会专门展开。可访问性Accessible可访问性意味着把用户体验扩展到各种能力的用户尤其是残障用户确保不落下任何人。遵循可访问性指南与原则AI 解决方案对全体用户会变得更包容、更可用、更有益。愉悦性Pleasant愉悦意味着应用用起来令人愉快。有吸引力的用户体验会正向激励用户促使用户再次回到应用并最终提升业务收益。课程作业中给出了一组自检问题你的应用是否处处都有说明是否鼓励用户去探索错误信息是如何措辞的为信任与透明性设计可解释性与控制构建信任是设计 AI 应用时的关键环节。信任让用户确信应用能完成任务、结果稳定一致、结果正是用户所需。这个领域存在两大风险不信任Mistrust用户对 AI 系统几乎不信任导致拒绝使用你的应用过度信任Overtrust用户高估 AI 系统的能力过度依赖它。例如自动批改系统中教师可能因此跳过抽查部分试卷直接采信批改结果从而给出不公平或不准确的分数也错失反馈和改进的机会。把信任置于设计中心有两种手段可解释性Explainability与控制Control。可解释性让用户理解 AI 如何决策当 AI 参与影响深远的决策例如向下一代传递知识时教师和家长必须理解 AI 的决策过程——这就是可解释性。落地方式包括1. 明确标识 AI 身份。受众必须意识到输出来自 AI 而非真人。比如不要写现在就和你的导师聊天吧而应写使用能适应你需求、帮助你按自己节奏学习的 AI 导师。2. 说清 AI 如何使用用户与个人数据。以学生这一 persona 为例基于 persona 限制AI 可能不能直接揭示答案但可以引导用户思考如何自行解题。3. 简化解释。学生和教师未必是 AI 专家因此对应用能做什么、不能做什么的解释应当简洁易懂。在仓库中persona 思想与示例代码一脉相承。06-text-generation-apps/python/oai-history-bot.py 让用户输入一位历史人物作为 persona并在提示词中约束模型每当被问到某些问题时你需要回忆时间线与事件的事实并只给出准确答案。不要自行编造内容。如果你不知道某件事就直说你不记得了。这正是把模型边界不知道就承认写进提示词的工程化实践与课程倡导的诚实、可解释一脉相承。控制把主动权交还给用户生成式 AI 本质上是 AI 与用户之间的协作用户可以修改提示词以获得不同结果输出生成后用户也应能修改结果从而获得掌控感。以微软 Copilot原 Bing Chat为例用户可按格式、语气、长度定制提示词用户还能对输出追加修改、调整结果。另一个赋予用户控制权的特性是数据使用的 opt-in / opt-out用户可以决定是否让 AI 使用自己的数据。对学校应用而言学生可能既想用自己的笔记也想把老师的资料纳入复习材料——是否允许这类数据参与决定权应在用户手中。设计 AI 应用时刻意性intentionality是关键要防止用户过度信任而对能力产生不切实际的预期。一种实现方式是在提示词与结果之间制造摩擦——提醒用户这是 AI不是同类的人类。这种控制与安全思想在仓库源码中有大量落地shared/python/env_utils.py 中的get_required_env、validate_env_vars强制校验 API 密钥等敏感配置确保密钥不散落在代码中用户可自行决定配置来源shared/python/api_utils.py 中的create_openai_client/create_azure_openai_client统一封装客户端创建密钥全部来自环境变量06-text-generation-apps/python/oai-app-recipe.py 展示了对生成结果的再加工第一步先生成菜谱第二步把菜谱结果回填到新提示词中生成购物清单——用户通过追加提示词持续控制输出走向并显式指定max_output_tokens输出上限与temperature随机性等生成参数从参数层面掌控模型行为。为协作与反馈设计反馈循环与错误处理如前所述生成式 AI 创建了用户与 AI 之间的协作。大多数交互是用户输入提示词 → AI 生成输出。那么问题来了如果输出是错误的怎么办应用出现错误时如何处理AI 是责备用户还是花时间解释错误AI 应用应当既能接收反馈也能给予反馈。这不仅帮助 AI 系统持续改进也能与用户建立信任。设计上应包含反馈循环Feedback Loop例如在输出上提供简单的点赞/点踩thumbs up/down。同时还要清晰传达系统的能力与局限。当用户提出超出 AI 能力的请求时系统应有明确的应对方式。系统错误是常态。例如用户需要 AI 训练范围之外的信息帮助或应用限制了用户可生成摘要的问题/主题数量。比如一个仅用历史与数学数据训练的 AI 应用可能无法处理地理类问题。为缓解这类情况AI 系统应给出类似回复抱歉我们的产品仅使用以下科目的数据训练……我无法回答您提出的问题。AI 应用并不完美必然会犯错。设计应用时应当为用户反馈预留空间并以简单、易于解释的方式处理错误。这一原则在仓库中同样有工程化支撑。shared/python/input_validation.py 提供了完整的输入校验与清洗工具链validate_number_input将字符串输入转为限定范围内的整数例如限制作业批改的分数范围默认 1–100validate_text_input校验文本长度默认最长 500 字符、最短 1 字符拒绝空输入与超长输入sanitize_prompt_input专门用于 LLM 提示词的清洗会移除空字节、控制字符并过滤模板注入{{...}}、变量替换${...}、script标签、javascript:等危险模式从源头降低提示注入风险——这正是错误处理与用户数据安全在实现层的体现validate_email/validate_url对用户提交的邮箱与链接做格式校验默认仅允许 HTTPS。配套的测试用例位于 tests/test_input_validation.py可验证这些校验函数在边界场景超长、空值、非法字符下的行为说明可靠的输入处理是可以被自动化测试保障的。而 07-building-chat-applications/js-githubmodels/app.js 则展示了另一个实践启动时对必需的AZURE_INFERENCE_CREDENTIAL、AZURE_INFERENCE_ENDPOINT环境变量做显式校验缺失即报错退出——让能力边界与前置条件对使用者完全透明。实践作业把 UX 原则落地到你的 AI 应用课程为读者布置了可立即执行的作业把下面四组原则实现到你已经构建的任何 AI 应用例如本仓库第 6 课文本生成应用、第 7 课聊天应用中构建的应用中愉悦性Pleasant思考如何让应用更令人愉悦——是否在处处补充说明是否鼓励用户探索错误消息是如何措辞的可用性Usability构建 Web 应用时确保应用既可用鼠标导航也可用键盘导航键盘可达性是可访问性的基础。信任与透明性Trust and Transparency不要完全信任 AI 及其输出——考虑如何在流程中加入人工核验环节同时思考并实现其他达成信任与透明性的方式例如上文的 AI 身份标识、能力边界说明。控制Control把用户提供的数据的控制权交给用户——实现用户在 AI 应用中对数据收集 opt-in / opt-out的机制。小结AI 应用的成败不止取决于模型能力更取决于用户体验设计以用户为中心平衡有用性、可靠性、可访问性、愉悦性四要素用可解释性与控制把信任植入设计用反馈循环与诚实、简单的错误处理支撑长期协作。本仓库中的共享工具库shared/python/input_validation.py、shared/python/api_utils.py、shared/python/env_utils.py与各课示例代码为这些设计原则提供了可直接复用的实现范例。学完本课后可继续学习第 13 课深入了解如何为 AI 应用构建安全防护——安全与信任正是良好 UX 的基石。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 为 AI 应用设计出色的用户体验：generative-ai-for-beginners 第 12 课实战指南
为 AI 应用设计出色的用户体验generative-ai-for-beginners 第 12 课实战指南【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners用户体验是构建 AI 应用时最关键的环节之一用户需要能高效地完成任务应用也必须让所有人都能用、愿意用。本文基于本仓库第 12 课韩文版translations/ko/12-designing-ux-for-ai-applications/README.md英文原版12-designing-ux-for-ai-applications/README.md系统讲解 AI 应用 UX 设计的方法论并结合仓库内的源码与示例帮助你掌握理解用户需求、围绕有用、可靠、可访问、愉悦四要素设计产品以及通过可解释性、用户控制、反馈循环来建立信任并应对错误。课程脉络本课解决什么问题本课是《Generative AI for Beginners》21 课系列的第 12 课前承提示工程与各类生成式应用构建后接第 13 课为 AI 应用做安全防护。它的关注点从模型能做什么转向用户怎么感知和使用你的产品。课程覆盖三大领域用户体验UX入门与理解用户需求为信任与透明性设计 AI 应用为协作与反馈设计 AI 应用。学习目标也很明确学完本课后你能够构建满足用户需求的 AI 应用并设计出能促进信任与协作的 AI 应用。理解用户需求以用户为中心的设计起点在课程设定的虚拟教育科技创业公司场景中存在两类主要用户——教师与学生他们各有独特的需求。以用户为中心的设计User-Centered Design把用户放在首位确保产品对目标人群既有相关性又有益。一个能提供良好用户体验的 AI 应用应同时具备四个品质有用性Useful、可靠性Reliable、可访问性Accessible与愉悦性Pleasant。有用性Useful有用意味着应用的功能与其设计目的匹配。例如课程中的教育场景自动批改作业的应用应能基于预定义标准准确、高效地为学生作业打分生成复习闪卡的应用应能基于数据生成相关且多样的问题。值得注意的是并非所有问题都能用 AI 解决。AI 的价值在于增强用户体验——无论是自动化人工任务还是个性化用户体验都是锦上添花而非包治百病。可靠性Reliable可靠意味着应用能一致地、无差错地完成任务。但 AI 和人一样并不完美随时可能出错或遇到需要人工介入的意外情况。错误处理策略是可靠性的核心课程在最后一节为协作与反馈设计中会专门展开。可访问性Accessible可访问性意味着把用户体验扩展到各种能力的用户尤其是残障用户确保不落下任何人。遵循可访问性指南与原则AI 解决方案对全体用户会变得更包容、更可用、更有益。愉悦性Pleasant愉悦意味着应用用起来令人愉快。有吸引力的用户体验会正向激励用户促使用户再次回到应用并最终提升业务收益。课程作业中给出了一组自检问题你的应用是否处处都有说明是否鼓励用户去探索错误信息是如何措辞的为信任与透明性设计可解释性与控制构建信任是设计 AI 应用时的关键环节。信任让用户确信应用能完成任务、结果稳定一致、结果正是用户所需。这个领域存在两大风险不信任Mistrust用户对 AI 系统几乎不信任导致拒绝使用你的应用过度信任Overtrust用户高估 AI 系统的能力过度依赖它。例如自动批改系统中教师可能因此跳过抽查部分试卷直接采信批改结果从而给出不公平或不准确的分数也错失反馈和改进的机会。把信任置于设计中心有两种手段可解释性Explainability与控制Control。可解释性让用户理解 AI 如何决策当 AI 参与影响深远的决策例如向下一代传递知识时教师和家长必须理解 AI 的决策过程——这就是可解释性。落地方式包括1. 明确标识 AI 身份。受众必须意识到输出来自 AI 而非真人。比如不要写现在就和你的导师聊天吧而应写使用能适应你需求、帮助你按自己节奏学习的 AI 导师。2. 说清 AI 如何使用用户与个人数据。以学生这一 persona 为例基于 persona 限制AI 可能不能直接揭示答案但可以引导用户思考如何自行解题。3. 简化解释。学生和教师未必是 AI 专家因此对应用能做什么、不能做什么的解释应当简洁易懂。在仓库中persona 思想与示例代码一脉相承。06-text-generation-apps/python/oai-history-bot.py 让用户输入一位历史人物作为 persona并在提示词中约束模型每当被问到某些问题时你需要回忆时间线与事件的事实并只给出准确答案。不要自行编造内容。如果你不知道某件事就直说你不记得了。这正是把模型边界不知道就承认写进提示词的工程化实践与课程倡导的诚实、可解释一脉相承。控制把主动权交还给用户生成式 AI 本质上是 AI 与用户之间的协作用户可以修改提示词以获得不同结果输出生成后用户也应能修改结果从而获得掌控感。以微软 Copilot原 Bing Chat为例用户可按格式、语气、长度定制提示词用户还能对输出追加修改、调整结果。另一个赋予用户控制权的特性是数据使用的 opt-in / opt-out用户可以决定是否让 AI 使用自己的数据。对学校应用而言学生可能既想用自己的笔记也想把老师的资料纳入复习材料——是否允许这类数据参与决定权应在用户手中。设计 AI 应用时刻意性intentionality是关键要防止用户过度信任而对能力产生不切实际的预期。一种实现方式是在提示词与结果之间制造摩擦——提醒用户这是 AI不是同类的人类。这种控制与安全思想在仓库源码中有大量落地shared/python/env_utils.py 中的get_required_env、validate_env_vars强制校验 API 密钥等敏感配置确保密钥不散落在代码中用户可自行决定配置来源shared/python/api_utils.py 中的create_openai_client/create_azure_openai_client统一封装客户端创建密钥全部来自环境变量06-text-generation-apps/python/oai-app-recipe.py 展示了对生成结果的再加工第一步先生成菜谱第二步把菜谱结果回填到新提示词中生成购物清单——用户通过追加提示词持续控制输出走向并显式指定max_output_tokens输出上限与temperature随机性等生成参数从参数层面掌控模型行为。为协作与反馈设计反馈循环与错误处理如前所述生成式 AI 创建了用户与 AI 之间的协作。大多数交互是用户输入提示词 → AI 生成输出。那么问题来了如果输出是错误的怎么办应用出现错误时如何处理AI 是责备用户还是花时间解释错误AI 应用应当既能接收反馈也能给予反馈。这不仅帮助 AI 系统持续改进也能与用户建立信任。设计上应包含反馈循环Feedback Loop例如在输出上提供简单的点赞/点踩thumbs up/down。同时还要清晰传达系统的能力与局限。当用户提出超出 AI 能力的请求时系统应有明确的应对方式。系统错误是常态。例如用户需要 AI 训练范围之外的信息帮助或应用限制了用户可生成摘要的问题/主题数量。比如一个仅用历史与数学数据训练的 AI 应用可能无法处理地理类问题。为缓解这类情况AI 系统应给出类似回复抱歉我们的产品仅使用以下科目的数据训练……我无法回答您提出的问题。AI 应用并不完美必然会犯错。设计应用时应当为用户反馈预留空间并以简单、易于解释的方式处理错误。这一原则在仓库中同样有工程化支撑。shared/python/input_validation.py 提供了完整的输入校验与清洗工具链validate_number_input将字符串输入转为限定范围内的整数例如限制作业批改的分数范围默认 1–100validate_text_input校验文本长度默认最长 500 字符、最短 1 字符拒绝空输入与超长输入sanitize_prompt_input专门用于 LLM 提示词的清洗会移除空字节、控制字符并过滤模板注入{{...}}、变量替换${...}、script标签、javascript:等危险模式从源头降低提示注入风险——这正是错误处理与用户数据安全在实现层的体现validate_email/validate_url对用户提交的邮箱与链接做格式校验默认仅允许 HTTPS。配套的测试用例位于 tests/test_input_validation.py可验证这些校验函数在边界场景超长、空值、非法字符下的行为说明可靠的输入处理是可以被自动化测试保障的。而 07-building-chat-applications/js-githubmodels/app.js 则展示了另一个实践启动时对必需的AZURE_INFERENCE_CREDENTIAL、AZURE_INFERENCE_ENDPOINT环境变量做显式校验缺失即报错退出——让能力边界与前置条件对使用者完全透明。实践作业把 UX 原则落地到你的 AI 应用课程为读者布置了可立即执行的作业把下面四组原则实现到你已经构建的任何 AI 应用例如本仓库第 6 课文本生成应用、第 7 课聊天应用中构建的应用中愉悦性Pleasant思考如何让应用更令人愉悦——是否在处处补充说明是否鼓励用户探索错误消息是如何措辞的可用性Usability构建 Web 应用时确保应用既可用鼠标导航也可用键盘导航键盘可达性是可访问性的基础。信任与透明性Trust and Transparency不要完全信任 AI 及其输出——考虑如何在流程中加入人工核验环节同时思考并实现其他达成信任与透明性的方式例如上文的 AI 身份标识、能力边界说明。控制Control把用户提供的数据的控制权交给用户——实现用户在 AI 应用中对数据收集 opt-in / opt-out的机制。小结AI 应用的成败不止取决于模型能力更取决于用户体验设计以用户为中心平衡有用性、可靠性、可访问性、愉悦性四要素用可解释性与控制把信任植入设计用反馈循环与诚实、简单的错误处理支撑长期协作。本仓库中的共享工具库shared/python/input_validation.py、shared/python/api_utils.py、shared/python/env_utils.py与各课示例代码为这些设计原则提供了可直接复用的实现范例。学完本课后可继续学习第 13 课深入了解如何为 AI 应用构建安全防护——安全与信任正是良好 UX 的基石。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考