AI 对话——透明度说明
Note
这些文档采用 AI 辅助的机器翻译。译文按原样提供，不保证其准确性。本内容的英文版本为官方权威来源。
AI 对话——透明度说明
以合法、合乎道德且负责任的方式使用人工智能（AI）是 Blackboard 的重点任务。因此，我们制定并实施了可信 AI 计划。您可以在我们的信任中心找到有关我们的计划以及可信 AI 总体方法的信息。您可以在我们的生成式 AI 功能列表中找到 Blackboard 生成式 AI 解决方案的概览。
作为我们可信 AI 原则的一部分，我们承诺实现透明性、可解释性和问责制。本页面旨在提供必要的透明度和可解释性，帮助客户实施 AI 对话。我们建议管理员在为机构启用 AI 对话的任何功能之前，仔细阅读本页面，并确保教师了解以下注意事项和建议。
如何联系我们：
如果对我们的可信 AI 总体方法有任何疑问或反馈，或希望我们改进本页面以更好地帮助客户，请发送电子邮件至 trustworthy-ai@blackboard.com
如对 AI 对话的功能或输出有疑问或反馈，请提交客户支持工单。
人工智能辅助功能
AI 对话
AI 对话经过专门设计，是一种新的互动活动，学生可以积极参与其中。教师可以在课程中创建 AI 对话，列出主题和 AI 角色，并为学生选择对话类型。在 AI 对话功能中，教师可以从三个选项中进行选择：苏格拉底式提问，AI 角色通过持续提问鼓励学生进行批判性思考；角色扮演，让学生与 AI 角色一起演绎情景；快速测验，AI 角色根据教师选择的课程内容生成一系列问题向学生提问。
苏格拉底式提问
这是一项引导式提问活动或苏格拉底式练习。AI 角色不会确认或拒绝任何学生的回答，而是通过一系列问题引导学生。对话结束时，学生会对活动进行反思，指出学习中的弱点或优势，或 AI 机器人是否存在偏见、幻觉或不准确之处。提交后，教师将收到对话和反思的文字记录，确保互动过程完全透明。这是一种很好的方式，可以在没有单独一对一交流的情况下，就课程主题进行发人深省的对话，而对于大型或更复杂的课程来说，一对一交流可能比较困难。
AI 对话使教师能够利用生成式 AI 为 AI 对话角色生成图像。
这些功能受 Azure OpenAI 服务的限制和可用性约束，并且可能会发生变化。请查看相关发布说明以获取详细信息。
角色扮演
角色扮演功能允许教师为学生设定 AI 角色和学生的具体角色，从而模拟对话。此互动选项通过让学生在真实情境中练习沟通技能，改善学习和培训体验，提供主动学习机会。通过可定制的 AI 角色特质和情境提示，角色扮演功能促进了引人入胜且动态的交流，丰富了整体学习过程，并鼓励批判性思维。
教师可以为 AI 角色指定名称和图像来对其进行自定义。教师还会定义 AI 角色的人格特质，并选择其回答的复杂程度。在此角色扮演选项中为 AI 角色指定的人格特质会影响其回答和互动。
请注意：教师应仔细选择人格特质并预览模拟对话，因为人格特质对对话的语气和内容有显著影响。例如，如果教师将 AI 角色设置为温暖且富有同理心，那么 AI 角色就会以这些特质做出回应。如果教师将 AI 角色设定为有争议或有偏见，AI 角色的输出很可能具有争议或偏见。AI 角色不一定能够质疑学生的有争议、有偏见或危险的观点。
作为测试该功能的一部分，Blackboard 审查并讨论了这些输出，以确定是否应限制该功能以避免偏见或不当输出。我们得出结论，总体而言，机构和教师应拥有学术自由，允许学生参与可能有争议或偏见的模拟对话。同时，我们也明白 AI 角色能够产生的输出应当有所限制。因此，教师最终负责 AI 对话的输出，以及学生通过角色扮演功能将遇到的对话。在我们的测试中，OpenAI、Microsoft 和 Blackboard 实施的现有防护措施阻止了任何非法或不符合我们可信 AI 标准的输出。我们将继续监控此功能以及任何相关的客户反馈，以确保我们可以对此功能进行必要的更改，以满足我们的可信 AI 标准。
AI 对话功能受 Azure OpenAI 服务的限制和可用性约束，并且可能会发生变化。请查看相关发布说明以获取详细信息。
快速测验
快速测验在对话中向学生提出一系列简短问题。教师负责选择题目来源的课程内容、设定题目数量，并定义主持测验的 AI 角色。该角色会依次提出每个问题，回应学生的答案，并在结尾总结结果。
快速测验中的问题是在对话过程中生成的。教师在学生收到题目前不会查看或审核题目，并且每位学生收到的题目都不同。快速测验旨在进行非正式、低风险的练习。需要提前审核和核实特定问题的教师应改用测试，这样可以完全控制提问内容和评分方式。
快速测验的提交内容不会自动评分。虽然对话中会报告学生答对的题数，但该结果不会被录入成绩簿。教师会在提供反馈和成绩之前审阅完整的对话记录和学生的反思，从而确保由人来掌控活动的评估方式。
快速测验需要 AVA 许可证，默认处于关闭状态。管理员需将其与其他 AI 对话功能分开启用。
对话语言
教师可以设置 AI 对话中使用的语言。强制使用某种语言时，AI 角色会使用该语言发送开场消息、提问、回复学生并进行结尾总结，即使学生要求，也不会切换到其他语言。当对话基于课程内容时，AI 会使用强制语言生成输出，不论源材料的语言为何。此设置适用于所有三种对话类型。
关键事实
问题 | 答案 |
|---|---|
哪些功能使用 AI 系统？ | 为 AI 角色生成的 AI 图像（如“AI 辅助功能”中所述）。 AI 对话功能（如“AI 辅助功能”中所述）。 快速测验题目生成（如“AI 辅助功能”下的“快速测验”中所述）。 |
这是第三方支持的 AI 系统吗？ | 是——AI 对话和 AI 生成的图像由 Microsoft 的 Azure OpenAI 服务提供支持。 |
AI 系统是如何工作的？ | AI 对话使用 Microsoft 的 Azure OpenAI 服务自动生成输出。具体方法是使用教师在苏格拉底式提问或角色扮演选项中提供的信息（如主题、AI 角色、人格特质和复杂度），并结合我们的提示词来生成回答。 对于快速测验，输入还包括教师选择的出题课程内容以及题目数量。对于任何对话类型，如果教师设置了强制对话语言，输入中也会包含该语言。 有关 Azure OpenAI Service 和底层 OpenAI GPT 大型语言模型具体工作方式的说明，请参阅 Microsoft 透明度说明的简介部分以及其中提供的链接。 |
AI 系统托管在哪里？ | Blackboard 目前使用多个全球 Azure OpenAI 服务实例。主实例托管在美国，但有时我们会利用加拿大、英国或法国等其他地区的资源，为客户提供 Azure OpenAI 服务的最佳可用性选项。 Blackboard 会将用于输入的所有客户课程数据和教师输入，以及 AI 对话生成的所有输出，存储在客户现有的 Blackboard 数据库中。 |
这是一个可选功能吗？ | 是。管理员需要在 Blackboard 管理控制台中激活 AI 对话。AI 对话的设置位于“Building Block”类别中。选择 AI 设计助手和 Unsplash。管理员可以分别启用或禁用每个功能。管理员还需要根据需要为课程角色（例如教师角色）分配“使用 AI 设计助手”权限。 快速测验需要 AVA 许可证，默认处于关闭状态。已获得 AVA 许可的机构需在同一设置区域中单独启用该功能。未获得 AVA 许可的机构即使开启了该设置，也无法使用快速测验。 |
如何训练 AI 系统？ | Blackboard 不参与用于驱动 AI 对话功能的大型语言模型训练。这些模型由 OpenAI / Microsoft 训练，作为 Azure OpenAI 服务的一部分，驱动 AI 对话功能。Microsoft 在 Microsoft 透明度说明的简介部分提供了有关大型语言模型如何训练的信息，以及其中提供的链接。 Blackboard 不会使用我们自己或客户的数据进一步微调 Azure OpenAI Service。 |
客户数据是否被用于（重新）训练 AI 系统？ | 否。Microsoft 在与 Blackboard 签订的 Azure OpenAI 条款中以合同形式承诺，不会将 Azure OpenAI 的任何输入或输出用于大型语言模型的（重新）训练。Microsoft 在 Azure OpenAI 服务的数据、隐私和安全文档中也做出了同样的承诺。 |
在提供 AI 系统的过程中，Blackboard 如何使用个人信息？ | Blackboard 仅将与 AI 对话相关收集的信息用于提供、维护和支持 AI 对话，并且仅在我们根据适用法律获得合同许可的情况下使用。您可以在我们的信任中心中找到有关 Blackboard 数据隐私实践的更多信息。 |
如果是第三方支持的 AI 系统，第三方将如何使用个人信息？ | Azure OpenAI 服务仅向 Microsoft 提供有限的课程信息。这通常不应包含个人信息（除非在主题、AI 角色或人格字段中，或在学生向 AI 机器人提出的问题和回答中包含了个人信息）。此外，教师选择在提示中包含的任何信息都会被访问。 Microsoft 不会使用其可访问的任何 Blackboard 数据或 Blackboard 客户数据（作为 Azure OpenAI 服务的一部分）来改进 OpenAI 模型、改进其自身或第三方的产品和服务，或自动改进 Azure OpenAI 模型以供 Blackboard 在 Blackboard 资源中使用。这些模型是无状态的。Microsoft 会审查提示和输出，以进行内容过滤。提示和输出最多仅存储 30 天。 有关 Azure OpenAI 服务数据隐私做法的更多信息，请参阅 Microsoft 文档 Azure OpenAI 服务的数据、隐私和安全。 |
AI 系统的设计中是否考虑了无障碍访问？ | 是的，我们的无障碍工程师与产品团队合作审查设计、沟通重要的无障碍注意事项，并专门针对无障碍性测试新功能。我们将继续把无障碍性视为可信 AI 方法不可或缺的一部分。 |
适用于机构的注意事项和建议
预期用例
AI 对话仅用于支持上述功能。这些功能面向客户的教师和学生提供，旨在通过 AI 支持的活动提升学生的学习效果。
超出范围的使用场景
由于 AI 对话由 Microsoft 提供支持，且其应用场景非常广泛，因此可能会利用 AI 对话的提示功能来请求超出预期功能的输出。我们强烈不建议客户将 AI 对话用于其预期功能范围之外的任何用途。这样做可能导致生成的输出不适合 Blackboard 环境，或与我们为减少不准确输出而采取的措施不兼容。
提示时尤其要注意以下几点：
仅使用旨在围绕 AI 对话指定主题推进对话的提示。例如，回答 AI 机器人的问题和提示，或向 AI 机器人提问有关指定主题的问题。
不要使用提示来获取超出预期功能的输出。例如，您不应使用提示词来请求输出的来源或参考资料。在我们的测试中，我们发现这种输出存在准确性问题。
请注意，如果要求输出某特定人的风格或要求输出与受版权保护或商标保护的内容相似的内容，可能会导致输出内容有侵犯知识产权的风险。
针对敏感主题的推荐输出可能有限。Azure OpenAI 服务经过训练和实施，旨在最大限度地减少非法和有害内容。这包括内容过滤功能。当 AI 对话用于涉及敏感话题的课程（例如自残、暴力、仇恨或性）时，可能会导致输出受限或出现错误信息。请勿使用违反贵机构与 Blackboard 协议条款，或违反 Microsoft Azure OpenAI 服务行为准则及 Microsoft 在线服务条款中的可接受使用政策的提示。
关于角色扮演：教师应仔细选择人格特质并预览模拟对话，因为人格特质对对话的语气和内容有显著影响。详情请参见上面的功能描述。
实践中的可信 AI 原则
Blackboard 认为，合法、合乎道德且负责任地使用人工智能是关键优先事项。本节解释了 Blackboard 和 Microsoft 如何努力应对 AI 合法、道德和负责任使用的相关风险，并落实 Blackboard 可信 AI 原则。本节还建议了客户在自行审查 AI 伦理风险时可以考虑的步骤。
透明度和可解释性
我们在 Blackboard 管理员控制台中明确指出，AI 对话是一项 AI 辅助功能。
在教师用户界面中，AI 对话功能被明确标记为 AI 功能。教师可以预览对话并试用，然后才向学生开放。
除了本文档中关于 AI 对话和 Azure OpenAI 服务模型工作原理的信息外，Microsoft 还在其透明度说明中提供了有关 Azure OpenAI 服务的更多信息。
我们鼓励客户在 AI 对话中使用 AI 时保持透明，并酌情向其教师、学生和其他利益相关者提供本文档及其中链接的文档中的相关信息。
可靠性和准确性
我们在 Blackboard 管理员控制台中明确说明，AI 对话是一项 AI 辅助功能，可能产生不准确或不符合预期的输出，因此应始终对此类输出进行审核。
用户界面、教师预览以及使用 AI 对话的学生都会被告知，回答由 AI 生成，因此可能存在偏见或不准确。
角色扮演：教师应注意，AI 角色的人格特质会影响其回答以及与学生的互动，并可能影响输出的可靠性和准确性（包括增加幻觉的风险）。教师应谨慎选择人格特质并预览对话内容。详情请参见功能描述。
正如 Azure OpenAI 服务透明度说明的限制部分所述，存在输出不准确的风险（包括幻觉）。虽然 AI 对话的具体性质以及我们的实施旨在尽量减少不准确性，但客户有责任审查输出内容的准确性、偏见及其他潜在问题。如果存在顾虑，则无需让学生使用 AI 对话。这是课程的可选功能，由教师自行决定。
如上所述，客户不应使用提示来请求超出预期用例的输出，尤其是因为这可能导致输出不准确（例如，要求提供参考文献或来源时）。
作为 AI 对话沟通的一部分，客户应告知教师和学生这些潜在的局限性和风险。
教师可以利用生成式工作流程中的额外提示和设置，为 AI 对话提供更多上下文，从而提升对齐性和准确性。
客户可以通过本说明引言中列出的渠道向我们举报任何不准确的输出。
对于 AI 对话：对话中生成的内容在学生收到前不会经过教师审核，因此不准确的内容可能会传到学生手中。将对话建立在选定的课程内容基础上可以降低这种风险，但无法将其消除。教师会在提交后审阅对话记录，并应将该活动视为非正式练习，而不是计入记录的评估。
公平
大型语言模型本质上存在刻板印象、过度或不足代表性以及其他有害偏见的风险。Microsoft 在其 Azure OpenAI 服务透明度说明的限制部分中描述了这些风险。
鉴于这些风险，我们精心选择了 AI 对话功能，以避免使用更易产生有害偏见或偏见影响更严重的场景。
角色扮演：教师应注意，AI 角色的人格特质会影响其回答以及与学生的互动，可能导致输出包含刻板印象、代表性过度或不足以及其他形式的有害偏见。教师应谨慎选择人格特质并预览对话内容。详情请参见功能描述。
但是，无法排除部分输出可能受到有害偏见的影响。如上文“准确性”部分所述，教师需要审查活动，这有助于减少有害偏见。
作为关于 AI 对话的沟通一部分，客户应告知教师这一潜在限制。
客户可以使用此说明简介中列出的联系渠道，向我们报告任何可能有害的偏见。
隐私和安全
如上文“关键事实”部分所述，AI 对话仅使用有限的个人信息，Microsoft 可访问的个人信息也有限。该部分还说明了我们和 Microsoft 在使用任何个人信息方面的承诺。鉴于 AI 对话的性质，生成输出中包含的个人信息预计也很有限。
我们的 Blackboard LMS 产品通过了 ISO 27001/27017/27018 和 ISO 27701 认证。这些认证包括由 Blackboard 管理的与 AI 对话相关的个人信息。您可以在我们的信任中心找到有关 Blackboard 数据隐私和安全政策的更多信息。
Microsoft 在 Azure OpenAI 服务的数据、隐私和安全文档中介绍了其数据隐私和安全做法及承诺。
尽管 Blackboard 和 Microsoft 承诺保护数据隐私，不使用输入信息对模型进行再训练，但客户可能仍希望建议他们的教师和学生不要在提示或对话中包含任何个人信息或其他机密信息。
安全
大型语言模型本质上存在输出可能不适当、冒犯或不安全的风险。Microsoft 在其 Azure OpenAI 服务透明度说明的限制部分中描述了这些风险。
鉴于这些风险，我们精心选择了 AI 对话功能，以避免出现更易产生不安全输出或输出影响更大的情况。
角色扮演：教师应注意，AI 角色的人格特质会影响其回答以及与学生的互动，可能导致输出被视为不当、冒犯或不安全。教师应谨慎选择人格特质并预览对话内容。详情请参见功能描述。
不过，不能排除部分 AI 对话输出可能存在不安全内容。如上文“准确性”部分所述，需要教师检查输出，这可以进一步帮助降低不安全输出的风险。
作为关于 AI 对话沟通的一部分，客户应告知教师和学生这一潜在局限。
客户应使用此说明简介中列出的渠道向我们报告任何潜在的不安全输出。
由人掌控
为了最大限度地降低客户及其用户使用生成式人工智能的风险，我们有意让客户掌控 AI 对话的功能。因此，AI 对话是一项需主动启用的功能。管理员必须先启用 AI 对话，然后才能分别启用各项功能。管理员还可以停用整个 AI 对话或其中的单项功能。
AI 对话不包括任何可能对学生或其他个人产生法律或其他重大影响的自动决策。
我们鼓励客户在生产环境中启用 AI 对话之前，仔细阅读本文档（包括其中提供的信息链接），以确保了解 AI 对话及底层 Azure OpenAI 服务的功能和局限性。
对于 AI 对话：对话中生成的内容在学生收到前不会经过教师审核，因此不准确的内容可能会传到学生手中。将对话建立在选定的课程内容基础上可以降低这种风险，但无法将其消除。教师会在提交后审阅对话记录，并应将该活动视为非正式练习，而不是计入记录的评估。
价值观一致
大型语言模型本质上存在偏见、不当或与 Blackboard 价值观以及我们客户和学习者价值观不符的输出风险。Microsoft 在其 Azure OpenAI 服务透明度说明的限制部分中描述了这些风险。
此外，大型语言模型（如同所有服务于广泛目的的技术一样）存在被滥用用于不符合 Blackboard、客户或其终端用户价值观，乃至更广泛社会价值观的应用（例如用于犯罪活动或产生有害或其他不当输出）的风险。
鉴于这些风险，我们精心设计和实施了 AI 对话功能，以最大限度地降低输出与价值观不一致的风险。我们还有意省略了可能涉及高风险的功能。·
作为内容过滤功能的一部分，Microsoft 还会对提示和输出进行审查，以防止滥用和有害内容生成。
知识产权
大型语言模型本质上存在潜在知识产权侵权的风险。全球大多数知识产权法尚未充分预见或适应大型语言模型的出现及其带来的复杂问题。因此，目前尚无明确的法律框架或指导来解决使用这些模型所带来的知识产权问题和风险。
最终，审查 AI 对话生成的输出是否存在潜在的知识产权侵权，是我们客户的责任。请注意，要求以特定人物风格输出或要求生成类似受版权或商标保护的物品的提示，可能会增加侵权风险。
无障碍访问
与在 Blackboard 及其他产品中一样，我们在设计和开发 AI 对话时充分考虑了无障碍性。在 AI 对话发布之前，我们有针对性地改进了语义结构、导航、键盘控制、标签、自定义组件和图像工作流程等方面的无障碍性。未来在利用 AI 的过程中，我们将继续优先考虑无障碍性。
问责
Blackboard 制定了可信 AI 计划，旨在确保合法、合乎道德且负责任地使用 AI。明确的内部问责机制，以及对 AI 对话等功能进行的系统化 AI 伦理审查，是该计划的关键支柱。
为了实现 AI 对话，我们与 Microsoft 合作，利用支持 AI 对话的 Azure OpenAI 服务。Microsoft 长期致力于人工智能的伦理使用。
客户应考虑实施内部政策、程序和对第三方 AI 应用的审查，以确保自己合法、合乎道德和负责任地使用 AI。这些信息旨在支持客户评估 AI 对话。
其他信息
Blackboard 的可信 AI 方法
Blackboard 的生成式 AI 功能列表
Microsoft 的负责任 AI 页面
Microsoft 关于 Azure Vision 服务的透明度说明
Microsoft 关于 Azure Vision 服务的数据、隐私和安全的页面