人工智能学习的道德与责任

人工智能和机器学习在学习和开发领域继续扮演着越来越重要的角色：提供个性化的学习路径，预测我们的表现并就内容和活动提出建议。今年，人工智能系统将比以往任何时候都更支持我们的工作场所学习轨迹，但前提是我们能够认真地建立道德框架并使其使用更加透明。在开发易企慧云平台的过程中，我们也不断的在思考使用AI时面临的一些挑战以及解决道德问题的一些潜在方法。

当前的挑战

• 黑盒算法：算法可能是不透明且具有歧视性的。黑盒算法是指通常无法查看系统内部以及查看其如何做出决定的一般能力。例如，当学习平台向学习者提出建议时，您将如何知道平台将哪些学习者属性用作此类建议的标准，以及它们是否有利于学习。
• 信任问题：在衡量学习和了解如何以及如何个性化单个学习者的过程中，不可避免的需要收集个人数据。同时，对于国内的大多数组织来说，数据的所有权和治理通常是不确定的，或者根本没有定义，因此，在这方面我们走的非常谨慎。
• 缺乏指导原则：虽然Google，Microsoft和SAP等技术巨头都引入了AI的道德原则，但仍有许多空间可以制定更具体的定义和更好地进行监督，随着在线学习和学习管理系统技术标准的变化，使学习问题的分析和数据跟踪通常不明确且未经用户同意，这也是我们担忧的问题之一。

我们思考的潜在解决方案

• 可解释的AI：反对黑盒算法的一种观念，是使用可解释的 XAI。从本质上讲，XAI 程序使用户能够了解技术，在决策过程中提供输入并改善算法责任制。在动态生成的学习路径的情况下，学习平台应明确说明其推荐其他学习路径或选择的决策。此外，学习者，课程设计者和讲师可以根据自己的需要进行复习和更新。
• 设计中的隐私：整个设计过程都需要考虑隐私，通过设计实现隐私是一种系统工程方法。从本质上讲，“设计隐私”主张组织需要在初始设计阶段以及涉及处理个人数据的新产品或服务的整个开发过程中考虑隐私。
• AI的监管框架：需要监管框架来保护透明和可审核的学习数据。所有系统和算法需要仔细设计，说明和审核。通过与咨询机构沟通，制定核心道德原则并负责任地处理数据。