社会AI：建立以人为本的人工智能系统

2022年10月，Microsoft Research Asia举办了一个研讨会，汇集了计算机科学，心理学，社会学和法律专家，这是Microsoft致力于负责人AI（在新标签中打开）。该活动导致持续的合作探讨了AI的社会影响，包括价值指南针（在新标签中打开）项目。

随着这些努力的发展，研究人员专注于如何设计AI系统以满足医疗保健，教育和公共服务等领域的人们和机构的需求。这项工作最终社会AI：研究挑战和机遇，，，，探讨AI如何更好地与社会需求保持一致的白皮书。 

什么是社会人工智能？

社会AI是一个新兴的跨学科研究领域，研究了AI与社会系统和公共生活的相交方式。它侧重于两个主要领域：（1）AI技术对教育，劳动和治理等领域的影响；（2）这些系统提出的挑战，例如评估，问责制和与人类价值观的一致性。目的是指导AI开发以满足现实世界需求的方式。

白皮书提供了一个理解这些动态的框架，并提供了将AI负责任地集成到社会中的建议。这篇文章重点介绍了本文的关键见解及其对未来研究的意义。

追踪社会AI的发展

社会AI近十年前在Microsoft Research Asia开始，早期工作个性化推荐系统发现了诸如Echo Chambers之类的风险，在该风险中，用户反复接触类似的观点和两极分化，这可以加深组之间的分裂。这些发现导致对隐私，公平性和透明度进行了更深入的调查，有助于为Microsoft提供更广泛的负责人AI方法。

近年来，大规模AI模型的迅速增长使这些担忧更加紧迫。如今，跨学科的研究人员正在努力定义共同的优先事项，并以反映社会需求和价值观的方式指导AI的发展。

关键见解

白皮书概述了该领域的几个重要考虑因素：

跨学科框架：将技术AI研究与社会科学，人文，政策研究和道德规范进行桥梁，以解决AI深远的社会影响。

可行的研究议程：确定为研究人员，政策制定者和行业领导者提供路线图的十个研究问题。

全球视角：强调了不同文化观点和国际合作在塑造负责任的AI发展对话中的重要性。

实用的见解：平衡理论与现实世界的应用程序，从协作研究项目中汲取灵感。

AI的影响范围超出了算法和计算，它挑战了我们重新思考基本概念，例如信任，创造力，代理和价值体系。”开利周Microsoft Research Asia的董事总经理。它认识到开发更强大的AI模型是不够的；我们必须研究AI如何与人类价值观，制度和多样化的文化背景相互作用。

指导负责集成原则

研究议程以三个关键原则为基础： 

• 和谐：AI应最大程度地减少冲突并建立信任以支持接受。 
• 协同作用：AI应该补充人类能力，使人类和机器都无法独自实现的结果。” 
• 弹力：随着社会和技术条件的发展，AI应该是强大的和适应的。 

十个关键问题

这些问题涵盖了技术和社会问题： 

1. AI如何与人类价值观和道德原则保持一致？
2. 如何设计AI系统来确保不同文化，地区和人口群体之间的公平性和包容性？
3. 我们如何确保AI系统是安全，可靠和可控的，尤其是随着它们变得更加自主？
4. 如何优化人类协作以增强人类能力？
5. 我们如何在新的，不可预见的任务和环境中有效评估AI的功能和性能？
6. 我们如何增强AI的可解释性以确保其决策过程中的透明度？
7. AI将如何重塑人类的认知，学习和创造力，以及可以解锁哪些新功能？
8. AI将如何重新定义工作，协作和全球业务模型的未来的性质？
9. AI将如何改变社会科学中的研究方法，以及可以实现哪些新见解？
10. 监管框架应如何发展为负责任地管理AI发展并促进全球合作？

该列表将随着AI的发展而发展，确保议程随着时间的流逝而保持重要意义。在这些问题上，白皮书强调了持续的，跨学科的合作的重要性，以反映社会优先事项和公共利益的方式指导AI的发展。

研究合作者说，这份来自Microsoft Research Asia的周到而全面的白皮书代表了预期和解决AI的社会含义，尤其是大语言模型（LLMS）的重要早期一步，因为它们以更大的数量进入世界，并且范围更大。”詹姆斯·A·埃文斯（James A. Evans）（在新标签中打开），芝加哥大学社会学教授。

展望未来

微软致力于促进协作，并邀请其他人参与发展治理系统。随着新的挑战的出现，对公共物品的负责使用AI将仍然是我们研究的核心。

我们希望白皮书既是指南又是行动呼吁，强调在研究，政策，工业和公众之间进行参与的需求。

有关更多信息，并访问完整的白皮书，请访问Microsoft Research社会AI页面。这个播客。

致谢

我们感谢帮助塑造这份白皮书的研究人员，合作者和审稿人的贡献。