英语轻松读发新版了,欢迎下载、更新

为什么“亲社会AI”必须是设计,部署和管理AI的框架

2025-01-25 20:20:00 英文原文

作者:Cornelia C. Walther, University of Pennsylvania

VentureBeat/Midjourney

VentureBeat/Midjourney

加入我们的每日和每周的新闻通讯,获取有关行业领先的AI覆盖范围的最新更新和独家内容。了解更多


随着AI遍布每个现代生活领域,业务领导者,决策者和创新者面临的核心挑战不再是采用智能系统,而是如何采用。在一个以两极分化,资源枯竭,侵蚀机构的信任和动荡的信息景观为标志的世界中,关键的当务之急是对AI进行工程,以便它对人类和行星的幸福感有意义,可持续地贡献。

亲社会AI``一个设计,部署和治理原则的框架,以确保AI经过精心量身定制,训练,测试和针对提升人,而地球则不仅仅是道德立场或贴面。这是将AI定位在更广泛的智力生态中的战略方法,该方法重视集体繁荣而不是狭窄的优化。

AI的潜力的ABCD:从忧郁到荣耀 

理由亲社会AI来自四个互动的领域,纽带,债券,气候和分裂(ABCD)。每个领域都强调了AI的双重特征:它可以加剧现有功能障碍或充当再生,包含解决方案的催化剂。

  • 机构:AI驱动的平台常常依赖于侵蚀用户自主权的成瘾性循环和不透明的推荐系统。相比之下,亲社会AI可以通过揭示其建议的出处来激活代理,从而提供有意义的用户控制并尊重人类决策的多方面性质。这不仅涉及“同意或透明度”作为抽象的流行语;这是关于设计AI互动的认知,情感,身体经验和社会背景的相互作用,并使个人能够在不屈服于操纵或分心的情况下导航自己的数字环境。
  • 联系:数字技术可以骨折社会进入回声室,也可以用作将多样化的人和思想联系起来的桥梁。亲社会AI应用细微的语言和文化模型来确定共同的利益,强调建设性的贡献并跨越边界的同理心。它没有激发人们的注意,而是帮助参与者发现互补的观点,加强公共纽带,并加强将社会融合在一起的精致社交面料。
  • 气候:与环境的关系充满了紧张。AI可以优化供应链,增强气候建模并支持环境管理。但是,训练大型模型的计算强度通常需要相当大的碳足迹。亲社会的镜头需要设计,以平衡这些收益与生态成本 - 采用节能架构,透明的生命周期评估和对生态敏感的数据实践。亲社会AI不再将地球视为事后思考,而是将气候考虑视为基本优先事项:AI不仅必须就可持续​​性提供建议,而且必须具有可持续性。
  • 分配:定义我们时代的错误信息级联和意识形态裂痕并不是技术的不可避免的副产品,而是设计选择使病毒过于真实性的设计选择的结果。亲社会AI通过将文化和历史素养纳入其过程,尊重上下文差异并提供了增强信任的事实检查机制来反驳这一问题。它没有使知识或施加自上而下的叙述,而是培养了多元化的知识,使数字空间更具通道,可信和包容性。

双重识字:整合AI和Niâ 

意识到这一愿景取决于培养我们所说的“双重扫盲”。一方面是AI扫盲:掌握算法的技术复杂性,了解如何从数据中出现偏见并建立严格的问责制和监督机制。另一方面是自然智力(NI)素养:对人类认知和情感的全面,体现的理解(大脑和身体),个人身份(自我)和文化嵌入(社会)。

这种NI识字不是在创新边缘栖息的软技能。这是基本的。人类智慧是由神经生物学,生理学,际观察,文化叙事和社区伦理所塑造的 - 超越了理性参与者的还原性观念的错综复杂的挂毯。监管机构可以确保数字体系结构尊重我们的多维人类现实。这种整体方法促进了在道德上声音,情境敏感且能够补充而不是限制人类能力的系统。

AI和NI在Synergy中:亲社会AI超越零和思维

流行的想象对人类反对人类的坑机在零和比赛中。亲社会AI挑战了这种二分法。考虑一下医疗保健中互补性的美丽:AI在模式识别方面表现出色,筛选出大量的医学图像,以检测可能忽略人类专家的异常。反过来,医师借鉴了他们的具体认知和道德本能来解释结果,传达复杂的信息并考虑每个患者更广泛的生活环境。结果不仅是更有效的诊断。它更人性化,以患者为中心。类似的范式可以改变法律,财务,治理和教育决策。

通过将AI的精度与人类专家的细微判断力相结合,我们可以从层次结构的命令和控制模型过渡到协作情报生态系统。在这里,机器在大规模处理复杂性,人类提供了必要的道德愿景和文化流利性,以确保这些系统具有真实的公共利益。

要将亲社会AI嵌入我们未来的核心,我们需要在所有领域进行一致的努力:

行业和科技公司:创新者可以优先考虑 - 人类设计的设计,并明确奖励与幸福感相关的指标,而不是不惜一切代价参与。他们无需设计AI来吸引用户,而是可以建立通过改善健康成果,教育程度,环境可持续性或社会凝聚力来衡量,授权和提升的系统。

例子:AI的合作伙伴关系提供亲社会创新的框架,帮助指导开发人员采取负责任的实践。

民间社会和非政府组织:社区团体和倡导组织可以指导AI的开发和部署,在现实世界中测试新工具。他们可以将种族,语言和文化上不同的观点带到设计表上,以确保由此产生的AI系统提供广泛的人类经验和需求。

教育机构:学校和大学应将双重素养纳入其课程,同时加强批判性思维,道德和文化研究。通过培养AI和NI素养,教育机构可以帮助确保子孙后代熟练于机器学习(ML)并深深地以人类价值为基础。

例子:麻省理工学院施瓦茨曼学院计算机和斯坦福大学的研究所以人为中心的人工智能体现了将技术严谨与人类询问团结起来的跨学科方法。

政府和政策制定者:立法和监管框架可以激励亲社会创新,使公司在经济上可行,生产透明,负责和与社会目标保持一致的AI系统。公民议会和公众咨询可以告知这些政策,以确保AI的方向反映了社会的多样化声音。

超越整体混合未来的盒子

当AI深入整合到全球社会经济结构中时,我们必须抵制将技术视为针对特定指标优化的黑匣子的冲动。取而代之的是,我们可以设想一个混合未来,人类和机器智能共同发展,以共同的原则为指导,并以对自己和我们环境的整体理解为基础。亲社会AI超出了创新和责任之间的简单选择。它提供了更丰富的可能性挂毯,在其中AI赋予而不是吸毒者,而不是碎片和再生而不是消耗。

AI的未来不会仅由计算能力或算法狡猾来确定。我们如何将这些能力有机地编织到人类领域,将定义它,承认大脑和身体,自我和社会,当地的细微差别和行星势力的相互作用。在这样做的过程中,我们创建了更广泛的成功标准:一个不仅是通过利润或效率来衡量的,而且是通过人民和地球的韧性来衡量的。

亲社会AI可以沿着这条道路服务。现在的未来开始,新的ABCD:一个加入包容性社会;b阐明您参与实现这一目标;c霍斯想在历史上哪一边;do你的感觉是对的。 

在联合国儿童基金会与二十年之后,出版了各种图书,Cornelia C. Walther博士目前是宾夕法尼亚大学的高级研究员,从事亲社会AI的工作。 

DatadeCisionMaker

欢迎来到VentureBeat社区!

DatadeCisionMakers是专家,包括从事数据工作的技术人员可以共享与数据有关的见解和创新。

如果您想阅读有关最新想法和最新信息,最佳实践以及数据和数据技术的未来,请加入DatadeCisionMakers。

您甚至可能会考虑 撰写一篇文章你自己!

从DatadeCisionMaker中阅读更多

关于《为什么“亲社会AI”必须是设计,部署和管理AI的框架》的评论


暂无评论

发表评论

摘要

该消息讨论了亲社会AI的概念,该概念旨在以增强人类和行星福祉的方式设计,部署和管理人工智能系统。它重点介绍了四个关键领域:机构,纽带,气候和分裂(ABCD),AI可以加剧现有问题或促进包容性解决方案。这篇文章还强调了“双重素养”的重要性,将技术AI知识与对自然智力的理解相结合,以创建道德和上下文敏感的系统。鼓励各种利益相关者,包括行业领导人,民间社会团体,教育机构和政策制定者,他们被鼓励优先考虑AI发展中的亲社会创新。