随着人工智能改变游戏，研究人员敦促业界采取负责任的人工智能实践

尽管最近出现经济逆风，视频游戏行业仍然是娱乐业最赚钱的行业之一。

这并非偶然。游戏工作室正在花费数亿美元来让他们的游戏变得更大、更身临其境，以吸引新玩家和老玩家。

图形技术正在接近恐怖谷领域，Meta 和索尼等公司继续通过混合现实耳机和其他传感技术模糊物理世界和数字世界之间的界限。

与此同时，人工智能被誉为科技领域的下一个重大事件，视频游戏制造商将其用于无数的流程，包括对不可玩的角色进行编程、创建程序生成的关卡、调节游戏聊天日志以及定制和个性化游戏内体验。

可以肯定的是，该行业正在走在前沿，但一个经常被忽视的方面是开发者在使用这些技术制作游戏时必须应对的道德挑战。

有重要的讨论要围绕数据隐私、有偏见的算法和诱人的游戏循环在人工智能的帮助下变得更容易上瘾。

因此，随着人工智能继续在以下领域发挥更大作用游戏开发，游戏制作者应该如何更负责任地使用它？

东北大学的研究人员在最新的一项研究中正面回答了这个问题发表一块游戏：研究与实践，建议游戏行业应该采用为负责任的人工智能新兴领域开发的工具和框架。

该研究的作者之一、体验式人工智能研究所负责人工智能实践的主任坎苏·坎卡 (Cansu Canca) 表示：“很明显，游戏行业正在走向人工智能带来的不同程度的风险，但道德方面却落后了。”。

“有一种担忧来自游戏设计师如果没有适当的道德指导，他们也不知道如何解决这些复杂而新颖的道德问题，”她补充道。

这篇文章的其他作者包括东北大学研究人员 Annika Marie Schoene 和 Laura Haaber Ihle。

虽然人工智能在游戏开发中的应用有多种不同的方式，但作者针对的是一些具体的痛点，包括游戏开发者如何使用人工智能来开发游戏机制、如何在图像创建和其他创造性追求中使用生成式人工智能，以及如何解决这些问题。公司正在收集和使用用户数据。

游戏工作室通常是大型企业，拥有多个部门、数十个团队和个人员工。研究人员表示，这些公司规模越大，就越有可能出现孤岛和沟通中断。

因此，有效的人工智能道德框架从一开始就被设计为融入公司层级体系的每个部分。研究人员表示，在实践中，全面的人工智能道德框架可以帮助各方——从设计师和程序员到故事作者和营销人员——就特定的人工智能用例做出更好的决策，并且应该基于“道德和政治哲学的基本理论”说。

“从某种意义上说，更广泛的负责任的人工智能框架在应用于游戏时并不一定会改变，”坎卡说。

例如，一个风险评估工具研究人员写道，可以帮助游戏开发者在实施之前权衡某些用例的利弊。全面的风险评估概述了拟议用途和技术的优点和缺点以及潜在的积极和消极结果。

“使用人工智能道德风险和影响评估工具可以使游戏设计者和开发者能够评估游戏和集成的人工智能系统对个人自主权和代理的影响、伤害风险和潜在收益以及负担和收益的分配在目标受众以及更广泛的社会中，”他们写道。

研究人员强调，这只是开发人员可以在更大的框架中利用的一个工具来协助这一过程。其他应该成为该人工智能框架一部分的工具包括某些人工智能技术的偏差测试和错误分析。

人工智能开发中的另一个重要考虑因素是公司如何使用数据来帮助训练模型并提高利润。

研究人员认为，使用类似于美国当前使用的娱乐软件评级委员会系统的评级标签，在向游戏玩家传达与数据和人工智能道德相关的风险方面存在明显缺陷。

研究人员解释说，相反，在负责任的人工智能领域开发的类似于模型卡、人工智能和数据标签的方法将为流程带来更多透明度，并包括详细信息，包括开发人员如何在游戏制作中使用人工智能以及如何使用人工智能。用户的特定数据正在游戏中被收集和使用。

“数据非常有价值，这种信息可能不仅仅用于重新训练模型，”Schoene 说。

“我想知道我的数据发生了什么。我想知道我的游戏风格如何影响游戏中的任何类型的代理，”她补充道。

但 Schoene 强调，如果使用得当，人工智能实际上可以帮助扩大行业并引入新的参与者。

“是的，所有这些都需要权衡，”她说。“虽然存在危险，但也有积极的一面。如果做得正确，人工智能可以让不同能力的人更容易玩游戏。”

更多信息：Cansu Canca 等人，为什么游戏行业需要负责任的人工智能，游戏：研究与实践（2024）。DOI：10.1145/3675803

本文由东北环球新闻转载东北新闻网。引文