当人工智能发疯时
作者：By James B. Meigs
2016年，OpenAI的工程师花了几个月的时间教人工智能系统玩视频游戏。或者，更确切地说，他们花了几个月的时间观看AI代理商 学习玩电子游戏。这是在人工智能是不间断炒作和焦虑的主题之前的日子。Openai是由Elon Musk，Sam Altman和其他技术Savants创立的，并且在一年前，仍然像智囊团一样操作更像是一个智囊团。
研究人员正在使用一个名为Coastrunners的视频游戏训练他们的系统，其中玩家控制了一艘摩托艇，该摩托艇在赛道上赛车赛车，并在沿着路线的目标达到目标时获得了更多点。OpenAI团队正在使用一种称为强化学习或RL的方法。研究人员没有像在传统的计算机程序中那样为代理提供完整的说明，而是让它通过反复试验来弄清楚游戏。RL代理具有单一的总体激励措施，或者在AI概述中获得了奖励功能：尽可能多地提高点。因此，每当它偶然发现产生点的动作时，它都会努力复制那些获胜的动作。研究人员认为，随着代理商在赛道上奔波，它将开始学习策略，最终将帮助其专业地缩小到终点线。
那不是发生的事情。取而代之的是，当RL经纪人在赛道上混在一起时，它最终发现了一个装有三个目标的庇护泻湖。不久，经纪人开始在泻湖周围无尽的环路中驾驶船，从舱壁和其他船只上弹跳，并一次又一次地粉碎目标，从而产生积分。事实证明，Coastrunners的游戏并不要求玩家越过终点线以获胜，因此RL经纪人并不为此而烦恼。在一份名为â€的报告中野外奖励功能有故障研究人员写道，尽管一再着火，撞上其他船只，并在赛道上走错方向，但我们的经纪人还是通过这种策略来实现更高的分数，而不是通过正常的方式完成课程。 不想赢得比赛，AI系统使人类参与者的比例高20％。
______________________
詹姆斯·B·梅格斯（James B. Meigs）是曼哈顿研究所的高级研究员，也是《城市杂志》的贡献EditoR.
由Weiquan Lin/Getty图片摄
关于《当人工智能发疯时》的评论
暂无评论