O星期二，人工智能领域的杰出人士在塞浦路斯北边（一处从前的火药库改造成的展览空间）齐聚一堂，参加了TIME100影响力晚宴伦敦站的首次活动。随后，类似事件上个月在旧金山举行的一次晚宴汇聚了《时代》杂志2023年和2024年的杰出领导人、专家和获奖者。100位有影响力的人工智能人士列表中的所有人—都在塑造技术的未来方面发挥作用。
在《时代》杂志（TIME）首席执行官杰西卡·西伯利与活动赞助商的高管——北方数据集团的集团首席运营官罗珊妮·金凯德-史密斯和英伟达欧洲、中东及非洲地区的副总裁雅普·佐伊德维尔德——进行讨论，并在主菜上桌之后，大家转向了一场小组讨论。
该小组讨论包括TIME 100人工智能获奖者梁玉，英国AI安全研究所的首席技术官，该机构是一家成立的机构去年评估前沿人工智能模型的能力；维克托·里帕贝利，英国AI视频通信公司Synthesia的首席执行官兼联合创始人；和阿贝巴·比尔哈内，都柏林三一学院计算机科学与统计学系的认知科学家兼兼任助理教授，其研究重点是审计AI模型以揭露实际危害。由《时代》杂志高级编辑阿耶莎·贾韦德主持的讨论聚焦于当前人工智能的状态及其相关挑战、谁应对人工智能的影响负责的问题以及人工智能生成的视频可能如何改变我们的沟通方式。
各位嘉宾对AI带来的风险的看法反映了他们各自的关注领域。对于梁先生来说，他的工作涉及评估最先进的AI模型是否可能被用于网络攻击的便利。生物或化学攻击以及评估用于任何其他用途的模型有害能力更广泛地说，重点在于需要“理解那些将告诉我们更多关于未来发展趋势及其相关风险的经验数据。”
与此同时，Birhane 强调了她所认为的关于人工智能的能力和潜在影响的“巨大炒作”。存在风险“这些模型实际上并没有达到它们的宣称。”Birhane认为，“AI不仅仅是计算，它还包括整个构建和维持系统的流程，”她强调了关注数据来源、AI系统对环境的影响（特别是能源和水资源使用方面），以及未得到充分报酬的工作者的重要性。劳动“无论是大型公司还是初创企业，都需要有动力对不仅仅是模型本身，还包括整个AI流程进行彻底的评估。”她说。“里帕贝尔利建议，既要解决社会上现有的问题，也要考虑类似《终结者》的情景，这些都是值得重视的。”
与会专家一致认为，对AI系统的评估至关重要，既有助于了解它们的能力，也有助于识别在诸如延续偏见等问题上的不足之处。由于技术的复杂性和该领域的发展速度，“如何应对不同安全挑战的最佳实践变化非常迅速，”梁说，并指出“学术界和民间社会所知与这些公司内部所知之间存在很大的不对称性。”
与会者进一步一致认为，企业和政府都有责任减少人工智能带来的风险。“企业在继续在安全实践方面进行创新方面负有重大责任，”梁说。里帕尔贝利同意这一观点，并建议公司可能有一种“道德上的义务”，确保其系统的安全性。同时，“政府也必须在这里发挥作用，这是完全不可谈判的，”梁说道。
同样，毕拉内明确表示，“基于‘有效的监管’”实证证据“这是必要的。”她说，指出经济激励与弱势群体利益之间的矛盾。“政府需要将评估和监管视为创建更好AI系统的机制，以造福普通民众和社会底层的人们。”
当谈到全球治理时，梁强调整顿需要明确哪些类型的护栏是最理想的，从技术和政策的角度来看。“我们希望在不同司法管辖区之间协调的最佳实践、标准和协议是什么？”她问道。“这是一个资源不足的问题。”尽管如此，梁指出了中国参与去年的这一事实。人工智能安全峰会由英国主办这件事被视为乐观的理由。“确保他们参与其中非常重要，”她说。
我们可以实时观察到人工智能能力进步的一个具体领域是AI生成的视频。在由他的公司技术创建的一段合成视频中，里帕贝尔利的人工智能分身宣称“文字作为一种技术最终将是暂时性的，并将成为过去遗迹。”进一步阐述这一观点时，真正的里帕贝尔利说道：“我们一直致力于更直观、直接的交流方式。文本是我们最初存储和编码信息并共享时间和空间的方式。现在我们生活在一个至少对大多数消费者而言，他们更喜欢观看和收听内容的世界中。”
他设想了一个世界，在这个世界里，人工智能弥合了快速创作的文本与更具劳动密集型但更吸引人的视频之间的差距。他表示，“AI将使任何人都能够在卧室里仅凭想象力就能创造出好莱坞级别的电影。”这项技术在被滥用方面存在明显的挑战，例如制作深度伪造视频或传播虚假信息，但Riparbelli强调他的公司采取措施防止这种情况发生，并指出“每一段生成的视频都会经过内容审核过程，以确保其符合我们的内容政策。”
里帕贝利建议，监管人工智能不应采取“技术中心化”的方式，而应侧重于设计减少有害后果的政策。“让我们关注那些不希望发生的事情，并围绕这些事情进行监管。”
TIME100影响力晚宴伦敦：塑造人工智能未来领袖由Northern Data集团和Nvidia欧洲举办。