你会说AI吗？法语学者呼吁多语言模型
专家们在一封公开信中呼吁全球领导人和科技巨头优先考虑多语言支持在人工智能开发中的应用。
法语学者正在就英语在人工智能（AI）发展中的主导地位发出警告，提醒注意可能对“全球文化多样性”和“国家主权”造成的风险。
在一个开放的环境中信件未来生命研究所于星期五发布的报告指出，专家们认为人工智能模型和安全评估缺乏语言和文化多样性。
他们认为这些不足“对他们在其中分布的国家的主权以及用户的安全构成威胁”。
专家们呼吁全球领导人和科技巨头优先考虑在人工智能开发中多语言的应用，将其视为一个基本方面，而不仅仅是事后补充，以创建安全、公平且真正全球化的人工智能。
一月份，布朗大学的研究人员发现，旨在防止OpenAI的GPT-4回答危险提示的安全措施在接收祖鲁语或苏格兰盖尔语等语言的请求时失效了。这使得研究人员能够获得关于如何制作自制炸弹的AI生成的答案。
此漏洞是因为指令使用的语言大多不在其训练数据中。这些翻译是用Google Translate完成的。
该信函的发布与法语国家组织峰会开始同一天，而法国也准备在二月份主办人工智能行动峰会。
法国毫不掩饰它希望成为人工智能中心的愿望，政府在该技术以及生成式人工智能初创公司MistralAI和H公司上进行了投资。
然而，主要的科技公司用英语发布和开发他们的AI模型。
尽管许多其他语言都有可用的AI模型，但许多本地语言并未被包含在内，并且数据集通常是用英语训练的。
学者们认为，AI以英语为中心的方法可能会导致在不同的语言环境中产生关键性的误解和错误的决策。
该信函的签署方包括非洲互联网治理论坛（AFIGF）多利益相关方咨询小组（MAG）副主席Mohamed Farahat以及代表，其中包括洛桑联邦理工学院和突尼斯教育部。
“该信函呼吁制定国际标准，以确保系统对所有用户都是安全和有益的，并且它强调了多语言和跨文化评估的关键需求，”未来生命研究所的人工智能安全峰会负责人Imane Bello向Euronews Next表示。
然而，她说这也很重要，对于说英语的国家来说也是如此。
“如果与多语言AI安全相关的考虑没有被纳入其中，那么目前和正在进行的关于评估科学的工作可能会忽略一个非常重要的部分，”她说。
“没有这一特定的重要部分可能会对弱势社区造成伤害，”她补充道。
暂无评论