文化差异超出了人工智能的范围。这就是如何促使它变得更好 - Fast Company

2024-09-17 09:38:40 英文原文

人工智能将继续存在。对于企业来说,紧迫的问题不仅仅是是否使用它,而是如何使用。

众所周知,人工智能有其局限性,尤其是考虑到人类文化的细微差别和复杂性。但这些限制有多深呢?企业能否自信地依靠人工智能来制定全球战略,例如了解不同国家的人们的价值观、当地背景和文化差异?人工智能是否应该在制定国际市场的入市策略中发挥作用?

人工智能对文化细微差别的挑战

跨不同群体开展业务时,文化差异和理解很重要。人工智能常常在这方面陷入困境。以谷歌的人工智能图像生成器为例,它歪曲了历史人物的种族和性别。这些错误凸显了人工智能在文化敏感性方面的挣扎。对于基于文本的人工智能,例如 ChatGPT 等大型语言模型 (LLM),这些挑战延伸到了语言和文化偏见。

悉尼大学的一项研究发现,在涉及枪支管制和移民等问题时,诸如 ChatGPT-3 之类的英语大语言模型通常反映美国的文化价值观。这种偏见源于训练数据,主要来自英语内容,并扭曲了人工智能对全球文化的理解。

例如,主要接受英语数据培训的大语言模型可能会提出没有文化细微差别的营销策略,从而无意中冒犯了另一种文化的文化敏感性。英语占训练数据的 48%,与其他欧洲语言相结合,这一数字攀升至 86%。

大语言模型中的这些偏见不仅仅是语言上的。如果这些模型背后的培训师或开发人员具有相似的教育和文化背景,缺乏多样性,那么他们创建的人工智能可能会无意中反映出这些偏见。这导致产出可能偏向西方观点或忽视文化微妙之处,从而给在不同市场运营的企业带来风险。

测试现实世界中的文化能力和细微差别

尽管存在这些文化限制,但在全球战略中完全避免人工智能可能意味着错失机会。最好的方法是让您和您的团队了解其文化意识能力,以便您可以有效地利用人工智能,同时认识到其局限性。

关于《文化差异超出了人工智能的范围。这就是如何促使它变得更好 - Fast Company》的评论


暂无评论

发表评论

摘要

对于企业来说,紧迫的问题不仅仅是是否使用它,而是如何使用它。以谷歌的人工智能图像生成器为例,它歪曲了历史人物的种族和性别。例如,主要接受英语数据培训的大语言模型可能会提出没有文化细微差别的营销策略,从而无意中冒犯了另一种文化的文化敏感性。英语占训练数据的 48%,与其他欧洲语言相结合,这一数字攀升至 86%。测试现实世界中的文化能力和细微差别尽管存在这些文化限制,但在全球战略中完全避免人工智能可能意味着错失机会。