问答：以人为本，凭借NSF CAREER奖推动人工智能的发展 | 宾夕法尼亚州立大学
作者：By Mariah Lucas
计算机科学家朱瑞开发用户友好的数据汇总系统
宾夕法尼亚州立大学——朱锐宾夕法尼亚州立工程学院电气工程与计算机科学学院的计算机科学助理教授获得了一项为期五年、金额为546,000美元的美国国家科学基金会（NSF）早期职业发展（CAREER）奖，该项目名为“可信的人本摘要系统.”
你希望通过这个项目了解或解决什么问题？
张:生成式人工智能（AI）和大型语言模型，如ChatGPT的迅速发展正在改变我们处理数据、捕捉重要信息、获取知识和做出决策的方式。该项目的目标是通过以用户对可控性的偏好、社会公正的观点以及人类知识的真实性和准确性为中心的设计、开发和部署来推动可信的数据摘要技术的发展。例如，使用AI来总结法律文件可以提高法律从业人员撰写法律摘要的效率，并帮助公众理解法律事件。这需要一个可信赖的摘要系统，该系统可以根据公共用户或法律从业者的不同需求定制摘要内容，确保来自各种社会群体的不同意见能够得到公平和无偏见的反映，并保证输出的真实性和准确性符合法律规定。
为此，我们将建立一整套基础设施，包括算法基础、技术创新、公共基准和集成平台。通过这些创新，我们将推进可使用、可信、负责任且安全的人工智能发展，确保其在用户控制下运行，反映社会规范并尊重人类知识。
这一领域的进展将如何影响社会？
张:我们的研究采用以人为本的方法，通过融入用户对风格和内容的需求、整合多样化的价值观和视角来减轻模型偏见，并确保与人类知识和真理一致的事实准确性，以推进大型语言模型与人类的对齐。
通过开发总结法律文件、科研论文、政策报告和临床文本的能力，我们的工作有可能长期影响社会，促进民主、法律素养、公众科学素养和公共卫生。
本科生或研究生会参与这项研究吗？如何参与？
张:是的，研究生和本科生都将为我们的研究做出贡献。研究生将领导研发下一代可信摘要系统的努力，通过建立新任务的严格定义、可靠的度量标准和创新模型来推进这项工作。本科生将参与数据标注和模型评估，并且还将参与到由项目研究成果支持的教育和推广活动中，以吸引、指导和支持那些代表性不足的学生。
NSF CAREER奖不仅资助研究项目，还认可获奖者作为研究人员、教育者和其领域领导者的潜力。你希望如何实现这一潜力？
张:深感这一认可的荣誉，我致力于实现该奖项所代表的潜力。作为一名研究人员，我计划推进以人为中心的摘要技术领域的发展，开发创新的技术以增强人工智能生成摘要的信任度和有效性。作为教育者，我旨在通过将我的研究融入课程以及为K-12学生开发外展项目来激励并指导下一代计算机科学家。在领导方面，我将致力于使AI民主化，让先进的摘要技术更易于获取且便于理解，面向包括非技术人员和服务欠缺的社区在内的更广泛受众。最终，我希望为塑造伦理、可信并对社会有益的人工智能未来作出贡献，并利用这一CAREER奖项作为平台，在我的领域及更广泛的范围内产生持久影响。
最后更新于2024年10月9日
暂无评论