独家:Paul Williamson 谈 Edge AI、Llama 3.2 谈 Arm - EE Times

2024-09-27 18:03:00 英文原文

EE Times 本周在加利福尼亚州山景城举行的 Edge Impulse Imagine 会议上发表主题演讲后,采访了 Arm 高级副总裁兼 IoT 业务总经理 Paul Williamson,并接受了独家虚拟采访.

在采访中,威廉姆森概述了他在 Edge Impulse 活动中的演讲。然后,他谈到了边缘人工智能的例子,以及为什么它都是关于针对边缘特定任务进行训练的小语言模型(SLM)。威廉姆森说,边缘越来越多地涉及专家系统,而不是大型通用模型。

他帮助回答了这个问题:我们如何使边缘人工智能在现实世界的应用中成为现实?并讨论了 Arm 本周发布的另一项公告的重要性:该公司与 Meta 合作,在 Arm CPU 上启用 Llama 3.2 LLM。

观看下面的完整视频采访:

其他新闻:Ceva 与 Edge Impulse 集成

在 Edge Impluse Imagine 活动上还宣布了 Ceva 和 Edge Impulse 之间的合作,以便在推向市场之前为边缘 AI 开发人员提供其 IP 的真实性能数据。此次合作使人工智能开发人员能够在投入芯片之前准确地进行基准测试并改进其边缘人工智能模型的性能。Ceva 在公告中表示,它是第一家将此类功能与 Edge Impulse 集成的半导体 IP 公司,强调其致力于简化高级嵌入式 ML 应用程序的开发、培训和部署,特别是低功耗、电池供电的设备。

在 Edge Impulse 平台上,只需很少的代码甚至无需代码,即可为 Cevas NeuPro-Nano NPU 实现优化的 AI 性能。Ceva 表示,模型可以上传到该平台或使用该平台进行开发,以加快开发周期并在 NeuPro-Nano 上部署。该公司补充说,由于 NeuPro-Nano 架构支持人工智能推理、特征提取以及音频、语音和视觉应用中常用的 DSP 工作负载,因此与 Edge Impulse 平台的结合可确保开发人员获得完整端到端的准确周期计数仿真。-结束人工智能应用。

建议阅读

  • Silicon 100:2024 年值得关注的初创公司 - EE Times
  • 左移以实现更高效的模块设计和芯片集成 - EE Times
  • 缓存内存解决方案:如何为 SoC CPU 快速充电 - EE Times
  • Silicon 100:2024 年值得关注的初创公司

立即订阅!

将最新的电子行业新闻直接发送到您的收件箱。

注册我们的免费电子新闻通讯。

订阅

关于《独家:Paul Williamson 谈 Edge AI、Llama 3.2 谈 Arm - EE Times》的评论


暂无评论

发表评论

摘要

EE Times 本周在加州山景城举行的 Edge Impulse Imagine 会议上发表主题演讲后,采访了 Arm 高级副总裁兼 IoT 业务总经理 Paul Williamson,并接受了独家虚拟采访。然后,他谈到了边缘人工智能的例子,以及为什么它都是关于针对边缘特定任务进行训练的小语言模型(SLM)。此次合作使人工智能开发人员能够在投入芯片之前准确地进行基准测试并改进其边缘人工智能模型的性能。该公司补充说,由于 NeuPro-Nano 架构支持人工智能推理、特征提取以及音频、语音和视觉应用中常用的 DSP 工作负载,因此与 Edge Impulse 平台的结合可确保开发人员获得完整端到端的准确周期计数仿真。- 终端人工智能应用。建议阅读Silicon 100:2024 年值得关注的初创公司 - EE Times 左移以实现更高效的块设计和芯片集成 - EE TimesCache 内存解决方案:如何为 SoC CPU 快速充电 - EE TimesSilicon 100:2024 年值得关注的初创公司立即订阅!获取最新电子产品行业新闻直接发送到您的收件箱。