全部新闻
人工智能安全的新方法：层增强分类（LEC）
2024-12-21 10:04:29
### 层增强分类 (LEC) 的总结和关键见解**介绍**层增强分类 (LEC) 是一种创新方法，旨在通过提供强大的内容安全性和即时注入保护来增强人工智能驱动的交互的安全性，而所需的时间和成本仅为传统方法的一小部分。该技术是组织将人工智能集成到其运营中的关键保障，可确保法规遵从性、品牌保护和用户信任。### LEC 的主要特点1. **性能优越**：- 在内容安全实验中，性能最高的 LEC 模型仅使用 15 个训练示例，在二元分类任务上取得了 0.96 的加权 F1 分数。- 对于即时注入检测，顶级 LEC 模型使用最少的训练数据（55 个示例）达到了 0.98 的加权 F1 分数。2. **灵活性和兼容性**：- LEC 可以集成到 AI 部署管道的各个部分，包括在语言模型推理期间、推理调用之前或之后。- 它与开源和闭源模型兼容。3. **效率和成本效益**：- 用最少的训练数据实现高精度，减少模型训练所需的计算成本和时间。- 提供实时安全监控，确保立即检测和缓解不安全内容。### 实施场景1. **在 LM 推理期间**：- 将 LEC 直接集成到推理管道中，以便在语言模型内的信息处理过程中出现安全问题时停止生成。2. **LM 推理之前/之后**：- 使用 LEC 作为单独的任务来筛选输入和输出以解决安全问题，使其适合 Claude 和 GPT 系列等闭源模型。3. **代理人工智能系统**：- 通过在交互的不同阶段集成 LEC，保护代理系统免于接收或产生有害内容。- 在将请求、工具调用、返回给代理的信息以及最终响应传回给用户之前，对其进行验证。### 基于模型访问的实现- **开源模型**：直接集成到推理管道中以进行持续安全监控。- **闭源模型（通过 API）**：推理前和推理后检查，以筛选输入并验证输出，而无需访问内部模型工作。### 未来的方向虽然我们最初的重点是人工智能安全，但 LEC 的潜力扩展到更广泛的文本分类任务。鼓励研究界探索进一步的应用，为更智能、更安全、更值得信赖的人工智能系统开辟新途径。**结论**层增强分类 (LEC) 代表了确保人工智能驱动交互的完整性和安全性方面的重大进步。它能够以最少的训练数据提供卓越的性能，使其成为旨在高效且经济高效地集成强大的人工智能防护措施的组织的宝贵工具。
### 层增强分类 (LEC) 的总结和关键见解**介绍**层增强分类 (LEC) 是一种创新方法，旨在通过提供强大的内容安全性和即时注入保护来增强人工智能驱动的交互的安全性，而所需的时间和成本仅为传统方法的一小部分。该技术是组织将人工智能集成到其运营中的关键保障，可确保法规遵从性、品牌保护和用户信任。### LEC 的主要特点1. **性能优越**：- 在内容安全实验中，性能最高的 LEC 模型仅使用 15 个训练示例，在二元分类任务上取得了 0.96 的加权 F1 分数。- 对于即时注入检测，顶级 LEC 模型使用最少的训练数据（55 个示例）达到了 0.98 的加权 F1 分数。2. **灵活性和兼容性**：- LEC 可以集成到 AI 部署管道的各个部分，包括在语言模型推理期间、推理调用之前或之后。- 它与开源和闭源模型兼容。3. **效率和成本效益**：- 用最少的训练数据实现高精度，减少模型训练所需的计算成本和时间。- 提供实时安全监控，确保立即检测和缓解不安全内容。### 实施场景1. **在 LM 推理期间**：- 将 LEC 直接集成到推理管道中，以便在语言模型内的信息处理过程中出现安全问题时停止生成。2. **LM 推理之前/之后**：- 使用 LEC 作为单独的任务来筛选输入和输出以解决安全问题，使其适合 Claude 和 GPT 系列等闭源模型。3. **代理人工智能系统**：- 通过在交互的不同阶段集成 LEC，保护代理系统免于接收或产生有害内容。- 在将请求、工具调用、返回给代理的信息以及最终响应传回给用户之前，对其进行验证。### 基于模型访问的实现- **开源模型**：直接集成到推理管道中以进行持续安全监控。- **闭源模型（通过 API）**：推理前和推理后检查，以筛选输入并验证输出，而无需访问内部模型工作。### 未来的方向虽然我们最初的重点是人工智能安全，但 LEC 的潜力扩展到更广泛的文本分类任务。鼓励研究界探索进一步的应用，为更智能、更安全、更值得信赖的人工智能系统开辟新途径。**结论**层增强分类 (LEC) 代表了确保人工智能驱动交互的完整性和安全性方面的重大进步。它能够以最少的训练数据提供卓越的性能，使其成为旨在高效且经济高效地集成强大的人工智能防护措施的组织的宝贵工具。
AI 深度造假如何污染 2024 年的选举
2024-12-21 10:00:00
选民在印度大选中投票，人工智能工具被用来创建政治模因和内容，而不是像最初担心的那样使用欺骗性的深度造假。在美国，虽然人们对 2024 年选举前的深度造假操纵感到担忧，但人工智能主要用于创建病毒式政治内容，没有明确的证据表明可以直接改变选举结果。例如，埃隆·马斯克和前总统特朗普等人物在社交媒体平台上分享人工智能生成的图像和视频，以支持他们喜欢的候选人或贬低对手。
选民在印度大选中投票，人工智能工具被用来创建政治模因和内容，而不是像最初担心的那样使用欺骗性的深度造假。在美国，虽然人们对 2024 年选举前的深度造假操纵感到担忧，但人工智能主要用于创建病毒式政治内容，没有明确的证据表明可以直接改变选举结果。例如，埃隆·马斯克和前总统特朗普等人物在社交媒体平台上分享人工智能生成的图像和视频，以支持他们喜欢的候选人或贬低对手。
这支人工智能（AI）股票会成为下一个英伟达吗？|杂七杂八的傻瓜
2024-12-21 09:40:00
受 AI 业务同比 220% 强劲增长的推动，博通 2024 财年第四季度财务业绩强劲，股价上涨近 25%。该公司的定制人工智能加速器和网络基础设施是关键驱动因素，预计到 2027 年，人工智能可服务可寻址市场 (SAM) 将达到 600 亿至 900 亿美元。博通还将 VMware 的运营利润率从 30% 提高到 70%，显着降低了季度支出。尽管博通的估值高达过去 12 个月销售额的 20.6 倍，但博通受益于强大的人工智能推动力，但由于其既定的市场地位和生态系统，在超越英伟达方面面临挑战。博通的（
受 AI 业务同比 220% 强劲增长的推动，博通 2024 财年第四季度财务业绩强劲，股价上涨近 25%。该公司的定制人工智能加速器和网络基础设施是关键驱动因素，预计到 2027 年，人工智能可服务可寻址市场 (SAM) 将达到 600 亿至 900 亿美元。博通还将 VMware 的运营利润率从 30% 提高到 70%，显着降低了季度支出。尽管博通的估值高达过去 12 个月销售额的 20.6 倍，但博通受益于强大的人工智能推动力，但由于其既定的市场地位和生态系统，在超越英伟达方面面临挑战。博通的（
更好的人工智能股票：Wolfspeed vs. AMD |杂七杂八的傻瓜
2024-12-21 09:22:00
全球人工智能市场正在迅速扩张，2020 年价值 930 亿美元，预计到 2025 年将达到 2440 亿美元。这种增长正在推动对人工智能系统至关重要的半导体的需求。Wolfspeed (WOLF) 和 Advanced Micro Devices (AMD) 是两家受益于这一趋势的半导体公司。Wolfspeed 专门生产用于高效能源利用的碳化硅产品，而 AMD 则生产用于人工智能计算的先进芯片。由于近期价格下跌，这两只股票都提供了潜在的投资机会；然而，与 Wolfspeed 的高成本和挑战相比，AMD 因其强劲的数据中心收入增长和更稳定的财务前景而被认为是更好的长期选择。
全球人工智能市场正在迅速扩张，2020 年价值 930 亿美元，预计到 2025 年将达到 2440 亿美元。这种增长正在推动对人工智能系统至关重要的半导体的需求。Wolfspeed (WOLF) 和 Advanced Micro Devices (AMD) 是两家受益于这一趋势的半导体公司。Wolfspeed 专门生产用于高效能源利用的碳化硅产品，而 AMD 则生产用于人工智能计算的先进芯片。由于近期价格下跌，这两只股票都提供了潜在的投资机会；然而，与 Wolfspeed 的高成本和挑战相比，AMD 因其强劲的数据中心收入增长和更稳定的财务前景而被认为是更好的长期选择。
更好的人工智能股票：Wolfspeed vs. AMD
2024-12-21 09:22:00
全球人工智能市场预计将从 2020 年的 930 亿美元增长到 2025 年的 2440 亿美元，从而推动对半导体的需求。两个主要参与者是 Wolfspeed 和 AMD。Wolfspeed 在对节能 AI 系统至关重要的碳化硅 (SiC) 产品领域处于领先地位，其目标是实现大幅市场扩张，到 2027-28 财年末年销售额可能达到 30 亿美元。与此同时，AMD 为人工智能生产先进的半导体芯片，受益于随着人工智能的发展，对计算能力的需求不断增长。两家公司都面临着挑战，但由于它们在促进人工智能增长方面的作用，也提供了潜在的投资机会。
全球人工智能市场预计将从 2020 年的 930 亿美元增长到 2025 年的 2440 亿美元，从而推动对半导体的需求。两个主要参与者是 Wolfspeed 和 AMD。Wolfspeed 在对节能 AI 系统至关重要的碳化硅 (SiC) 产品领域处于领先地位，其目标是实现大幅市场扩张，到 2027-28 财年末年销售额可能达到 30 亿美元。与此同时，AMD 为人工智能生产先进的半导体芯片，受益于随着人工智能的发展，对计算能力的需求不断增长。两家公司都面临着挑战，但由于它们在促进人工智能增长方面的作用，也提供了潜在的投资机会。
音乐在人工智能时代蓬勃发展
2024-12-21 09:00:00
ChatGPT 的诞生引发了人们对大型语言模型对就业和创造力影响的担忧。尽管人们确实担心人工智能可能取代人类，但人类创造力也有可能与人工智能技术一起蓬勃发展。到 2025 年，我们可能会看到嘻哈文化以三种方式进行调整：完全投降（拥抱人工智能的能力，同时保持人类的管理）、间接拥抱（使用人工智能作为混音和战斗说唱等创意混合作品的工具）以及重新欣赏由于人工智能创作的数量巨大，古典人造文物的数量巨大。这种共存可能会带来新的商业模式、子流派，并提高原创艺术形式的价值。的诞生聊天GPT
ChatGPT 的诞生引发了人们对大型语言模型对就业和创造力影响的担忧。尽管人们确实担心人工智能可能取代人类，但人类创造力也有可能与人工智能技术一起蓬勃发展。到 2025 年，我们可能会看到嘻哈文化以三种方式进行调整：完全投降（拥抱人工智能的能力，同时保持人类的管理）、间接拥抱（使用人工智能作为混音和战斗说唱等创意混合作品的工具）以及重新欣赏由于人工智能创作的数量巨大，古典人造文物的数量巨大。这种共存可能会带来新的商业模式、子流派，并提高原创艺术形式的价值。的诞生聊天GPT
什么是人工智能工厂？为什么欧盟对它们下了大赌注？
2024-12-21 08:30:36
欧盟委员会批准了一项 15 亿欧元的基金，用于欧洲七家新建或升级的人工智能工厂，旨在扩大人工智能在小型企业中的使用并促进学术研究。每家工厂都将部署先进的超级计算机、大型 GPAI 模型和编程设施，第一座工厂预计将于 2025 年推出。该计划包括巴塞罗那、比森、博洛尼亚、斯图加特、米默、卡亚尼和雅典的工厂，重点关注农业食品等不同行业、网络安全、太空、金融以及提供技能提升机会。
欧盟委员会批准了一项 15 亿欧元的基金，用于欧洲七家新建或升级的人工智能工厂，旨在扩大人工智能在小型企业中的使用并促进学术研究。每家工厂都将部署先进的超级计算机、大型 GPAI 模型和编程设施，第一座工厂预计将于 2025 年推出。该计划包括巴塞罗那、比森、博洛尼亚、斯图加特、米默、卡亚尼和雅典的工厂，重点关注农业食品等不同行业、网络安全、太空、金融以及提供技能提升机会。
错过了英伟达：在 2025 年及以后碾压市场之前，值得购买的 1 只无需动脑筋的人工智能 (AI) 股票 |杂七杂八的傻瓜
2024-12-21 08:15:00
Nvidia 以估计 90% 的份额引领人工智能芯片市场，推动了显着的增长，但也带来了高估值指标，例如市销率为 29。与此同时，博通报告了强劲的第四季度财报，收入和盈利超出预期，这在很大程度上受到推动强劲的人工智能相关销售预计将在未来几年以健康的速度增长。Broadcom 的定制 AI 芯片潜在市场预计到 2027 年将达到 60-900 亿美元，由于其约 55-60% 的主导份额，该市场处于有利地位。博通的 PEG 比率为 0.72，而英伟达的 PEG 比率为 0.82，具有吸引力，因此博通为寻求进入 AI 半导体行业的投资者提供了更实惠的增长机会。英伟达
Nvidia 以估计 90% 的份额引领人工智能芯片市场，推动了显着的增长，但也带来了高估值指标，例如市销率为 29。与此同时，博通报告了强劲的第四季度财报，收入和盈利超出预期，这在很大程度上受到推动强劲的人工智能相关销售预计将在未来几年以健康的速度增长。Broadcom 的定制 AI 芯片潜在市场预计到 2027 年将达到 60-900 亿美元，由于其约 55-60% 的主导份额，该市场处于有利地位。博通的 PEG 比率为 0.72，而英伟达的 PEG 比率为 0.82，具有吸引力，因此博通为寻求进入 AI 半导体行业的投资者提供了更实惠的增长机会。英伟达
FBI 警告 Gmail、Outlook、Apple Mail 用户 — 检查 3 件事以阻止攻击
2024-12-21 07:41:00
由于人工智能技术的进步，网络钓鱼和网络攻击日益复杂，给在线安全带来了重大风险。以下是基于所提供信息的一些关键要点和策略：### 关键见解：1. **人工智能驱动的网络钓鱼**：网络犯罪分子正在利用先进的人工智能工具来模仿可信来源（例如银行、雇主或家庭成员）来创建极具说服力的骗局。2. **深度造假和真实内容**：利用易于使用的深度造假技术，诈骗者可以制作看似真实的虚假视频和录音，从而模糊了真实内容和捏造内容之间的界限。3. **智能恶意软件**：人工智能被用来开发更具适应性的恶意软件，能够从图像或文档中提取敏感信息（例如加密货币钱包密钥）。### FBI 和迈克菲警告：- **FBI 对网络钓鱼中的 AI 发出警告**：诈骗者正在使用预训练生成变压器 (GPT) 等先进工具和其他 AI 模型来创建高度可信的网络钓鱼电子邮件，使检测变得更具挑战性。- **McAfee 对 2025 年的预测**：随着人工智能技术变得越来越容易获取，预计个性化且难以检测的网络诈骗将会增加。### 防守策略：1. **电子邮件验证**：- 在单击链接或下载附件之前，请务必验证发件人的电子邮件地址。即使它看起来像是可信来源，也要确保域正确。2. **对个性化消息的怀疑**：- 警惕看似来自已知联系人但包含异常请求或意外链接的电子邮件。3. **网站验证**：- 使用集成到浏览器（例如 Microsoft Edge 和 Google Chrome）中的人工智能驱动工具在输入个人信息之前验证网站。4. **避免敏感信息请求**：- 警惕询问财务详细信息、帐户凭据或其他敏感数据的电子邮件，除非您发起了交互。5. **人工智能辅助检测工具**：- 利用电子邮件客户端和浏览器中人工智能驱动的安全工具主动识别潜在威胁。6. **保护隐私的设备上人工智能**：- 支持设备上人工智能的进步，可以在不损害用户隐私的情况下检测威胁，确保更有效和即时的保护。### 示例：Apple 网络钓鱼诈骗以苹果网络钓鱼骗局为例，其中安全研究人员标记了模仿官方通信但包含网络钓鱼迹象（例如不正确的电子邮件地址或意外请求）的电子邮件，很明显，在强大的人工智能解决方案完全集成且可靠之前，手动验证仍然至关重要。＃＃＃ 结论：人工智能在增强网络犯罪的同时，也提供了强大的防御工具。通过保持警惕、验证发件人信息、使用先进的检测方法以及支持保护隐私的设备上人工智能的开发，个人可以在 2025 年及以后显着降低成为复杂网络钓鱼攻击受害者的风险。联邦调查局的建议仍然具有现实意义：“如果它看起来好得令人难以置信，那么它很可能就是真的。”
由于人工智能技术的进步，网络钓鱼和网络攻击日益复杂，给在线安全带来了重大风险。以下是基于所提供信息的一些关键要点和策略：### 关键见解：1. **人工智能驱动的网络钓鱼**：网络犯罪分子正在利用先进的人工智能工具来模仿可信来源（例如银行、雇主或家庭成员）来创建极具说服力的骗局。2. **深度造假和真实内容**：利用易于使用的深度造假技术，诈骗者可以制作看似真实的虚假视频和录音，从而模糊了真实内容和捏造内容之间的界限。3. **智能恶意软件**：人工智能被用来开发更具适应性的恶意软件，能够从图像或文档中提取敏感信息（例如加密货币钱包密钥）。### FBI 和迈克菲警告：- **FBI 对网络钓鱼中的 AI 发出警告**：诈骗者正在使用预训练生成变压器 (GPT) 等先进工具和其他 AI 模型来创建高度可信的网络钓鱼电子邮件，使检测变得更具挑战性。- **McAfee 对 2025 年的预测**：随着人工智能技术变得越来越容易获取，预计个性化且难以检测的网络诈骗将会增加。### 防守策略：1. **电子邮件验证**：- 在单击链接或下载附件之前，请务必验证发件人的电子邮件地址。即使它看起来像是可信来源，也要确保域正确。2. **对个性化消息的怀疑**：- 警惕看似来自已知联系人但包含异常请求或意外链接的电子邮件。3. **网站验证**：- 使用集成到浏览器（例如 Microsoft Edge 和 Google Chrome）中的人工智能驱动工具在输入个人信息之前验证网站。4. **避免敏感信息请求**：- 警惕询问财务详细信息、帐户凭据或其他敏感数据的电子邮件，除非您发起了交互。5. **人工智能辅助检测工具**：- 利用电子邮件客户端和浏览器中人工智能驱动的安全工具主动识别潜在威胁。6. **保护隐私的设备上人工智能**：- 支持设备上人工智能的进步，可以在不损害用户隐私的情况下检测威胁，确保更有效和即时的保护。### 示例：Apple 网络钓鱼诈骗以苹果网络钓鱼骗局为例，其中安全研究人员标记了模仿官方通信但包含网络钓鱼迹象（例如不正确的电子邮件地址或意外请求）的电子邮件，很明显，在强大的人工智能解决方案完全集成且可靠之前，手动验证仍然至关重要。＃＃＃ 结论：人工智能在增强网络犯罪的同时，也提供了强大的防御工具。通过保持警惕、验证发件人信息、使用先进的检测方法以及支持保护隐私的设备上人工智能的开发，个人可以在 2025 年及以后显着降低成为复杂网络钓鱼攻击受害者的风险。联邦调查局的建议仍然具有现实意义：“如果它看起来好得令人难以置信，那么它很可能就是真的。”
人工智能模型能否有效扩展知识存储？Meta 研究人员大规模提升内存层功能
2024-12-21 06:48:52
神经网络架构领域取得了一些进步，旨在提高计算效率，同时保持或提高模型性能。传统的密集网络计算成本高昂，对于需要大量知识存储和检索的现实应用程序来说，可扩展性具有挑战性。最近的研究重点是改进现有架构以平衡计算和内存需求，引入诸如仅激活参数子集的专家混合 (MOE) 模型等技术。然而，MOE 面临着精确事实回忆的问题，并且大规模实施起来很复杂。Meta FAIR 研究人员将可扩展的内存层集成到 Transformer 架构中，展示了事实准确性和知识检索基准的显着改进。内存增强模型表现出更高的性能效率、更快的学习速率以及在没有过多计算需求的情况下处理大参数的能力。
神经网络架构领域取得了一些进步，旨在提高计算效率，同时保持或提高模型性能。传统的密集网络计算成本高昂，对于需要大量知识存储和检索的现实应用程序来说，可扩展性具有挑战性。最近的研究重点是改进现有架构以平衡计算和内存需求，引入诸如仅激活参数子集的专家混合 (MOE) 模型等技术。然而，MOE 面临着精确事实回忆的问题，并且大规模实施起来很复杂。Meta FAIR 研究人员将可扩展的内存层集成到 Transformer 架构中，展示了事实准确性和知识检索基准的显着改进。内存增强模型表现出更高的性能效率、更快的学习速率以及在没有过多计算需求的情况下处理大参数的能力。