全部新闻
聊天机器人软件开始面临基本限制|Quanta杂志
Binghui Peng和Liane Lang等研究人员的最新研究揭示了基于变压器体系结构的大语言模型(LLM)的内在局限性。这些发现表明,尽管具有令人印象深刻的功能,但在处理复杂的组成任务时,变压器具有固有的数学边界。这是这些见解的细分和减轻此类局限性的潜在方法:###变形金刚的内在局限性1。**数学边界**: - **单层变压器**:Peng的工作表明,如果单层变压器的参数计数小于域的大小,则无法解决某些组成问题。 - **多层变压器**:进一步的研究将这种局限性扩展到多层变压器,通过计算复杂性理论和电路复杂性理论证明,在扩大问题复杂性时,甚至更大的模型甚至更大的模型面临限制。2。**复杂性理论**: - 通过利用计算复杂性的猜想和电路复杂性理论,Peng及其同事表明,无论模型大小或训练技术如何,基于变压器的LLMS本质上都无法解决某些组成任务。3。**没有猜想的证明**:在2024年12月,发布了严格的数学证明,表明多层变压器无法在不依赖未经证实的计算复杂性猜想的情况下解决特定的复杂组成问题。###缓解限制1。**建筑调整**: - **嵌入技巧**:像汤姆·戈德斯坦(Tom Goldstein)这样的研究人员通过嵌入其他位置信息来提高模型性能,从而提高了模型性能,从而允许接受较小数量的训练模型以准确处理较大的位置。2。**经过思考链的提示**: - **分解问题**:经过思考的提示涉及在提示内提供逐步解决方案,使像GPT-4这样的LLMS能够通过将其分解为更简单的子任务来解决更广泛的复杂任务。 - **理论理由**:Haotian Ye及其同事的研究已使用电路复杂性理论提供了理论上的理由。经过深思熟虑的提示将大问题变成了较小问题的序列,使变压器可以解决更复杂的组成任务。###含义1。**公众感知**: - 对于公众来说,了解LLM是执行推理还是模式匹配可能并不重要。2。**研发**: - 了解这些限制对于旨在提高模型功能的开发人员至关重要。 - 解决变形金刚如何执行任务的潜在机制可以导致更有效的解决方案和改进。###未来方向1。**替代体系结构**:尽管州空间模型的最新进步显示出希望,但在复杂的组成问题方面,它们也具有相似的局限性。2。**混合方法**:将基于变压器的架构与其他方法相结合或添加特定技术(例如,经过思考的提示)可以提高性能,而无需从根本上改变模型体系结构。### 结论Dziri和Peng的发现强调,LLM是强大的工具,但具有固有的局限性,植根于其建筑设计。尽管这些限制并没有减少当前模型在许多实际应用中的实用性,但它们强调了继续研究通过理论见解和创新技术克服这些限制的需求。了解变形金刚如何执行任务是开发更健壮和有能力的AI系统的关键。通过利用诸如嵌入技巧和经过思考链的提示之类的方法,研究人员可以突破LLM当前能够的界限,并有可能在未来模型中释放新的性能和功能水平。
迫在眉睫的AI能源危机
像微软,亚马逊,Google和Meta这样的美国科技巨头正在探索三英里岛和汉福德等地点的核电站的复兴,以满足数据中心和AI运营的不断增长的能源需求。但是,这种方法引起了人们对放射性废物增加的担忧,这仍然是核工业的重大尚未解决的问题。所提出的解决方案,包括小型模块化反应堆,面临与成本和监管批准有关的挑战,使其不确定它们是否可以为更清洁的可再生能源提供可行的替代品,例如太阳能,风和地热。
如何购买AI出售(并使您每年付13%)
本周与AI相关的市场恐慌已经在低估的科技股和股息中创造了机会,尤其是通过鲜为人知的闭门基金(CEFS),提供高达13%的年度分销。重点介绍的关键CEF包括哥伦比亚塞利格曼高级技术增长基金(STK),分配率为5.8%,贝莱德创新和增长期限信托(BIGZ),占13.0%,Neuberger Berman下一代连接基金(NBXG)为9.2%。这些资金利用涵盖的呼叫策略提高了收益率,同时可能会限制上升收益。建议投资者考虑这些CEF,因为它们以折扣价提供了对高级技术股票和创新公司的访问权限,并提供一些每月分销。
州长墨菲(Murphy)兼总裁埃斯格鲁伯(Eisgruber
州长菲尔·墨菲(Phil Murphy)和普林斯顿大学(Princeton University)校长克里斯托弗·埃斯格鲁伯(Christopher L.该枢纽将专注于研发,通过加速器计划商业化创新,并加强AI教育和劳动力发展。合作伙伴预计将投资超过7200万美元来支持长期成功,其中包括新泽西经济发展局(NJEDA)的2500万美元。Microsoft的TechSpark计划还将集成到枢纽中,以促进该州的创建工作和技术培训。NJ AI枢纽的目标是通过与研究大学和初创企业的合作,将新泽西州作为国家AI行业的领导者。
Google’s new feature uses AI to call businesses on the phone for you Google is testing a new tool called "Ask for Me" which allows AI to call businesses on behalf of users to inquire about pricing and service availability, currently limited to nail salons and auto shops. Users can opt into the feature through Google Search Labs and provide necessary information such as car details or desired appointment times. Businesses receive calls from an automated system identifying itself as calling from Google. Call quotas are in place to prevent overloading businesses with automated calls, and those不愿接收这些自动电话的企业可以在Google商家资料设置中选择退出。目前,“Ask for Me”功能仅面向美甲沙龙和汽车维修店开放,由于实验期间容量有限,启用该功能的用户可能需要加入等待名单。 请注意,最后一句进行了简化处理以便于理解:“Ask for Me” is currently only available for nail salons and auto shops, and users might face a waitlist due to limited capacity during the experimental phase. Hate calling people on the phone? Google will do it for you. Google is testing out a new tool that allows artificial intelligence to make calls to businesses to ask questions for you. âAsk for Meâ is a feature that will get information on details such as pricing and service availability. âAsk for Meâ is a feature that will get information on details such as pricing and service availability. X/Rose Yao However, for now, itâs only available for nail salons and auto shops, Google product lead Rose Yao said in a post on X. Once you opt into the experiment on Google Search Labs , when you search for nail salons or auto shops you might be prompted with an âAsk for Meâ prompt. From there, youâd select it and answer a series of questions â such as what kind of car you have, what service you need to get done and when you would want the appointment to be. Youâll also provide your email and phone number to receive updates about the request. Google spokesperson Craig Ewer told The Verge  that with âAsk for Me,â âevery call begins by announcing that itâs an automated system calling from Google on behalf of a user.â It will prompt you to answer a series of questions â such as what kind of car you have, what service you need to get done and when you would want the appointment to be. X/Rose Yao Ewer told The Verge that there are call quotas in place to ensure that businesses donât get automated calls from Google too much. He said that any information collected on the call âcan be used to help with similar requests from other users.â Businesses that donât want to receive these automated calls can opt-out in their Google Business Profile settings or by telling Google when they receive a call. For now, âAsk for Meâ is only available for nail salons and auto shops. X/Rose Yao Users who enable the feature might hit a waitlist since capacity is limited during the experiment, Yao clarified. She added that âAsk for Meâ is built using the same Duplex tech that uses AI to make restaurant reservations via Search or Maps as well as help businesses keep details, like store hours, updated on Maps.
20 2025年必须学习的AI和自动化技能|企业家
人工智能正在迅速发展,促使个人决定是拥抱还是被抛在后面。一个课程捆绑包提供25小时的CHATGPT和自动化技能内容,价格为29.99美元(经常$ 790)。这些课程涵盖了各种AI应用程序,例如编写更好的提示,数据可视化,自动化任务,创建社交媒体内容以及通过AI帮助进行准确的编码。参与者完成后获得证书,以展示其在简历或LinkedIn个人资料上的AI技能。
AI设计的计算机芯片无法理解。
一个新的卷积神经网络(CNN)设计了无线芯片,通过分析所需的芯片属性并从中向后设计来优于现有的芯片。这项发表在《自然传播》上的研究旨在提高人类的生产力,而不是取代它。CNN可以比传统方法更快地提出芯片设计的创新范例,尽管这些设计很复杂,并且可能需要人类干预才能理解和纠正问题。
Atlassian在报告收入超过预期的收入后,自2022年以来最高收入,收入前景
Atlassian股票在其第二季度的财政期望超过收益期望之后飙升了14.9%,达到了新的52周高。该公司报告了调整后的每股收益为96美分,收入为12.9亿美元。对于第三季度,Atlassian预测收入为13.5亿美元,超过估计值。增长是由云和数据中心扩展所推动的,订阅收入同比增长30%。该公司还从AI投资中受益,包括将OpenAI的功能整合到其解决方案中。分析师看好atlassian在生成式ai领域的前景,认为其估值仍有上升空间。
AI为非程序员提供了编写计算机代码的提升
与专业的计算机程序员相比,最终用户程序员多数数百万。最终用户在各种职业中编写了少量的代码,但经常在编程语言的语法细节上挣扎。教育工作者旨在利用Github Copilot(例如Github Copilot)等人工智能工具来帮助这些学生专注于高级问题解决而不是语法,从而使他们能够在基本功能之外创建有意义的软件项目。这种方法被视为扩大能够为非计算机科学领域编写有用代码的最终用户程序员数量的有希望的方法。
您对DeepSeek错了
最近对中国人工智能公司DeepSeek及其模型的关注提出了有关为什么某些AI的进步突破普通公众而其他人仍然没有注意到的问题。尽管不是表现最佳的AI,DeepSeek的R1由于其在用户友好的聊天机器人界面中的可见推理过程而获得了广泛的采用,从而增加了用户的信任和交互。这与Openai出于安全原因保持思维过程私密的方法形成鲜明对比。更广泛的意义在于理解公众的看法比技术优势更大的影响力更大,强调了AI技术的快速发展及其全球影响,而不仅仅是中国的进步。