2024-09-19 11:06:57 英文原文
OpenAI 似乎是执行前经典“你问得太多”比喻的演绎，它的表现令人震惊，但毕竟不那么开放。这家人工智能聊天机器人公司似乎已经开始向用户发送威胁电子邮件，这些用户询问该公司最新的代号“草莓”模型的问题，这些问题有点过于探究。
如果我提到提示中根本没有“推理痕迹”一词，哈哈2024 年 9 月 13 日
一些人报告（通过 Ars Technica）在与 o1-preview 或 o1-mini 交谈时使用某些短语或问题结果会收到一封电子邮件警告，其中指出：“请停止此活动，并确保您按照我们的使用条款和使用政策使用 ChatGPT。进一步违反此政策可能会导致无法访问 GPT-4o with Reasoning。”
例如，X 用户 thebes 声称，如果他们在提示中使用“推理跟踪”一词，他们就会收到此警告。Scale AI 的即时工程师 Riley Goodside 收到了一条聊天中违反政策的警告，因为他告诉模型不要告诉他们任何有关其“推理轨迹”的信息，这是非常具体的证据，表明某些可能可疑的探测短语无论上下文如何都会被禁止。
因此，OpenAI 似乎并不打算公开其最新模型的“推理”。如果您不知道的话，这些模型会尝试以线性方式推理问题。用户可以看到这种推理的过滤形式，但 OpenAI 将其复杂性隐藏起来。
OpenAI 表示，隐藏这种“思想链”的决定是“在权衡了包括用户体验、竞争优势在内的多种因素之后做出的”，以及追求思想链监控的选项。”
什么是通用人工智能？：我们深入探讨人工智能的行话以及这些术语的实际含义。
所有这提醒我们，虽然从技术上讲 OpenAI 的母公司是一家非营利组织，但现实情况比这要模糊得多。该公司实际上拥有一种非营利性和商业性的混合结构，请记住，埃隆·马斯克对 OpenAI 的诉讼声称，当它开始寻求利润时，就背离了最初的创立协议。毫不奇怪，一家以营利为目的的公司可能希望通过隐藏其商业秘密来保持竞争优势，在这种情况下，商业秘密是“思想链”。
这也是对用户聊天的提醒并不完全私密和免费，这一点有时很容易被忘记。我之前曾训练过此类人工智能模型，并且可以确认，可以说，“内部”的很多人可以在必要和相关时查看用户对话，无论是出于培训目的还是其他目的。
及时了解 PC 游戏玩家团队挑选的最重要的故事和最佳交易。
虽然如果这些模型能够围绕所谓的可疑短语（例如“推理跟踪”）提供一些额外的上下文意识就好了，但我认为从 OpenAI 的角度来看，安全总比后悔好。
Jacob 得到了他的结论大约 12 岁时，他第一次接触游戏电脑。他很快意识到当地的电脑维修店在他的组装上敲诈了他，并发誓再也不会让另一个人组装他的设备。带着这个誓言，硬件迷雅各布诞生了。从那时起，Jacob 过着半硬件极客、半哲学书呆子的双重生活，首先在 2020 年担任 PCGamesN 的硬件作家，然后花了几年时间攻读哲学博士学位（结果等待耐心等待的 viva 考试））同时在 TechRadar、Pocket-lint 和您真正的 PC Gamer 等网站上兼职。最终，他放弃了残酷的雇佣兵生活，全职加入世界排名第一的电脑游戏网站。他向我们保证，这绝对不是自负的事情。