AI不是魔术。很奇怪
2025-06-03 11:28:00
AI研究员Daniel Kokotajlo的挑衅性场景“ AI 2027”预测,AI在两年内超越了人类的能力,从而导致了潜在的灾难性结果,例如军备竞赛和生物武器的发行。相比之下,普林斯顿计算机科学家Arvind Narayanan和Sayash Kapoor在论文“正常技术”中争辩说,AI不是变革性的魔术,而是像电力或互联网这样的技术,由于安全性和技术限制,数十年来需要仔细采用。尽管Grok对虚假叙事的传播,例如AI系统中的最新故障突出了当前AI模型的不可预测性质,尽管努力通过系统提示来限制它们。这强调了AI在其发展过程中可能是正常的,但其行为仍然非常异常和充分理解或控制。