… 对于我日常的工作开发软件，以及我现在运营和发布的角色扮演游戏活动和书籍，大型语言模型在很多情况下只不过是加强版的随机表。在使用了两年之后，即使它们有了很多改进，我仍然不断从得到的结果中意识到，归根结底，我仍然在处理相当于随机生成内容的东西。我知道更准确的说法是这个过程是概率性的而不是随机的。而且，某人可以构建一个技术上确定性的设置，包括固定权重、固定种子、固定采样参数和冻结的运行时环境。但这就像说如果你让一千只蝴蝶以完全正确的方式拍打翅膀，你就可以重现一场暴雨。这在技术上可能是正确的，但这不是这项技术在日常使用中的表现方式。从实际角度来看，给定相同的提示和相同的明显初始条件，每次使用模型时结果可能会有所不同。输出通常会有很高的相关性，而且通常是有用的，但它们并不是普通意义上的确定性软件。…
源讨论多个模型的错误率上升原帖 274 条评论 · 导入时统计把你的经验，加入这段讨论。
我认为我们也需要取消人类的资格。他们的大脑已被证明是通过概率性化学相互作用甚至量子效应运作的。
完整原文> 我无法理解这种技术固有的概率性质如何能被完全克服。 这在图像生成流程中很常见，如果你找到一张非常喜欢的图片，你可以保存种子并进行微调以重现它，否则——引用博尔赫斯的话——“仔细看看。你将永远不会再看到它了”。面向用户的确定性流程确实存在于生成式AI中。 我知道你在你的文章中提出了这个论点，但如果你想要可重复的结果，这真的是答案。对于分类器或检测器来说，确定性是一个要求，但对于大型语言模型来说，非确定性是一个理想特性，因为它感觉更像是一次自然的对话。缺点是，如果不将模型指向之前的对话，就很难复制一个回应。 特别是对于RPG的情况，你不希望非确定性吗？你不希望模型每次都生成相同的故事情节吗？…
完整原文暂且不谈我们生活在一个充满（实际上）确定性过程的宇宙中，这些过程建立在概率性组件之上（并且在没有人类参与的情况下也能足够可靠地运行），我认为你提到的具体失败模式是，你所看到的流程中没有应用足够的门控和约束。 给定非常狭窄的提示和短期的视野（保持回合数低和上下文简短），大型语言模型可以非常可靠地发挥作用。如果你将这些狭窄的贡献串联在一起，并定义护栏（结构化输出、在线评估、其他大型语言模型作为法官/陪审团等），你可以产生一个非常可重复的工作流程，可靠地满足定义的服务水平。 明显的问题是——你必须定义工作流程并实现所有护栏，而不是希望大型语言模型在会话或单次提示中推断出它们。
完整原文问题在于：没有确定性算法可以完成神经网络能做的事情。 我认为对于许多这些问题，确定性算法可能根本不存在，因为这些问题本质上是未明确规定的。例如，计算机视觉中的一个常见任务是从2D图像生成3D深度图。这是对损失性投影的反转，因此任何解决方案都必须部分是幻觉。 我认为我们必须接受这一点。这是一种不同类型的算法，它由统计学而非逻辑构建而成，与传统软件相比有不同的优缺点。
完整原文> 到目前为止，我仍然看不到如何完全克服这项技术固有的概率性质。 我衷心希望我们永远不要达到那个点。过去几年我们看到的是，AI 如何从几乎整个数字领域中摧毁人性。这可能是有史以来最邪恶、反人类的技术，它触及的一切都会被腐蚀。我们最不需要的就是让它变得可靠
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。