我在其他各种媒介中多次说过这个观点：AI软件总是被称为“AI软件”而不是仅仅一个有用的产品，是因为AI是不可靠的。我们之所以能够构建如此深度和复杂度的软件系统，是因为每一层都可以假设下一层会“正常工作”。如果它只在99%的情况下正常工作，我们所有人仍将使用汇编语言，因为我们必须意识到所犯的错误并加以处理，否则错误会累积到软件变得无用。在AI达到我们其他软件所拥有的确定性水平之前，它将不得不停留在表面。
源讨论AI公司正在从创造神明转向构建产品原帖 195 条评论 · 导入时统计> 但当开发者将人工智能应用于消费产品时，人们期望它像软件一样运行，这意味着它需要具有确定性。如果你的人工智能旅行代理只在90%的情况下预订正确的目的地，它将不会成功。 这就是阻碍生成式人工智能成为大多数产品"基础构建模块"的根本问题。即使有严格的安全措施，也无法保证其输出结果。在确定性方面，人工智能就像沙子一样不可靠，这对你试图销售沙子来说可能很好，但如果你试图在它上面建造一座巨大的结构，那就不太好了。
完整原文把你的经验，加入这段讨论。
但软件只在99%的情况下正常工作。对于某种定义的“工作”：在99%的运行日中，99%的点击，99%的组件CPU时间，99%发布的版本并链接到某个企业的生产二进制文件中，99%的github标签，99%的提交，以及99%的软件，那个家伙说这是经过实战考验的
完整原文你击中了要点。过去两年里，人们拼命尝试在五根湿肥皂之间保持平衡，解决了一些问题，但从我目前看到的情况来看，这些问题已经以一种（枯燥的）确定性方式被解决了，而且消耗的资源要少得多。 更进一步说，我们的前辈们投入了大量工作，将非确定性电子设备组合在一起，为我们提供了稳定且_正确_的平台，而人们却试图在中间再添加一层非确定性，来解决同一类问题，这看起来非常可笑。
完整原文最近Meta的工作使用人工智能自动增加测试覆盖率，而无需人工检查人工智能的输出。他们通过一个强大的人工智能输出验证机制来实现这一点：即人工智能生成的测试是否能编译、运行，并且覆盖测试代码库中尚未被覆盖的代码行。 我们可能需要在这方面的更多工作，寻找更多可以实现人工智能输出强自动验证的用例。
完整原文这里的讽刺之处在于，有许多领域使用统计方法，并成功地限制了统计方法的复杂性和故障模式。很多人在统计学上遇到困难，但在适合的领域，我认为人工智能将能够很好地融入整个技术栈。
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。