这被称为科学方法

> 是的，當然關係問題沒有「正確」的答案。但物理問題有。程式漏洞問題有。數學問題有。我認真說。 但根據哥德爾不完備定理和停機問題，數學問題（進而物理和計算機科學問題）並非總是都有答案。

我讀了整篇文章（真的很有共鳴，順便一提），但我難以理解你所描述的問題。 > 是的，當然關係問題沒有「正確」的答案。但物理問題有。程式漏洞問題有。數學問題有。我認真說？ 你能說得更詳細一點嗎？看起來這篇文章說的跟你說的一樣。 > 我其實不認為上面那段話有任何意義，有人反對嗎？「我們不是計畫，而是觀察和假設」？ 我想作者是在將科學世界，特別是量子力學，進行類比，因為在那裡，進步的最佳方式是描述和測試理論（與數學中我們有證明的方式相反）。不過這不是一個很好的類比，因為 LLM 不是以量子力學那樣的概率方式運作的。 不管怎樣，我欣賞這篇文章，因為它談到了一種從…

> 我建議你看看布希亞（Baudrillard）關於超真實的著作。 有具體的寫作內容可以推薦嗎？我之前試著讀過《模擬與模擬》（英文翻譯版），但我發現很難跟上。

> 我不是说未来的计算不会是概率性的 现在的和过去的计算在某种程度上一直是概率性的，这并不意味着它会变成100%的概率性。几乎所有LLM的实现都是确定性的，除了其中随机的部分。它的输出是以相同的方式使用的。人类也结合了这两种方法。甚至现实也是低层次的量子不确定性与高层次非常确定的物理规律的结合。 > 我们正在远离确定性的机械主义，一个完美信息和完美知识的世界，走进一个由涌现的未知行为组成的世界，在这个世界中，我们不再规划和工程，而是观察和假设。 炒作机器总是涉及伪科学的胡言乱语，而这是一个特别令人反感的例子。被推广的想法是，AI将像神一样，我们将在其中找到所有真理和知识，这已经超越了...…

这在第一步就已经错了。概率系统从定义上来说就不是函数（它是一个关系）。这是一个如此基础的错误，我不知道为什么有人会认真对待它。许多现有的系统也不是严格的函数（内部状态可以使它们对给定的输入返回不同的输出）。人们喜欢滥用数学，并仓促而轻率地使用其概念。

还有另外一些科学最常用到的基本原理，即一致性和平滑性。也就是说，外推和内插是有意义的。而且，如果一个实验现在有效，它将永远有效。关键的是，物理世界是可知的。

你似乎对这些东西有强烈的情绪，所以我有点担心我会得到攻击性的回应，但这是我最好的、出于好意的回应： 我认为作者并不是在主张所有计算都将变得概率化。我完全没收到这个信息——事实上，他们多次指出LLM不能被信任用于有明确答案的问题（“如果你需要计算1+1，请使用计算器”）。他们的开头段落实际上是关于不要盲目信任LLM的输出。 > 我真的认为上面那段话没有任何意义，有人不同意吗？ 是的——对我来说，这完全有意义。与LLM一起工作需要一种思维方式的转变。你无法使用一种形式语义来理解它们可能做什么（不像编程语言）。你真的需要诉诸观察和假设检验，而这正是科学…