我认为这里的观点完全错误。问题在于，现在人们正在围绕一种回避责任的工具来构建我们的世界。十多年前，我曾与Gerald Sussman有过一次谈话，这次谈话对我影响很大：https://dustycloud.org/blog/sussman-on-ai/ > 有一次，Sussman表达了他对AI发展方向的担忧。他解释说，他认为大多数AI方向对他来说并不有趣，因为它们是关于建立一个坚实的AI基础，然后AI系统像一个黑箱一样运行。"我不感兴趣。我想要的是可以负责任的软件。" 责任？"是的，我想要一个能表达其符号推理的系统。我想让它告诉我它为什么做了那件事，它认为会发生什么，然后实际发生了什么。" 然后他说了一句话，我花了很长时间才理解，起初我误以为这是非常科幻的，类似"如果一辆由AI驱动的汽车开下了路，我想知道它为什么这么做。…
源讨论AI没有删除你的数据库，是你自己删除的原帖 304 条评论 · 导入时统计把你的经验，加入这段讨论。
我不明白为什么人们还认为美国是创业的理想国家。一切都围绕着打官司展开。
完整原文人类也并不更好。这就是为什么我们有OSHA等机构。我认为你希望有一个基于形式逻辑的AI，但我打赌这种东西永远不会存在——如果存在的话，它会试图杀死我们所有人。
完整原文我和我的团队坚信我们是唯一需要负责的人。LLM只是一个工具，和其他工具一样。只是它具有非确定性。但我是使用这个工具的人。是我给这个工具访问权限。是我必须确保一切安全。 我过去曾用gparted误删了错误的磁盘，导致自己“自食其果”。并不是gparted的错，是我自己犯的错。 让LLM自由运行听起来很好，但最终会导致痛苦。我必须监督它们的工作。而且这还包括执行过程中。你可以尝试用人类替代，但我们看到过这样的结果。迟早LLM会做些愚蠢的事情，而唯一要被责备的，就是使用这个工具的人。
完整原文人们正在逃避自己的责任，把糟糕的决策和缺乏访问控制归咎于工具。 为什么你能够不小心误删本地的生产数据库？
完整原文以前有很多研究是关于用深度神经网络训练决策树的，而决策树本身则远没有那么像黑箱，实际上是可以被推理的。我想知道这些研究都去哪儿了？
完整原文我希望你能得到你想要的，但我担心你不会得到，因为生活不会给你这个，而且这些系统正逐渐远离机器的精确性，而更趋向于类似人类的权衡。 我几乎可以肯定，即使你得到了你想要的，一些你并不想要的东西也会绕过你，把你打败。 编辑：我怀疑这在Hacker News上会是一个不受欢迎的观点。因此我请求其他生物学家和有同情心的技术人员给予支持以提高可见度。我认为每个人都应该尝试面对这种可能性 <3
完整原文我有一本书要推荐给你：https://en.wikipedia.org/wiki/The_Unaccountability_Machine 其实这本书完全不涉及技术，而是关于组织结构的。
完整原文这里的谬误在于假设人类知道我们为什么做我们所做的事。就像现代的大型语言模型一样，我们有一个解释，但那只是我们大脑中临时编造出来的。至于这个解释是否是真相，要复杂得多。 奇怪的是，尽管大型语言模型是拥有数十亿参数的巨大网络，但我们可能还是比理解我们自己的大脑要更透彻。
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。