如果我从软件工程工作中学到了一件事，特别是关于AI驱动的产品，这些产品赋能初级工程师，并且我专业地使用Copilot，那就是你需要更多的经验来察觉模型对你领域和你具体意图的不理解的细微差别。如果你不清楚自己想要什么，并且把大语言模型当作一个可以交流想法的对手，那你将会经历很多痛苦。根据你提问的方式，ChatGPT会很乐意地向你建议一个错误的方法，因为它太想满足你的愿望，而不是在适当的时候说“不”。除此之外，你不会通过自己摸索新概念来学习。如果你已经对你会写的代码有大致的了解，并且只是把模型当作一个智能的自动补全工具，那这并不重要。但对于一个新手或者外行来说，这会让代码依然显得可怕和不可预测。我认为这不应该就是答案。
源讨论家常软件和赤脚开发者原帖 171 条评论 · 导入时统计把你的经验，加入这段讨论。
>只是因为它如此执着地满足你的愿望，而不是说“不” 这真的、真的、真的需要修复。这可能是整个生态系统中最令人恼火（并且可能有风险）的部分。最让人恼火的是，你得到的代码不仅无法工作，而且只要稍微看一下，就不可能工作——尤其是当这种情况连续四次或五次发生时，每次都向你保证这次代码会工作。我发誓！
完整原文> 你不会通过弄清楚一个新概念来学习。 这个。 如果LLM真的是某种能为我写代码的魔法东西，我不会用它们正是出于这个原因。使用它们会阻碍我学习新技能，并会主动促使我现有的技能退化。 在这个行业中让我保持价值的是，我一直在进步，一直在学习新技能。任何阻碍这一点的东西对我来说都像是职业（和人生）的毒药。
完整原文这其实并不是一个新问题，之前的版本是“我不知道，我从stack overflow复制粘贴的。”真正的专业知识意识到答案往往隐藏在子评论中，而最高票的答案并不总是正确的。LLM自然不会意识到这些。
完整原文> 根据你提问的方式，ChatGPT会乐于建议你一个错误的方法，因为它如此热衷于满足你的愿望，而不是在适当的时候说“不”。 这很容易通过使用另一个被指示要批判并找出建议方法中所有缺陷的代理来解决。
完整原文> ChatGPT会乐于建议你一个错误的方法，因为它如此热衷于满足你的愿望，而不是在适当的时候说“不”。 问题就在这里。太多人认为ChatGPT（和类似的LLM）具备推理能力。其实没有。它只是根据某种模式给出看起来“正确”的答案。 它不知道什么是对的，所以它并不知道自己给出了不合适的答案。
完整原文当然，你对当今的LLM的看法是对的，但作者设想了一种不太不可能的渐进式改进，从而解锁了全新的解决方案领域。 我真的很喜欢赤脚开发者、本地优先的解决方案，以及希望从金融主义者手中夺回对我们数字生活的控制权这一概念。 尽管我政治上是反共的，但这些想法对我来说很有说服力。 演示也非常精彩。
完整原文新一代的开发者将变得赤脚、怀孕，并被关在厨房里，基于他们不理解的技术进行开发，这些技术由他们无法控制的公司提供支持。
完整原文部分不同意。目前的网络技术有些不必要的复杂。大多数人只需要基本的CRUD和一个可用的前端来完成日常任务。
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。