展开讨论

经验与复盘经验摘录 · 机器翻译

我在GPT-3发布前就启动了一个替代项目,当时真的很有前景(有很多 …

在我开始这个替代性项目的时候,GPT-3 还没发布,当时看起来非常有前景(有很多神经科学启发的解决方案,和 Transformer 相比有很大不同),但我不得不暂停了,因为我想接触的投资者似乎只愿意投资于 LLM 相关的项目。现在几年过去了,我再次尝试接触投资者,却发现现在他们想要投资的是那些利用 LLM 创造价值的公司,仍然对新的基础模型类型不感兴趣……:/ 我想这可以理解,目前利用现有的 LLM 创造价值的空间仍然很大,不过可能一些容易实现的成果已经被挖掘了,谁知道呢。我听过 John Carmack 很多关于他自己的替代性(也是神经科学启发的)想法,听起来和我的项目非常相似,主要区别在于他能够自己资助项目:)我想现在要资助一个“非 LLM AI”的项目,需要找到像 Carmack 这样的人来加入——我仍然认为传统投资者并没有那么失望,以至于愿意在其他类型的项目上冒险。

源讨论GPT-5:关键特性、定价和系统卡原帖 295 条评论 · 导入时统计
2

这条内容在回应什么?

父级讨论 · 节选

GO

> 这似乎有点让我觉得纯粹的规模最大化主义真的正在消亡,不过最大的问题是,投资者是否会开始资助那些一直预测这一点(并有证据支持)并尝试其他途径的人。 但说实话,为什么要把所有的鸡蛋放在一个篮子里?我一直对此感到困惑。为什么还要资助另一个LMM到AGI的初创公司?太空已经被大公司占据了很多年了。即使LMM可以做到这一点,也不意味着其他东西不会更快、更便宜地做到。而且你似乎也需要一个备份,以避免泡沫破裂。技术S曲线仍然适用于AI。 虽然我也有类似的偏见,但我和我认识的每个有强大数学和/或科学背景的人都有这种偏见(我在我的论文中多次提到过,哈哈)。 只需扩展就是一切,这并不成立

完整原文

社区评论 0

还没有社区评论,来聊聊你的看法。

原讨论中的回复 2

仅展示本次导入中包含的直接回复。中文为机器翻译,可查看英文原文。

GO

> 我猜现在资助一个“局外人”非 LLM 的 AI 项目需要找到像 Carmack 这样的人来加入。 我认为这是一个大问题。尤其是因为这些投资往往比现有的要便宜得多。该死的,我博士期间有一些被搁置的东西,还有我制作的几个模型,我确信如果用不到一百万美元的计算资源,我就能将性能提高一倍。我的方法已经可以竞争,而且需要的计算资源更少,那为什么不让它们有机会扩展呢?我看到过数百种方法都这样。如果“规模就是一切”,那么是否应该相信这些方法也都能扩展?

完整原文
AN

市场非常擅长从有时荒谬的项目中榨取利润,但对基础研究却非常不利。 这是我们将经济生活组织成这种方式,或者更确切地说,唯一这种方式所导致的问题。

完整原文
在 Hacker News 阅读

尊重不同观点,分享具体经验。

登录后即可发帖、评论、转发和引用。