展开讨论

经验与复盘经验摘录 · 机器翻译

> 我第一次尝试了一件新事物,就是在开发过程中保持写日记

> 我第一次尝试了一件新事物,就是在开发过程中保持写日记。一定要这样做!!!我再怎么强调都不为过!如果你在专业的科学实验室工作,比如物理、生物、化学,你被期望保持实验日记。这对你比对公司更有帮助(知识沉淀、责任界定等)。我无法告诉你有多少次,一些看似无害的愚蠢评论救了我的命。它们价值连城。对于ML实验,我使用wandb和hydra[0]。把所有的配置都放到hydra中。要非常严谨。你应该记录你的随机种子、版本、日期,我意思是所有东西。设置这只需要几分钟,但当你需要它的时候,它会为你节省数小时。把所有这些内容都放到wandb和你的模型检查点中。你会忘记那个检查点对应的是什么。大量使用wandb的标签和评论(通过hydra你可以将这些作为cli参数来自动化,即使从slurm脚本启动也可以)。开启wandb的代码保存功能。最重要的是,使用wandb提供的笔记本。不要担心它变得混乱。…

源讨论将神经网络编译为C以提高速度原帖 93 条评论 · 导入时统计
8

社区评论 0

还没有社区评论,来聊聊你的看法。

原讨论中的回复 8

仅展示本次导入中包含的直接回复。中文为机器翻译,可查看英文原文。

0C

根据我两分钟的快速浏览文档,情况并不乐观,hydra只官方支持到Python 3.11。

完整原文
NI

保持日记的问题在于,这样做可能会打断心流状态。 另一方面,工作过程中自然会有暂停的时刻;在这些时候记录下来是没问题的。虽然精确度稍低,但总比什么都不记录要好。

完整原文
IS

混乱的能量哈哈,我喜欢。谢谢关于保持日记的建议,我以后会多这么做。我通常会做开发笔记,但通常是分散在代码库中的markdown文件或者注释里,而不是按日期记录在README中。未来,我可能会把JOURNAL.md作为项目中的标准做法?关于w&b,我最初使用它时就喜欢上了,但肯定在这段时间里它有了很多进步。我得去看看! 还有,"自命不凡的完美主义者"这个说法真搞笑,我很高兴终于有人能用词来形容我的设计风格。我喜欢清晰的字体,我能说什么呢。

完整原文
RV

以上都同意。 现在在AI时代,许多进入计算机科学领域的学生现在必须这么做,否则他们在面试中给出的任何答案都会被认为来自AI,他们需要证明自己的博客或研究中确实有有用的成果。 现在这意味着要懂得如何进行实验,理解并构建知识,而不是因为答案来自Stack Overflow或ChatGPT而直接背诵出来。 错误是原始的,博客文章中所有的学习经验才让我们显得真实,但90%的候选人并没有这么做,这就是为什么他们中的大多数在面试中无法解释AI的错误。

完整原文
MR

设置服务器之类的事情也是如此。你会忘记的,如果你不记下来,你就得重新想办法。

完整原文
HE

我现在的工作流程是维护一个维基,你觉得Hydra会取代或者补充这个流程吗?尤其是如果你已经习惯了用维基做笔记的话?

完整原文
LA

在花了两天时间通过分割仓库来重现一个训练运行后,我最终得出了类似的结果,每次提交都要等待3小时才能得到明确的结果。我无法让自己使用Hydra,感觉它比用pydantic加载YAML文件要臃肿得多。

完整原文
TO

好的,所以我试着这么做。但之后我会遇到一些大问题,或者添加太多大功能,然后就放弃了。(我的睡眠几乎不存在,所以我也没有太多时间去记录事情。)

完整原文
在 Hacker News 阅读

尊重不同观点,分享具体经验。

登录后即可发帖、评论、转发和引用。