LaoK3meals1d

LaoK3meals1d

浮点运算的坑

heteroclinic

浮点数都是用二进制表达的,转换小数是一个很的事情 (1/2)n的近似

图片

图片

此博文来自论坛版块:STEM

共 4 条评论

  1. heteroclinic
    heteroclinic

    当然搞纯数值计算的早把这些问题解决了, 有一套办法,所谓隔行如隔山。

  2. heteroclinic
    heteroclinic

    glowinglake 写了: 2025年 9月 15日 01:24

    最新文章 gpu浮点数计算会introduce随机性。

    https://thinkingmachines.ai/blog/defeat ... eterminism

    没太仔细看,主题没有任何随机性问题的讨论而是观察一下对于数值的数字化表述的普遍性理解。

  3. glowinglake
    glowinglake

    最新文章 gpu浮点数计算会introduce随机性。

    https://thinkingmachines.ai/blog/defeat ... eterminism

  4. heteroclinic
    heteroclinic

    今天偶然听到一句话,演说讲了一大堆投资策略
    非常隐蔽的说public sector 的debt 是因为private sector赔的一塌糊涂,(bail out 去了)
    甘霖凉

评论

© 2024newmitbbs.com

Theme by Anders NorenUp ↑