AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
IEEE754
共命中 1 条(服务端检索)
一篇读懂浮点数:IEEE 754 与 0.1+0.2≠0.3 的真相
为什么 0.1+0.2 不等于 0.3?为什么金额计算永远不用 float?答案藏在 IEEE 754 的科学计数法里:有限的比特要表示无限的实数,误差是物理必然。本篇拆解浮点数的结构、精度丢失的机制、常见坑(比较、累加、溢出)与正确姿势(定点数、Decimal、Kahan 求和)。
一叶一世界
精选
· 原创 · 昨天
阅读 8
·
访客 8