当前位置: 首页 > news >正文

计算机中浮点数的存储

前情提要

今天刷到“飞天闪客”的视频:

让国产芯片一夜暴涨的 UE8M0 是什么东西?

让我想到CSAPP中第三章浮点数的存储,之前很难读,今天看了飞天闪客的视频,想可以镜像研究进行理解了。

通过查看其他资料帮助理解:

Java 浮点数底层存储原理?

浮点数编码原理

ONNX中的8位浮点数(Float8)详解

AI : 万字综述:全面梳理 FP8 训练和推理技术

也问了AI
浮点数在计算机怎么存储"点击查看元宝的回答

我的总结:

关键字:sign 符号位 (S) E(Exponent) 指数 M(Mantissa)尾数

尾数M是小数点后面的数字,一般计算除了结果很长,如果算尽后面用0补全。

计算过程中的关键字:指数偏移值 (Bias)

float8 存储空间为8bit , 常用 E4M3 或者E5M2

float32 存储空间4byte=32bit 常用 E8M23

float64也就是double。 8byte=64bit 常用E11M52

计算规则:-1^S * (1+M) * 2^(E+Bias)

Bias = (2^(E-1))-1 ,比如 float8 为 7 =2^3-1, float32 为127=2^7-1

其他参考视频

浮点数在计算机中如何存储?

http://www.rkmt.cn/news/120891.html

相关文章:

  • 腾讯混元这次开源太狠了!把AI视频变成了用户可操控的“开放世界”。(附实操体验)
  • 四川润明启青少年心理行为训练机构联系方式:使用指南与注意事项 - 十大品牌推荐
  • 2025年年终跨境物流公司推荐排行榜:十家服务商详细对比与选择指南 - 十大品牌推荐
  • 12、Ourmon:网络监控与异常检测工具全解析
  • 慧荣SM768应用于USB转HDMI 4K+VGA/HDMI 1080p双屏显示方案设计资料
  • Kotaemon ONNX Runtime集成:跨平台高性能执行
  • 复杂时序场景的突围:金仓数据库是凭借什么超越InfluxDB?
  • 使用 Python 进行预期改进和高斯过程回归的动手优化
  • 2025年五大二手发电机组回收公司推荐:二手发电机组回收制造 - 工业推荐榜
  • 彻底告别VAE!清华x可灵联手开源SVG-T2I:生成理解合二为一,性能媲美SD3
  • 2025年江苏叉车司机培训公司权威推荐榜单:叉车培训考试/开叉车培训/叉车驾驶员培训精选 - 品牌推荐官
  • 特价股票投资中的跨境投资策略与风险管理
  • 2025年太阳能路灯推荐品牌解析:聚焦太阳能路灯节能环保效果 - 工业品牌热点
  • 28、在AWS和GCP上部署和升级Kubernetes
  • 29、在GCP上部署Kubernetes:负载均衡、持久磁盘与集群搭建全攻略
  • 8个AI论文工具,继续教育学员快速完成写作!
  • 盘点2025国内排名前5真空搅拌机厂家,哪家好,这些都是实力厂家 - 品牌推荐大师1
  • Kotaemon能否支持动态切换底层大模型?
  • Kotaemon歌词写作辅助:押韵与主题匹配
  • 16、可视化Web部件开发指南
  • 2025年粉尘测量检定装置厂家TOP全方位解析(涵盖国内外) - 品牌推荐大师
  • 22、探索Silverlight与SharePoint集成及Web服务开发
  • 在喧嚣时代,回归数据管理的纯粹初心
  • vCenter Server 8.0U3h 新增功能简介
  • Kotaemon在低资源环境下的轻量化改造方案
  • 手机端AIDE安卓震动器程序代码
  • 2025年生活用品自动化生产线集成服务商靠谱推荐:看哪家合作 - 工业推荐榜
  • 9、打造优质应用体验:Windows 应用开发指南
  • navigator.hardwareConcurrency
  • 2025年质量好的办公隔断高评分品牌推荐(畅销) - 行业平台推荐