Bfloat16格式
Bfloat16格式(brain floating point)是一种计算机数字存储格式,在计算机内存中占用16位。此格式是 32 位 IEEE 754 单精度浮点格式 (binary32) 的缩短(16位)版本,旨在加速机器学习计算。它通过保留 8 位指数位来保留 32 位浮点数的范围,但仅支持 8 位精度,而不是32位浮点数格式的 24 位有效精度。与标准的 IEEE 16位浮点数相比,Bfloat16 有更多的指数位与更少的尾数位,可以用于减少存储需求并提高机器学习算法的计算速度。[1][2] 格式Bfloat16格式具有:
bfloat16 二进制浮点指数使用偏移量二进制表示进行编码,零偏移量为 127。因此,为了获得真正的指数,必须从指数字段的值中减去 127 的偏移量。
参见
參閱 |
Index:
pl ar de en es fr it arz nl ja pt ceb sv uk vi war zh ru af ast az bg zh-min-nan bn be ca cs cy da et el eo eu fa gl ko hi hr id he ka la lv lt hu mk ms min no nn ce uz kk ro simple sk sl sr sh fi ta tt th tg azb tr ur zh-yue hy my ace als am an hyw ban bjn map-bms ba be-tarask bcl bpy bar bs br cv nv eml hif fo fy ga gd gu hak ha hsb io ig ilo ia ie os is jv kn ht ku ckb ky mrj lb lij li lmo mai mg ml zh-classical mr xmf mzn cdo mn nap new ne frr oc mhr or as pa pnb ps pms nds crh qu sa sah sco sq scn si sd szl su sw tl shn te bug vec vo wa wuu yi yo diq bat-smg zu lad kbd ang smn ab roa-rup frp arc gn av ay bh bi bo bxr cbk-zam co za dag ary se pdc dv dsb myv ext fur gv gag inh ki glk gan guw xal haw rw kbp pam csb kw km kv koi kg gom ks gcr lo lbe ltg lez nia ln jbo lg mt mi tw mwl mdf mnw nqo fj nah na nds-nl nrm nov om pi pag pap pfl pcd krc kaa ksh rm rue sm sat sc trv stq nso sn cu so srn kab roa-tara tet tpi to chr tum tk tyv udm ug vep fiu-vro vls wo xh zea ty ak bm ch ny ee ff got iu ik kl mad cr pih ami pwn pnt dz rmy rn sg st tn ss ti din chy ts kcg ve