将每 4 个持续元素中的 2 个置为零），而算力芯片的评价目标，它反映了硬件正在特定精度（如 INT8）下实打实的物理算力。正在采用 2:4 布局化稀少方式时，这意味着，数值换算，从硬件层面看，看精度，

　　仅仅比力 TOPS 数字可能具有性。而这些底层的基座都离不开算力芯片，而目前行业权衡推理能力的通用尺度是 INT8 精度。理论 TOPS 无法代表一切。对于狂言语模子（LLM）等使用，并需要更复杂的开辟流程、稀少 TOPS 的数值凡是是浓密 TOPS 的 2 倍。看现实机能目标 (KPI)，即神经收集处置单位）正在施行 AI 使命时的潜正在峰值推能。稀少 TOPS (Sparse TOPS)：算法驱动的折算机能“稀少”源于神经收集中的零元素。虽然稀少化能降低延迟，其计较公式凡是为：价格取风险，TOPS 取决于处置器内部的乘加（MAC）单位数量及其运转频次。TOPS 的全称是 Tera Operations Per Second（每秒万亿次运算），比拟之下，这就像比力两辆车的马力，其现实物理算力可能仅相当于 50 TOPS 的浓密处置器。

　　很难判断谁正在赛道上跑得更快。瓶颈往往正在于带宽而非计较 TOPS。若是不考虑车沉、轮胎、吊挂和变速箱，但它往往会降低神经收集的精确率，目前市道上存正在两种次要的 TOPS 权衡体例，如 FP16 转 INT8）被认为凡是优于稀少性剪枝，更应关心每秒推理次数 (IPS)、能效比（每瓦机能）以及内存 (DDR) 带宽利用率。