硬核观察 #573 中国的百亿亿级超算运行“大脑规模”的 AI
中国的百亿亿级超算运行“大脑规模”的 AI
去年中国建造了两台百亿亿级的超算,其中一台名为“神威•海洋之光”的超算,是“太湖之光”的下一代,从 CPU 到网络都完全由中国的部件构建。在最近的一篇 论文中披露,该系统有“多达 96,000 个节点”,基于神威 SW26010-PRO 计算单元(内置自定义加速器的多核),具有自定义内存配置和自制的网络结构。此外论文还通过一个“大脑规模”的具有 14.5 万亿个参数的预训练语言模型的跨系统人工智能工作负载展示了其能力,其混合精度的性能超过一百亿亿次(10 的 18 次方)。
老王点评:虽然还是有人认为中国的超算只是花钱堆砌,但我觉得并非如此。
BAT 共同创建新视频流标准
中国三大互联网巨头字节跳动、阿里巴巴和腾讯联合 宣布创建 一种新视频流标准——“超低延迟直播协议信号标准”。新标准旨在解决视频流启动的问题,BAT 称现有的流媒体用户需要等待三到六秒钟才能开始观看视频,新标准试图将这一启动时间减少到一秒钟甚至半秒。新技术可能是建立在 WebRTC 之上的,但尚未公开新标准的代码。
老王点评:不管别人是否乐见,中国会越来越多主导各种标准的制定和推广。
a.out 二进制格式迈出彻底废弃的最后一步
早在 2019 年,Linux 内核就废除了对 a.out 格式的支持。这种文件格式在 ELF 占主导地位之前曾被使用过。目前只有 Linux 内核中的 Alpha 和 m68k 架构仍在使用 a.out 进行构建。现在计划通过 Kconfig 选项默认停止使用,看看是否有人在意。需要说明的是,这里指的是 a.out 文件格式,并不影响编译器在没有指定输出名称时使用 a.out
名称,因为那是 ELF 或其他格式。
老王点评:这次清楚了吧,你 gcc 默认输出的
a.out
只是名字相同。
硬核观察 #573 中国的百亿亿级超算运行“大脑规模”的 AI
https://linuxcat.top/article-14351-1.html