根据5月26日腾讯科技报道，硅谷创业家埃隆·马斯克（Elon Musk）披露了他的人工智能初创公司xAI的雄心壮志。据称，xAI计划采用10万颗专业半导体芯片，以打造下一代对话式人工智能Grok。马斯克将这一计划描述为建造一座“计算超级工厂”，旨在通过将这些芯片集成到一个庞大的计算系统中，大幅提升聊天机器人的智能水平。
在xAI的推介展示中，马斯克宣布了他的雄心壮志，计划在2025年秋季前投入运行超级计算机，并承诺亲自监督确保项目按时完成。他向投资者展示了一项宏伟蓝图，通过使用英伟达旗舰H100GPU组成的芯片集群，xAI的GPU集群规模将是目前为止最大的四倍，例如Meta（Facebook母公司）用于训练人工智能模型的集群。
马斯克的举动为人工智能领域注入了新的活力，预示着算力的进一步飞跃。他设想的集群通过高速电缆互联的大量服务器芯片协同工作，以更高效的方式处理复杂的计算任务，从而实现高性能计算。业界领先的人工智能企业和云服务提供商普遍认为，规模更大、算力更强的集群将推动人工智能技术实现质的飞跃。
尽管xAI已经成功从红杉资本等知名投资者募集了高达60亿美元的资金，但马斯克的雄心勃勃计划仍需要巨额投资和巨大的电力资源。预计xAI将与甲骨文合作，在超级计算机项目中投入巨额资金，同时也在与其他竞争对手如OpenAI和微软展开竞争中，面临挑战。
马斯克的计划或许将加速xAI的人工智能助手Grok的开发进程。目前，xAI正在训练Grok2.0，该版本将具备处理文档、图表以及现实世界物体的能力，并计划将模型扩展到音频和视频领域。尽管目前尚不清楚xAI将在何处建造这座超级计算机，但通过与英伟达等行业巨头的合作，xAI有望在人工智能领域快速发展中脱颖而出。
揭秘特斯拉的神秘超级计算系统：DOJO的革新与挑战
据彭博社最新报道，特斯拉的DOJO超级计算系统背后的关键人物Ganesh Venkataramanan已悄然离职，引发了业界对这一项目的关注。作为DOJO项目长达五年的负责人，他的离去似乎暗示着项目发展遭遇了转折点。
接替Ganesh的，是苹果前高管Peter Bannon，他的到来似乎预示着DOJO计划将进入新的发展阶段。这位新任领导在加入特斯拉之前，已在芯片领域积累了深厚的背景，他的加入可能预示着DOJO将朝着马斯克设定的更高目标进发。
让我们聚焦于DOJO的核心：这个由特斯拉为推动自动驾驶技术的深化学习而设计的超级计算机集群。DOJO就像一层层搭建的乐高积木，每个层级都有其独特的功能。宏观上，它是特斯拉构建深度学习训练帝国的基石，旨在为模型的训练提供强大的算力支持，尤其是在Grok项目之前，它主要负责离线训练。
DOJO集群由四个关键组件组成：底层的Dojo Core芯片，它们是D1或D2，封装了354个计算单元，体积微小但算力强大，每个单元相当于一个独立的微型计算机，拥有独立的内存和I/O系统。D1芯片更是集成了7nm工艺的晶体管，TDP仅400W，但运算能力却远超A100，甚至比Google的TPU5P还要稍胜一筹。
进一步往上，每个计算单元被封装成Tile，集成有供电、液冷模块，以及25个D1芯片，每个Tile提供了15kW的功率。而System Tray则充当了6个Tile的集大成者，具备54PFLOPS的计算性能和13.4TB/s的双向带宽，展现出了DOJO集群的壮观实力。
接口处理器DIP，作为CPU和Training Tile之间的桥梁，提供了高速的私有通信协议，如TTPOE，其4.5TB/s的吞吐量和160G的HBM能力，展现出DOJO在数据传输上的高效性。而主机部分，拥有512个X86内核和8T内存，为整个系统提供了强大的计算和存储资源。
最后，Cabinet和ExaPod级别的集群构建，将这些组件整合成大规模的分布式系统，实现1.1EB的计算力和1.3TB的SRAM，展示了DOJO在规模和性能上的卓越追求。
尽管Ganesh的离职可能预示着一些调整，但DOJO的革新精神和特斯拉对于自动驾驶技术的执着，无疑将继续推动这个超级计算系统的进步。未来，我们期待看到DOJO如何在马斯克的愿景下，为特斯拉的自动驾驶技术带来革命性的突破。
