​全球首款Transformer专用AI芯片Sohu发布：比英伟达H100快20倍

全球首款Transformer专用AI芯片Sohu发布：比英伟达H100快20倍

快科技 6 月 26 日消息，据媒体报道，美国新兴的芯片创业公司 Etched 发布其首款 AI 芯片—— Sohu。

这款芯片在运行大型模型时展现出了惊人的性能，其速度超越了行业巨头英伟达的 H100 高达 20 倍，即便是与今年 3 月才面世的顶尖芯片 B200 相比，Sohu 也展现出超过 10 倍的优越性能。

Sohu 芯片的最大突破在于它直接将 Transformer 架构嵌入芯片内部。据 Etched 公司负责人 Uberti 透露，Sohu 采用了台积电的先进 4 纳米工艺制造，不仅在推理性能上远超 GPU 和其他通用人工智能芯片，更在能耗控制上达到了新的高度。

对于 Transformer 技术而言，Sohu 无疑是目前市场上最快的芯片，其性能与其他产品之间存在显著的量级差异。值得一提的是，当前主流的 AI 产品如 ChatGPT、Claude、Gemini 和 Sora 等，均基于 Transformer 架构驱动。

作为世界上首款 Transformer ASIC（应用型专用集成电路）芯片，Sohu 的集成应用更是令人瞩目。据测试，一台配备 8 块 Sohu 芯片的服务器，其性能足以媲美 160 块 H100 GPU 的集群。

具体而言，集成 8 块 Sohu 芯片的服务器每秒能够处理高达 50 万的 Llama 7B tokens，这一数据在业界堪称前所未有。

而打造这款杰出芯片的 Etched 公司，位于美国加州的库比蒂诺，尽管成立仅两年，团队规模也仅有 35 人，但其创始人——哈佛辍学生 Gavin Uberti（前 OctoML 和前 Xnor.ai 员工）和 Chris Zhu，与资深技术专家 Robert Wachen 和前赛普拉斯半导体公司首席技术官 Mark Ross 共同领导，已经成功研发出这款专为大模型 AI 设计的芯片，展现了其强大的技术实力和无限潜力。