以ChatGPT为代表的最新AI技术狂飙突进，大模型时代已然来临。 AI大模型的高速发展离不开算力基础设施的支持，而AI芯片是算力硬件层的基石。深耕人工智能加速领域十余年，昆仑芯已成长为国内AI芯片领域的领军企业。目前，公司已扎实落地两代芯片产品，实现百家客户、数万片部署，积极携手上下游生态伙伴构建软硬一体化的AI芯片生态。 7月7日，以“AI加速 芯生未来”为主题的“大模型时代的AI算力芯基建”专题论坛将在世界人工智能大会期间盛大召开。 本论坛由上海市集成电路行业协会担任指导单位，昆仑芯（北京）科技有限公司主办，百度智能云、飞桨PaddlePaddle协办。届时，“政产学研用”多方嘉宾齐聚，围绕大模型及算力基础设施，开放交流、深入对话，共筑大模型时代AI算力新基建，共写世界人工智能发展新篇章。 7月7日 14:00-17:00 上海世博中心 616会议室 线下、线上结合 亮点 亮点一 多方重磅嘉宾参与，会议形式丰富 本次论坛拟邀请“政产学研用”等AI领域重磅嘉宾，通过嘉宾致辞、主题分享、新品推介、圆桌论坛等多种形式，加强AI产业上下游交流，碰撞思想火花，凝聚发展共识。 亮点二 聚焦AI前沿趋势，搭建沟通桥梁 关于大模型、AIGC等AI技术的讨论如火如荼，底层基础设施也被置于聚光灯下。本次论坛将围绕大模型与算力基础设施，分别从芯片、框架、硬件、场景等全方位视角展开深度探讨，搭建起多方的沟通桥梁。 亮点三 共享昆仑芯解决方案，深化生态合作 大模型时代，如何打通AI产业落地的最后一公里？本次论坛，昆仑芯将详细介绍大模型端到端解决方案，分享生态合作成果、丰富落地实践，携手AI产业上下游共同探索AI算力芯基建的发展路径。 亮点四 AI芯片最新成果展示，精彩不容错过 7月6日-8日大会举办期间，昆仑芯将设置108㎡特装展，以多媒体形式生动展示昆仑芯两代芯片产品、软硬一体的端到端解决方案。现场更有工作人员进行详细讲解，欢迎莅临。 扫描左侧二维码 抢先报名参会 点击阅读原文一键注册参会

7月6日至8日，以“智联世界 生成未来”为主题的2023世界人工智能大会在上海成功举办。展会期间，各类活动精彩纷呈，现场气氛热烈，参观者络绎不绝。作为AI生态引领者，建设网络强国、数字中国和维护网信安全的主力军，中国电信以 “算网一体”“算力服务”“AI赋能”三大主题板块，携31款产品及应用亮相中心展区，传递数字共生的崭新理念，携手合作伙伴共创、共赢、共同引领“AI算力新时代”。 算网一体、云网融合，筑牢数字信息基础设施 人工智能加速驱动新一轮科技革命和产业变革，中国电信深谙新一代通信发展趋势，带来了数字信息矩阵，以“2+4+31+X+O”梯次分布、云边协同的泛在算力基础设施体系，赋能经济社会智能化转型升级。 数字时代，算力成为当前最具活力和创新力的新型生产力，为了让用户使用算力像水、电一样便利，中国电信自研天翼云4.0算力分发网络平台——“息壤”，这是基于云原生和跨域大规模调度技术打造的智能算网调度平台。目前，“息壤”已全面接入天翼云的多级资源，并与多个合作伙伴实现算力并网，实现对全网资源的统一管理和使用，能够提供多样化、差异化的算力产品形态，满足不同业务需求，如“东数西算”、云渲染、跨云调度、性能压测、混合云AI计算等多种应用场景。2022年，息壤入选国资委央企十大超级工程，将东部算力需求有序引导到绿能丰沛的西部，促进绿色发展。 近年来，中国电信全面深入实施云改数转战略，上海电信积极践行，率先提出并启动“智云网络”的创新实践，探索助力上海夯实国际数字之都信息化底座的落地方案。上海“智云网络”以中国电信“云网融合3.0”战略框架为指引，基于新型城域网智能随选承载能力，发挥中国电信固移三千兆、云网融合边缘等重要优势。基于智云网络上海电信创新打造“云宽带2.0”，融合上海电信算力底座，向用户提供云游戏、云电竞、云渲染等新型业务模式。同时，云宽带所具备的就近接入、泛在算力、超低时延、云内安全以及固移融合等特性，能够承载各类应用，基于云宽带打造出“灵活定制的网”和“无处不在的云”为各行各业的数字化转型贡献力量。 同样融合云计算技术和终端需求的创新型产品，还有天翼云电脑。依托优质云网资源，中国电信推出全新一站式数字化协同办公方案——天翼云电脑2.0，构筑从本地到云端的全链路安全防护体系，具有即开即用、便捷访问、适配多种终端类型等特点。全新升级的“翼飞”零/低代码开发平台和“翼连”即时通讯工具，具备多重数据安全防护机制，让数字化工作协同更加高效、便捷。近日，IDC发布的虚拟桌面软件及云服务市场半年（H2）跟踪报告显示，天翼云在2022年DaaS市场中位列第一，年度市场份额达38.0%，领跑中国云桌面市场。 技术的迭代、创新和升级为企业带来更多压力和挑战。中国电信星河AI赋能平台是全球首款以云网融合为核心架构，搭载“全网、区域、边、端”四级算力，拥有31个省级算力集群的人工智能产品和能力平台，可以实现AI能力一键下发。极速部署安装，集成千余种AI算法能力纳管和封装，满足多样协议视频流智能接入，实现AI能力平台可视化编排。算力动态调度，资源高可用，开放标准OpenAPI，解决行业难题。 TOP算力、AI可持续创新，助力绿色低碳服务 本届世界人工智能大会上，“算力”是关键词之一，脱离强大算力支撑，沉浸式体验将无法实现。为提升用户体验和感知，在算力服务展区，中国电信带来包括算力基础设施、绿色算力、异网异构算力调度、算力服务创新、复旦大学智能计算平台CFFF、AI低碳技术、绿碳行业解决方案等展项。 以复旦大学与中国电信共同部署建设的CFFF智能计算平台为例，依托中国电信全光网络，构建多中心分布式国家级智能算力中心，保障校内校外的高速数据互访，形成了一台真正意义上的“超级计算机”。该项目作为上海电信首个特大型公共算力项目，也是国内第一座云上科研智能计算平台，不仅赋能重大科学问题突破和关键技术核心攻关，更肩负起培养科技人才的重任，对于推动科学研究新生态、新范式变革具有重要意义。 如今AI技术深入各行各业，当AI科技与绿色低碳愿景碰撞，又会有怎样的火花？展会现场，中国电信还带来了系列绿色低碳技术及创新解决方案。在基站与机房场景中，中国电信基于海量运营数据构建了移动基站、通信机房、数据中心能耗模型，利用自研AI节能算法实现用能趋势变化预测，制定精细、精准的节能控制策略，达到降碳目标，已覆盖4G/5G扇区超过430万，机房超过1100个。此外，还把物联网、视频与AI技术结合，实现空调、新风、电梯、照明、会议等系统的自主智能控制，打造了智慧楼宇、智慧园区、智慧校园等一批低碳示范标杆。 自研算法、优化云网算力，赋能城市智慧生活 数字化技术既是建设数字中国的“加速器”，也是大众美好生活的“助推器”，中国电信不仅牢牢把握科技强国的战略目标，也十分技术创新对人们日常生活的影响。 会上，中国电信展现了云网融合人工智能，在助力城市治理、造福美好生活、赋能千行百业的生动实践与最新成果，主要展项涵盖智慧城市、垃圾治理、互联网+明厨亮灶、智慧社区、智慧养老、云游戏、Hello老友、智慧教育、智慧工厂等。 信息技术迭代升级，带来高效与便利，中国电信通过整合资源优势与云网安全能力，提供更好的安全监控与保障，守护居民舒心、舒适的生活。例如，上海电信“翼治理”社区垃圾分类管理系统，基于视频专网、AI算法能力和移动计算能力，为街镇提供24小时的垃圾投放点智能视频监管和巡检系统，以5种常见的算法帮助社区缩短垃圾分类处置时间，不断降低人工监管成本，提升管理效率，更能营造健康整洁环境，为美好生活赋能。此外，贵州省贵阳市沙冲路街道办事处，也利用“天翼云眼”视频监控和智能播报开展垃圾分类智能监控管理，并以几个老旧小区作为试点运行。街道办事处主任表示，自开展垃圾分类智能监控管理以来，辖区内垃圾投放正确率得到明显提高，切实改善了社区生活环境，增强了基层治理能力。中国电信依托全国覆盖的优势，正在将“垃圾分类上海模式”面向全国复制推广，已在北京、广东、辽宁、成都、河北5个省的多个城市进行试点和落地。 民以食为天，另一件事关民生安全问题的改造，则是明厨亮灶。为了让市民们吃得安心、放心，2022年上海市政府把实施餐饮食品“互联网+明厨亮灶”工程列入为民办实事项目之一。依托天翼视联网的“天翼云眼”视频监控、AI算法、大数据等技术，对餐饮经营人员、设备、环境进行全程实时智能化、规范化、精细化管理，助力上海全市建成1000家餐饮食品“互联网+明厨亮灶”示范店，有效守护市民“舌尖上的安全”。在餐饮大省浙江省，基于浙江省委、省政府数字浙江指导政策下，中国电信深入参与浙江“阳光厨房”工程，作为“浙江外卖在线”数字化平台的重要承建方之一，以高覆盖率、高在线率为目标，积极推进“明厨亮灶”建设，短期内就完成数万户商铺的安装和覆盖。在河南郑州、湖北孝感等地，中国电信“互联网+明厨亮灶”一体化监管平台应用也纷纷落地，通过和互联网餐饮服务平台的打通，将智慧监管一头连着市场主体、一头连着监管部门，一头连着消费者，真正实现透明放心的可视化订餐模式，呈现一个看得见的阳光厨房。 此外，“Hello老友亭”是中国电信在上海地区打造的全国首创特色数字化便民服务设施，也是智慧社区向外的延伸。上海电信将街头公话亭重新改造升级，不仅造型时尚、设计感满满，更以“助老、助弱、助民”为核心，加载一键叫车、免费通话、“15分钟生活圈”查询等八大民生服务应用，让老年居民享受到数字生活的便利。近期，老友亭还接入了气象数据，在亭内大屏幕的上方就能看到周边实时温度和天气情况，包括气象灾害预警、雨量、湿度、能见度等各类实用信息。同时上海电信还积极搭建生态圈，与合作伙伴共同丰富便民服务体系，在本次大会上与支付宝蓝马甲、新闻晨报周到联合推出第一期“Hello老友亭N大功能介绍”服务，用简洁明了和口语化的图文表达，拆解老友亭中五项实用功能的操作步骤及注意事项。目前“Hello老友亭”已覆盖上海16个行政区107个街镇300个点位，拉起一张服务全市600万老人、2500万市民群众的安全守护网。 立足当下，展望未来，中国电信将始终以加强技术创新为核心，致力于推动开放合作，打造一批人工智能区域高地和基础平台，让智能科技赋能经济发展和未来生活，不断提升用户的体验和感知，让人工智能加速走入百姓生活，助力打造覆盖更广泛、更高品质的“数智化”新时代。 扫描左侧二维码 观看精彩回放 点击观看精彩回放

在数字经济的浪潮中，企业数字化转型的步伐不断加快，推动了数据中心行业的蓬勃发展，市场规模持续扩大。数据中心作为支撑数字经济的关键基础设施，预计2024年将继续保持增长势头。据市场研究机构Dell'Oro Group的最新报告，全球数据中心的资本支出有望在2024年实现11%的增长，这主要得益于超大规模云服务供应商的重新扩张以及企业市场支出的解冻。 展望2024年，数据中心将呈现出哪些技术趋势？以下是针对2024年数据中心发展趋势和热点技术的前瞻。 1 生成式AI对数据中心算力提出更高要求 2024年，生成式AI仍然是企业关注的焦点，预计将引发更多生成式AI项目的诞生。随着这些项目的实施，数据中心将面临更严峻的算力挑战。为了应对这一挑战，数据中心将在2024年围绕以下热点进行重点突破。 异构计算 众所周知，生成式AI对数据中心算力提出了更高的要求，传统的单一CPU架构已无法满足AI算力的需求。因此，CPU+GPU/FPGA/ASIC等异构计算架构将成为2024年及未来数据中心的主要算力构成方式。 HBM高带宽内存 生成式AI不仅对CPU和GPU性能提出了更高要求，也对存储性能提出了更高要求。传统的内存已无法满足AI对存储性能的需求，HBM（高带宽内存）将成为2024年及未来数据中心的技术趋势之一。 800G网络技术 网络性能是决定AI集群算力效率的核心要素。由于AI芯片对互联带宽的需求巨大，如H100互联达到了900GB，这加速了网络架构的变革，800G网络技术成为2024年数据中心的热点。 2 节能环保推动液冷数据中心建设 数据中心能耗问题日益突出，尤其是在“双碳”目标的背景下，如何降低数据中心能耗成为数据中心运营者的重要课题。IDC指出，在国家“双碳战略”和东数西算的推动下，数据中心需要向绿色低碳方向迈进。 同时，以人工智能、5G为代表的新兴技术的兴起，也给数据中心带来了资源使用和性能提升的挑战。 液冷技术 在政策的推动下，液冷数据中心将成为2024年及未来用户重点关注的技术。作为突破散热瓶颈、有效降低数据中心PUE的关键技术，液冷技术在2023年取得了显著进展。众所周知，数据中心液冷散热主要有冷板式液冷和浸没式液冷两大技术。相比之下，冷板式液冷因其相对简单，更容易部署。 3 多云战略催生更多数据中心安全问题 随着数据量的爆炸式增长和企业业务形态的变化，以及越来越多的企业采用多云战略，数据保护的难度正在加大，数据中心的安全问题将越来越受到重视。 面对各种网络攻击，数据中心运营者需要建立健全数据中心的物理安全、网络安全等多道防线，采用更高规格的解决方案确保数据和业务安全。同时，还需要强化数据备份保护，确保在遭受攻击后能够快速恢复数据，保障业务的正常运行。 4 边缘计算推动小型数据中心建设 边缘计算的快速发展加速了边缘计算中心的建设步伐。据Gartner预测，到2025年，75%的数据将在数据中心和云之外产生并在边缘侧进行处理。据STL Partners预测，到2030年，全球边缘计算潜在市场规模将达到4450亿美元，10年复合增长率高达48%。 边缘服务器市场潜力巨大，包括联想、戴尔、新华三在内的国内外服务器厂商已经开始全面布局边缘计算市场，推出面向边缘数据中心的不同产品和解决方案，以满足不同企业的需求。 5 人工智能驱动数据中心迈入智能化 利用人工智能构建智能化数据中心，简化数据中心的运维与管理，将成为2024年及未来数据中心的主流趋势。 未来的数据发展必将走向软件定义，随着数据中心的复杂化，人工处理的精力和能力有限。通过人工智能的学习能力，对以往管理数据进行智能分析，可以实现数据中心的运营自动化、改进资源管理以及提高能源效率，还可以提供洞察，改善工作负载管理和容量规划等运营决策。 此外，人工智能技术还能通过计算PUE值，根据PUE值反推影响数据中心能耗的因素，进而进行针对性优化，以达到降低能耗的目的，提升数据中心运行效率。 总之，随着人工智能在数据中心的应用，能够实现更高效、更安全、更稳定的运营目标，降低人为干预的风险和成本，提高数据中心的整体效率。

近日，由CIOE和C114联合举办的“AI时代：数据中心光互联技术新趋势”线上论坛如期举行，苏州熹联光芯（Sicoya）周秋桂在论坛上发表了主题演讲，与业界共同探讨“硅光互联技术在AI算力中的应用”。 “自2023年ChatGPT发布以来，AI成为科技界最热的一个名词”，周秋桂在会上表示，AI计算切实推动了光互联高速增长。 在AI计算领域，Bloomberg生成式AI市场将达到1.3万亿美元，整体科技投入占比从2024年的3%攀升至2032年的12%。谷歌过去几年AI算力每年呈十倍的增长速度。在光互联领域，英伟达AI计算集群中光互联的占比将提升32倍，英伟达最新发布的GB200计算服务器大量使用高速光互联模块。 但目前，互联技术仍是AI算力增长的主要瓶颈，主要表现为互联和存储两方面，是算力增长的两大瓶颈。特别是在互联领域，需要提升带宽密度，同时降低功耗。 硅光技术迅速发展，集成芯片呈关键 周秋桂表示，得益于AI计算的快速增长需求，硅光技术也呈现出快速发展模式。LightCounting预测，2028年硅光互联的市场规模将接近100亿美金，在各种互联技术中占比将超过43%。在硅光芯片方面，采用光电领域的集成电路芯片，从而可实现生产低成本低功耗，高速高密的互联产品。 目前，硅光芯片技术主要包含两种产品形态：硅基光子集成芯片和硅基光电单片集成芯片。其中，硅基光子集成芯片的核心功能是在数据中心硅光子集成芯片，主要集成功能的器件是硅光调制器和光波分复用MUX。以Sicoya为代表的 MZ调制器，带宽可达50GHz以上。在硅基光电单片集成芯片方面，Sicoya是全球最早实现硅基光电单片集成芯片批量商用化的公司。硅基光电单片集成芯片的优点主要表现在高密度、可升值性、封装等方面。 周秋桂认为，除了芯片本身技术外，芯片封装技术也尤为关键。在单波25G/100G时代，流行基于Wire-bonding的2D封装或2.5D混合封装。到了单波200G时代，则比较看好基于flip-chip的多芯片模组技术和光电芯片芯片堆叠技术。 此外，在光学封装技术方面，主要包括：基于双透镜耦合的CoC封装——端面耦合器、MEMS激光器微封装和弯折型光纤阵列——光栅耦合器。展望下一代光学封装平台的发展，量子点激光器、自动对位端接耦合和V型槽光纤耦合是重点发展的光学封装技术。

导语 从生命健康到智慧城市，从智能机器人到未来驾驶；从AI大模型的革命性应用，到芯片技术的颠覆性创新…… 2024年，人工智能迎来里程碑式发展，在人工智能的浪潮中，我们正驶向一个前所未有的新时代。 世界人工智能大会肩负社会责任，积极推动人工智能领域的公众科普，致力于让更广泛的群众了解和应用人工智能技术，共同推动人类社会的进步和发展。基于此， 世界人工智能大会（WAIC）全新打造WAIC Circle系列活动 ——携手央视网推出六集科学纪录片《AI风云会》，聚焦六大AI领域，带您一起探索人工智能的未来之路！ “ 第三集 解密AI算力 ” 通用人工智能的发展，尤其是生成式大模型算法的广泛应用，使得AI算力成为该领域的核心需求。 人工智能芯片作为专门为人工智能应用提供计算加速的硬件，以其高性能、高集成度、高效计算能力和复杂技术结构，成为支撑AI技术发展和应用普及的关键，在云端、边缘和端侧等不同应用场景中发挥着重要作用。 未来，普惠的AI算力将是推动整个行业和国家数字经济高速发展的关键。普及意味着AI算力能够被广泛获取，而惠及则指算力成本低廉且性价比高，通过原始创新的架构和开源开放的生态系统相结合，AI算力将真正赋能千行百业。 ” “ WAIC AI算力 计算加速智能未来 ” 在2023世界人工智能大会上， AI算力成为焦点， 中国联通 牵头产业链各方成立“算筑申城”上海市算力产业联盟， 联盟旨在搭建算力产业创新合作与促进平台，聚集算力产业中坚力量， 首批成员单位包括上海联通、沐曦、天数智芯、摩尔线程、燧原科技、寒武纪、京东科技、华为、阿里、商汤、百度、腾讯等。同时，大会 汇集全球最顶尖的AI算力企业和研究机构，展示最先进、最具前景的技术成果，包括 二十余款令人瞩目的创新研究。 点击查看《 芯片｜多款芯片首发，系列活动登场！WAIC 2023智能芯片合辑，“芯”动来袭！ 》 算力是推动人工智能发展的底层动力，2024世界人工智能大会将深度聚焦算力的发展。产业发展全体会议将领衔探讨AI算力前瞻技术成果与落地应用，并设置算力主题论坛，联合重点央企成立“央企 AI+联盟”，旨在加快推进央企 AI+行动落地，促进供给侧产业实现智能化转型。同时，在展区将汇聚国内外顶尖算力企业，带来最新智算产品。在大会期间，还将通过丰富的生态论坛和创新活动全方位展示算力在人工智能领域的全栈赋能，无论是数据中心、医疗、智能制造，还是智慧城市、智能交通，AI算力都在不断推动行业的智能化升级，为构建智能未来提供坚实的技术基础 。 ” 下集预告：自动驾驶汽车 《AI风云会》播出平台： 世界人工智能大会官网、视频号、B站号、抖音号、喜马拉雅 央视网 商务合作请联系： 021-20893589 WAIC市场部 点击回顾WAIC 2023精彩

这是一个AI的时代，这是一个算力的时代。遗憾的是，我们已经无缘接触到最先进的AI硬件和算力，用着H20这样阉割两次的N卡，还要支付上百亿元的费用，实在憋屈。 面对持续上涨的AI算力需求，我们唯有发展自己的国产方案，发展自己的大规模AI算力集群，才能突破围追堵截，走上康庄大道。 说到这里，很多人或许会第一时间想到华为，在美国制裁下顽强屹立突破的中国企业标杆，昇腾910B在AI算力领域也取得了一定的成就。 当然了，中国只依靠一个华为是不够的。中国的AI生态需要遍地开花，才有可能多点突破，让生态更繁荣。 目前来看，摩尔线程以全功能GPU走通用计算路线是另一条希望之路，尤其是它已经成为华为之外，另一家可以实现千卡千亿参数大模型训推的全国产AI芯片公司。 说起来，大家对摩尔线程并不陌生，其堪称中国自主GPU最大的希望，但很多人对摩尔线程的认知还停留在国产游戏显卡，其实不然，摩尔线程在AI上也实力突出。 自成立以来，摩尔线程做的就是通用GPU，跟英伟达一样，除了图形渲染，也能用于AI人工智能加速、科学计算。 经过三年多潜心发展，摩尔线程在AI GPU方面已经展现了强劲的实力，构建了一张从芯片、板卡、服务器，到集群、软件栈的全栈AI智算产品版图，并且已经多点落地、处处开花。 比如和清华系AI大模型公司无问芯穹的合作。 摩尔线程是第一家接入无问芯穹，并成功完成千卡级别大模型训练的国产GPU公司。 摩尔线程的“夸娥”(KUAE)千卡智算集群，已与无穹Infini-AI大模型开发与服务平台完成系统级融合适配，并完成了LLama2 700亿参数大模型的训练测试。近期，双方又完成了“MT-infini-3B” 3B(30亿参数)大模型的实训。 这意味着什么呢？这是行业首个基于国产GPU芯片的从0到1的端到端大模型实训案例。夸娥也成为业内首个成功跑通并完整运行国产大模型的千卡集群。 无问芯穹联合创始人兼CEO夏立雪表示力挺： 经过无问芯穹Infini-AI平台的实训与联合优化工作验证，摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率上均有优异表现，而且在实训中实现了长时间稳定训练不中断，可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。 另外，滴普科技、实在智能等也基于摩尔线程的夸娥千卡智算集群，成功完成了不同参数量级的大模型分布式训练测试，效率、精度、稳定性都相当完美。基于摩尔线程夸娥千卡智算集群，滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试，训练时长共计77小时，全程无故障连续运行，集群训练稳定性达到100%。 夸娥（KUAE）是摩尔线程推出的智算中心全栈解决方案，可以说，为AI算力集群取这么一个名字，充分展现了独属于中国人的坚忍不拔和浪漫情怀。 出自《愚公移山》：“帝感其诚，命夸娥氏二子负二山，一厝朔东，一厝雍南。自此，冀之南，汉之阴，无陇断焉。” 夸娥解决方案的基本节点是大模型智算加速卡MTT S4000组成的双路八卡GPU服务器“MCCX D800”，以软硬件一体化交付、开箱即用的方式，高可靠地解决大规模GPU算力的建设和运营管理问题。 MTT S4000是摩尔线程新一代专为AI大模型打造的智算加速卡，基于其自主研发的第三代MUSA架构。 利用自研的MTLink互连技术，MTT S4000可以高效千卡并行，线性加速比高达91％以上。 最为关键的是，摩尔线程拥有自研的全功能GPU MUSA统一系统架构，包括指令集架构、MUSA编程模型、驱动、运行时库、算子库、通讯库、数学库等，而且充分兼容CUDA软件生态，代码可以几乎零成本迁移，也无需担心未来的可用性问题。 MTT S4000不但可用于大规模AI计算，还具备领先的图形渲染能力、视频编解码能力、8K超高清显示能力。这使得它可为数字孪生、云游戏、云渲染、数字内容创作等场景提供支持，并配合大模型推理能力，服务于AIGC等多模态业务场景。 从2024年的趋势来看，多模态需求将快速崛起，对国产芯片来说也同样如此。 MCCX D800作为AI大模型训推一体机，是专为支持MTT S4000大模型智算加速卡充分发挥其训练与推理性能、稳定性、可靠性的服务器系统，同时兼容主流GPU软硬件生态。 就这样，从核心基础层面的MUSA统一架构芯片，到性能强大、可灵活部署的MTT S系列智算加速卡，到高度整合、完整方案的训推一体机，到小型的智算微模块，最终到夸娥千卡集群，摩尔线程提供了全套的全功能GPU产品组合。 这样一来，不同需求的客户，都可以根据实际情况，选择最适合自己的对应层级方案。 夸娥智算中心全栈解决方案，包括底层的以夸娥计算集群为核心的基础设施、中间层的KUAE Platform集群管理平台、最上层的KUAE Model Studio大模型平台，软硬一体开箱即用，一站式方案，一体化交付。 首先在基础设施方面，全功能GPU是最坚定的基石，具备AI加速计算、3D图形渲染、超清视频编解码、物理仿真和科学计算四大计算引擎，在功能上是国内唯一可以对标NVIDIA的全功能国产GPU。 其次是软硬一体，因为与传统GPU从芯片到卡的路径不同，摩尔线程走的是系统级平台路线，不但有千卡规模的算力集群，还有集群管理平台、大模型平台，从而做到软硬结合，以一体化交付的方式，解决大规模GPU算力的建设和运营管理问题。 最后是全栈方案，从底层基础设施，到中间层管理平台，再到上层应用，摩尔线程做到了全面覆盖，具备云全栈能力，能够有效地为千亿参数大模型训练和推理提供强大支持。 总结来说，夸娥智算集群全栈方案有8大核心优势： 广泛模型覆盖，支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言等数十种业界主流的多种大模型的训练和微调。 CUDA主流生态兼容，可利用摩尔线程代码移植工具Musify，几乎零成本地将CUDA代码自动迁移到摩尔线程统一系统架构MUSA，再快速完成优化，而且完全独立可靠。 断点续训，可以实时监测训练任务集群，分钟级发现故障，并自动恢复训练，再加上检查点备份恢复，可以大大降低故障率，并将综合训练效率提升15-50％。 大模型分布式训练，支持DeepSpeed、Megatron-DeepSpeed、Colossal-AI、FlagScale等业界主流分布式框架，并融合多种并行算法策略，还支持大模型分布式训练断点续训、分布式推理。 推理加速，包含了KUAEModel Studio一体化应用平台、MUSA Serving推理服务软件、MT Transformer分布式推理加速框架、TensorX推理加速框架四大部分，可以有效支持主流大语言模型推理。 高性能通信，包括2/4/8卡节点内互连、PCIe和自主研发的MT-Link链路带宽聚合、自研MCCL集合通讯库等，MT-Link带宽高达112GB/s。 高性能存储，支持存储数据经RDMA网络读写、GPU Direct Storage、数据读写加速、数据缓存加速、AI训练数据集加载加速、高性能并行文件系统、与外部存储交换冷热数据，等等。 集群可靠性与性能，完全可以支持万卡以上大规模GPU集群的运行。 历史无数次证明，越是艰难时刻，越需要国人勇敢地站出来，独立自主，打破封锁，AI算力时代亦是如此。 作为国内率先落地的首个以全功能GPU为底座的全国产千卡千亿模型训练平台，摩尔线程夸娥千卡集群方案实现了软硬设计、性能算力、生态应用的多方面突破，凭借自研软硬架构与开发平台、通用计算路线，具备多方面的独特优势。 尤其是在恶劣的国际环境下，在我国GPU技术相对薄弱的情况下，摩尔线程是最有希望破局的，全功能GPU唯一可以在功能上对标媲美英伟达，尤其是摩尔线程的创始团队基本都出自英伟达，创始人张建中是原英伟达全球副总裁、中国区总经理，不但有着丰富的行业经验、雄厚的技术功底，更能做到知己知彼。 而在技术之外，GPU行业也迎来了政策利好，更有利于实现突围。 比如北京市近期发布的《北京市算力基础设施建设实施方案（2024-2027年）》就明确提出，加快推动核心软硬件产品自主可控，建设自主可控算力技术体系，推动人工智能大模型与自主可控芯片开展适配。 对于采购自主可控GPU芯片、开展智能算力服务的企业，按照投资额的一定比例给予支持，加速实现智算资源供给自主可控。 从千卡高效互连的算力领先，到软硬一体的高度优化，从大模型训练与推理一体化，到高度的稳定性与可靠性，摩尔线程夸娥千卡集群在各个方面都已经拥有成熟的经验，堪称“中国英伟达”，最有希望实现国产自主替代，解决国内AI算力紧缺的难题。 中国电子信息博览会(中文简称:电博会，英文简称:CITE)，是展示全球电子信息产业最新产品和技术的专业商贸平台，经过十一年努力，现已成为亚洲极具规模和影响力的电子信息博览会。展会聚焦智慧家庭、新型显示、高端半导体、信创、大数据与存储、特种电子、人工智能、绿色消费电子、基础元器件等行业热点。CITE2025将于2025年4月9-11日在深圳会展中心（福田）隆重举办！展示面积达10万平方米，汇聚全球各地超1500家参展企业，将吸引超8万名专业观众莅临参观。