信息网 > 安徽信息 > 合肥信息 > 正文
云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降
网络整理 2024-10-27(原标题:云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降)
经济观察网讯 7月24日,云天励飞在上证e互动平台表示,公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理,其内置高效大模型推理DeepEdge200芯片,具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联,可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,预期能使大模型推理成本大幅度下降。(实习记者 李青阳 编辑 李仕静)
免责声明:信息网转载此文目的在于传递更多信息,不代表本站的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
- 上一篇:北京大学刘若川获拉马努金奖
- 下一篇:没有了
- 搜索
-
- 2024-10-27云天励飞:IPU-X6000加速卡
- 2024-10-27北京大学刘若川获拉马努
- 2024-10-27英伟达携手Meta推出AI服务
- 2024-10-27中汽协:销量排名前十位
- 2024-10-27伟测科技:二季度稼动率
- 2024-10-27百利天恒:实控人增持公
- 2024-10-27一品红:一类创新药APH0
- 2024-10-27慕思股份:首次回购公司
- 2024-10-27英特集团:将投资建设浙
- 2024-10-27维康药业:转让全资孙公
- 2023-04-17《全国经开区高质量发展
- 2023-04-17创五年新低!房企投资力
- 2023-04-18电子签名是否与手写签名
- 2023-04-18四大监管部门齐发声!上
- 2023-04-18什么信号?40家房企六月融
- 2023-04-18“奶茶币”与“虚拟股票
- 2023-04-18大消费正成为A股主线逻辑
- 2023-04-18两年后再度出现正增长 抵
- 2023-04-18多组数据表明经济韧性,
- 2023-04-18基建制造业投资双擎驱动
- 2024-10-27云天励飞:IPU-X6000加速卡
- 2024-10-27北京大学刘若川获拉马努
- 2024-10-27英伟达携手Meta推出AI服务
- 2024-10-27中汽协:销量排名前十位
- 2024-10-27伟测科技:二季度稼动率
- 2024-10-27百利天恒:实控人增持公
- 2024-10-27一品红:一类创新药APH0
- 2024-10-27慕思股份:首次回购公司
- 2024-10-27英特集团:将投资建设浙
- 2024-10-27维康药业:转让全资孙公
- 标签列表