首页 > 行业数据 > > 正文

妙鸭相机算力需求暴涨数百倍 排队情况如何缓解?

时间:2023-08-09 12:54:41 来源:21世纪经济报道


【资料图】

8月9日消息,AI应用“妙鸭相机”已连续多日火爆出圈,上线不到一个月,算力需求暴涨数百倍。不过,通过在阿里云上紧急扩容后,其因用户暴增导致的排队情况有所缓解,排队时长已大幅减少,用户体验得到改善。

自7月17日正式上线以来,“妙鸭相机”就以9块9价格和高质量“写真”照获得了大量关注,成千上万的用户涌进应用中,高峰期一度有4000-5000人排队,需要等待10多个小时才能出片。

某资深IT人表示,“妙鸭相机”的相片生成需要庞大的GPU算力进行计算,按上述高峰期的量级至少需要几千台GPU服务器才能满足,线下部署不切实际,云上部署能为创业公司节省大量成本和时间,但目前仅有少数云计算大厂具备这样的算力储备。

“此前大家对大模型训练需要的算力关注较多,尤其是GPT类的模型训练,动辄需要上万张显卡。”上述资深人士称,随着Llama2等开源大模型的流行,大模型应用推理端的算力需求更值得关注,当AIGC进入生产力时代,推理算力需求可能远高于训练算力。

随着各个行业的AIGC开发逐步完成,对业务开展阶段使用的推理算力需求开始大幅增长,未来几个月推理的算力需求总量可能远高于训练算力。

以目前国内算力规模最大的阿里云为例,其提供最大十万卡GPU规模集群的扩展性,同时可承载多个万亿参数大模型同时在线训练和推理。此外,阿里云还提供了AI加速套件AIACC,大幅提升计算效率,大模型Finetune的训练效率可提升60%,推理效率可提升100%以上。

据相关负责人透露,“妙鸭相机”已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求。虽然算力一边加,另一边用户也在涨,但高峰期排队现象已经有了缓解。

(文章来源:21世纪经济报道)

关键词:
x 广告
共同抗疫!郑州71岁党员志愿者每天爬6栋楼,提醒800多户居民做核酸

1月4日,郑州市新冠肺炎疫情防控指挥部办公室发布通告对部分区域实施管控措施。这是近半年来,新冠疫情第3次造访郑州。截止至1月10日24时,

安阳疫情最新消息|1月11日8时至12日8时安阳市新增本土确诊病例39例,累计123例

安阳疫情最新消息2022年1月11日8时至12日8时安阳市新型冠状病毒肺炎疫情最新情况1月11日8时至12日8时,全市新增本土确诊病例39例(汤阴县38

迅速高效!“河南抗疫互助通道”网上网下联动 获群众点赞

核酸检测24小时了还没查到结果,怎么办?现在高速下站口的管控政策到底是什么样子的?从洛阳老城区自驾走高速回郑州,收费站还劝返吗?苏八

信阳市疫情防控工作视频调度会召开 陈志伟出席会议

1月11日,市疫情防控工作视频调度会召开。代市长陈志伟出席会议并讲话。听取有关疫情防控重点工作和各县区(管理区、开发区)疫情防控工作

全国最新疫情消息:11日新增本土确诊病例166例 天津市今日启动第二轮全员核酸检测

11日0—24时,31个省(自治区、直辖市)和新疆生产建设兵团报告新增新冠肺炎本土确诊病例166例(河南118例,其中安阳市65例、许昌市41例、

1月12日天津市放假半天 开启第二轮全员核酸检测

1月12日,天津市人民政府发布重要通告,为做好天津市第二轮全员核酸检测工作,全市机关和企事业单位于1月12日(星期三)下午放假半天。广大

x 广告

Copyright ©  2015-2022 每日评测网版权所有  备案号:浙ICP备2022016517号-15   联系邮箱:5 146 761 13 @qq.com