(相关资料图)
8月9日消息,AI应用“妙鸭相机”已连续多日火爆出圈,上线不到一个月,算力需求暴涨数百倍,通过在阿里云上紧急扩容后,因用户暴增导致的排队情况也有所缓解,排队时长已大幅减少,用户体验得到改善。目前妙鸭相机也在苹果应用商店上线了App版本,功能更加强大。
自7月17日正式上线以来,“妙鸭相机”就以9块9价格和高质量“写真”照获得了大量关注,成千上万的用户涌进应用中,高峰期一度有4000-5000人排队,需要等待10多个小时才能出片。据相关负责人透露,“妙鸭相机”已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求。虽然算力一边加,但另一边用户也在涨,但高峰期排队现象已经有了缓解。
某资深IT人表示,“妙鸭相机”的相片生成需要庞大的GPU算力进行计算,按上述高峰期的量级至少需要几千台GPU服务器才能满足,线下部署不切实际,云上部署能为创业公司节省大量成本和时间,但目前仅有少数云计算大厂具备这样的算力储备。
“此前大家对大模型训练需要的算力关注较多,尤其是GPT类的模型训练,动辄需要上万张显卡。”上述资深人士称,随着Llama2等开源大模型的流行,大模型应用推理端的算力需求更值得关注,当AIGC进入生产力时代,推理算力需求可能远高于训练算力。
随着各个行业的AIGC开发逐步完成,对业务开展阶段使用的推理算力需求开始大幅增长,未来几个月推理的算力需求总量可能远高于训练算力。
以目前国内算力规模最大的阿里云为例,提供最大十万卡GPU规模集群的扩展性,同时可承载多个万亿参数大模型同时在线训练和推理。此外,阿里云还提供了AI加速套件AIACC,大幅提升计算效率,大模型Finetune的训练效率可提升60%,推理效率可提升100%以上。
美国证监会:11家华尔街交易商因“非渠道”沟通被罚2 89亿美元,sec,商
格隆汇8月9日丨HMVOD视频(08103 HK)发布公告,2023年8月8日,公司与认
证券时报记者韩忠楠8月8日,理想汽车公布2023年第二季度财报。公司季度
8月8日北向资金减持29 15万股兰卫医学。近5个交易日中,获北向资金减持
1、《台城》是唐代诗人韦庄创作的一首凭吊六朝古迹的咏史怀古诗。2、此
X 关闭
X 关闭
四川广安市48小时内将新改建一个800张床位的方舱医院 记者从今日(19日)中午召开的广安市疫情防控发布会上获悉,广安市应急指挥部决[+更多]
河南:6月底前实现“场所码”全覆盖 “场所码”是流调的关键,是落实常态化疫情防控的重要举措。记者从河南省新冠肺炎疫情防控指挥[+更多]
中新网上海5月19日电 (陈静 朱虹 丁国莲)记者19日获悉,中国学者的最新研究解释,证实了糖尿病的卵母细胞起源,揭示了糖尿病代际遗[+更多]
中新社合肥5月19日电 题:虚拟人走红“Z世代”:未来虚拟人懂情感有温度 中新社记者 张俊 俏皮可爱的虚拟人形象、顺畅自然的肢[+更多]