经济观察网 据央视财经消息,据国家数据局统计,今年我国日均词元调用量已经突破140万亿,两年增长超千倍,大量中小企业都需要购买算力。如何让买算力像买电一样方便?南方区域正在探索算电协同交易新模式。
在深圳,一家人工智能公司正在训练垂直法务模型,每天消耗的词元量10个亿左右,公司最近完成了首笔算电协同撮合交易,发布算力需求、时限和预算,通过运营平台,以更有优势的价格自动匹配闲置算力。
深圳某科技有限公司总经理 庞雨秾:通过新的交易模式,我们大概能够比原来的成本降低25%。需求方能够发单,供应方能够在平台上实现抢单,大大优化整个市场的效率。
在这次交易中,算力出售方来自贵州的数据中心,这些闲置算力被上架到平台,用比市场更低的价格完成撮合交易。目前,这个交易平台接入了南方五省区多家数据中心的算力资源。
南方电网市场总监 李敏虹:这里就是南方区域数据中心的一些情况,服务器、卡数、算力规模等,所有的资源都在这集中展现。而且我们可以通过汇聚,达到数据中心之间的资源调配。
记者了解到,这个交易平台通过人工智能模型预测电价,来引导调度。电价低的时候,把算力任务优先安排过去;电价高的时候,就暂停或迁移非紧急任务。比如,用户提交一个AI训练任务,系统发现贵州电价更低,就把任务调度到了贵州。
南方电网数字电网研究院人工智能运营中心经理 郑桦:通过计算一个最优的策略来保证用户的成本最低,以及绿电的使用率最高。用户只要在平台上提交自己的计算任务需求,包括提供要什么时候计算完这个任务,平台会自动帮他找到成本最低的绿色算力来进行计算。
南方电网市场总监 李敏虹:接入更多的买家和卖家,按需下单,即用即付,账单透明。买算力就像买电一样简单。
京公网安备 11010802028547号