

作为QVAC平台的一部分,该框架能够使用非英伟达硬件,扩展支持范围至通常用于AI训练的主流GPU之外。

全球最大稳定币USDT的发行方Tether,推出了一项全新的AI训练框架。该框架允许在消费级硬件上对大型语言模型进行微调,涵盖智能手机及非Nvidia品牌的GPU。
根据周二发布的公告,该系统基于QVAC平台,采用微软的BitNet架构及LoRA技术,显著降低内存和算力需求,预计将减少AI模型开发的成本和硬件门槛。
该框架支持跨平台的训练和推理,适用于多种芯片,包括AMD、Intel和Apple Silicon,以及Qualcomm和Apple的移动GPU。
Tether表示,其工程团队已能够在智能手机上对高达10亿参数的模型进行微调,耗时不到两小时,而更小规模的模型仅需几分钟。该技术还支持在移动设备上运行高达130亿参数的大模型。
该框架基于BitNet,这是一种1-bit模型架构。公司介绍称,与类似的16-bit模型相比,内存消耗可减少高达77.8%,使得更大的模型能够在受限硬件上运行。此外,它还支持无需Nvidia硬件的1-bit模型LoRA微调,扩展了AI训练的硬件选择。
公司指出,性能优势同样体现在推理环节,移动GPU运行BitNet模型的速度是CPU的数倍。本地端设备训练和联邦学习等场景将从中受益,即模型可以在分布式设备上更新,而无需将数据上传至中心化服务器,从而减少对云基础设施的依赖。
加密企业加速布局AI,从挖矿基础设施到自主智能体
Tether进军AI基础设施的同时,加密企业也在加快向算力及机器学习领域的拓展,比特币挖矿与AI智能体的浪潮正在形成。
2023年9月,谷歌以43亿美元收购Cipher Mining 5.4%股权,并达成了一项为期10年的AI数据中心合作协议。12月,比特币矿企IREN宣布计划筹集约36亿美元用于AI基础设施投资。
这一趋势预计将持续至2026年。今年2月,HIVE Digital Technologies公布创纪录的收入9,310万美元,主要得益于其AI及高性能计算业务的增长。而3月,Core Scientific获得了摩根士丹利5亿美元的信贷额度,并可扩展至10亿美元。
在挖矿领域向AI与高性能计算转型的同时,AI智能体(能够自主交易、执行服务和任务的程序)在加密行业也在加速落地。
2023年10月,Coinbase推出了支持AI智能体进行链上交易的钱包基础设施。上月,Alchemy上线了一套系统,允许智能体在Base上使用USDC访问区块链数据服务。今年2月,Pantera与富兰克林邓普顿共同加入Sentient旗下Arena平台,测试企业级AI智能体。
周二,由OpenAI创始人Sam Altman联合创立的身份网络World发布了AgentKit,该工具包使AI智能体在支付x402微支付协议时,可以通过World ID验证其与唯一人类身份的关联。
相关推荐:美国立法者提出法案打击预测市场战争押注
#谷歌
#World Bank
#AI
#GPU
#Tether
#OpenAI
#AI & Hi-Tech

















