最强新星Hyperbolic将如何重塑AI赛道?

时间:2024-12-20  分类:电子


资本总是追逐未来的机会。欧美风险投资的真金白银,往往是衡量一个赛道前景的重要风向标。


一方面,英伟达的股票节节攀升;另一方面,全球机构争相抢购比特币ETF。


这无疑表明,AI和Web3是近年来最炙手可热的领域,也将是未来改变世界格局的核心力量,影响深远。


然而,在一个越来越被AI影响的世界中,创新与颠覆的主导权长期掌握在少数人手中。


开发人工智能所需的计算资源和基础设施,成为打开这扇大门的关键钥匙,但这些资源的获取往往高度集中,仅限于那些拥有雄厚资本或机构支持的人群。


除此之外,高昂的使用成本、缺乏对计算结果的可信验证,以及隐私安全问题,进一步限制了AI的普及与公平性。


AI的未来,不应仅仅服务于少数人的商业利益,而应像Web3一样,成为人人可参与、人人可受益的公共财富。这是一场属于所有人的共同旅程,而非少数人的专属领地。


0简介和功能


Hyperbolic是一家开源的AI计算与推理服务提供商,诞生于挑战现状的愿景,致力于让全球各地的创新者无论资源多少、地理位置如何,都能平等地使用AI技术。


Hyperliqui的三大核心功能包括:


1.1GPU市场:按需算力,经济高效


Hyperbolic的GPU市场打破了传统的算力租赁模式,通过汇聚全球闲置的GPU资源,为开发者提供按需算力服务,帮助他们节省最多75%的成本。依托Hyper-dOS去中心化操作系统,开发者只需不到一分钟就能获得所需的算力,大大降低了创新的门槛。


1.2推理服务:低成本,高效率


Hyperbolic的推理服务每天处理超过十亿个Token,以极低的成本提供最新的开源模型,并支持BF16格式,保证了在效率和精度上的优异表现。


1.3采样证明(PoSP):验证的黄金标准


Hyperbolic独创的采样证明协议,通过严格的数据隐私保障,确保输出结果既可靠又经济高效,使其成为唯一能够提供可验证AI结果的Web3实时推理产品。


0目标


Hyperbolic具有三个目标:1.提供去中心化异构计算2.确保去中心化人工智能的安全性和可验证性3.在去中心化AI保护隐私。


2.1提供去中心化异构计算


Hyperbolic致力于构建一个可扩展的系统,将全球GPU算力整合,从而优化各种类型GPU的性能。这一愿景旨在突破算力资源分配的瓶颈,向全球的AI研究人员和开发者提供高性能的支持。


Hyperbolic首先搭建了AI服务层,允许开发者部署并利用全球计算资源来运行不同的AI服务。


它能够将各种高级机器学习框架(如PyTorch、TensorFlow、JAX)编译成适配不同硬件平台的底层语言(如NVIDIA的CUDA、AMD的ROCm、Apple的Metal)。


此外,Hyperbolic还与AMD合作,致力于提升AMD芯片的性能。在Hyperbolic的优化下,Llama3-8B模型在AMDMI250平台上的输入吞吐量提升了120.4%,输出吞吐量提升了144.8%。


Hyperbolic的解决方案不仅受到Web3AI项目的青睐,也吸引了大量Web2AI开发者的采用。


尽管Web2开发者常担心去中心化方案可能影响性能和可靠性,Hyperbolic却在大语言模型和图像生成领域展现了卓越的表现。


即使团队规模远小于主流竞争对手,Hyperbolic仍实现了媲美甚至超越它们的性能表现,充分证明了其技术架构的优越性。


这种突破消除了对去中心化方案的疑虑,为更多开发者打开了合作的可能性。


Hyperbolic的去中心化计算优势源于其独特的系统架构以太阳系为灵感设计的Hyper-dOS。该架构采用分层集群模型,将高效与稳定融为一体。


SunCluster(太阳集群)是中央治理节点,类似于太阳在行星系统中的核心地位,为整个系统提供基础服务和支持,确保稳定性和高效运行。


围绕它的则是多个行星级集群,包括:MercuryCluster(单节点)、MarsCluster(多节点)和JupiterCluster(多卫星节点)。每个集群规模和治理特性各不相同,可灵活适应不同需求。


系统三大关键特性



这种分层架构不仅保证了系统的高可用性和可扩展性,还实现了自治性与整体协调性的平衡。用户只需拥有一台机器或一个集群,安装Hyper-dOS后,即可轻松接入Hyperbolic网络,获取全球计算资源并实现无缝协作。


2.2确保去中心化人工智能的安全性和可验证性


在去中心化网络中面临一个关键挑战:如何确保随机节点生成的结果是正确的。安全性和可验证性一直是已部署AI系统中未解决的问题。


目前AI的流行的验证机制有共识/投票,乐观机制以及零知识证明。


共识/投票机制要求多个节点同时运行相同的请求,并通过多数投票来确定答案。然而,这种方式的成本非常高。如果10个节点处理同一个请求,开销就会增加10倍。


乐观机制(OPML)通过允许单一节点生成结果并设定一个挑战窗口(通常为7天)供其他节点提出异议来验证结果。


但这种方式在实时场景中并不实用。例如,用户询问新加坡有什么好玩的地方,如果需要等7天后才能确认答案是否正确,就已经没有意义了。


零知识证明在隐私和验证方面表现优异,但计算成本过高,短期内难以实现实用化。


为了解决这些问题,Hyperbolic联合加州大学伯克利分校和哥伦比亚大学的专家,提出了一种基于纳什均衡的新型验证机制,称为抽样证明(PoSP)。这种机制以抽样验证为核心,而不是对所有结果进行全面检查。


通常情况下,只有一个节点生成结果,但网络会以一定概率随机要求另一个节点重新生成。如果两个节点的结果不一致,将启动仲裁流程。不诚实的节点会受到高额经济惩罚。


通过数学模型推导出的质押与奖励的阈值公式表明,只要检查的概率高于该阈值,系统即可达到博弈论中的纯纳什均衡状态,确保所有节点为了自身利益选择100%诚实。


这种抽样证明机制不仅对AI推理有效,还可应用于AI训练、微调等领域,甚至扩展到AI领域之外的服务,例如L2Rollup和数据可用性等。


Hyperbolic正在与EigenLayer、Karak等再质押协议合作,共同构建通用的可验证服务层(AVS),使其他AVS服务提供商也能利用这一验证机制来确保其服务的安全性和可靠性。


2.3在去中心化AI保护隐私


在去中心化的AI网络中,如何同时确保数据隐私和模型完整性是一个亟待解决的大问题。当你的数据被分布在世界各地的节点上时,安全性面临严峻挑战。


现有技术如完全同态加密(FHE)、零知识证明(ZKP)和多方计算(MPC),尽管理论上可以解决这些问题,但在实际应用中会极大地降低计算速度,无法满足实时推理的需求。


Hyperbolic采用了英伟达最新Hopper和BlackwellGPU上的可信执行环境(TEE)技术,提供了一种高效的隐私保护解决方案。


通过TEE技术,相当于在GPU上创建了一个隐私保险箱:虽然外界无法窥探其中的数据内容,但GPU仍能正常完成数据处理。


而且,这种保护隐私的机制在推理过程中仅损失约1%的计算性能。


Hyperbolic将在整个去中心化网络中引入保密计算层。这将确保数据和AI模型在使用过程中始终处于安全状态,为用户提供可靠的隐私和安全保障。


0Hyperbolic的应用场景


AIAgent是当前最热的赛道。AIAgent可通过Hyperbolic实现多项创新功能:


3.1支持加密支付


AIAgent能通过加密货币进行支付,实现自我维持和独立运营。


3.2托管定制化模型


每个AIAgent都可以拥有专属的特性和技能,从而形成个性化服务。


3.3自我进化能力


通过持续的微调和学习,AIAgent可以根据用户需求或环境变化不断提升能力,使其变得更加高效和智能。


3.4可验证推理


AIAgent的推理过程是透明且可验证的,保证了它们的独立性,不受外部控制或恶意干扰,增强用户信任感。


3.5拥有记忆功能


借助检索增强生成(RAG)技术,AIAgent可以记录和存储与用户互动的信息,形成长期记忆。这使得它们能够提供更贴心的服务,例如记住用户的偏好。


3.6跨Agent通信


AIAgent之间能够相互沟通与协作,形成复杂任务的解决网络。例如,不同的Agent可以协作完成一个多步骤的项目。


3.7灵活调用API和工具

-->> 1/2 文章未完,请继续阅读

以上就是最强新星Hyperbolic将如何重塑AI赛道?的全部内容,望能这篇最强新星Hyperbolic将如何重塑AI赛道?可以帮助您解决问题,能够解决大家的实际问题是非常好学习网一直努力的方向和目标。