专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!
全球AI领导者英伟达(NVIDIA)发布了世界最小的AI计算机Project DIGITS,可轻松运行2000亿参数的大模型。
据悉,Project DIGITS搭载了英伟达最新的GB10 Grace Blackwell超级芯片,集成了NVIDIA Blackwell GPU和NVIDIA Grace™ CPU,能够提供高达1 petaflop的AI性能。
其GPU配备了最新一代的CUDA核心和第五代Tensor Cores,而CPU则包含20个基于Arm架构的高能效核心,通过NVLink®-C2C技术实现高效的芯片间互连。
Project
DIGITS还配备了128GB的内存和4TB的NVMe存储,确保了充足的计算和存储空间。通过NVIDIA ConnectX®网络,两台Project DIGITS还可以连接在一起,处理更大的AI模型。
Project
DIGITS不仅为本地开发提供了强大的计算能力,还能够无缝地将模型部署到NVIDIA DGX Cloud™、加速云实例或数据中心基础设施上。开发者可以在运行Linux的NVIDIA DGX OS的Project DIGITS系统上进行原型设计、微调和测试模型,然后利用相同的Grace Blackwell架构和NVIDIA AI Enterprise软件平台在云或数据中心基础设施上进行扩展。
英伟达为Project DIGITS用户提供了丰富的开发支持,包括软件开发工具包、编排工具和多种预训练模型等。这些资源大大降低了AI开发的门槛,使开发者能够快速上手并进行创新实践。
Project
DIGITS支持多种流行的AI框架,例如,PyTorch、Python和Jupyter Notebook等,确保开发者能够使用熟悉的工具进行模型开发和实验。开发者还可以利用NVIDIA NeMo™框架对模型进行微调,借助NVIDIA RAPIDS™库加速数据科学工作流程。
通过NVIDIA AI Enterprise软件平台,开发者可以在本地进行原型设计和测试,然后无缝将模型部署到云端或数据中心基础设施上,充分利用云端强大的计算资源。当AI应用准备从实验环境过渡到生产环境时,NVIDIA AI Enterprise许可证提供了企业级的安全保障和技术支持,确保企业用户在生产环境中稳定运行AI应用。
研究人员借助 Project DIGITS能够轻松地处理海量的数据运行大参数模型,例如,在癌症研究中,通过对大量癌症患者基因数据的分析,结合 Project DIGITS 运行的深度学习模型,可以快速筛选出与癌症相关的基因突变,为精准医疗提供有力依据,加速新型抗癌药物的研发进程。
教育领域同样受益于 Project DIGITS 的强大功能。在高校和科研机构的人工智能课程教学中,学生们可以通过实际操作 Project DIGITS,深入理解人工智能算法和模型的原理及应用。例如,在深度学习课程中,学生可以使用 Project DIGITS 训练图像识别模型,从数据预处理、模型构建到训练和优化。
英伟达表示,Project DIGITS将于今年5月正式发售,价格3000美元起。
本文素材来源英伟达,如有侵权请联系删除
END