社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

英伟达发布Project DIGITS,轻松运行2000亿参数模型

AIGC开放社区 • 4 天前 • 41 次点击  

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

全球AI领导者英伟达(NVIDIA)发布了世界最小的AI计算机Project DIGITS,可轻松运行2000亿参数的大模型。

据悉,Project DIGITS搭载了英伟达最新的GB10 Grace Blackwell超级芯片,集成了NVIDIA Blackwell GPU和NVIDIA Grace™ CPU,能够提供高达1 petaflop的AI性能。

其GPU配备了最新一代的CUDA核心和第五代Tensor Cores,而CPU则包含20个基于Arm架构的高能效核心,通过NVLink®-C2C技术实现高效的芯片间互连。

Project DIGITS还配备了128GB的内存和4TB的NVMe存储,确保了充足的计算和存储空间。通过NVIDIA ConnectX®网络,两台Project DIGITS还可以连接在一起,处理更大的AI模型。

Project DIGITS不仅为本地开发提供了强大的计算能力,还能够无缝地将模型部署到NVIDIA DGX Cloud™、加速云实例或数据中心基础设施上。开发者可以在运行Linux的NVIDIA DGX OS的Project DIGITS系统上进行原型设计、微调和测试模型,然后利用相同的Grace Blackwell架构和NVIDIA AI Enterprise软件平台在云或数据中心基础设施上进行扩展。

英伟达为Project DIGITS用户提供了丰富的开发支持,包括软件开发工具包、编排工具和多种预训练模型等。这些资源大大降低了AI开发的门槛,使开发者能够快速上手并进行创新实践。

Project DIGITS支持多种流行的AI框架,例如,PyTorch、Python和Jupyter Notebook等,确保开发者能够使用熟悉的工具进行模型开发和实验。开发者还可以利用NVIDIA NeMo™框架对模型进行微调,借助NVIDIA RAPIDS™库加速数据科学工作流程。

通过NVIDIA AI Enterprise软件平台,开发者可以在本地进行原型设计和测试,然后无缝将模型部署到云端或数据中心基础设施上,充分利用云端强大的计算资源。当AI应用准备从实验环境过渡到生产环境时,NVIDIA AI Enterprise许可证提供了企业级的安全保障和技术支持,确保企业用户在生产环境中稳定运行AI应用。

研究人员借助 Project DIGITS能够轻松地处理海量的数据运行大参数模型,例如,在癌症研究中,通过对大量癌症患者基因数据的分析,结合 Project DIGITS 运行的深度学习模型,可以快速筛选出与癌症相关的基因突变,为精准医疗提供有力依据,加速新型抗癌药物的研发进程。

教育领域同样受益于 Project DIGITS 的强大功能。在高校和科研机构的人工智能课程教学中,学生们可以通过实际操作 Project DIGITS,深入理解人工智能算法和模型的原理及应用。例如,在深度学习课程中,学生可以使用 Project DIGITS 训练图像识别模型,从数据预处理、模型构建到训练和优化。

英伟达表示,Project DIGITS将于今年5月正式发售,价格3000美元起。

本文素材来源英伟达,如有侵权请联系删除

END

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/177769
 
41 次点击