报名链接：https://conf.ccf.org.cn/TF145
随着大模型技术的快速发展，各个行业都在面临人工智能（AI）带来的机遇和挑战；大模型和AIGC技术为业务应用赋能提效的过程中，对技术架构也提出了前所未有的要求：好的架构能够更好地促进AI在业务的迭代效率和落地效果。
本期TF活动邀请到微软中国AI解决方案总经理郭立，并行科技AI事业部总经理赵鸿冰，科大国创知识计算智能实验室主任周源以及贝壳找房资深工程师轩夺四位行业专家。他们将与大家分享AI赋能应用的架构经验，包括Microsoft GraphRAG的原理和架构，大模型应用运行特征采集与分析架构，电信行业大模型架构与应用，贝壳大模型训练稳定性建设等。
期待大家的参与，与这些行业领袖一起深入探讨AI技术在不同业务场景下的应用架构，共同推动AI技术的创新与实践，为业务发展注入新的活力。
TF145：AIGC赋能应用架构
2024年9月19日(星期四) 主持人：李庆丰 CCF TF架构SIG主席，微博研发中心高级总监 |
时间 | 主题 | 讲者 |
19:00-19:05 | 活动介绍及致辞 | 主持人：李庆丰 CCF TF架构SIG主席，微博研发中心高级总监 |
19:05-19:35 | Microsoft GraphRAG：基于知识图谱的大语言模型LLM检索增强生成RAG系统 | 郭立 微软中国数据及人工智能解决方案总经理 |
19:35-20:05 | 大模型应用运行特征采集与分析架构 | 赵鸿冰 北京并行科技股份有限公司 副总裁 AI云联合创始人 AI云事业部总经理 |
20:05-20:35 | 电信行业大模型架构与应用 |
周源 科大国创 知识计算智能实验室主任 |
20:35-21:05 | 贝壳大模型训练稳定性建设 | 轩夺 贝壳找房 资深工程师 |
21:05-21:15 | 参会者提问互动 |
|
21:15-21:20 | 活动总结 | 杨卫华 CCF TF主席&架构SIG主席，Westar Labs创始人兼CEO |
CCF TF 架构 SIG
主题：《Microsoft GraphRAG：基于知识图谱的大语言模型LLM检索增强生成RAG系统》
主题简介：Microsoft GraphRAG是一种通过将文本提取、知识图谱分析和大语言模型LLM提示和摘要，整合至单一端到端系统，增强理解文本数据集的解决方案。Microsoft GraphRAG用于回答私有文本语料库的问题，该方法可以随着用户问题的普遍性和要索引的源文本数量而扩展。Microsoft GraphRAG使用大语言模型LLM分两个阶段构建基于图形的文本索引：首先从源文本中派生出实体知识图谱，然后为所有相关的实体集合预生成社区摘要。针对用户问题，每个社区摘要都用于生成部分响应，所有部分响应最终汇总至针对用户的最终响应。测试表明，Microsoft GraphRAG在生成答案的全面性和多样性方面，均比Baseline RAG有了显着的改进。
个人简介：郭立，微软中国解决方案事业部数据及人工智能解决方案总经理，负责微软数据及人工智能解决方案在中国的业务拓展。在今天，数据及人工智能对微软的业务和客户比以往任何时候都更加重要。郭立以其技术专长、项目经验、行业洞察力和团队合作力，带领微软中国专业团队，在人工智能新时代为客户创造全新价值。郭立拥有近20年IT行业经验，在加入微软之前，郭立相继担任欧洲云计算公司Gcore中国区经理、AWS解决方案架构师经理、Cognizant解决方案总监兼首席云计算架构师、IBM首席交付架构师等职位。
赵鸿冰
北京并行科技股份有限公司 副总裁 AI云联合创始人 AI云事业部总经理
主题：《大模型应用运行特征采集与分析架构》
主题简介：人工智能引领新一轮工业革命，大模型技术是驱动本轮人工智能浪潮的关键支撑。大模型训练是超算应用，超算系统设计需要考虑计算、访存、高速互连等协同设计，避免出现木桶短板，以为大模型训练提供高效的算力支撑。同时，受参数规模、并行方法等多种因素影响，不同的大模型训练应用运行特征不尽相同，需要基于具体的应用运行特征设计、选型相应的超算架构算力产品平台，以更精确、更高效地提升大模型的训练与推理性能。本报告主要从大模型应用运行特征采集与分析架构出发，通过应用运行特征方法论和工具集，实现对大模型应用的采集与分析，以进一步赋能AIGC应用。
个人简介：长期从事超算云与智算云研发与推广，致力于推进大规模GPU和CPU算力基础设施融合调度创新与服务模式创新，参与E级计算机关键技术验证系统和国家高性能计算环境服务化机制与支撑体系研究等科技部重大专项、国防预研及中国算力网等项目十余项。
主题：《电信行业大模型架构与应用》
主题简介：本次报告主要介绍在电信行业大模型应用的建设背景与架构，针对电信的私域知识与安全性要求等特点，如何基于现有业务规划电信行业智能体应用方向与产品的整体技术架构，重点介绍电信领域大模型宏观技术架构、实施过程中领域训练语料构建方法、开源大模型选型思路、大模型微调的过程、领域任务的评估策略及大模型推理加速框架等行业实施经验。重点分享电信行业大模型在装维支撑、知识云问答等具体业务场景中，如何有效的整合电信行业大模型与专业AI模型、私域业务流程等多种架构关系，设计出资源节约、安全、高可用的电信智能应用的技术架构与关键应用流程，以及上线后的系统运营方案。期望通过本次分享，让听众能够了解在领域大模型应用过程中，如何从当前的业务中挖掘大模型应用的场景，并设计出资源投入小但应用成效明显的架构、实施方案，快速研发上线安全可用的领域大模型智能化应用，从而推动业务生产的降本增效。
个人简介：科大国创-知识计算智能实验室主任、人工智能研发团队负责人、国创九章大模型数智平台产品的技术架构师，合肥市高层次人才，合肥大学研究生校外导师，中科大-科大国创联合实验室高级研究员，曾获得公司级陈国良院士奖、优秀架构师等荣誉，代表科大国创获得AIIA杯二等奖、JDATA二等奖、安徽省人工智能大赛一等奖等AI赛事奖项，负责集团级AI平台、多个省级大模型智能应用项目的架构设计与研发管理，此外，还兼任公司架构师团队AI方向负责人，负责对公司人工智能应用的架构设计进行指导与评审。
主题：《贝壳大模型训练稳定性建设》
主题简介：贝壳作为房地产领域的领军企业，在大模型方面进行了积极的探索和研发。本次报告将依据贝壳场景，聚焦于模型训练，介绍贝壳的大模型训练基建情况和在模型训练稳定性等方面做的工作。贝壳的模型训练分布主要有云上集群、IDC集群以及多地区部署（北京、上海）的环境，在此混合云环境下贝壳机器学习平台承担了模型训练的重要角色，接下来会简要介绍下贝壳的机器学习平台。另外，也将交流下大模型训练稳定性和持续性等方面遇到的问题如频繁掉卡、存储性能瓶颈、训练过程异常、训练资源的调度等以及相应的解决方案。
个人简介：目前任贝壳找房资深工程师，专注于可观测领域在云原生和AI场景下的探索和落地。当前主要负责贝壳AI基础设施的稳定性建设。主导建立了全面的观测体系，覆盖AI基础设施的每一个环节，预防潜在故障，实现高效的问题处理流程，确保模型训练的稳定性。
杨卫华
CCF TF主席&架构SIG主席，Westar Labs创始人兼CEO
个人简介：杨卫华，Westar Labs创始人兼CEO。2009年起参与新浪微博的技术架构工作，历任微博首席架构师以及技术副总，长期主导微博基础架构及平台研发工作。现任CCF TF主席&架构SIG主席，CCF区块链专委会执行委员。
李庆丰
CCF TF架构SIG主席，微博研发中心高级总监
个人简介：微博研发中心高级总监，负责微博基础架构和流媒体等研发方向。在高可用架构、微服务、混合云架构，以及流媒体架构技术方向有丰富的研发及管理经验。技术社区的拥护者，多次担任业界前沿技术大会的讲师及出品人。
史亚风
CCF TF架构sig委员，蔚来汽车 主任工程师
个人简介：蔚来汽车主任工程师，CCF高级会员、CCF数字金融行业分会执委，曾供职于天猫、滴滴。IBM、埃森哲等世界500强技术顾问。擅长数据反哺业务，帮助滴滴获得近10倍业务增长；帮助天猫打造业界领先的数据链路洞察能力，获得硅谷增长黑客之父Sean Ellis高度赞赏。关注大模型在资产、业财一体、营销数据洞察等垂直领域应用。现任CCF TF架构sig委员。
1、如报名后无法参加，请及时于活动开始前发送邮件申请取消（联系邮箱：tf@ccf.org.cn），无故缺席将影响下一期活动的参与。
2、活动采用线上模式：腾讯会议；同时也将在CCF视频号“中国计算机学会”同步直播。
（注：腾讯线上会议人数有限，若未能进入腾讯会议，可通过直播参与。）
3、会议链接和密码将在活动当天通过邮件、短信通知。可点击腾讯会议链接，输入密码参加。
4、请于活动前一天15:00前完成报名，及时获取会议链接。
5、CCF会员免费参加，非会员99元/次（CCF会员以及缴费观众可登录CCF数字图书馆，免费回顾本期活动经授权的报告内容），加入会员可免费参与全年线上活动。
会员免费参加CCF TF全年20场线上活动，优惠价参加14场线下活动，为自己的技术成长做一次好投资，用高性价比获取专业知识的绝佳路径！
2024年9月19日 （星期四）
长按识别或扫码报名
报名链接：https://conf.ccf.org.cn/TF145
邮箱：tf@ccf.org.cn
电话：0512-6590 0856转分机号36
