AI开源南京分享会回顾录

AI 开源南京分享会，已于2024年11月30日下午在国浩律师（南京）事务所5楼会议厅成功举办。此次活动由 KCC@南京、PowerData、RISC-Verse 联合主办，国浩律师（南京）事务所协办。

活动以“开源视角的 AI 对话”为主题展开分享，讲师们分别分享了自己在 AI 领域独到见解及 AI 技术探索，现场充满了积极向上的能量，活动氛围轻松愉快，大家都玩得不亦乐乎。下半场的 AI 讨论会犹如思想的盛宴，参会者们不仅思维敏捷，逻辑严密，而且观点犀利，言辞激昂，使得整个讨论过程既激烈又高质量，如同高手过招，精彩纷呈。正所谓“思想交锋如火花，智慧碰撞生华章”，亦是如此。

协办方代表国浩律师（南京）事务所·陶冶律师欢迎大家入场

欢迎大家来到国浩律师事务所，享受开源，享受聚会。

主办方代表 KCC@南京·董吉甫宣布活动正式开始

开源知行，笃实刚健 ，是南京特有的 slogan！相当有感召力的话语！希望大家能够在南京将开源文化倡导起来。

麦仔《基于大模型创建个人助手》

国企架构师麦仔就自己的工作经验，为大家讲解了基于大模型如何去创建个人助手，就大模型的挑战及未来发展发而言，麦仔认为：个人助手需要处理多种类型的数据，如文本、语音、图像等，如何有效地融合这些多模态数据， 提升助手的理解和交互能力，是一个重要的技术挑战；个人助手需要能够实时响应用户请求，并提供流畅的交互体验，如何在保证实时性的同时，提供高量的服务也是一种挑战；随着个人助手的能力不断提升，伦理和道德问题也将成为重要的考量因素，如何确保助手的行为符合社会伦理和道德标准是一个挑战；个人助手需要收集和处理大量的用户数据，如何保护这些数据的隐私也是一个重要问题。未来，个人助手将更加注重跨平台和跨设备的整合，提供一致的用户体验。技术趋势包括云计算、边缘计算和物联网技术、可解释 AI、公平性和透明性技术等。

更多内容请参见麦仔老师原分享 PPT：

基于大模型创建个人助手-麦仔.pdf

李奇峰《基于大模型进行数据中台的优化改进探索》

身为 PowerData 的主理人，同时也是此次活动的现场主持人李奇峰，他就自己在数据治理方面的工作经验为大家分享了基于大模型进行数据中台的优化改进探索。据他介绍，数据中台并不是一种技术，更多的是数据集成、管理、应用的体系。本质目的在于通过一系列的整合与管理，提供可以复用的数据能力，提升企业数据资产化能力，从而更好的为业务提供数据支撑，实现数据驱动的目标。数据中台支持数据应用高效、低成本落地，能将数据服务化、智能化、标准化、资产化。据李奇峰表示，大模型拥有海量数据计算能力、模型训练能力、深度学习、推理等能力，恰好的为企业实现数据治理，经过大模型优化后分别在用户体验、数据质量、数据分类分级、数据安全、数据服务等方面都表现出不错的成绩。通过大模型与数据中台的融合促进，从而也推动了数据中台技术的演进。

更多内容请参见李奇峰老师原分享 PPT:

基于大模型进行数据中台的优化改进探索-李奇峰.pdf

庄表伟《介绍 Smart Prompt 框架》

作为一名经验丰富的开发者，Ruby 爱好者，Prompt 工程师是一个非常好的契机来提升工作和生活效率的，开源社理事、天工开物基金会执行副秘书长庄表伟老师将自己撰写的一段脚本给大家做了生动的演示，全场都在赞叹不已，这才是硬核分享，直接撸代码。

庄表伟老师用 Ruby DSL 自己动手搭建了一个 Smart Prompt 框架，来为大家介绍 AI 大模型实际应用价值，他从如可理解这一轮 AI 浪潮，到如何搭建 Smart Prompt 框架及框架功能示列、后期计划分别展开做了详细介绍，使参会者收益匪浅，获得参会嘉宾一致好评。解释大模型（LLM:Large Language Model）是通过深度学习训练的大型神经网络模型，专门用于理解和生成自然语言。其工作原理是通过大规模的文本数据学习语言结构、语法和语义，具备处理多种语言任务的能力，如翻译、文章生成、问题回答等。其应用场景包括AI对话系统、自动翻译、内容创作、自然语言处理（NLP）等。如何让大模型高效，关键在于模型的提示词，并分析出从复杂系统到可编程提示词到大模型其本质上是一种传统架构与AI架构集成起来的架构模式。同时也表示并非所有的问题，都适合用大模型来解决，在选择调用何种模型来进行交互是一个着重点。

更多内容请参见庄表伟老师原分享 PPT:

介绍Smart Prompt框架-庄表伟.pdf

郑祖岭《AI 在 RISC-V 领域的应用实践》

提到 RISC-V，便于大家理解，笔者这里先简约介绍一下 RISC-V：

• RISC 全名 Reduced Instruction Set Computer ，即精简指令集计算机。V 是罗马字母，代表第五代 RISC(精简指令集计算机)，可读作 RISC-FIVE。RISC-V 诞生于2010年，由加州大学伯克利分校的研究团队设计，主要背景是发现市面上 Intel的 X86、ARM 指令集架构 CPU 越来越复杂，且授权难以获得、价格昂贵，因此而设计，其目标是用新的指令集来满足从微控制器到超级计算机等各种尺寸的处理器（在 RISC-V 之前，伯克利分校已经有了四代 RISC 指令集架构的设计经验，第一代 RISC 指令集于1981年诞生。如需了解更多，请参见 RISC 官网https://riscv.org/）。

• RISC-V 是基于精简指令集计算（RISC）原则设计的一种开放标准指令集架构（ISA）。允许任何组织或个人在遵守其开源许可协议的前提下，自由地使用、开发、制造和销售基于 RISC-V 的芯片和软件。这种开放性不仅推动了技术创新，还降低了进入门槛，使得更多的企业和研究机构能够参与到定制硬件解决方案的开发中。因此， RISC-V 已经成为了教育、研究和商业领域中极为受欢迎的平台。除了学术机构外，像芯片开发、软件工具、设计服务与系统等厂商，都有加入，其中包括阿里、谷歌、华为、英伟达、高通、麻省理工学院、普林顿大学、印度理工学院、中科院软件所、英伟达、联发科、西部数据、希捷等。中国企业在 RISC-V 国际基金会中占有相当的比重，如意 RISC-V 社区（RISC-Verse）由中国科学院软件研究所牵头发起，围绕 RISC-V 指令集，遵循技术发展趋势，协同生态伙伴、聚集开发者，联合高校院所，以共商、共建、共享、共生的方式推动 RISC-V 软件生态系统的发展，为 RISC-V 处理器在不同领域的应用提供全面支持。

中科院软件所郑祖岭基于自己的工作经验，为大家分享了 AI 在 RISC-V 领域的应用，以阿里达摩院的玄铁多媒体 AI 软硬件融合和平台为例，为大家讲解了基于大模型的 AI Agent 实践。据郑祖岭介绍，正是基于 RISC-V 的开源环境，阿里达摩院研发出了 TH1520 多模态 AI 视觉 RISC-V 处理器芯片，且支持全链路安全防护，在中科院软件所发布的全球首款 RISC-V 开源笔记本-如意 BOOK 甲辰版上就已得到了很好的应用，具备通用 AI 算力、TEE 可信计算等。正是这种真实的实践应用，也足以充分有效说明，开源在AI领域能够很好促进计算机科学技术发展。此外，他表示智能体（AI Agent）是一种能够感知环境、进行决策和执行动作的智能实体。不同于传统的人工智能，智能体具备通过独立思考、调用工具去逐步完成给定目标的能力。在有大语言模型作为其大脑之后，智能体更是具备了对通用问题的自动化处理能力。

更多内容请参见郑祖岭老师原分享PPT:

RISC-V架构上AI应用实践与探索-郑祖领.pdf

适兕《大模型该如何开放、透明、普适化》

【开源之道】主创适兕老师从历史的角度来分析了技术的几次变革，开放如何影响大众的过程，如印刷、文字、计算机，从技术哲学的角度，进而展开对大模型的需求，也表达了一下他的忧思。这种多维度的思考与探讨、其现场的感染力非常震撼，激发了参会者们无尽的思考与积极发问，犹如一场思想盛宴。当然，整体上他是乐观的，认为开放的大模型会再次给我们普罗大众带来机会。正如他所分享的，RedHat CEO Matt Hicks 在收购 Neural Magic 后说的一句话：“人工智能的未来是开源的”。

更多内容请参见适兕老师原分享 PPT:

how-genai-open-source-适兕.pdf

中兴通讯开源战略总监孟伟在讨论会发表了自己对 AI 的看法，他表示未来 AI 大模型应用领域，将是一场智能体（AI Agent）盛景。

适兕老师表示，要认真对待新一轮的生成式人工智能，GPT 的降临，是一种元学习能力，甚至是一种情感上的支撑，要善加利用。抗拒毫无益处。

字节跳动研发工程师刘东威与中科院软件所工程师袁大庆对话 AI 探讨，表示 3D 打印与AI的协作升级，将是一个新趋势发展方向。

南京工业大学孟龙晖教授表示，在机械领域 AI 也将会有很不错的表现。

活动合作献给大家

最后，向所有参与此次活动筹备的志愿者们及参会嘉宾表达最由衷的感谢！

开源不仅是一个人的活动，亦是推动人类科技发展、共有且可建的华章。

于道各努力，千里自同分。一曲清歌满樽酒，人生何处不相逢。大家江湖再见！

作者｜KCC@南京

编辑丨王军

相关阅读 | Related Reading

观点：全球应极力避免地缘政治带来的开源末日

开源软件有断供的风险吗？

开源社简介

开源社（英文名称为“KAIYUANSHE”）成立于 2014 年，是由志愿贡献于开源事业的个人志愿者，依 “贡献、共识、共治” 原则所组成的开源社区。开源社始终维持 “厂商中立、公益、非营利” 的理念，以 “立足中国、贡献全球，推动开源成为新时代的生活方式” 为愿景，以 “开源治理、国际接轨、社区发展、项目孵化” 为使命，旨在共创健康可持续发展的开源生态体系。

开源社积极与支持开源的社区、高校、企业以及政府相关单位紧密合作，同时也是全球开源协议认证组织 - OSI 在中国的首个成员。

自2016年起连续举办中国开源年会（COSCon），持续发布《中国开源年度报告》，联合发起了“中国开源先锋榜”、“中国开源码力榜”等，在海内外产生了广泛的影响力。