大模型日报2024-05-09

大模型日报

 

2024-05-09

 

大模型资讯

 

1. NVIDIA推出VILA视觉语言模型，开启边缘AI 2.0时代

 

• 摘要: NVIDIA最新推出的VILA家族视觉语言模型代表了边缘AI 2.0的到来。这些模型具备高级视觉推理能力，能够在低功耗的边缘设备上运行，为各种应用带来更智能的视觉处理解决方案。

 

1. 微软在机密云环境中部署GPT-4模型供五角大楼使用

 

• 摘要: 微软已将其GPT-4大型语言模型部署在一个与外界隔离的、物理隔绝的Azure政府机密云环境中，专门为五角大楼的使用。这标志着先进人工智能技术在美国国防部门的应用迈入了一个新的阶段，强化了军事决策和操作的智能化水平。

 

1. alt.ai启动建设拥有数万亿参数的大型语言模型

 

• 摘要: alt Inc.已开始建设一个具有数万亿参数的大型语言模型。该公司旨在通过这一项目实现全球最优的速度和成本效能，进一步推动人工智能技术的发展。

 

1. 微软计划开发MAI-1 AI语言模型以与Google和OpenAI竞争

 

• 摘要: 据最新消息，微软正致力于开发自己的人工智能语言模型，代号为MAI-1。该项目旨在与OpenAI及其产品Gemini以及Google在AI领域展开竞争。微软的这一举措预示着AI语言模型竞赛的加剧。

 

1. 使用贝叶斯优化和大型语言模型进行偏好诱导

 

• 摘要: 研究者开发了一种结合贝叶斯优化的方法，用于通过大型语言模型辅助偏好诱导。这项技术可以帮助用户在不确定自己偏好时，例如挑选电影，通过优化算法推荐最符合其心情的选项。

 

1. 微软为美国情报机构开发无需互联网的AI模型

 

• 摘要: 据报道，微软开发了一款独立于互联网的生成式AI模型，专为美国情报机构设计。这款AI模型旨在不依赖网络环境下工作，以满足情报部门处理敏感信息时对安全性和隐私性的高要求。

 

1. Google Research 参加2024年第十二届国际学习表示会议(ICLR)

 

• 摘要: 本周，作为深度学习领域的顶级会议，第十二届国际学习表示会议(ICLR 2024)正在举行。Google Research作为会议的重要参与者，将展示其在学习表示领域的最新研究成果。会议汇集了该领域的专家学者，共同探讨和交流深度学习的前沿进展。

 

1. 微软开发新型大型语言模型挑战谷歌Gemini和OpenAI的GPT-4

 

• 摘要: 据报道，微软正在开发一款新的大型语言模型（LLM），以对标谷歌的Gemini以及OpenAI的GPT-4。这一举动显示出微软在人工智能领域的竞争意图，旨在通过技术创新提升其在智能语言处理市场的地位。

 

1. LLMClean: 利用大型语言模型自动生成上下文模型的AI方法

 

• 摘要: LLMClean是一种人工智能方法，通过使用大型语言模型（LLM）来自动化生成上下文模型。它旨在分析和理解各种数据集，以提高数据处理的效率和准确性。该方法通过智能化地理解数据内容，为数据分析提供了一种新的技术途径。

 

1. GPT-4新增视觉功能：能否解读胸部X光片？

 

• 摘要: 最新消息显示，GPT-4模型现已具备视觉能力，并开始尝试解读图像内容，特别是胸部X光片。这些经过精细调整、预先训练的大型语言模型能够将图像内容转换为文本描述。目前，业界正在探讨它们是否已准备好承担医学影像解读的任务。

 

大模型产品

 

大模型论文

 

1. 自然代码基准：真实编码性能测试

 

• 摘要: 提出了NaturalCodeBench（NCB），一个新的代码合成基准，它包含402个从在线编程服务中精选的、覆盖六个领域的高质量问题，旨在更好地反映真实世界编码任务的复杂性和多样性。

 

1. ChatHuman：基于语言的3D人体理解系统

 

• 摘要: ChatHuman是一个整合多种方法的语言驱动人体理解系统。通过微调大型语言模型，实现对多工具的选择与应用，提升了人体分析的准确性和多任务性能。

 

1. QServe:高效LLM量化及系统协同设计

 

• 摘要: QServe提出了W4A8KV4量化算法，通过优化GPU上的低通量核心操作，显著提高了大规模语言模型(LLM)的服务吞吐量，降低了成本。

 

1. xLSTM：扩展长短期记忆网络

 

• 摘要: 本文提出xLSTM，通过增强门控和修改内存结构，实现了LSTM的规模化。新结构采用指数门控、标准化和稳定化技术，并引入了标量和矩阵内存变体，使xLSTM在性能和可扩展性上能与最新的Transformer和状态空间模型相媲美。

 

1. 堆栈注意力增强的变压器模型

 

• 摘要: 针对变压器模型在处理上下文自由语言任务上的局限性，本文提出了一种可微分的堆栈注意力机制。该机制能够提升变压器模型对部分确定性上下文自由语言的建模能力，并增加模型的可解释性。

 

1. 网络任务中人与机器表现差异研究

 

• 摘要: 本研究探讨了在执行网络任务（如信息搜索）时，人类与网络代理（如LLMs和LVMs）在规划、行动和反思方面的表现差异。通过对比分析，揭示了两者在知识更新和处理模糊性方面的不同，并为网络代理的设计提供了洞见。

 

1. 适应性教学：基于误解的示例调整

 

• 摘要: 研究如何通过计算模型，尤其是大型语言模型，适应学生知识状态的变化进行教学。提出AdapT评估方法和AToM模型，通过模拟和真实学生实验，证明了其在多个学习领域中相对于传统方法的优越性。

 

1. GPT-3.5聘用偏见审计研究

 

• 摘要: 本研究审计了OpenAI GPT-3.5在招聘过程中的种族与性别偏见。通过简历评估和生成两项实验，发现模型反映了某些基于刻板印象的偏见，例如女性简历的经验较少，亚裔和西班牙裔简历中含有移民标记。

 

1. 视觉指令调整增强LLM安全隐患

 

• 摘要: 研究表明，增强了图像理解能力的大型语言模型（VLMs）更容易受到越狱攻击。本文分析三种不同的VLMs，指出视觉指令调整可能导致LLM安全防护减弱，并提出未来研究的建议。

 

1. 大型语言模型无法自解释

 

• 摘要: 本文讨论大型语言模型产生的“解释”并非真实反映其运作过程。作者提出“exoplanations”术语，强调这些解释的外源性，并探讨设计和技术中的应用，包括设置合适的保护措施。

 

大模型开源项目

 

1. Huggingface：机器学习机器人项目

 

• 摘要: Huggingface项目开发了名为LeRobot的机器学习工具，旨在为现实世界的机器人技术提供最先进的Pytorch解决方案。该项目使用Python语言编写，便于在机器人领域的应用和研究。

 

1. LangGenius：开源LLM应用开发平台

 

• 摘要: LangGenius是一个开源的大型语言模型(LLM)应用开发平台。它提供直观界面，集成AI工作流、RAG管道、代理能力、模型管理及可观测性功能，帮助用户从原型快速转向生产环境。项目使用TypeScript编写。

 

1. Skyvern-AI：智能浏览器自动化工具

 

• 摘要: Skyvern-AI是一个开源项目，使用大型语言模型(LLMs)和计算机视觉技术实现浏览器工作流程的自动化。该项目基于Python语言编写，旨在简化和加速网络相关任务的处理。

 

1. 基于GPT的自动网络研究智能体

 

• 摘要: assafelovic项目是一个基于GPT的自主智能代理，能够对任何指定主题进行深入的在线研究。该项目使用Python语言编写，旨在通过自动化收集与分析信息，提高研究效率和质量。

 

1. 高效的KAN纯PyTorch实现

 

• 摘要: Blealtan是一个Github上的AI趋势项目，提供了Kolmogorov-Arnold网络（KAN）的高效纯PyTorch实现。整个项目使用Python语言编写。

 

1. ChatGPTNextWeb：跨平台聊天界面

 

• 摘要: ChatGPTNextWeb项目提供了一个跨平台的ChatGPT/Gemini用户界面，支持Web、PWA以及Linux、Windows和MacOS系统。用户可以轻松一键部署自己的ChatGPT/Gemini应用，项目采用TypeScript语言编写。

 

1. 从零开始实现类ChatGPT模型

 

• 摘要: 该项目由rasbt创建，旨在逐步教授如何从头开始实现一个类似ChatGPT的大型语言模型。全部过程通过Jupyter Notebook进行编写和演示。

 

1. VinciGit00：AI驱动的Python爬虫

 

• 摘要: VinciGit00是一个基于AI技术构建的Python爬虫项目。它利用先进的人工智能算法，高效地从各种网站抓取数据，为用户提供强大的数据采集能力。

 

1. FlowiseAI：自定义LLM流程构建

 

• 摘要: FlowiseAI是一个开源项目，提供了一个拖放界面，允许用户用TypeScript语言定制自己的大型语言模型(LLM)流程。

 

1. 私密本地AI知识管理应用

 

• 摘要: reorproject是一个Github上热门的AI项目，它是一个私密且本地化的个人知识管理应用程序。该项目使用TypeScript语言编写，旨在帮助用户高效管理个人知识库。