[论文笔记] CT数据配比方法论——1、Motivation
我正在写这方面的论文，感兴趣的可以和我一起讨论！！！！！！
Motivation
1、探测原有模型的配比： 配比 与 ppl, loss, bpw, benchmark等指标 之间的关系。
2、效果稳定的配比：配比 与 模型效果 之间的规律。
Experiments
1、主语言（什么语言作为主语言，几种主语言？双主语言是否可行？）
DATA_CONFIG_PATH=/mnt/data/pretrain/code/Megatron-LM/scripts/train_scripts/data_configs/jinglei/CT_Qwen14B_22lan.txt
我在3期数据基础上调的新配比，13种语言只占0.13。由于重要语种的更改，把图中的de换成ja，占比0.046。
2、主语言占比
单主语言：主语言占比
双主语言：双主语言占比
3、阶梯配比
阶梯配比（9种语言扩到22种语言时，如果保持9种语言的配比，则会效果很差，扩充到22种语言需要用阶梯配比）
-
第0
相关文章：
[论文笔记] CT数据配比方法论——1、Motivation
我正在写这方面的论文，感兴趣的可以和我一起讨论！！！！！！ Motivation 1、探测原有模型的配比： 配比 与 ppl, loss, bpw, benchmark等指标 之间的关系。 2、效果稳定的配比：配比 与 模型效果 之间的规律。 Experiments 1、主语言（什么语言作为主语言，几种主语言？…...
某4G区域终端有时驻留弱信号小区分析
这些区域其实是长时间处于连接态的电信卡4G终端更容易出现。 出现问题时都是band1 100频点下发了针对弱信号的1650频点的连接态A4测量事件配置（其阈值为-106）。而这个条件很容易满足，一旦下发就会切到band3 1650频点。 而1650频点虽然下发ban…...
【体外诊断】ARM/X86+FPGA嵌入式计算机在免疫分析设备中的应用
体外诊断 信迈提供基于Intel平台、AMD平台、NXP平台的核心板、2.5寸主板、Mini-ITX主板、4寸主板、PICO-ITX主板，以及嵌入式准系统等计算机硬件。产品支持GAHDMI等独立双显，提供丰富串口、USB、GPIO、PCIe扩展接口等I/O接口，扩展性强…...
Linux上启动和停止jar
linux 后台运行jar 在Linux系统中，要想让jar包在后台运行，可以使用nohup命令和&符号。nohup命令可以使进程在后台不受挂起信号影响的执行，而&符号则是将任务放入后台执行。 以下是一个简单的命令示例，它将启动一个jar包…...
浏览器缓存：强缓存与协商缓存实现原理有哪些？
1、强缓存：设置缓存时间的，那么在这个时间内浏览器向服务器发送请求更新数据，但是服务器会让其从缓存中获取数据。 可参考：彻底弄懂强缓存与协商缓存 - 简书 2、协商缓存每次都会向浏览器询问，那么是怎么询问的呢&…...
持续集成04--Jenkins结合Gitee创建项目
前言 在持续集成/持续部署（CI/CD）的旅途中，Jenkins与版本控制系统的紧密集成是不可或缺的一环。本篇“持续集成03--Jenkins结合Gitee创建项目”将引导如何将Jenkins与Gitee（一个流行的Git代码托管平台）相结合ÿ…...
【Node.js基础02】fs、path模块
目录 一：fs模块-读写文件 1 加载fs模块对象 2 读制定文件内容文件 3 向文件中写入内容 二：path模块-路径处理 1 问题引入 2 __dirname内置变量 使用方法 一：fs模块-读写文件 fs模块封装了与本机文件系统交互方法和属性 1 加载fs模块…...
牛客TOP101：单链表的排序
文章目录 1. 题目描述2. 解题思路3. 代码实现 1. 题目描述 2. 解题思路 按我们以往的排序算法来看，针对链表来说都是太不合适，因为很多都会出现指针前移后移，后移还好说，前移对于链表来说就太难了，而且大部分都是某一个…...
数据可视化配色新工具，颜色盘多达2500+类
好看的配色，不仅能让图表突出主要信息，更能吸引读者，之前分享过很多配色工具，例如， 👉可视化配色工具：颜色盘多达3000+类，数万种颜色！ 本次再分享一个配色工具pypalettes，颜色盘多达2500+类。 安装pypalettes pip install pypalettes pypalettes使用 第1步，挑选…...
SpringAI简单使用（本地模型+自定义知识库）
Ollama 简介 Ollama是一个开源的大型语言模型服务工具，它允许用户在本地机器上构建和运行语言模型，提供了一个简单易用的API来创建、运行和管理模型，同时还提供了丰富的预构建模型库，这些模型可以轻松地应用在多种应用场景中。O…...
为什么要从C语言开始编程
在开始前刚好我有一些资料，是我根据网友给的问题精心整理了一份「C语言的资料从专业入门到高级教程」， 点个关注在评论区回复“888”之后私信回复“888”，全部无偿共享给大家！！！很多小伙伴在入门编程时。都…...
[数据集][目标检测]导盲犬拐杖检测数据集VOC+YOLO格式4635张2类别
数据集格式：Pascal VOC格式YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)：4635 标注数量(xml文件个数)：4635 标注数量(txt文件个数)：4635 标注…...
数据结构（稀疏数组）
简介 稀疏数组是一种数据结构，用于有效地存储和处理那些大多数元素都是零或者重复值的数组。在稀疏数组中，只有非零或非重复的元素会被存储，从而节省内存空间。 案例引入 假如想把下面这张表存入文件，我们会怎么做？…...
python 爬虫技术 第02节 基础复习
Python基础复习 Python 是一种高级、通用、解释型的编程语言，以其简洁的语法和强大的功能在数据科学、Web 开发、自动化脚本编写、机器学习等领域广泛使用。下面是一些 Python 基础概念的复习： 1. 数据类型 Python 支持多种内置数据类型，包…...
数据结构-C语言-排序（3）
代码位置：test-c-2024: 对C语言习题代码的练习 (gitee.com) 一、前言： 1.1-排序定义： 排序就是将一组杂乱无章的数据按照一定的规律（升序或降序）组织起来。(注：我们这里的排序采用的都为升序) 1.2-排序分…...
【分布式事务】怎么解决分布式场景下数据一致性问题
分布式事务的由来 拿充值订单举个栗子吧，假设：原本订单模块和账户模块是放在一起的，现在需要做服务拆分，拆分成订单服务，账户余额服务。原本收到充值回调后，可以将修改订单状态和扣减余额放在一个mysql事务…...
C# 中的委托
委托的概念 在C#中，委托是一种引用类型，它表示对方法的引用，即委托就是一种用来指向一个方法的引用类型变量。委托的声明类似于方法签名，但是关键字是delegate。下面是一个委托的声明和使用的例子： // 声明一个委托 p…...
通过docker构建基于LNMP的WordPress项目
目录 1.准备nginx 2.准备mysql 3.准备php 4.构建各镜像 5.运行wordpress 1、项目环境： 1.1 （1）公司在实际的生产环境中，需要使用Docker 技术在一台主机上创建LNMP服务并运行Wordpress网站平台。然后对此服务进行相关的性能…...
2024新版IntelliJ IDEA修改包名 全网最简单最粗暴的方法
问题再现 我们在网上淘一些后端框架 又或者是开源的项目 如果要变成自己的 难免会去改包名 即把com.后面的内容改成自己自定义的 第一次我们直接用网络上的方法 shift F6 快捷键 可以修改包名 出现以下情况 进行修改 我们发现失败了 并没有像预计的一样直接把包名修…...
C#中处理Socket粘包
在C#中使用Socket进行网络通信时，粘包问题是常见的。粘包问题通常发生在TCP协议中，因为TCP是流式协议，数据可能会被分割成多个包发送，也可能多个小包会被合并成一个大包接收。 处理粘包问题的常见方法是使用消息分隔符或消息长度…...
7.19IO
思维导图 第一题：测试错误检查锁和递归锁是否会造成死锁状态 #include <stdio.h> #include <string.h> #include <stdlib.h> #include <unistd.h> #include <sys/types.h> #include <sys/stat.h> #include <fcntl.h> #i…...
【Vue】深入了解 Axios 在 Vue 中的使用：从基本操作到高级用法的全面指南
文章目录 一、Axios 简介与安装1. 什么是 Axios？2. 安装 Axios 二、在 Vue 组件中使用 Axios1. 发送 GET 请求2. 发送 POST 请求 三、Axios 拦截器1. 请求拦截器2. 响应拦截器 四、错误处理五、与 Vuex 结合使用1. 在 Vuex 中定义 actions2. 在组件中调用 Vuex acti…...
【Qt】窗口
文章目录 QMainWindow菜单栏工具栏状态栏浮动窗口对话框自定义对话框Qt内置对话框QMessageBox QMainWindow Qt中的主窗口以QMainWindow表示，其总体结构如下： 菜单栏 菜单栏MenuBar，可包含多个菜单Menu，每个菜单也可以包含多个菜…...
代码随想录训练营【贪心算法篇】
贪心 注：本文代码来自于代码随想录 贪心算法一般分为如下四步： 将问题分解为若干个子问题找出适合的贪心策略求解每一个子问题的最优解将局部最优解堆叠成全局最优解 这个四步其实过于理论化了，我们平时在做贪心类的题目 很难去按照这四步…...
Spark中的JOIN机制
Spark中的JOIN机制 1、Hash Join概述2、影响JOIN的因素3、Spark中的JOIN机制3.1、Shuffle Hash Join3.2、Broadcast Hash Join3.3、Sort Merge Join3.4、Cartesian Product Join3.5、Broadcast Nested Loop Join4、Spark中的JOIN策略5、Spark JOIN机制与策略总结5.1、Spark中的…...
WebRTC QOS方法十三.1（TimestampExtrapolator接收时间预估）
一、背景介绍 虽然我们可通过时间戳的差值和采样率计算出发送端视频帧的发送节奏，但是由于网络延迟、抖动、丢包，仅知道视频发送端的发送节奏是明显不够的。我们还需要评估出视频接收端的视频帧的接收节奏，然后进行适当平滑，保证…...
深入了解 GCC
GCC，全称 GNU Compiler Collection，是 GNU 项目的一部分，是一个功能强大且广泛使用的编译器套件。它支持多种编程语言，包括 C、C、Fortran、Java、Ada 和 Go。GCC 具有高度的可移植性，几乎可以在所有现代计算机体系结构…...
vscode 打开远程bug vscode Failed to parse remote port from server output
vscode 打开远程bug vscode Failed to parse remote port from server output 原因如图： 解决：...
前端组件化技术实践：Vue自定义顶部导航栏组件的探索
摘要 随着前端技术的飞速发展，组件化开发已成为提高开发效率、降低维护成本的关键手段。本文将以Vue自定义顶部导航栏组件为例，深入探讨前端组件化开发的实践过程、优势以及面临的挑战，旨在为广大前端开发者提供有价值的参考和启示。 一、引…...
PyTorch Autograd内部实现
原文： 克補 爆炸篇 25s (youtube.com) 必应视频 (bing.com)https://www.bing.com/videos/riverview/relatedvideo?&qPyTorchautograd&qpvtPyTorchautograd&mid1B8AD76943EFADD541E01B8AD76943EFADD541E0&&FORMVRDGAR 前面只要有一个node的re…...
毕业设计代做网站都有哪些/如何建网站
作者： 小马哥 rstevens (rstevens2008hotmail.com) 欢迎转载，未经允许，请勿用于商业目的1. 定义 Packet： 通过网卡收发的报文，包括链路层、网络层、传输层的协议头和携带的数据 Data Buffer：用…...
化妆品网站的建设方案/免费seo营销软件
即使学过机器学习的人，对机器学习中的MLE(极大似然估计)、MAP(最大后验估计)以及贝叶斯估计(Bayesian)仍有可能一知半解。对于一个基础模型，通常都可以从这三个角度去建模，比如对于逻辑回归（Logistics Regression）来说…...
有专门做食品的网站吗/苏州seo关键词优化推广
定义：辛普森法则（Simpsons rule）是一种数值积分方法，是牛顿-寇次公式的特殊形式，以二次曲线逼近的方式取代矩形或梯形积分公式，以求得定积分的数值近似解。其近似值如下： 注：辛普森法…...
专业建设外贸网站制作江门/站长之家ppt模板
-- Start 在上一篇中，我们学会了如何创建节点以及如何保存数据到节点中，那么什么是节点呢？其实节点就像文件一样，是用来保存数据的，只不过在 ZooKeeper 中，我们把它称之为节点。如果有成千上万个节点&…...
如何与导航网站做友情链接/国内电商平台有哪些
域名 通常 Internet 主机域名的一般结构为：主机名.三级域名.二级域名.顶级域名（又称为一级域名）。二级域名及其以上级别的域名，统称为子域名，有多少个点就是几级域名顶级域名分为两类：一个是按照国家&#…...
用粉色做网站主题色/性价比高seo排名
http://in.sdo.com/?p11 原文链接：Netflix recommendations: beyond the 5 stars (Part 1), (Part 2) 原文作者：Xavier Amatriain and Justin Basilico 前言Nexflix是一家提供在线视频流媒体服务和DVD租赁业务的公司，也是著名的Netflix大奖赛…...