[论文笔记] CT数据配比方法论——1、Motivation
我正在写这方面的论文，感兴趣的可以和我一起讨论！！！！！！
Motivation
1、探测原有模型的配比： 配比 与 ppl, loss, bpw, benchmark等指标 之间的关系。
2、效果稳定的配比：配比 与 模型效果 之间的规律。
Experiments
1、主语言（什么语言作为主语言，几种主语言？双主语言是否可行？）
DATA_CONFIG_PATH=/mnt/data/pretrain/code/Megatron-LM/scripts/train_scripts/data_configs/jinglei/CT_Qwen14B_22lan.txt
我在3期数据基础上调的新配比，13种语言只占0.13。由于重要语种的更改，把图中的de换成ja，占比0.046。
2、主语言占比
单主语言：主语言占比
双主语言：双主语言占比
3、阶梯配比
阶梯配比（9种语言扩到22种语言时，如果保持9种语言的配比，则会效果很差，扩充到22种语言需要用阶梯配比）
-
第0
相关文章：
[论文笔记] CT数据配比方法论——1、Motivation
我正在写这方面的论文，感兴趣的可以和我一起讨论！！！！！！ Motivation 1、探测原有模型的配比： 配比 与 ppl, loss, bpw, benchmark等指标 之间的关系。 2、效果稳定的配比：配比 与 模型效果 之间的规律。 Experiments 1、主语言（什么语言作为主语言，几种主语言？…...
某4G区域终端有时驻留弱信号小区分析
这些区域其实是长时间处于连接态的电信卡4G终端更容易出现。 出现问题时都是band1 100频点下发了针对弱信号的1650频点的连接态A4测量事件配置（其阈值为-106）。而这个条件很容易满足，一旦下发就会切到band3 1650频点。 而1650频点虽然下发ban…...
【体外诊断】ARM/X86+FPGA嵌入式计算机在免疫分析设备中的应用
体外诊断 信迈提供基于Intel平台、AMD平台、NXP平台的核心板、2.5寸主板、Mini-ITX主板、4寸主板、PICO-ITX主板，以及嵌入式准系统等计算机硬件。产品支持GAHDMI等独立双显，提供丰富串口、USB、GPIO、PCIe扩展接口等I/O接口，扩展性强…...
Linux上启动和停止jar
linux 后台运行jar 在Linux系统中，要想让jar包在后台运行，可以使用nohup命令和&符号。nohup命令可以使进程在后台不受挂起信号影响的执行，而&符号则是将任务放入后台执行。 以下是一个简单的命令示例，它将启动一个jar包…...
浏览器缓存：强缓存与协商缓存实现原理有哪些？
1、强缓存：设置缓存时间的，那么在这个时间内浏览器向服务器发送请求更新数据，但是服务器会让其从缓存中获取数据。 可参考：彻底弄懂强缓存与协商缓存 - 简书 2、协商缓存每次都会向浏览器询问，那么是怎么询问的呢&…...
持续集成04--Jenkins结合Gitee创建项目
前言 在持续集成/持续部署（CI/CD）的旅途中，Jenkins与版本控制系统的紧密集成是不可或缺的一环。本篇“持续集成03--Jenkins结合Gitee创建项目”将引导如何将Jenkins与Gitee（一个流行的Git代码托管平台）相结合ÿ…...
【Node.js基础02】fs、path模块
目录 一：fs模块-读写文件 1 加载fs模块对象 2 读制定文件内容文件 3 向文件中写入内容 二：path模块-路径处理 1 问题引入 2 __dirname内置变量 使用方法 一：fs模块-读写文件 fs模块封装了与本机文件系统交互方法和属性 1 加载fs模块…...
牛客TOP101：单链表的排序
文章目录 1. 题目描述2. 解题思路3. 代码实现 1. 题目描述 2. 解题思路 按我们以往的排序算法来看，针对链表来说都是太不合适，因为很多都会出现指针前移后移，后移还好说，前移对于链表来说就太难了，而且大部分都是某一个…...
数据可视化配色新工具，颜色盘多达2500+类
好看的配色，不仅能让图表突出主要信息，更能吸引读者，之前分享过很多配色工具，例如， 👉可视化配色工具：颜色盘多达3000+类，数万种颜色！ 本次再分享一个配色工具pypalettes，颜色盘多达2500+类。 安装pypalettes pip install pypalettes pypalettes使用 第1步，挑选…...
SpringAI简单使用（本地模型+自定义知识库）
Ollama 简介 Ollama是一个开源的大型语言模型服务工具，它允许用户在本地机器上构建和运行语言模型，提供了一个简单易用的API来创建、运行和管理模型，同时还提供了丰富的预构建模型库，这些模型可以轻松地应用在多种应用场景中。O…...
为什么要从C语言开始编程
在开始前刚好我有一些资料，是我根据网友给的问题精心整理了一份「C语言的资料从专业入门到高级教程」， 点个关注在评论区回复“888”之后私信回复“888”，全部无偿共享给大家！！！很多小伙伴在入门编程时。都…...
[数据集][目标检测]导盲犬拐杖检测数据集VOC+YOLO格式4635张2类别
数据集格式：Pascal VOC格式YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)：4635 标注数量(xml文件个数)：4635 标注数量(txt文件个数)：4635 标注…...
数据结构（稀疏数组）
简介 稀疏数组是一种数据结构，用于有效地存储和处理那些大多数元素都是零或者重复值的数组。在稀疏数组中，只有非零或非重复的元素会被存储，从而节省内存空间。 案例引入 假如想把下面这张表存入文件，我们会怎么做？…...
python 爬虫技术 第02节 基础复习
Python基础复习 Python 是一种高级、通用、解释型的编程语言，以其简洁的语法和强大的功能在数据科学、Web 开发、自动化脚本编写、机器学习等领域广泛使用。下面是一些 Python 基础概念的复习： 1. 数据类型 Python 支持多种内置数据类型，包…...
数据结构-C语言-排序（3）
代码位置：test-c-2024: 对C语言习题代码的练习 (gitee.com) 一、前言： 1.1-排序定义： 排序就是将一组杂乱无章的数据按照一定的规律（升序或降序）组织起来。(注：我们这里的排序采用的都为升序) 1.2-排序分…...
【分布式事务】怎么解决分布式场景下数据一致性问题
分布式事务的由来 拿充值订单举个栗子吧，假设：原本订单模块和账户模块是放在一起的，现在需要做服务拆分，拆分成订单服务，账户余额服务。原本收到充值回调后，可以将修改订单状态和扣减余额放在一个mysql事务…...
C# 中的委托
委托的概念 在C#中，委托是一种引用类型，它表示对方法的引用，即委托就是一种用来指向一个方法的引用类型变量。委托的声明类似于方法签名，但是关键字是delegate。下面是一个委托的声明和使用的例子： // 声明一个委托 p…...
通过docker构建基于LNMP的WordPress项目
目录 1.准备nginx 2.准备mysql 3.准备php 4.构建各镜像 5.运行wordpress 1、项目环境： 1.1 （1）公司在实际的生产环境中，需要使用Docker 技术在一台主机上创建LNMP服务并运行Wordpress网站平台。然后对此服务进行相关的性能…...
2024新版IntelliJ IDEA修改包名 全网最简单最粗暴的方法
问题再现 我们在网上淘一些后端框架 又或者是开源的项目 如果要变成自己的 难免会去改包名 即把com.后面的内容改成自己自定义的 第一次我们直接用网络上的方法 shift F6 快捷键 可以修改包名 出现以下情况 进行修改 我们发现失败了 并没有像预计的一样直接把包名修…...
C#中处理Socket粘包
在C#中使用Socket进行网络通信时，粘包问题是常见的。粘包问题通常发生在TCP协议中，因为TCP是流式协议，数据可能会被分割成多个包发送，也可能多个小包会被合并成一个大包接收。 处理粘包问题的常见方法是使用消息分隔符或消息长度…...
RestClient
什么是RestClient RestClient 是 Elasticsearch 官方提供的 Java 低级 REST 客户端，它允许HTTP与Elasticsearch 集群通信，而无需处理 JSON 序列化/反序列化等底层细节。它是 Elasticsearch Java API 客户端的基础。 RestClient 主要特点 轻量级ÿ…...
【Linux】shell脚本忽略错误继续执行
在 shell 脚本中，可以使用 set -e 命令来设置脚本在遇到错误时退出执行。如果你希望脚本忽略错误并继续执行，可以在脚本开头添加 set e 命令来取消该设置。 举例1 #!/bin/bash# 取消 set -e 的设置 set e# 执行命令，并忽略错误 rm somefile…...
使用rpicam-app通过网络流式传输视频)
树莓派超全系列教程文档--(62)使用rpicam-app通过网络流式传输视频
使用rpicam-app通过网络流式传输视频 使用 rpicam-app 通过网络流式传输视频UDPTCPRTSPlibavGStreamerRTPlibcamerasrc GStreamer 元素 文章来源： http://raspberry.dns8844.cn/documentation 原文网址 使用 rpicam-app 通过网络流式传输视频 本节介绍来自 rpica…...
【人工智能】神经网络的优化器optimizer（二）：Adagrad自适应学习率优化器
一.自适应梯度算法Adagrad概述 Adagrad（Adaptive Gradient Algorithm）是一种自适应学习率的优化算法，由Duchi等人在2011年提出。其核心思想是针对不同参数自动调整学习率，适合处理稀疏数据和不同参数梯度差异较大的场景。Adagrad通…...
如何在看板中体现优先级变化
在看板中有效体现优先级变化的关键措施包括：采用颜色或标签标识优先级、设置任务排序规则、使用独立的优先级列或泳道、结合自动化规则同步优先级变化、建立定期的优先级审查流程。其中，设置任务排序规则尤其重要，因为它让看板视觉上直观地体…...
Linux相关概念和易错知识点（42）（TCP的连接管理、可靠性、面临复杂网络的处理）
目录 1.TCP的连接管理机制（1）三次握手①握手过程②对握手过程的理解 （2）四次挥手（3）握手和挥手的触发（4）状态切换①挥手过程中状态的切换②握手过程中状态的切换 2.TCP的可靠性&…...
质量体系的重要
质量体系是为确保产品、服务或过程质量满足规定要求，由相互关联的要素构成的有机整体。其核心内容可归纳为以下五个方面： 🏛️ 一、组织架构与职责 质量体系明确组织内各部门、岗位的职责与权限，形成层级清晰的管理网络…...
实现弹窗随键盘上移居中
实现弹窗随键盘上移的核心思路 在Android中，可以通过监听键盘的显示和隐藏事件，动态调整弹窗的位置。关键点在于获取键盘高度，并计算剩余屏幕空间以重新定位弹窗。 // 在Activity或Fragment中设置键盘监听 val rootView findViewById<V…...
Spring数据访问模块设计
前面我们已经完成了IoC和web模块的设计，聪明的码友立马就知道了，该到数据访问模块了，要不就这俩玩个6啊，查库势在必行，至此，它来了。 一、核心设计理念 1、痛点在哪 应用离不开数据（数据库、No…...
Spring Cloud Gateway 中自定义验证码接口返回 404 的排查与解决
Spring Cloud Gateway 中自定义验证码接口返回 404 的排查与解决 问题背景 在一个基于 Spring Cloud Gateway WebFlux 构建的微服务项目中，新增了一个本地验证码接口 /code，使用函数式路由（RouterFunction）和 Hutool 的 Circle…...