当前位置：首页 > news >正文

计算机的错误计算（一百六十六）

news 文章来源：https://blog.csdn.net/zaim1/article/details/143460258 2025/4/20 18:31:15

摘要探讨 MATLAB 关于算式

$\frac{\tan(0.125\times10^{-6})-\sin(0.125\times10^{-6})}{0.125\times10^{-6}-\sqrt{1+(0.125\times10^{-6})^2}}$

的计算误差。

例1. 已知 $f(x)=\frac{\tan(x)-\sin(x)}{x-\sqrt{1+x^2}}\,^{[1]}\,,$ $x_0=0.125\times10^{-6}\,.$ 计算 $f(x_0)\,.$

直接贴图吧：

然而，16位的正确结果为 -0.9765626220703239e-21（ISRealsoft 提供）。这样，MATLAB输出的有效数字的错误率为 (16-2)/16 = 87.5% .

注：可参看计算机的错误计算（一百二十三）。

参考文献

[1] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 69

计算机的错误计算（一百六十六）

摘要探讨 MATLAB 关于算式的计算误差。例1. 已知计算直接贴图吧： 然而，16位的正确结果为 -0.9765626220703239e-21（ISRealsoft 提供）。这样，MATLAB输出的有效数字的错误率为 (16-2)/16 87.5% . 注&…...

编程日记 2024/11/26 13:21:42

typeof 和 as 关键字

在编程语言中，类型系统是确保代码正确性和可维护性的关键。JavaScript和TypeScript作为现代前端开发的两大支柱，它们在处理类型方面有着不同的机制。本文将探讨typeof和as这两个关键字在JavaScript和TypeScript中的应用，帮助开发者更好地理解…...

编程日记 2024/11/26 13:14:34

目录一、用法精讲 1116、pandas.tseries.offsets.BusinessHour.is_year_end方法 1116-1、语法 1116-2、参数 1116-3、功能 1116-4、返回值 1116-5、说明 1116-6、用法 1116-6-1、数据准备 1116-6-2、代码示例 1116-6-3、结果输出 1117、pandas.tseries.offsets.Cu…...

编程日记 2024/11/26 13:13:33

git提交到远程仓库如何撤回?

git提交到远程仓库如何撤回? 要撤回已经提交到远程仓库的更改，你可以使用以下步骤： 首先，确保你的本地仓库是最新状态。如果不是，请先执行 git pull 来更新你的本地仓库。使用 git log 查看提交历史，找到你想要撤回…...

编程日记 2024/11/26 13:11:31

微信小程序常用全局配置项及窗口组成部分详解

微信小程序常用全局配置项及窗口组成部分详解引言微信小程序作为一种新兴的应用形态，凭借其轻量级、便捷性和丰富的功能，已成为开发者和用户的热门选择。在开发小程序的过程中，了解全局配置项和窗口组成部分是至关重要的。本文将详细介绍微信小程序的常用全局配置项及窗…...

编程日记 2024/11/26 13:10:29

ThingsBoard规则链节点：Azure IoT Hub 节点详解

目录引言 1. Azure IoT Hub 节点简介 2. 节点配置 2.1 基本配置示例 3. 使用场景 3.1 数据传输 3.2 数据分析 3.3 设备管理 4. 实际项目中的应用 4.1 项目背景 4.2 项目需求 4.3 实现步骤 5. 总结引言 ThingsBoard 是一个开源的物联网平台，提供了设备…...

编程日记 2024/11/26 13:08:27

「Mac玩转仓颉内测版32」基础篇12 - Cangjie中的变量操作与类型管理

本篇将深入探讨 Cangjie 编程语言中的变量操作与类型管理，涵盖变量的定义、作用域、类型推断、常量、变量遮蔽、类型转换等方面的知识。通过这些概念的学习，开发者将更好地理解和灵活掌握变量的使用与管理技巧。关键词变量定义类型推断常量变量作用域…...

编程日记 2024/11/26 13:07:26

【Android】RecyclerView回收复用机制

概述 RecyclerView 是 Android 中用于高效显示大量数据的视图组件，它是 ListView 的升级版本，支持更灵活的布局和功能。我们创建一个RecyclerView的Adapter： public class MyRecyclerView extends RecyclerView.Adapter<MyRecyclerVie…...

编程日记 2024/11/26 13:05:24

麒麟系统性能瓶颈分析

1.使用率，表示资源用于服务的时间或容量百分比。100% 的使用率，表示容量已经用尽或者全部时间都用于服务。 2. 饱和度，表示资源的繁忙程度，通常与等待队列的长度相关。100% 的饱和度，表示资源无法接受更多的请求。 3…...

编程日记 2024/11/26 13:03:22

Java二分查找+冒泡排序

二分查找在编程中是用来查找目标元素在有序数组中的位置,并返回目标元素的索引先给定一个有序数组,在创建一个方法来进行二分主要思想是:根据数组具有下标的特点来分别计算,最左边的索引,以及最右边的索引,在判断目标元素与中间元素的大小,如果目标元素小于中间元素,我们可…...

编程日记 2024/11/26 13:00:19

（三）手势识别——动作识别应用【代码+数据集+python环境（免安装）+GUI系统】

（三）手势识别——动作识别应用【代码数据集python环境（免安装）GUI系统】 （三）手势识别——动作识别【代码数据集python环境GUI系统】背景意义随着互联网的普及和机器学习技术的进一步发展，手…...

编程日记 2024/11/26 12:59:17

大数据实战——MapReduce案例实践

🌟欢迎来到我的博客 —— 探索技术的无限可能！ 🌟博客的简介（文章目录） 大数据实战——MapReduce案例实践一．过程分析（截图）1. 确定Hadoop处于启动状态2. 在/usr/local/filecotent…...

编程日记 2024/11/26 12:58:16

OpenCV基础（3）

1.图像直方图 1.1.像素统计计算图像均值： Scalar cv::mean(InputArray src,InputArray masknoArray()); src：输入图像mask：掩膜层过滤返回值是对输入图像通道数计算均值后的Scalar对象计算图像均值与方差： void cv::meanSt…...

编程日记 2024/11/26 12:56:15

大语言模型---RewardBench 介绍；RewardBench 的主要功能；适用场景

文章目录 1. RewardBench 介绍2. RewardBench 的主要功能3. 适用场景 1. RewardBench 介绍 RewardBench: Evaluating Reward Models是一个专门用于评估 Reward Models（奖励模型） 的公开平台，旨在衡量模型在多种任务上的性能，包括…...

编程日记 2024/11/26 12:52:10

泷羽sec-linux

基础之linux 声明！ 学习视频来自B站up主泷羽sec 有兴趣的师傅可以关注一下，如涉及侵权马上删除文章，笔记只是方便各位师傅的学习和探讨，文章所提到的网站以及内容，只做学习交流，其他均与本人以及泷羽sec团…...

编程日记 2024/11/26 12:51:09

栈、队列、链表

一、栈 1. 定义栈是一种线性数据结构，遵循后进先出（LIFO, Last In First Out）的原则。这意味着最后被添加到栈中的元素将会是最先被移除的元素。 2. 基本操作 Push：将一个元素添加到栈顶。Pop：移除并返回栈顶的元…...

编程日记 2024/11/26 12:48:06

【maven】配置下载私有仓库的快照版本

1、setting.xml配置 <settings xmlns"http://maven.apache.org/SETTINGS/1.0.0"xmlns:xsi"http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation"http://maven.apache.org/SETTINGS/1.0.0https://maven.apache.org/xsd/settings-1.0.0.…...

编程日记 2024/11/26 12:43:01

LabVIEW引用类型转换问题

一、问题描述在LabVIEW中，refnum（引用编号）用于引用各种资源，如文件、队列、控件等。这些引用是与具体类型相关的，通常情况下，LabVIEW会根据引用的类型自动进行处理。然而，当不同类型的引用需…...

编程日记 2024/11/26 12:42:00

GUI智能代理：用AI代理玩米哈游游戏《崩坏》

项目名称：The Dawn of GUI Agent研究对象：Claude 3.5 Computer Use特点：首个公测版GUI智能代理系统技术创新首创性：这是首个提供公测版图形界面控制功能的前沿AI模型。交互方式：实现了从自然语言到桌面操作的端到端控制，用户可以通过简单的自然语言指令完成复杂的桌面…...

编程日记 2024/11/26 12:34:53

系统思考—环路图的好处

每次内部学习，我们都会用系统环路图拆解那些动态性复杂的议题。这不仅仅是我们教学的工具，更是我们在实践中不断应用和打磨的利器。我常在课程中和大家分享，什么原因要持续使用系统环路图？ 🎯 1. 落地全局思维环路图…...

编程日记 2024/11/26 12:33:52

torch.set_printoptions

torch.set_printoptions 设置pytorch打印张量时的选项，比如限制打印的元素数量、设置精度等。在打印大张量或者需要更精确控制输出格式时非常有用。 torch.set_printoptions(precisionNone, thresholdNone, edgeitemsNone, linewidthNone, profileNone, sci_modeN…...

编程日记 2024/11/26 12:32:51

Nexus搭建go私有仓库，加速下载go依赖包

一、搭建go私库本文我们梳理一下go依赖包的私库搭建以及使用。它只分为proxy和group两种仓库，这一点和maven仓库有所不同。 1、创建Blob Stores 为了区分不同的私库依赖包，存储的位置分隔开。 2、新建go proxy官网 Remote storage：htt…...

编程日记 2024/11/26 12:27:46

Qt6 Android设置文件读写权限设置

一.概述 1.在Qt中设置Android应用程序的文件读写权限，你需要在Android的Manifest文件中声明所需的权限。对于文件读写，通常需要声明以下权限： android.permission.READ_EXTERNAL_STORAGE：允许应用程序从外部存储读取数据。 android.permission.WRITE_EXTERNAL_STORAGE：允…...

编程日记 2024/11/26 12:25:41

TCP快速重传机制为啥出现重复ACK？

TCP快速重传机制为啥出现重复ACK 简单来说，丢失数据包后发送方至少发了三个请求，每个请求返回接收方下一次期待的序列号ACK，也就是丢失数据包之前的一个正常请求的确认ACK值在 TCP（Transmission Control Protocol，传…...

编程日记 2024/11/26 12:24:40

SSM--SpringMVC复习（二）

请求 URL匹配： RequestMapping RequestMapping 负责将请求映射到对应的控制器方法上。 RequestMapping 注解可用于类或方法上。用于类上，表示类中的所有响应请求的方法都以该地址作为父路径。在整个 Web 项目中，RequestMapping 映射的请求…...

编程日记 2024/11/26 12:23:40