数学01
线性代数可视化
Manim 动画可视化： 谱分解（Spectral Decomposition） - 线性代数可视化 Chapter 2 （双语字幕）\哔哩哔哩\bilibili (25) The deeper meaning of matrix transpose - YouTube 这个视频将转置 （或者说实伴随变换）解释为逆变换
THE JOURNAL
文章与笔记.
共 212 篇文章READ · THINK · WRITE
数学02
Markov 链的状态分类
状态图 对于 Markov 链，我们可以把状态转移矩阵 视为一个有向图 的邻接矩阵。 状态的分类 状态的定义 设 Markov 链的状态空间是 ，转移矩阵是 ，则： - 吸收态：若状态 满足 ，则称 为吸收态 - 可达：若存在路径使得 到 上的概率都非零，则称 可达 ，记作 。可达是一个预序关系，具有自反性、传递性。
数学03
Markov 链
概念 若随机过程 满足：对任意有限个指标 ，都有 则称 是马尔可夫过程（Markov process），简称马氏过程，也称 具有 Markov 性（Markov property）。 满足一些特定条件的 Markov 过程也被称为 Markov 链（Markov chain）。不同教材对 Markov 链的定义有一些不
计算机04
Actor-Critic 算法
Actor-Critic（演员—评论员）算法，简称 AC 算法，同时训练两个不同的网络，一个评估策略，一个评估价值。 引入 REINFORCE 的改进 如果我们每次从当前策略 采样得到的轨迹为 ，那么有以下的严格关系： 其中 有多种取法，在 REINFORCE 中取的是： 在 （链接未公开） 算法中，使用 Monte
数学05
最大功效检验
假设检验的基本概念 参数化假设检验的原假设 、备择假设 拒绝域：一个与参数 、样本 都无关的固定集合 。当 时，我们拒绝 。 检验函数：对于样本 ，当我们拒绝 时，检验函数的值为 1；当我们接受 时，检验函数的值为 0，即： 当 为某一值时，拒绝 的概率称为功效函数 ： 第一类错误：当 时，拒绝 。它的概率为 第二类错
计算机06
终端复用器 tmux
是一个终端复用器，允许用户在服务器上启动多个终端，并允许将终端挂起，在关闭 ssh 连接后保持终端进程继续运行。 基本使用 命令 输入 可以创建一个新的会话； 使用 （ ）查看当前的会话 使用 连接到一个指定会话 终端内 是命令模式的前缀键，几乎所有命令都需要先按下 再按其他键。 按下 快捷键（behavior），再按
计算机07
随机优化
重参数化 引入 在深度学习中，例如生成式模型 VAE 和强化学习的 SAC 算法 中，存在着一种称为重参数化（reparameterization）的技巧。当我们需要处理一个关于 的 loss 函数，且具有如下的形式： 其中 表示从分布 中抽样得到一个 ， 是已知量（例如数据集中的数据点）。此时，我们如何使用反向传播算
数学08
多重积分
多重积分的定义是基于 （链接未公开） 的。 二重积分 变量代换公式 设 在有界闭区域 上可积，变换 将具有分段光滑曲线边界的闭区域 一对一地映射为 ，函数 具有一阶连续偏导数，且变换 的 Jacobi 行列式 则有 极坐标代换 二重积分 可以做如下代换： 一般多重积分 设有界闭区域 ， 在 上可积，若一对一映射 把有界
计算机09
词嵌入
参考： 词向量与Embedding究竟是怎么回事？ - 科学空间|Scientific Spaces 15.1. Word Embedding (word2vec) — Dive into Deep Learning 1.0.3 documentation 概念 embedding：将词的 ID 映射为一个词向量的过程
计算机10
Attention 的计算
KV Cache 原理 计算 Attention 时，可以将 行分块，对其中一个询问 ，仍有： 也就是说，固定 后，Attention 运算对 是 row-wise 的： 而对于 LLM 来说，解码下一个 token（的概率分布）只需要使用最新的 token 对应的 embedding 。 因此，在自回归式的生成中，做
计算机11
DDPM
原理 前向过程 选定加噪步数 和一组超参数 （原论文中 逐渐增大，从 0.001 增大到 0.02），令 ，则加噪的过程就是 其中 。 前向过程的递推公式可以转为通项公式。由公式 令 则可以推出 其中 。 预测均值 参考 梯度下降与优化器。优化后的损失函数将预测均值。 方差减少 参考： （链接未公开） 简单说，我们将使
计算机12
通用计算方法
基本计算 取数 方法，可以对只有一个元素的张量取出其中的数，返回 Python 标准的 或 类型变量。 广播 广播（broadcasting） PyTorch 的广播机制和 NumPy 的广播机制相同。 一般运算广播 两个 Tensor 作逐元素二元运算（如加法）时，先将其形状右对齐。例如当 的形状为 ， 的形状为 时
计算机13
Attention 注意力机制
注意力机制 参考：苏剑林博客 定义 Attention 是一个由三个矩阵 运算得到一个 矩阵的过程，定义为： 其中 softmax 是按行操作，对各行进行 softmax 归一化，即： 注意，这里所有的特征（feature）向量都使用行向量。例如 是 行 列的的矩阵，就应该视为有 个不同对象的 维
计算机14
近似算法
概念 对于某个组合优化问题，设最优解为 ，算法 给出一个未必最优但可行的解，则称为近似算法。 近似算法的近似比 ： 对于最大化问题， 对于最小化问题， 近似比的上界需通过放缩法和不等式证明，下界则可以通过构造最坏情况的实例（称为紧实例）来证明。 最大顶点覆盖 最大顶点覆盖（MVC）近似算法：每次任意选一条边 ，将边的两
计算机15
在线算法
竞争度 竞争度和近似算法的近似度是类似的概念。对于在线算法 ，假设是最小化问题，对应的离线最优解为 ，若恒有关系： 则称算法 的竞争度是 ，记为 对于最大化问题，我们可以把竞争度定义为 确定性在线算法 在线最小生成树 贪心：每有一个节点到达，就将其与已有的节点中最近的节点连上一条边。 这一算法的竞争度 。 在线装箱问题
计算机16
计算复杂性
例 Bug 与补丁问题：一个软件一开始有 个 bugs，同时有 个补丁，补丁只有在包含某些 bugs 而不包含另一些 bugs 时可以使用，并且修复后可能会引入一些新的 bugs。每个补丁还有一个运行时间。判断是否可能使软件修复到没有 bugs，如果可能，找出最短的总运行时间。 解决 使用长为 的 01 串表示 bug
计算机17
Gauss 消元法（初等变换法）
一种固定的算法，对矩阵不断做初等行变换，最终化简到上三角形或者行阶梯形，用于判别线性相关、计算行列式、矩阵求秩、解线性方程组等。 Gauss 消元过程 初等行变换 包含以下三种变换： 第 行变为原来的 倍（简记为 ） 矩阵 行加上第 行的 倍（简记为 ） 交换第 行（简记为 ） 枚举行元素逐个操作即可，复杂度 。 判断
计算机18
NP 完全性
判定问题 任何组合优化问题都可以转化为一个判定问题，并且判定问题和组合优化问题的难度相同。 对于一个问题，其输入为 ，根据 可确定一个有限的可行解集合 ，需要求出最小解，则这个问题成为组合优化问题；对于这个问题，可以构造一个新问题，其输入为 ，其中，问是否存在 满足 （回答只有 Yes 和 No），则这个问题称为组合优
计算机19
质数筛
筛 (sieve) 是通过逐步去除不满足条件的元素，从而剩下满足条件的元素的一种方法。应用于质数时，质数筛是滤去不超过给定正整数 的合数，从而筛出 中全体质数的方法。 经典筛法 Eratosthenes 筛 Eratosthenes 筛是一种经典的算法，能以 的复杂度筛出区间 的全体质数。 性质 每个合数会被所有质因数
计算机20
快速数论变换
理论知识 设 是质数 的一个 原根，即 在模 意义下互不相同，且 。 将 分解为 2 的幂与其他数的乘积，有 。令 ， ，则 有着与复数单位根 非常相似的性质： | 复数 | 有限域 | | ------------------------------------------------- | ------------
计算机21
并查集
参考：并查集 - OI-wiki 解决的核心问题：现在有 个互不相交的有限集 。给定一个元素 ，判断元素属于哪个集合。同时，这些集合可能合并为一个新集合： ，还要支持这种合并。 使用代数和关系的概念，并查集维护了一个有限 （链接未公开），并支持查询两个元素是否等价，以及合并两个较小的等价类。 并查集原理 使用森林（许多
计算机22
排序
基本排序 冒泡排序 每次交换相邻两项。 冒泡循环一轮结束后，总是将当前最小或最大的数移动到最前或最后，一共 4 种实现方法。 使用冒泡排序将一个数组从小到大排序时，相邻交换次数将等于数组的逆序数（参考 （链接未公开）） 实现 选择排序 每轮找出数组的第 小 ，然后将 和 交换位置，循环 轮。 这个算法在第 轮总是可以保
计算机23
快速 Fourier 变换
快速 Fourier 变换（Fast Fourier Transform, FFT），是一种快速地将多项式从系数表示法转化为点值表示法的算法。借助 FFT 可以高效地实现卷积运算。 离散 Fourier 变换 可参考：（链接未公开） 离散 Fourier 变换（Discrete Fourier Transform, D
计算机24
Markov 决策过程
Markov 决策过程，是对概率论和随机过程的 Markov 链 的增强，在 Markov 链上加入了更多的假设。 Markov 奖励过程 Markov 奖励过程（Markov reward process，MRP）是在 Markov 过程的基础上引入奖励函数和折扣因子的得到的随机过程。 奖励函数为状态空间 到一个实数
计算机25
SAC 算法
最大熵强化学习 参考：Soft Actor-Critic — Spinning Up documentation 引入 在 Markov 决策过程 的框架下，强化学习的目标就是寻找一个较好的策略 ，使得各种状态下回报 （折扣的奖励和）的期望尽可能的高；理想情况下，可以找到 Bellman 最优策略 ，它在所有状态下的回
计算机26
深度 Q 网络
深度 Q 网络（Deep Q Network，DQN）是一种基于 Q-Learning 和深度学习的算法，是第一个深度强化学习（Deep Reinforcement Learning, DRL）的算法，于 2015 年提出。 动机 表格型强化学习存在的问题： 维度灾难 泛化性差。对于未探索过的状态—动作对，表格中的数值
计算机27
RL 动态规划
（链接未公开） 是一类非常常见的算法。在 RL 中，我们可以使用 DP 来递推计算价值。 策略迭代 策略评估 使用如下迭代方程，可以通过迭代计算一个给定策略 的价值函数： 上述方法进行一次迭代的时间复杂度是 。 策略提升 根据 策略提升定理，使用如下方法构造一个新的策略，就可以得到一个更好的策略： 价值迭代 根据 Ma
计算机28
分解质因数
将一个大于等于 2 的整数分解为若干个质因数之积的过程为分解质因数。 透过分解质因数的算法，不仅可以求出一个数的质因数，还可以计算积性函数在给定数上的值。 朴素算法 从小到大遍历 的可能因数即可。 令变量 遍历 中的整数，若 ，则说明 是 的一个质因数，同时反复令 ，直到 不能被 整除为止。 若已经预先筛得 中的质因数
计算机29
区间不同元素数
给定一个数组，多次查询一个区间中不同元素的数量。 查询的元素需要去重。 例题 模板题： 2009 山东省选 小 H 的项链 离线查询 将所有的查询按右端点排序，然后使用树状数组记录右端点到 时的贡献。 具体的说，以 为例，到第二个 1（下标为 4）时，先将第一个 1 的贡献抹去，然后再加入第二个 1。并且，一旦有以该位
计算机30
线性表
线性表（linear list） 顺序表 元素类型相同，在内存里一块连续位置存储，这样的数据结构称为顺序表（sequence list）。 设首元素位置为 ，则 的位置是 ，其中 为单个元素的大小。 操作 插入和删除 为了保证线性表在内存上的连续性，需将插入和删除的后面部分整体后移或前移，最优时间复杂度 ，最差时间复杂
计算机31
链表
链表（linked list）是一种用于存储数据的数据结构，通过如链条一般的指针来连接元素。它的特点是插入与删除数据十分方便。 单向链表 基本结构 也称为单链表，链表由若干个节点（node）构成，每个节点都包含数据域和指针域两部分。 其中，数据域就像顺序表（数组）一样储存单个数据，而指针域则指向下一个节点的地址。基本的
计算机32
栈
应用 合法括号序列 用于判断一个包含 、 等成对括号的序列是否合法。 合法的括号序列，直观上就是左右括号能匹配上。形式化可以定义为： 空字符串是合法序列； 若 是合法序列，则 、 等在两边添加括号的序列也是合法序列； 若 和 是合法序列，则两者的拼接 也是合法序列。 判断方法：遇到左括号时入栈，遇到右括号时，判断是否和
计算机33
暴力枚举
暴力枚举（brute force）指的是枚举所有可能的情况并一一检验的方法。 在不优化的情况下，暴力枚举的时间复杂度通常是指数级。 基本枚举 枚举全排列 以 4 个数为例，4 个数的全排列有 24 种，按字典序排列如下： 思想 枚举字典序的下一个全排列时，我们当然想贪心地尽可能找靠右边的，这样“增量”小。 但是，如果排
计算机34
单调队列
单调队列可以看做一种特殊的 （链接未公开），它可以与双指针法结合，求出双指针所在区间的最大值或最小值。 最长见的应用是求定长（链接未公开）的最小值。 滑动窗口最小值 基本操作：开一个双端队列 ，首先进行预处理，然后将过期的元素删除，再将新的元素插入。插入的过程中，若队尾元素比待插入元素大，则弹出队尾。 代码 实现时，注
计算机35
字符串 Hash
字符串 Hash，将原字符串映射到一个正整数上，并且保证不同的字符串得到的哈希值大概率不同，以此快速判断字符串是否相等。 在算法竞赛中，字符串哈希最特殊的操作在于， 预处理后可以 复杂度得到任意子串的哈希值，从而可以判断子串匹配、回文等操作。 算法解释 基本思想 基本思想是将字符串代入一个多项式的系数中。例如，设 为一
计算机36
AC 自动机
AC 自动机（Aho–Corasick automaton）是一种将 Trie 和 KMP 算法两者结合的自动机，用于多个模式串的同时匹配。 概述 概念 AC 自动机，在 Trie 的基础上连接新的边得到。其节点（状态）与 Trie 相同，但是不同于 Trie 的不匹配就直接推出，AC 自动机的每个节点接受一个字符后，
计算机37
Manacher 算法
Manacher 算法俗称“马拉车”，是一种线性时间求解最长回文子串的算法。。 算法 引入 任何字符串都可以转为奇数下标匹配问题。 Manacher 算法可以计算出每个字符 为中心时的回文半径，维护了一个当前最右回文串边界 以及其中心 ，表示已有回文串能延伸最远的右边界（LeetCode 中称为“臂长”）。当一个字符位
计算机38
前缀和与差分
前缀和（prefix sum）也就是由一个数组的前 项和构成的新数组，而差分（difference）则是前缀和的逆运算，由一个数组邻项之差构成的新数组。 一维前缀和与差分 基本应用 一维前缀和用于快速求出静态数组在一个区间 上的区间和： 。 由于存储时数组的 0 位通常留空，且令 ，上述公式当 时也成立。 一维差分通常
计算机39
最近公共祖先
最近公共祖先 (lowest common ancestor) 是一个有根树中，两个节点深度最大的共同祖先。其详细性质可见 最近公共祖先。求解最近公共祖先有多种算法。 朴素算法 思路 首先预处理求出树上每个节点的深度，然后较深的一个先往上跳，至两者深度相同，最后两者一起往上跳直到碰面。 时间复杂度 最坏情况是要遍历整棵
计算机40
分层图
一种特殊的建图方法，将原图复制 份，视为 个层，每层之间有一些额外的边连接。这样建立的图称为分层图。 许多题目，特别是当 很小的时候，可以使用分层图进行建模。 例题 LeetCode 3418 3418. 机器人可以获得的最大金币数 - 力扣（LeetCode） 传统的机器人捡金币 DP，金币值有负数，但允许机器人将至
计算机41
拓扑排序
拓扑排序（topological sort）是判定一幅有向图没有环，同时给出有向无环图（DAG）的拓扑序的算法。这种算法通常作为 DAG 动态规划（（链接未公开））的前置算法。 算法 思路 使用邻接表存图，同时预处理出所有节点的入度，新建一个容器（以队列为例），并标记出所有入度为 0 的点，将所有入度为 0 的点入队。
计算机42
二叉树的遍历
遍历方法 DFS 二叉树的 DFS 可以分为先序遍历、中序遍历、后序遍历。 非递归遍历 在二叉树中，我们可以使用非递归方法来实现 DFS，这种方法可以看作是模拟递归函数的调用栈。 以中序遍历为例，观察递归版本的中序遍历代码，大致框架如下： 可以发现，我们需要记录的是每个节点 具体在哪一行代码， 可能是刚进入函数，也可能
计算机43
传递闭包
传递闭包是关系代数的一个概念，具体理论见 （链接未公开）。 在图论中，传递闭包体现为一幅有向图的超图。 概念 定义 有向图 的传递闭包 可如下定义： 的点集和 的点集相同； 对任意两个节点 ，若 中 与 间存在路径，则 为 中一条边。 算法 Warshall 算法 和最短路的 Floyd 算法非常类似，使用动态规划实现
计算机44
两序列和的最小 k 个数
题目：给定两个数组 和 ，从数组 和数组 分别取一个数然后相加，可以得到 个数，找出这些数中的最小 个数。 数据范围： 。 思路 将 从小到大排序。然后将下标对 插入到优先队列中，规定优先队列以 为键比较大小。 每次从优先队列取出当前的最小数 ，然后再将 插入到优先队列之中。 的排序保证了较小的数出现在较大的数前面。
计算机45
CF 510D Fox and Jumping
Bezout 定理例题。 最短路 （出自：《繁凡的算法笔记》） 预处理。首先引入节点 0，同时进行建图。对于每个数都引入一个节点 ，对于数 ，令其对应的节点权值为 。 若 ，则建立一条有向边 ，并令边权 ，表示选择这一个数的代价。则是否可行就转化为节点 是否可达 ，最小代价解就是 到 的最短路。用 Dijkstra 算
计算机46
ABC 369 F 不同路径稀疏版
在网格图上从 开始走到 ，只能往右或往上走。有 个格点上有金币。求最多能收集多少金币，以及给出达到最大金币数的一个路径。 数据范围： 。 题解 发表于知乎： 若 ，则这就是一道二维线性
计算机47
GPT 模型
模型结构 GPT 模型结构有以下关键词： Decoder-only Transformer 因果掩码 Attention KV Cache 计算过程 粗略计算过程 输入：token 序列 ，其中每个向量都是一个整数 输出：下一个词的概率分布 ， 为词汇表大小（vocabulary） 流程： 1. 逐个 token 进行
计算机48
自动微分与反向传播
自动微分是深度学习集成库中一种自动求解微分的方法，而反向传播（backpropagation, BP）则是深度学习中利用自动微分计算梯度的算法。 例 假设我们有一个简单的单层 MLP： 设训练数据是 ，使用均方误差（MSE）作为损失函数，则 loss 可以展开表示为： 计算图 对于复合函数 ，我们知道，在 可微、 可导
计算机49
CLIP
CLIP 结构图： 数据集：4 亿的图像—文本对，由 OpenAI 团队自行研发，称为 Web Image Text。 训练 预训练：用开头提到的方法训练模型，将文本和图像映射到相似的嵌入空间之中（可称为嵌入空间对齐），从而可以用内积来衡量相似度。 简化思路 训练原理简易版： 1. 用图像编码器把图像编码成向量 a；
计算机50
视觉 Transformer
ViT Vision Transformer 是一种将 Transformer 架构应用于计算机视觉（CV）任务的模型，它挑战了卷积神经网络在该 CV 的主导地位。其核心思想是将输入图像分割成一系列固定大小的图像块（patches），这些小块就视为一个个“单词”，然后将这些图像块展平并映射为向量序列。在为这些向量添加位
计算机51
梯度下降与优化器
梯度下降 简述 对于模型 ，给定数据集 ，设 loss 定义为 ，则我们本质上是寻找一个参数，使得 loss 尽量少： 将 是做常数，将 视为变量，则 loss 可以表示为： 在函数性质良好时，我们将可以求出上文中函数的导数，即梯度： 梯度是一个向量，它表征了函数值上升和下降最快的方向。因此，我们可以更新 的值： 这种
计算机52
tricks
CUDA 显卡暴露 可通过环境变量 控制： 数据 长尾分布与样本平衡 参考： 深度学习中，是否应该打破正负样本1:1的迷信思想？ - 知乎 什么是「长尾效应」 ？ - 知乎 论文： DECOUPLING REPRESENTATION AND CLASSIFIER FOR LONG-TAILED RECOGNITION
计算机53
位置编码
参考： Transformer升级之路：1、Sinusoidal位置编码追根溯源 - 知乎 自注意力的置换等变 自注意力定义参考：Attention 注意力机制 为什么 Transformer 需要正弦编码？因为 self-attention 自带的自注意力机制。 对于任意的参数矩阵，self-attention 拥有
计算机54
网络层类
torch.nn.Module Pytorch 中所有网络层的基类。 方法 将一些参数注册成为模型的静态参数（常量，即超参数），这些参数会在 时保存，但在网络训练过程中它们的值不会更新。 注册用法为 ，注册后可以使用 调用该参数。 自动追踪 网络层 Linear 基础的全连接层。 输入形状为 和 均可。 卷积层 Con
计算机55
PyTorch Lightning
Pytorch-Lightning 是 pytorch 的抽象和包装。它进一步简化了 pytorch 中的训练代码，将一个网络的训练、验证抽象为一个更简单的类。 基本类型 LightningModule pytorch lightning 的基类，继承自 pytorch 的 ，用于构建其他 pytorch 网络模型。
计算机56
PyTorch 数据集
文档：Dataset - PyTorch documentation 数据集 数据集 Dataset 是 PyTorch 所有数据集的抽象基类。根据该类的定义， 都含有以下两个函数： 和 ，也就是根据下标取数，和数据集总数据量。 根据 Python 官方文档的定义，当一个对象含有 方法时，就成为一个 iterable（
计算机57
Jacobi 向量积
在 PyTorch 中，尽管我们可以 （链接未公开），我们一般难以计算一个多维函数的 Jacobi 矩阵。然而，Jacobi 矩阵与一个向量的乘积，也就是 Jacobi 向量积（Jacobian-Vector Product, JVP）却可以通过前向传播进行快速计算。 方向导数与偏导 给定一个 的连续可导函数 和一个单
计算机58
loss 损失函数
均方误差 MSELoss 写法 1： 写法 2： 其中 为预测值， 为实际值，两个 Tensor 的形状需要相同。 注意，尽管一般均方误差的公式 中， 和 是对称的，但 PyTorch 中 和 的位置不能交换，这与反向传播有关，该函数只会对 进行反向传播。 交叉熵损失 CrossEntropyLoss PyTorch
计算机59
为免安装软件配置图标
参考： Linux中为AppImage类型的软件添加应用程序图标 添加软件的桌面图标 图标原理 在右下角“显示应用程序”中显示的图标，都是储存在 中的 文件显示的。 其中，文件的格式是： 所以，添加图标只需要在 新建一个 文件即可。 AppImage 文件 AppImage 文件可以直接解压出来，命令是： 例如，将 O
计算机60
计划任务
cron 计划任务的包是 ，通常已经安装且启动服务。 若未启动，可使用如下命令启动 cron 服务： 编辑计划任务 任务示例： 编辑格式可以查看 此网站
计算机61
符号 `$` 的使用
参考： Shell 脚本中 '
计算机62
音频的存储
音频的存储要素 音频以 2 维或 3 维数组的格式储存，3 个维度的分辨率分别为采样率、位深度、声道数。 采样率 指的是连续的声音转化为离散的数字信号时，一秒钟的采样次数，单位为 Hz。人耳的听觉范围是 2020000 Hz，发声范围则一般不超过 602000 Hz。 根据 Nyquist 采样定理，要保证无损采样，采
计算机63
图片的存储
位深度 指的是每个像素储存的幅度。 由于计算机上一个彩色图像往往有多个通道，每个通道的幅值通常由 0255 的整数（8 bit）储存，因此，位深度通常等于通道数的 8 倍。 8 位图像 在语义分割任务中，由于各个像素常常只是用于表示不同的类别，在类别的数量不多的情况下，不需要用到 24 位的 RGB 三通道图像。此时，
计算机64
直方图算法
直方图 概念 在图像领域，直方图（histogram）指的是像素各个取值（通常为 0255）的频数表或频数图。 这个直方图可以理解为统计学上组距为 1 的直方图，也可以理解为算法中 （链接未公开） 的概念。 同时，直方图的纵坐标视情况可以取计数或者频率，当直方图的纵坐标取频率时，还可以视为概率论中离散随机变量的概率质量
计算机65
Python opencv 库
用于计算机视觉的开源库，原始版本为 C++ 语言，Python 内也有 C++ 的移植版。 基本操作 读取图像 使用 可以从一个路径读取一幅图像。 对于三通道彩色图，返回形状为 的 numpy 数组，且颜色顺序为 BGR。注意不同于一般的约定，这里的通道储存在第三个维度。 如果要使用 显示这样的图片，需要先反转第三个维
计算机66
图像插值
对图像进行升采样时，新图像的像素点并不是与原图一一对应的，因此我们需要用插值的方法确定每个像素点的亮度。 最近邻插值 特点：不改变值域，值域间没有加减计算。 通常用于二值化后的图像，或者用于图像修补、语义分割等任务的 Mask 图像。这类图像的像素值是分类数据，加减、线性插值没有意义。 在 Python opencv
计算机67
计算机网络概述
基本概念 主机（host）：连接到网络的设备 端系统（end system）：同主机 通信链路 Internet 服务提供商（Internet Service Provider, ISP） 套接字接口（socket interface）：规定一个程序向另一个程序交付数据的方式（程序到程序） 报文（message）：消息
计算机68
处理器
指令实现计算机控制的关键：多路复用器（multiplexor，缩写 Mux）、译码器（Decoder）。 计算机运行的期间，所有的组合逻辑电路都在执行运算，但只有一个输出是有效的，这个输出将通过 Mux 选择出来。 流水线 流水线的概述 流水线（pipeline）是计算机中一种多条指令重叠执行的技术。核心思想是下一条指
计算机69
指令级并行
指令级并行（Instruction-level parallelism，ILP）指的是在指令层面实现并行计算，主要包括软件上的循环展开、硬件上的动态调度、分支预测等。 冒险 冒险包括结构冒险、数据冒险和控制冒险。 结构冒险 结构冒险可以通过将 L1 缓存分为数据 Cache 和指令 Cache，同时引入多个访问端口来解
计算机70
关系代数
概念 关系 在离散数学中已经定义过关系：若干个集合 的 Descarte 乘积的任意子集，是一个 元关系，即 由于关系是 Descarte 乘积的子集，关系里的元素也称为元组（tuple）。这其实给出了关系的另一种更形象的定义：一个关系就是储存了若干元组的集合。 关系型数据库中的关系还会引入属性（attribute），
计算机71
Flynn 分类法
基于指令和数据，将计算机划分为四种类型：单指令流单数据流 SISD、单指令流多数据流 SIMD、多指令流单数据流 MISD、多指令流多数据流 MIMD。 概念 指令和数据的对应关系。 其中，SISD 就是传统的 Von Neumann 计算机，一条指令控制一条数据。 MISD 则很少出现。 SIMD 概述 一条指令控制
计算机72
分组与聚合
SQL 提供了分组和聚合的方法，分组就是按照一定的条件把表格划分为若干的行，而聚合就是重新将这些行聚合为一些信息。 分组 分组依赖的是 关键字，它会按列的取值对行进行等价类划分。 例如， 就是按 字段的取值进行分组。 分组后必定伴随着聚合，因此出现 关键字后， 的对象要么是 里出现的列名（此时同一组的该列取值都相同），
计算机73
窗口函数
专用窗口函数 - ：直接添加行号 - ：排名，重复值会保持同个数字 - ：排名，重复值会保持同个数字，并且不会空缺 基本用法： 聚合函数 聚合函数也可以配合窗口函数使用 窗口的使用 PARTITION BY 用于划分组数。与 GROUP BY 不同， 不会去重。 例如，筛选出所有 ORDER BY 用于指定排序 默认来
计算机74
SQL 运行流程
根据 ChatGPT，在一个查询语句运行时，可以在逻辑上认为 SQL 是按照这样的顺序在取数据： 1. 数据源 FROM 2. 限定条件 WHERE 3. 分组 GROUP BY 4. 分组限定条件 HAVING 5. 窗口函数（包括聚合函数） 6. 列投影 SELECT 7. 去重 DISTINCT 8. 排序 OR
计算机75
装饰器 decorator
Python 中，在函数或类的定义前，可以使用 符号为它们加上一个装饰器（decorator）。 原理 例如以下代码中，为函数 添加了 装饰器： 下面带上装饰器 的函数，实质上（在字节码上）等价于： 也就是说，装饰器会在函数定义好之后，将函数作为实参传入装饰器函数，经过装饰器处理再返回。 从数学上看，装饰器就是一个作用
计算机76
赋值与复制
Python 中的复制可以分为浅复制和深复制。 Python 的不少对象本质上是一个 C 指针（参考：值传递和引用传递），其指向 Python 虚拟机分配内存的一个区域。使用函数 可以查看两者指向内存的编号，若两者指向同一块内存，则编号相同。 这里，我们先定义一个列表 如下： 直接赋值 可以使用等号 直接赋值一个列表，
计算机77
垃圾回收
垃圾回收，指的是不再被使用的对象会被 Python 自动标记为垃圾。 引用计数 当我们建立一个 object 后，Python 会在后面自动进行 object 的引用计数，引用计数表示有多少个变量指向这个 object。 当引用计数变为 0 之后，说明 object 不再被使用，Python 会自动回收这个 objec
计算机78
内存管理
Python 的内存管理 参考：B站 码农高天 本文假定 CPython。 以下只是内存管理系统的一个层级（概念模型），不代表其具体实现。 目的 为什么需要自己的内存管理系统？因为 Python 在允许过程中会建立大量小的 objects， High-Level 角度 层级 Python 的内存管理分为三层：Block
计算机79
值传递和引用传递
在 C++ 中，函数的参数传递分为值传递和引用传递。但在 Python 中，理论上所有的函数都是“引用传递”。不过，对于一些对象，它可能表现出类似于值传递的现象。 可变对象与不可变对象 不可变对象 Python 中，存在一些对象是不可变对象（Immutable），常见的不可变对象有： 整数 、浮点数 、复数 字符串 元
计算机80
argparse 库
基本用法 使用 创建一个对象，使用 添加命令行参数，然后最后用 方法返回一个参数的字典。 然后在命令行中传入参数： 最终所有的参数都储存在 变量中，使用对应的参数名（如 ）就可以获得参数值。 storeconst 使用 的两个变种 和 ，可以在参数出现时，将该参数的值记录为 或 。例如： 则在命令行出输入 时， 返回的
计算机81
JS 快速入门
变量 常量声明： 变量声明： 或 ，语法为 或者 作用于一个代码块内（即一对花括号） 作用于一个函数内 类和对象 对象字面量 Javascript 中，可以由花括号直接创建对象字面量，这里的对象是键值对的集合，可以类比 Python 的 。 例如： 类 使用 定义，使用 定义构造函数：
计算机82
JS 面向对象
原型 Javascript 不像 Python 或者 C++，天然地有类和对象的划分。JS 通过原型（prototype）来模拟面向对象的效果。 原型链 Javascript 的许多对象都有一个原型，除了最顶级的 ，它是一切普通对象的原型。 通过 可以获得对象 的原型。 但不是所有的对象的原型链都经过 。所以，可以把
计算机83
动态链接库
动态链接库，在 Windows 上为 文件，在 Linux 上为 文件，是一个二进制文件，包含可以被多个程序共享和动态调用的代码和数据。 链接 静态链接 静态链接（Static Linking）是将所有需要的目标文件和库文件在编译时就嵌入到最终的可执行文件中。 平常使用 进行编译时，默认就采用了静态链接。 - 优点：
计算机84
编译优化
NRVO NRVO（Named Return Value Optimization，命名返回值优化）是 C++ 许多主流编译器会引入的一种技术。 NRVO 可以节省一次内存移动。 假设有以下的代码： 不进行 NRVO 时，程序会先创建好一个 ，然后通过移动构造函数把 传给 。这样不需要重新申请堆内存，但仍然涉及了构造函
计算机85
CMake
基本概念 CMake 是一个跨平台的构建系统，能够生成针对多种编译器和 IDE 的构建脚本。它通常用于处理较大的 C++ 项目，并且与 g++ 配合得很好。 CMake 的示例： 在 Linux 系统下，新建一个工程文件夹 ，以此为工程根目录，文件夹下新建一个 CPP 代码文件 ，填入可以编译的代码，然后新建一个 文件
计算机86
继承
继承（inheritance）指的是面向对象程序设计的一种方法，允许一个类沿用另一个类的成员，并在此基础上添加新成员或修改成员函数的实现。 被继承的类称为基类（base class），继承得到的类称为派生类（derived class） 继承的基本操作 虚函数 在基类中，希望指定一个共同的接口，而在派生类中指定这个函数
计算机87
一些奇怪的报错
内定义变量 在 语句内定义新变量会导致如下报错： error: jump to case label 单看该报错提示实际上没有给出任何报错信息，需要特别注意。 例如： 修改方法：使用花括号指定一个“块”，限定新变量的作用域：
计算机88
字符串 string
标准模板库中的 头文件提供了一系列和字符串有关的操作，它可以定义一个动态内存的字符串。 基本操作 字符串的初始化 使用 定义一个字符串。当指定 后， 可省略。字符串有如下常用初始化方法： 或 从字面量 初始化字符串，但标准模板库的 不包含最后的 。 从其他字符串创建拷贝 初始化为连续 5 个 字符，即 字符串的操作 基
计算机89
输入与输出
特殊用法 数量不定输入 （C++ Primer 中文版，13 页） 可以使用 来持续输入，直到遇到文件结束符 EOF。遇到文件结束符 EOF 时， 对象（如 ）的状态会变为无效，无效的 对象会使条件判断为 false。 在 Windows 上，使用 Ctrl+Z 可以在命令行中输入 EOF。在 Linux 和 Mac
计算机90
格式化输入输出
C++ 标准库提供了大量的操纵符（manipulator）来改变输入或输出的格式，例如整数的进制等。这些操作符一部分定义在头文件 中，一部分也定义在 （含义：IO manipulator）中。 整数 几个常用的整数格式化命令： 定义在 内的操纵符： 指定输出宽度（set width），不足宽度的整数会被补足，超过宽度时
计算机91
常量表达式
常量表达式（const expression）指的是编译过程就能得到其值的表达式。 显然，字面量以及由字面量确定的表达式是常量表达式。 定义 可以使用 定义一个变量的初始化条件为常量表达式。 与 const 关键字区别 C++11 constexpr和const的区别详解 - C 语言中文网 本质上具有二义性：对于编译
计算机92
声明
声明（declaration）区别于定义，可以使一个别处定义的变量或函数为程序所知。 当一个程序被分割为多个文件时，使用其他地方定义的变量，就需要在当前文件声明。 变量声明 方法 变量声明使用关键字 ，以和正常的变量定义区分开： 声明变量的同时不能初始化变量，否则声明关键字 将无效。 实例 在 中定义一个函数，使当前的
计算机93
左值和右值
引入 在传统的 C 语言，可以发现有一些对象可以放在等号左边，有一些则只能放在等号右边，例如： 这就是左值（L value）和右值（R value）最初的命名来源。 经过分析，我们可以发现，以上过程中，C++ 中确实存在两种对象，一种是具体的、有地址的对象，另一种是临时的数值、中间的计算结果。我们发现这种定义更加反映
语言与语言学94
日语语言学
背景 日本历史 语音 元音 日语的语音构成较简单，只有 、 、 、 、 五个元音 辅音 日语的辅音可以归结为如下 22 个： | | 双唇 | 齿龈 | 龈后 | 硬腭 | 软腭 | 声门 | 小舌音 | | --- | --- | ------- | ------- | --- | --- | --- | ---
语言与语言学95
自动词与他动词
简单来说，自动词和他动词相当于英语的及物动词和不及物动词。 规律 参考： 英文维基词典 态与自他动词 - 知乎 多数情况下，成对的自他动词，共用一个词根，其中一个是五段动词（文语四段动词）或者上一段动词（文语上二段动词），另一个是下一
语言与语言学96
近义词辨析
语法 から vs. ので 区别： から：弱因果关系，主观原因，带意志 ので：强因果关系，客观原因，不带意志 接续： 小句+から（两句相对独立） 小句连体形（Nな）+ので 他動詞 vs. 使役
语言与语言学97
検非違使忠明
原文 検非違使（けびいし）忠明（ただあき） 今は昔、忠明といふ検非違使ありけり。若男にてありける時、清水（きよみづ）の橋殿（はしどの）にして、京童部（きようわらはべ）といさかひをしけり。京童部、刀を抜きて忠明を立てこめて殺さむとしければ、忠明も刀を抜きて、御堂の方ざまに逃ぐるに、御堂の東（ひんがし）の端（つま）に、京童
语言与语言学98
汉文训读
汉文的结构 标记 助字和置字 助字：有读音，但是读作助词或助动词的字，在書き下し文中写成假名。 置字（置き字）：没有读音的字 特殊语句 部分否定和完全否定 训读时，部分否定会在副词后面添加「は」。例如： “伯乐常不有”→「伯楽は常に有らず」 “伯乐不常有”→「伯楽は常には有らず」 比较句 于 于：置字，在比较对象后面添
元学习99
AnkiConnect
一个将 Anki 与其他软件连接的非常基础的 Anki 插件。 官方页面 AnkiConnect - AnkiWeb 安装需遵照官方说明。 连接方法 AnkiConnect 可以让其他软件通过 HTTP 实现和 Anki 的连接，包括读取 Anki 卡片、向 Anki 中添加卡片、更新 Anki 已有卡片等。 示例代码
元学习100
Anki 与 Obsidian 联动
参考： Anki 使用经验贴 - 知乎 Obsidiantoanki 从一个 Obsidian 笔记中寻找特定的格式，并读取到 Anki 中。 源码修改 目前，为了适配自己的更新需要，对 Obsidian to Anki 插件进行了修改。 在原始 Obsidian to Anki 的实现中，同步会对其他未提及的字段清零
自然科学101
量子力学基础
Stern-Gerlach 实验 深度科普|从线性代数到量子力学(4)：Stern-Gerlach实验(上) - 知乎 Stern-Gerlach 实验：当我们摆放一个垂直于 轴的磁场，再让一些银原子从 轴的方向通过磁场之后，所有的银原子自发地分裂为了两束 经典背景 经典电磁学背景 当我们把一个小通电线圈平行于 平面放
自然科学102
体液调节
内分泌系统 内分泌器官和内分泌细胞没有导管，分泌物直接弥漫在组织液中。 下丘脑 分泌： 促甲状腺激素释放激素 促性腺激素释放激素 促肾上腺皮肤释放激素 三者都作用于垂体。 下丘脑产生抗利尿激素（经垂体释放），作用于肾小管和集合管。 甲状腺激素 甲状腺激素包含碘元素， 肾上腺 肾上腺（adrenal glands 或 s
自然科学103
电化学
电动势 电动势的大小 与摩尔反应自由能变的关系由以下公式给出： 其中 表示每发生 1 mol 反应，电路中转移了 mol 电子， 为 Faraday 常数。显然，将化学方程式的系数乘上一个比例， 和 会成比例增加，从而电动势不变。 当 时，对应原电池的情况，化学反应为电路提供能量；当 时，对应电解池的情况，电路为化学反
自然科学104
光滑斜面问题
袁讲经典20：一个更加复杂的斜面问题（2） - 知乎 一个直角三角形光滑斜面放在光滑水平面上，质量为 ，倾角为 ，一个质量为 的小物块静止地从在斜面上释放。 计算问题 首先一个初始问题是：为什么这里两个物体都是匀加速直线运动？ 求加速度 求速度 已知小物块释放时，距离地面的高度为 。求小物体到达地面的一瞬间，斜面的速度
数学105
平面解析几何
直线 方程 斜截式 直线的斜截式方程是 这种方程体现了直线和一次函数的关系。 一般式 直线的一般式方程是 其中 不同时为 0。向量 是直线的一个法向量。 如果要让一般式方程具有唯一性，那么可以让 为单位向量，即规定 。此时，向量 是直线的单位法向量。 对这个方程的一种典型解释是，该方程代表了位置向量 与法向量 的内积为
数学106
点变换与坐标系变换
主动变换与基变换 物理学直觉和类比 一个质点向前移动了 5 m，它的坐标增加了 5；我们也可以认为质点没有移动，而是参考系相对于质点后退了 5 m，这同样导致它的坐标增加了 5。 平面上，一个摄像机架在原点的垂直正上方向下拍摄，一个质点绕原点逆时针旋转了 90°，摄像机将录到一段视频。如果质点没有运动，而是摄像机绕着摄
数学107
数论函数的平均
解析数论的研究对象之一就是数论函数的平均。 特殊 Möbius 函数平方的平均 证明：
数学108
08. λ-矩阵
多项式矩阵 元素为多项式的矩阵称为多项式矩阵。这种情况下矩阵常取 为文字，因此又称为 -矩阵。 多项式因子 行列式因子 定义 定义： 的 阶行列式因子 ，定义为所有 阶子式的最大公因式。 性质 阶行列式因子一定整除 阶行列式因子，即 不变因子 定义 不变因子定义为两个行列式因子之商： 其中规定 ，因此 。 性质 Smi
数学109
向量积公式
二重外积公式 对任意的 ，有 变形： 推导 设 ，由于 垂直于 所在平面 ，而 由垂直于 ，所以 ，于是可以线性表示： 同时又有 ，所以 ，所以 这是一个关于 的线性方程，可以得到基础解系 由此已经得到公式 ，接下来确定系数 。取一组特殊值 ，代入公式得到 ，公式证毕。 Lagrange 恒等式 对任意的 ： 推导
数学110
07.2 特征值与特征向量
特征向量（eigenvector）指的是在某个线性变换下方向不变的向量，其大小可能改变，缩放倍数称为特征值（eigenvalue）。 定义 在数域 上的线性空间 中，设 是一个线性变换（当 时即为一个 阶方阵），若存在一个非零向量 和一个数 使得 则称 为 的一个特征向量， 为 的一个特征值。 计算 特征多项式 设 是
数学111
05.2 正定二次型
正定（positive definite）二次型是将实数的正负概念推广到 元二次型和 阶对称矩阵的一个概念。 定义 如果对于任意的非零向量 ，二次型 的值都大于 0，则称二次型 为正定二次型，此时也称该二次型对应的矩阵 为正定矩阵。 性质 基本性质 正定矩阵有以下 6 条等价性质： 对任意 ： （正定的定义）； 合同于
数学112
07.1 线性映射和线性变换
线性映射（linear map）是线性代数中基本的研究对象，其对应的代数对象就是矩阵。线性变换（linear transformation）则是在同个空间上的线性映射。 定义 线性映射 设 和 是 上的线性空间，若一个 的映射 满足： 可加性：对任意 ： ； 一阶齐次性：对任意 ， 则称 是一个线性映射。 到 全体线性
数学113
03.2向量组和矩阵的秩
向量组的秩描述了向量组可以张成多大的空间，而矩阵的秩则描述了经过一个矩阵变换后的空间维数。 定义 向量组的极大无关组与秩 一个向量组 的极大无关组 指的是满足以下两个条件的一个子向量组： 线性无关 任意一个 均可以写为 的线性组合。 所有极大无关组的向量个数都相等，将极大无关组的向量个数称为这个向量组的秩（rank）。
数学114
03.3 对偶空间证明行秩等于列秩
矩阵的行秩等于列秩有多种证法，其中 Linear Algebra Done Right 给出的对偶空间法可以较为清楚地证明这一性质。 概念定义 线性泛函 线性空间 上的线性泛函（linear functional）指的是 到底域 的线性映射。 如同普通的线性映射一样，线性泛函可以定义加法和数乘。 对偶空间 线性空间 上
数学115
03.1线性方程组
定义 给定矩阵 和列向量 ，设 为未知数，则方程组 称为线性方程组（system of linear equations）。 当 时，方程组称为齐次线性方程组（system of homogeneous linear equations）； 则称为非齐次线性方程组，并称 是其对应的齐次方程组，或其导出组。 Cramer
数学116
02.2 行列式
行列式（determinant，字面意思是“决定因素”）是一个标量函数，将一个 阶方阵映射为一个数。方阵 的行列式记为 或者 。 定义 定义动机 行列式有若干个定义动机。 几何上，若把方阵 视为 个列向量拼成的向量组，则 描述了这 个列向量构成的高维“平行六面体”的体积；若把 视为 维空间上的线性变换，则 描述了变换的
数学117
02.3 n 阶行列式的计算
这里所指的 阶行列式，通常是按一定规律排列， 任意大的行列式，这类行列式的计算往往需要许多技巧，也是推导某些公式的重要过程。 典型文字行列式 几个典型的任意阶文字行列式如下。 爪形行列式 爪形行列式的形式和公式如下： 上式中留空处代表元素为 0。 这个行列式的计算方法为第一列加上后面每一列的倍数，从而将第一列的 全部消
数学118
01.多项式
多项式（polynomial）指的是形如 的表达式。 定义 抽象多项式 抽象多项式本质上是一个维数可以任意多但总有限的数列。若 ， 为一个形式记号（称为文字），则称形式表达式 为一个一元多项式。以 为文字的多项式全体记为 。 这个定义要求 一定是有限个数。 [!Tip] 在初中数学，多项式被定义为多个（大于等于 2 个
数学119
矩阵分析
矩阵序列 极限 两种等价定义：称 矩阵序列 的极限是 ，当 的所有元素 都收敛于 ； 对任意给定的正数 ，总存在正整数 ，当 时，有 。其中 为任意一个矩阵范数； 此时记 。 极限的性质 线性： ； 乘积可交换： ； 逆可交换：若 ，且 均可逆，则 。 收敛矩阵 定义：若当 时，矩阵的 次幂 收敛于零矩阵 ，则 是收敛
数学120
矩阵分解
三角分解 QR 分解 满秩分解 定义 矩阵描述 定义&定理 对数域上的 矩阵 ，其秩为 ，则存在 矩阵 和 矩阵 ，满足 这个分解称为 的满秩分解（column-row factorization）。 证明：矩阵 的列秩为 ，则其列向量组可以找出 个线性无关向量来表示其他向量，设找出的向量为 ，由于其他向量均可以写成这
数学121
投影与幂等
投影（Projection）指的是一种降维的线性变换，它可以利用幂等来定义： 线性变换 是投影变换，当且仅当 。 性质 在有限维线性空间中，投影算子 的零空间和值域可以将空间直和分解： 证明： 先证 。任取 ，则有如下分解： 显然 。又有 ，故 。所以任意向量都可以分解为零空间和值域的之和。 又由维数公式，有 ，故 是
数学122
无穷维线性空间
线性无关和基 张成空间（span）：在无穷维空间中，我们可以定义无限个向量的张成。设 是一个可重向量集（在谢启鸿高代中称作向量族），则 的张成定义为有限个向量的线性组合 也就是说，尽管我们可以讨论无限集的张成，但为了避免收敛性问题，我们仍然只处理有限个元素的加法。 线性无关：对于一个向量族 ，如果对于任何其有限子集 都
数学123
7.A Adjoints
伴随映射 伴随映射的定义 设 ，则 的伴随映射（adjoint） 定义为满足 的唯一映射。 良定性 借助 Riesz 表示定理，可以验证以上定义为何唯一确定一个映射。构造线性泛函 为 由 Riesz 表示定理，可以找到唯一的一个向量 ，使得 令 ，则 存在且唯一，满足良定性。 例 定义 ，则 所以 。 性质 仍然是一个
数学124
3.C Matrix
定理 满秩分解 设 的列秩为 ，则总存在 满足： 这个过程称为对 的满秩分解（书中称为 CR 分解，column-row factorization）。 证明 取出 的列向量组 ，则由列秩的定义，可以将其缩减为列空间的一组基（即 极大无关组），且这组基将含有 个向量，将这组基重新拼成一个矩阵 ，则 。由于 是 的一组基
数学125
3.F Duality
概念 线性泛函 线性泛函（linear functional）也称为线性函数，指的是从线性空间 到域 的一个映射。 例如， 到 的映射 是一个线性泛函。在多项式空间 （也记为 ）上，定义映射 则 是一个线性泛函。 对偶空间 从 到 的全体映射 ，在其上定义加法和数乘： 则 构成一个线性空间，称为 的对偶空间（dual
数学126
概率极限定理
收敛概念 依分布收敛 依概率收敛 若随机变量序列 与 存在如下关系：对于任意的的正数 ，都有 则称 依概率收敛（convergence in probability）于 ，记为 。 依概率收敛是依测度收敛的一种特殊情况，但是 阶收敛 给定一个正实数 ，若随机变量序列 与 存在如下关系： 则称 阶收敛于 。 当 时，称为
数学127
03 随机变量的可加性
若两个服从该分布的独立随机变量相加后，仍然服从同一类型的分布，且参数可以对应相加，则称该分布具有可加性（又称再生性）。 若随机变量 独立，且服从分布 ，而 服从分布 ，借用卷积符号，分布 的可加性简记为 特征函数 独立随机变量的加法等价于其特征函数的乘法，因此可以用特征函数轻易验证可加性。 可加的条件 设 为分布的参数
数学128
条件数学期望
条件期望 设在 的条件下，随机变量 的概率密度函数为 ，则定义 条件期望 - 变量 条件数学期望的定义：令函数 ，然后将自变量 替换成随机变量 ，则得到一个新的随机变量 ，记为 ，称 是 对 的条件期望。 仍然是一个随机变量，它是随机变量 的函数。 性质 基本性质 线性： 常数提取： 特别地，有 独立：若 和 独立，则
数学129
树的重心
在一颗无根树中，若选择某节点为根后，可以使得最大的子树的节点数最小，则该点称为树的重心。树的重心有许多有用的性质，例如最小距离和。 等价性质 等价性质的任意一条都可以作为重心的另一个定义。 定义：最大子树最小 在一颗无根树中，若选择某节点为根后，可以使得最大的子树的节点数最小，则该点称为树的重心。 子树大小不超过一半
数学130
Bell 数
Bell 数是划分集合的方案数。 将一个 元集合划分为任意个非空子集的方案数，为 Bell 数 。例如，三元集 有 5 中划分方法 ，因此 。 特别地，规定 。 性质 递推公式 Bell 数适合如下的递推公式： 证明：对于一个 元集，取出其中一个元 。若 单独做一个子集，则剩下的 元有 种划分方法；若 与剩下 元之一做
数学131
高等概率论
概念直觉 sigma 代数 高等概率论经常提到 sigma 代数，会在同一个样本空间 上定义不同的 sigma 代数 ，用于描述信息的多少。 直觉上，sigma 代数在有限维可以理解为：对样本空间划分等价类后再取幂集。也就是，我们不再区分一些结果 ，只能知道“两者是否至少有一个发生”，而不能确定是两者的具体哪一种发生。
数学132
最近公共祖先
最近公共祖先 (lowest common ancestor) 是一个有根树中，两个节点深度最大的共同祖先。 定义 设 是一棵有根树， 是一个顶点集。若对任意 ， 是 的祖先，则称 是 中节点的公共祖先；在所有的公共祖先中，深度最大的节点称为最近公共祖先（lowest common ancestor），记为 。 通常我
数学133
随机数累加达到上界问题
问题 不断地生成 的随机数并累加，直到总和超过 1，求生成的随机数数量 的概率分布？平均生成多少个随机数？ 解答 考虑 个独立同均匀分布数 相加小于等于 1 的概率，有 最后一个等号是因为 形成了一个单纯形，而 维标准单纯形的体积是其对应平行六面体的 。 关键步骤：若随机数数量 ，则说明前 个随机数相加 （事件的等价转
数学134
字符串匹配的 Markov 链
题目 A、B 两人玩抛硬币游戏，他们连续掷一枚均匀的硬币，每次记录硬币的朝向，正面记录为 1，反面记录为 0，构成一串 01 序列。若序列先出现连续的 1001001，则 A 赢；若序列先出现连续的 0010010，则 B 赢。求 A、B 各自的胜率。 解法 高中解法（巧解） Markov 链解法 读入一堆字符，要求和
数学135
几何分布与前缀和
（2023 年 12 月，清华大学算法协会 THUPC 2024 初赛） 链接： 题意 给定一个实数 ， ，设 个随机变量 独立同分布于几何分布 ，即 然后，令 为 的前缀和，又给定两个整数 ，满足 ，求落在区间 内 的期望个数。 现场做法 猜想答案只与区间长
数学136
1.3 抽样分布
统计量的分布称为抽样分布（sampling distribution）。 矩统计量分布 随机向量的线性变换 设 为 维随机变量（列向量），期望和协方差矩阵存在， ， ，则： Fisher 引理 设 独立同分布于 ，令： 则有： ； 。 顺序统计量分布 设样本 独立同分布于 ，其中 的分布函数为 ，密度函数为 ，则样本第
数学137
1.1 总体与样本
总体 总体（population）指的是研究对象的全体，也即，总体指的是某个随机变量或某个概率分布。 总体可能分布族 总体的具体分布通常是未知的，但通常可以先假定总体服从某类分布，这类分布全体称为总体可能分布族，通常用 表示。总体可能分布族可以分为参数分布族和非参数分布族。 参数分布族指的是包含有限个未知参数的同类型分
数学138
区间估计
定义 假设总体服从参数分布族 ，从总体中得到一组简单随机样本 ，如果我们能找到两个统计量 ，使得对任意的参数 ，都有 则称区间 是参数 的一个置信度为 的区间估计。 枢轴量法 枢轴量 对于样本 和未知参数 ，如果我们能找到某个关于两者的函数 ，且 的分布是确定的（与参数 无关），那么 称为枢轴量（pivotal qua
数学139
测量尺度
测量尺度（level of measurement）最初是心理学提出的对数据的一种分类，最终演变成对各种测量数据的分类方法。 所有的测量数据都可以分为定类（nominal）、定序（ordinal）、定距（interval）、定比（ratio）四种类型。 变量类型 定类变量 定类变量（nominal）又称为分类变量、名义
数学140
函数的平方根
参考： - 【【兰风】如何给函数开根号？】 定义 对于一个连续实双射函数 ，如果能找到一个函数 ，满足 ，我们可以把 称为 的平方根。 如果我们用 表示 ，那么 的平方根可以记为 例子 - 对于函数 ，其一个平方根函数就是 ； - 对于函数 ，其一个平方根函数就是 ； -
数学141
Jensen 不等式
引入 在定义函数的凹凸性时，我们使用过这样的定义： 若函数 在区间 上满足，对任意的 都有 则称这个函数是凹函数或者下凸函数。 Jensen 不等式就是将这个条件扩展了。对任意的下凸函数 ，以及任意 个实数 ，都有： 如果进一步设函数连续，并给 个实数配上权重 （满足 ），那么有 其他版本 Jensen 不等式，除了上
数学142
二次曲面计算
二次曲面方程 已知一个单叶双曲面的虚半轴长为 1，两条实半轴长也为 1，虚轴的方向向量是 ，求单叶双曲面的方程。 主动变换角度 解答：考虑这个单叶双曲面的标准方程。假设它的虚轴在 轴，则标准方程为 现在我们考虑做一个旋转变换，将虚轴变换到 上。这需要将原来的 轴单位向量 变换到 上。我们可以根据正交关系找出另外两个单位
数学143
非标准分析
超实数 实数的扩充 超实数可以由一列实数数列生成。 超滤子 设指标集 ，若 满足以下 5 个公理，则称为非主超滤子： 1. 非空和排空： 且 2. 对交封闭： ，则 3. 超集封闭：若 ，且 ，则 4. 极大性：对任意 ，要么有 ，要么有 ，且两者不能同时成立 5. 排有限集：任何有限集都不在 中 满足性质 13 的集
数学144
对合函数
对合（involution）函数指的是满足 的函数 ，也就是作用两次后回到自身的函数。 “对合”和“内卷”是同一个英语单词，均为 involution 典型的对合函数有取相反数 ，取倒数 。 性质 [!theorem] 对合函数 的反函数是自身。也就是说，若 ，则 。 证明： 两边再用 作用一次，就得到 ，即 。 [!
数学145
幂级数
收敛域 幂级数 的收敛域在实轴上是以 为中心的一个区间；它在 内收敛，在区间外发散，左右端点需要单独判断。这里的 称为收敛半径。 幂级数总可以做一个平移，转化为形如 的幂级数。 收敛半径 Cauchy-Hadamard 定理：对于幂级数 ，令 则收敛半径 ，即在 内幂级数绝对收敛。 推论（d'Alembert 判别法）
数学146
Jacobi 矩阵的布局
在不同的教科书中，Jacobi 矩阵 分子布局 分子布局（numerator layout）：对于多元向量值函数 ，约定其分子布局为 这种布局也是在陈纪修《数学分析》中出现的布局。 特点 在分子布局下，微分关系 仍然成立。 由此，梯度是一个行向量。对于多元函数 ，其梯度为 名称由来和记忆法 当我们以列向量为中心时，分子
数学147
实数系的性质
确界存在定理 对于非空有上界的实数集 ，设其上界的集合为 ，则 必定存在最小值。称这个最小上界值为 的上确界（supremum），记为 。 同样地，对于非空有下界的实数集 ，设其下界的集合为 ，则 必定存在最大值。称这个最大下界值为 的下确界（infimum），记为 。 证明 这里由 Cauchy 收敛原理证明。 单调
数学148
连续函数
闭区间上连续函数的性质定理 零点定理 若 在 连续，且 （即 和 异号），则存在一点 ，使得 。 二分法证明 对 使用二分法。不妨设 而 ，令区间 。 令 ，若 ，令 ，定理已经成立；若 则令 ，若 则令 ，得到闭区间 ，且 。对 重复以上过程。则要么在有限步停下得到一个零点 ，要么得到一个无限闭区间列 ，且 ， 。
数学149
隐函数
隐函数定理 一个保证隐函数存在并且给出导数的公式。 定理 设 在点 的某个邻域内 光滑（存在连续偏导数），且满足 则在 附近，隐函数 可以被唯一地表示为 关于 的显函数： 在 附近也是 的，且导数公式成立： 证明 【隐函数定理】的动画证明与理解\哔哩哔哩\bilibili 分析 是一个很强的条件，它不只作为导数的分母，
数学150
Riemann 积分
定义 设函数 在区间 上有定义，给出区间的一个划分 为一个有限长的递增列 ，对一个函数和划分，指定一种取点方法 ，可以定义 Riemann 和： 设划分的最大区间长度 ，如果无论如何给定划分，无论如何取点，极限 都收敛于同一个数 ，那么就称这个数 是 在 上的定积分，记作： [!Warning] 上述极限中， 似乎是一
数学151
曲面的面积
曲面的面积元与面积 设曲面 由参数方程 确定，令 Gauss 系数 则称曲面的面积元为： 曲面的面积为 当曲面由二元函数 给出时，可以把 本身看作曲面的参数方程，则有 于是有 这个公式有较为明显的几何意义。 当曲面由隐函数 确定时，计算公式为
数学152
Euler 积分
Beta 函数 Beta 函数，又称为第一类 Euler 积分，是一种特殊的反常积分。 对任意实数 ，定义 Beta 函数为 Gamma 函数 定义 Gamma 函数 的值为： 基本性质： 递推： 阶乘：对于非负整数 有 余元公式 余元公式又称为 Euler 反射定理。对任意 的实数 ，有 Beta 函数与 Gamma
数学153
1-形式
一元函数的微分形式 切空间 定义一个算子 ，它表示计算一个可微函数在 处的导数值，即 由此，我们把这个算子视为一个基向量，定义一个算子的一维线性空间，称为切空间： 也就是说，这个空间定义了所有取出 点导数值 倍的算子。 余切空间 对于切空间，我们可以定义它的对偶空间 ，称为余切空间。 余切空间的元素称为余切向量或者 1
数学154
常用公式
三角函数—指数函数积分： 快速推导方法：写出导数公式 则 得到： 这就立即得出 的原函数是 。
数学155
导数
复合函数的导数 若 在 可导， 在 可导，则 在 处可导，且导数值有以下关系： [!tip] 这里对 和 的要求都仅是在一点可导，不要求一个区间上可导。 反函数的导数 定理：若函数 在区间 上严格递增且可导， ，则在 上 可导，并且 的导数，等于原函数相应位置导数的倒数，即： [!warning] 相应位置很重要，因为
数学156
有界变差函数
有界变差函数（function of bounded variation）。 引入 弧长：平面上一条参数表示的曲线 为： 我们定义它的弧长为，任意取定 的一有限个划分 ，用折线近似其弧长： 显然，由于两点之间线段最短，折线近似的弧长总是不超过真实弧长。因此，我们将弧长定义为折线近似弧长的上确界： 显然，一条曲线可求长，
数学157
拓扑空间上的连续
一般来说，连续性的定义并不依赖于距离，而只需要拓扑。 连续性定义 设 ，其中 和 都是拓扑空间，若对任意 中的开集 ，其对应的原像 仍是开集，则称 是连续函数。 可以认为，拓扑的开集已经描述了什么是“足够小的距离”，因此足够定义连续性了。 等价性 可以证明，在装配了距离的空间中，上述连续性的定义和一般的数学分析中的定义
数学158
取模多项式环
类似于取模整数环 ，对一个多项式取模得到的集合 也是一个环。 乘法与 DFT 循环卷积 在 快速 Fourier 变换 中，有一种运算叫循环卷积。设两个数组 则有： 这被成为循环卷积。 可以发现，模 环的多项式乘法，就是一种循环卷积 DFT 在整数上有 中国剩余定理，在多项式环上也有。 设多项式 可以分解为若干个互质多
数学159
拓扑基本概念
开集与拓扑 拓扑空间就是定义了“开集是什么”的空间，这个定义不依赖于距离。 定义 对于一个集合 ，若其上装备了一个集族 （其中的元素称为开集，其中 表示集合的幂集），且集族 满足下面三条开集公理： （有限个开集之交是开集） 若所有的 ，其中 是指标，则 （无限个开集之并是开集） 则称 是一个拓扑空间。 距离空间与拓扑空
数学160
三维空间中的曲面
定义 在古典微分几何中， 的曲面定义为参数方程 所描述的二维区域。这个参数方程也简记为 ，其中要求 ，且要求在任意的位置， 和 作为两个向量线性无关。 切平面 对于曲面 ，设描述它的参数方程为 ，在点 处，我们可以写出点 的曲纹坐标 。则偏函数 和 构成了两条曲线，可以定义它们在点 的切向量 和 。于是，我们定义切平面
数学161
流形
流形的定义 直观理解 流形是曲线、曲面的一般化描述，是具有局部 Euclid 性质的 的子集。 具体地说，设 ，若对任意的点 ，都可以找到一个包含 的开集 ，并且 和 的某个开集 可以建立同胚 ，则称点 附近的空间是局部 Euclid 的。 严格定义 若集合 是一个 拓扑空间，且满足 Hausdorff 性质、具有第二
数学162
Riemann 流形
直观理解 切空间 指数映射和对数映射 指数映射：给定流形 上的一点 和切平面 上的向量 后，沿着方向 的测地线走出长度为 的路程后，到达了点 ，这个过程称为指数映射，记为 。 指数的名称来自微分方程的推广。 想象复平面上单位圆 在点 处的切空间，它显然就是虚轴 。当我们需要把切空间（虚轴）上的向量 映射为单位圆上的一点
数学163
Lebesgue 积分
直观理解 横切 对于积分 我们不再像 Riemann 积分那样，理解为 Riemann 和 的极限。这种理解方法难以推广到高维情况。 我们从横切的角度理解：对于一个函数 ，我们首先假设它是有界函数，然后取它的一个下界 和一个上界 。然后，我们将 切成许多横条： 。对于每一个 ，我们看函数值位于 的横坐标集合 ，测量它的
数学164
开集的构造
在实变函数和点集拓扑中，开集总是能表示为较为简单的集合的并。 一维开集的结构表示 构成区间 设 是非空有界开集，任取 ，如果区间 ，且满足： ； ； 则称 是 的 构成区间 开集的结构表示 开集的一个重要性质： [!theorem] 实数集上的非空有界开集 可表示为至多可列个不相交区间的并： 上述分解称为 的结构表示。
数学165
Lebesgue 测度
不可测集 如果承认选择公理，我们将可以构造出一个Lebesgue 不可测集。 Vitali 集 最典型的一个不可测集是 Vitali 集。Vitali 集 构造如下。 首先，对实数集 划分如下的等价类：对两个实数 ，若 ，则定义 和 等价。使用这种方法，我们可以将区间 划分为许多不相交的等价类。我们从所有等价类中任意选
数学166
Hausdorff 测度
Hausfdorff 测度是 Lebesgue 测度的推广，可以对流形、分形定义维数和“体积”，同时也可以定义分形的分数维度。 定义 设 ，对任意 和 ，定义 Hausdorff 外测度： 其中 是覆盖集 的直径。 Hausdorff 测度定义为： 当 为整数时， 与 Lebesgue 测度等价（相差常数因子）。例如，
数学167
整数环
整除 对 ，若存在 ，使得 ，则称 整除（divides） ，记为 。此时，称 是 的因数或约数（divisor）， 是 的倍数（multiple）。若对任意的整数 都有 ，则称 不整除 ，记为 。 带余除法 最大公因数和互质 最大公因数 定理：对任意的两个整数 ，存在整数 ，满足 是 的公因数，且若 也是 的公因数，
数学168
一元线性回归
回归模型 设总体由一对联合随机变量 描述， 是从 抽样得到的简单随机样本。若 关于 的条件期望是 的线性函数，即： 则这一模型称为一元线性回归模型。 [!tip] 这里给出的是一种一般化的线性回归定义。某些教材的线性回归模型要求更严格，见下方的 一元线性回归 参数与统计量 一元线性回归同样有参数与统计量之分。 | 参数
数学169
Dirichlet 卷积
定义 两个数论函数的 Dirichlet 卷积定义为： 性质 单位元函数 在全体数论函数构成的集合上，Dirichlet 卷积的单位元为 。 也就是说，对任意数论函数 ，有 。 逆元 对任意 的数论函数 ，Dirichlet 卷积运算存在逆元，它可以由如下公式递归定义得到： Abel（幺半）群 全体数论函数，装配上 D
数学170
Möbius 反演
Möbius 反演（Möbius inversion formula）是一个重要的数论公式，揭示了两类 Dirichlet 卷积之间的关系。 定理 设 ， ，则对任意数论函数 有： 或者借助 Dirichlet 卷积 的记号，写为： [!proof]- 对 两边与 卷积，注意到 ， 是卷积单位元，于是得到： 类似的思路
数学171
Bell 级数
Bell 级数是一个和数论函数有关的形式幂级数，它可以将数论函数的 Dirichlet 卷积转化为 Bell 级数的乘积。 定义与性质 定义 设 是一个数论函数， 是一个质数，则模 意义下的 Bell 级数定义为形式幂级数 这里可以将 看作一个二元函数。 性质 完全积性函数 若 是完全积性函数，则 ，幂级数成为一个几何
数学172
原根
概念 设 和 互质，我们把满足 的最小正整数 称为 模 的阶或幂（exponent），记作 或 。 由 Euler 定理知 ，因此 一定为 的因数。当 取到最大值，即 时，称 是 的一个原根（primitive root）。 性质 全部原根 设 是 的一个原根， 是一个整数，且 ，则 也是 的一个原根。若 ，则 的 次
计算机173
Sarsa
引入 策略迭代 回忆 RL 动态规划 中的策略迭代算法，它的大致思想是，先使用基于 Bellman 方程改造而来的迭代算法（DP），估计当前策略 的动作价值： 反复执行上式， 可以收敛到 。 然后，基于策略提升定理，我们只需要构造这样的一个新的确定性策略： 这类策略迭代算法的过程是：估计、提升反复循环，直到收敛到最优策
计算机174
强化学习背景
强化学习关注寻找一个智能体策略，在与动态环境交互的过程中产生最优的数据分布。 强化学习的基本范式： 其中 为状态（state）， 为动作（action）， 为策略（policy）， 为模型参数， 为奖励（reward）函数。 背景知识 多臂老虎机 强化学习是一种试错性学习，而多臂老虎机则是不存在状态信息、只有动作和奖励
计算机175
Q-Learning
原理 思想和动机 在 Markov 决策过程 中，我们定义了状态价值函数 为： 当状态空间和动作空间都有限时，我们可以使用一个表格估计状态价值函数的值，称为 Q 表（Q table）。在学习算法中，Q 表实际上记录的是状态价值的估计值，我们将反复更新 Q 表直到算法收敛。 思路 1：统计量的估计 对于前 个数的均值 ，
计算机176
ST 表
ST 表（sparse table）是一个基于 （链接未公开） 思想的数据结构，可用于可重复贡献子问题静态查询的数据结构。 RMQ 问题的 ST 表 区间最值查询（Range Max/Min Query, RMQ）问题是 ST 表的经典应用，可以在 时间内返回一个区间的最大值或最小值。以下问题以最大值为例。 思路 可重
计算机177
二叉堆
二叉堆是一棵完全二叉树，树上每个节点都定义了一个权值，并且保证每个节点的权值都小于等于（或大于等于）其子节点的权值。为了区分，我们将权值大于等于子节点权值的堆称为大根堆，反之称为小根堆。 C++ STL 中的 实质上就是一个大根堆。 原理 存储 因为二叉堆是满二叉树，所以可以直接使用数组存储。从 1 开始存储时，节点
计算机178
2-SAT
可满足性问题（Satisfiability, SAT），又称适定性问题，是算法中的一类经典问题。 概述 2-SAT 设有 个二元组 ，希望从每个二元组中都选取一个元素，但是同时要求一些元素不能同时选择，例如 和 不能同时选择、 和 不能同时选择……问是否存在一种可行的选择，使得所有的条件都能得到满足。这一问题称为 2-
计算机179
最小生成树
生成树（spanning tree）指的是从一个连通无向图中取出的一棵树（极小连通分支），这棵树的点集 和原来相同，但是只取了原来的图中的 条边。而最小生成树（minimum spanning tree, MST）则是从一个连通无向图中取出一棵边权和最小的连通子树。 求解最小生成树有两种经典算法：Prim 算法和 Kr
计算机180
负环
判断一个图是否存在负环时，通常使用 Bellman-Ford 算法及其变种实现。 Bellman-Ford 算法 见 （链接未公开） 在 Bellman-Ford 算法的运行过程中，若第 轮松弛仍然能更新某条边，则说明存在从源点可达的负环。 时间复杂度： ，额外空间复杂度： 。 SPFA 算法 SPFA 算法，作为 B
计算机181
快速幂
快速幂（二进制取幂，binary exponentiation）可以在 时间内求得 或 的值（ ）。 整数快速幂 算法 计算 时，先将 做二进制展开，得到： 于是有 而 可递推计算。这样，只需要记录变量 ，每次将 翻倍，然后当 的第 个二进制位为 1 时，在结果乘上 ，即可计算出幂。 龟速乘 在不溢出 的情况下，计算
计算机182
常量
常量 (constant) 在程序中不能改变其值，其定义时有 声明符。 C++ 中的常量并不要求在编译时就可以确定其值。对于那些编译器不能确定的“常量”，更恰当地说应该理解为只读（read-only）量。对于真正的常量，推荐使用 （常量表达式）来指定。 定义原则：从右往左读 const 对象 初始化 常量必须有初始化，
计算机183
辗转相除法
辗转相除法 辗转相除法，又称为 Euclid 算法（Euclid's algorithm），可以求得两个数的最大公因数。 过程 辗转相除法利用这两个基本性质： 设 是两个正整数，则辗转相除法的过程如下： 由于该序列中恒有 ，余数一定在有限步内可以达到 0，且由于对任意整数 有 ，故 ，即倒数第二步所得的 即为 的最大公
计算机184
函数指针
函数指针是指向函数的指针。 因为函数本身不能被复制或引用，所以当需要传入或者返回一个函数时，只能使用函数指针。 函数指针的操作 定义 定义函数指针的格式为： 例如，定义一个接受两个整数、返回一个整数的函数指针： 赋值与调用 给函数指针赋值时，等号右边可以直接填函数名，函数会自动转化为指针，不必显式地取地址；利用函数指针
计算机185
中国剩余定理
中国剩余定理（Chinese Remainder Theorem, CRT），也叫孙子定理，是解决线性同余方程组的定理和算法。 线性同余方程组 设 是已知的 个整数， 是未知整数，则形如 的方程组称为线性同余方程组。 转化 当方程不是标准形式，例如由 给出时，可以由线性同余方程解得 ，转化为标准形式。 中国剩余定理 定
计算机186
乘法逆元
概念 对于整数 和正整数 ，若存在另一个整数 满足 ，则称 是 的乘法逆元。 当 与模数 互质时，可以证明乘法逆元在模 意义下存在且唯一，此时可以记 的乘法逆元为 。特别地，当模数 是一个质数时，所有不被 整除的整数都有逆元。 逆元的性质 除法也可以提前取模，即： 单个数的逆元 Fermat 小定理 利用 Fermat
计算机187
KL 散度
Kullback–Leibler 散度（Kullback–Leibler divergence，简称 KL 散度）是衡量两个分布之间相似性的一种指标。 定义 对于两个离散型分布（概率质量函数） 和 ，其 KL 散度为： 对于两个连续型分布（概率密度函数） 和 ，其 KL 散度为： 设随机变量 服从分布 ，则离散型和连续
数学188
假设检验的思想
基本思想 假设检验，可以理解为反证法思想在概率论、统计学上的应用。 引入 假设工厂收到了一批零件，工厂要求供应商提供零件的不合格率必须低于 1%，在交货现场对零件进行了抽检，抽检 500 个零件后发现有 15 个零件是损坏的，样本不合格率达到了 3%。那么工厂方怎么判断，这是某种随机波动还是这一批零件真的有问题？ 如果
数学189
02 特征函数
特征函数是 Fourier 分析在概率论领域的应用。 复随机变量 若 都是定义在概率空间 上的随机变量，则称变量 为复随机变量。 复随机变量可以看做一个二维随机向量。 特征函数 定义 若 的分布函数为 ，则定义其特征函数（characteristic function）为 这个定义也可以写为 对于离散型随机变量，设其在
数学190
Poisson 过程
概念 引入 Poisson 过程，可以简单理解为某个离散变量独立、“均匀”到达的分布。例如，某服务台平均而言每小时会有 10 人访问，且相同长度的时间段内，平均而言访问的人数也相同，也就是说访问是“均匀”的。同时，访问的人数只能是 人访问，不可能有 人访问，也就是说变量是离散的，那么这个过程就是 Poisson 分布。
数学191
形式幂级数
参考： Formal Power Series 形式幂级数 - 知乎 形式幂级数和一元多项式（01.多项式）具有许多类似的性质，它们都将 视为形式记号，形式幂级数包含了一切的一元多项式。 定义和运算 定义 形式幂级数指的是形如 的表达式，其中 是形式变量。系数 必须取自一个环 （因为需要定义乘法）。 上全体形式幂级数的
数学192
复内积空间
本文记录一些学习复内积空间时，必须抛弃的实内积空间的负迁移思维，以及如何建立复内积空间的直观想象。 非对称性 内积的共轭 在复线性空间中，内积只对一个元有线性。当交换两个元时，会取共轭： 符号约定 本文约定内积 总是对第一个元线性，即 而使用 Dirac 记号表示的内积总是对第二个元线性，即 在 的标准内积上，设 ，
数学193
含参积分的导数
核心问题：计算如下函数的导数： 这一积分的特点是，被积函数和上下限都含有变量（或参量） 。 公式 当 和 都在 连续， 在 上可微，且 时，上述积分的导数公式如下： [!proof]- 构造三元函数 ，则容易计算出： 将 看作复合函数 ，运用多元函数的链式法则，有： 特例 当上下限为常数时，退化为普通的含参积分求导公式
数学194
实变复值函数
积分 一般地，实变复值函数的 的积分定义为： 与复变函数的联系 若 在区域 上是解析函数， 在实数轴上的限制是一个实变复值函数，则在区间 上，有 上述等式右边是一般的实变复值函数积分，右边是复变函数的（路径无关）积分。 例 计算积分 ，其中 是一个非零复数。 解法 1 设 ，则 对 和 分别积分得到： 于是有 可以注意
数学195
闭包
集合 上的关系 关于性质 的闭包（closure），指的是满足性质 且包含 的极小关系 。也就是说， 包含 、满足性质 ，且是任何包含 、满足性质 的关系的子集。 自反闭包 一个关系 的自反闭包，等于自身与相等关系的并。 对称闭包 一个关系 的对称闭包（symmetric closure）等于关系 与其逆的并。 显然，
数学196
可测函数
可测函数（measurable function）是保持空间某种可测性的函数。在实变函数科目中，它通常指 Lebesgue 可测函数，它保持集合的 Lebesgue 可测性。 定义 Lebesgue 可测函数 设 是 Lebesgue 可测集， 是 上的一元实函数（允许取值无穷大）。记符号 表示 对应的原像，即： 若对
数学197
调和级数
级数 称为调和级数，它发散到无穷大。 该级数发散到无穷大，说明自然数的倒数和无界，可以大于任意给定的正数。 调和级数发散证明 见 [[级数收敛性判断 级数证明]] 。 调和级数与对数 调和级数与 Euler 常数 Euler 常数 的定义 记数列 ，则该数列收敛。我们将该数列的极限记为 ，称为 Euler 常数。 数列
数学198
序关系
常用序关系 偏序 若集合 上的二元关系 满足： 自反性： 反对称性： 传递性： 则称 为 上的一个偏序关系。 例如，整数的整除关系 、集合之间的包含 是偏序关系。 当 且 时，称 和 不可比，否则称为可比。例如，整除关系中，6 和 12 可比（ ），但 7 和 8 不可比（ 且 ）。 全序 任意两个元素都可比的偏序关系
数学199
鸽巢原理
鸽巢原理（The Pigeonhole Principle）是一个非常显然的原理，但又有一些巧妙的应用。 鸽巢原理描述 鸽巢原理 [!theorem] 如果将 只鸽子放入 个盒子，则存在一个盒子，其中至少有两只鸽子。 广义鸽巢原理 [!theorem] 如果将 只鸽子放入 个盒子，则存在一个盒子，其中至少有 只鸽子。
数学200
Radon-Nikodym 导数
背景 测度的关系 在 Lebesgue 积分 中，通过对一个非负可测函数定义积分，我们实质上得到了一个新的测度。设对测度 和函数 的积分是 则我们发现 是一个新的测度，满足测度的公理。 Radon-Nikodym 导数则在问这样的一个反问题：给定两个测度 和 ，我们能不能找到一个函数 ，使得 恒成立？如果可以，我们就定
数学201
信息论
离散熵 对于一个离散型随机变量 ，设其概率质量函数为 ，其熵（entropy）定义为 对数的底数往往取 或者 。 例 退化分布的熵是 0。 熵与信息 熵的信息含义 当我们说离散变量 的信息熵是 时，可以理解为，当 这个随机变量被独立重复观测了 次结果时，我们需要多长的编码来储存这些结果？ Hoffman 编码 Hoff
数学202
正态分布
密度函数 一元正态分布： 二元正态分布： 其中 为两者的相关系数。 多元正态分布（非退化情况）： 其中 为均值向量， 为协方差矩阵。 退化的多元正态分布没有密度函数，但对于退化的多元正态分布，总可以找到一个子仿射集，在仿射集上有密度函数。 当多元正态分布的各个变量不相关（独立）时，有 性质 平移 平移只改变正态分布的均
语言与语言学203
中古汉语读音
声母 切韵音 中古汉语早期声母（隋朝，《切韵》，表中音标为潘悟云拟音）： | 切韵音声母 | 全清 | 次清 | 全浊 | 次浊 | 全清 | 全浊 | | ----- | ---- | ----- | ---- | ----- | --- | --- | | 唇音 | 帮 p | 滂 pʰ | 並 b | 明 m |
语言与语言学204
音便
连浊 连浊（連（れん）濁（だく）），指的是日语中一个词与另一个か、さ、た、は开头的词组成复合词时，第二个词由清音变成对应浊音的情况。 规律 参考： 连浊有几个主要规律： 名词之间和语词连浊较多，
语言与语言学205
意志
意志相关语法 在日语中，意志 or 非意志，以及自己的意志 or 他人的意志区分得非常清楚。 意志和推量 这两个含义古代都由助动词「む」承担，但是在现代日语分化为两个语法。 意向形：「Vよう」，表示自己的意志和对第二人称的劝诱 实际上，“我也许会去吧”和意志“自己要去”的界限非常模糊，“你也许会去吧”也和“建议你去”“
元学习206
组织原则
来自于 2026-05-18 与 ChatGPT 的对话。 Obsidian 组织哲学 核心原则 Obsidian 不应该只被当作“文件夹笔记软件”，而应该被看作一个 知识网络系统。 它适合保存相对原子化的知识点，并通过链接、反向链接、MOC 等方式呈现知识之间的关系。 但原子化不是越碎越好。好的原子化应该服务于： -
元学习207
Anki 制卡原则和技巧
原则 参考 anki制作卡牌是不是很麻烦？ - 知乎 概述了制卡的一些原则 Effective Spaced Repetition 概述了高效制卡方法 包括序列内容（如诗歌、字母表）的记忆方法 Anki 使用经验贴 - 知乎 最小信息原则 外语学习的 i+1 方法体现了最小信息原则：一句话应该只有一个陌生的单词或者语法
自然科学208
电介质
电介质 分子的极化 有极分子可以视为一个电偶极子。施加外电场后，分子自身的方向会倾向于和电场线方向相同，产生相对定向的排列。在介质的内部，磁偶极子的正负抵消，但在介质的两端感应出的正负无法抵消，产生了等效感应电荷，这称为分子的极化（polarization）。 实验表明，在弱电场下，材料分子极化产生的电场强度 与外电场
自然科学209
静电场中的导体
规律 导体中的电荷全都分布在导体表面 静电场中的导体内部没有电场 静电场中导体是一个等势体，内部电势处处相同。 Faraday 笼 内部屏蔽 对于一块原本不带电的空心金属，假设其内部有电荷分布，总电荷为 ，则这块金属对外表现永远和一块带电量为 的金属相同。 证明：在金属的外表面和内表面之间选择一个环绕的 Gauss 面
自然科学210
静电场 Gauss 定理
Gauss 定理是静电场的一个定理，其描述为：静电场穿过曲面的电通量正比于曲面所围电荷。 描述 在静电场空间中任意选取一个曲面 ，设其包围的电荷量为 ，则穿过任意曲面的电通量正比于所围电荷，即： 其中， 是真空介电常数。曲面 被称为 Gauss 面。 细节 曲面的形状 尽管说是任意曲面，但如同曲面积分的 Gauss 公
自然科学211
不确定度
不确定度（uncertainty）是进行各种科学实验（不限于物理实验）中的一套数据分析方法。 国际计量局总结了不确定度的一般分析方法，发布于文件《Guide to the Expression of Uncertainty in Measurement》（编号 JCGM 100:2008）之中。 不确定度的含义 一般定
语言与语言学212
语音和谚文
辅音： | | 双唇音 | 齿龈音 | 龈后音 | 硬颚音 | 软颚音 | 声门音 | | --------- | -------- | -------- | ---------- | --- | -------- | ----- | | 鼻辅音 | mb ㅁ | nd ㄴ | | | ŋ ㅇ | | | 塞音和塞擦音
暂时没有找到相关文章。
试试其他关键词，或切换文章分类。