几何图形相似性判断

2025-08-29

1	有两个CAD矢量图形，图形相似但是绘制存在旋转和缩放，怎么判断其相似性

判断两个矢量图形的相似性是计算机图形学、CAD、BIM、图像识别等领域的重要问题。由于矢量图形由点、线、曲线、多边形等几何元素构成，不能像像素图像那样直接用像素差比较，需要从几何结构、拓扑关系、形状特征等多个维度综合判断。

查看全文 >>

文章页 >>

python编程规范

2025-08-28

Python 作为一门强调“可读性”和“简洁性”的语言，拥有非常完善的代码规范与最佳实践体系。遵循主流规范不仅能提升代码质量，还能增强团队协作效率。

以下是目前 Python 主流的编码规范、风格指南和工程实践，涵盖语法、命名、结构、文档、测试等多个方面。

✅ 一、PEP 8：官方代码风格指南（最核心）

📚 官方文档：PEP 8 -- Style Guide for Python Code

这是 Python 官方推荐的代码风格标准，几乎所有 Python 项目都以此为基础。

查看全文 >>

文章页 >>

VS Code 常用快捷键

2025-08-27

Visual Studio Code（VS Code）是开发者广泛使用的轻量级但功能强大的代码编辑器。掌握其常用快捷键可以极大提升编码效率。

以下整理了 Windows / Linux 和 macOS 两大平台的常用快捷键（括号内为 macOS 键位）：

查看全文 >>

文章页 >>

Multi-Head Latent Attention (MLA)详解

2025-08-05

Multi-Head Latent Attention (MLA)详解

参考博客：

洞见：
1.位置编码目前是添加到Q和K中，不再是直接添加到embedding中
2.RoPE虽然叫位置编码，但是自变量除了位置之外还有embeding维度。所以如果嵌入维度变了，位置编码也会变。
	所以可以只在固定维度添加位置编码？保证维度变了，位置编码不变？

1. Multi-Head Attention (MHA) 回顾

标准的多头注意力： $d$ 表示嵌入维度， $n_h$ 表示注意力头的数量， $d_h$ 表示每个头的维度， $h_t \in R^d$ 表示在注意力层中第t个token的注意力输入。

标准MHA机制通过三个矩阵 $W^Q、W^K、W^V \in \mathbb{R}^{d_h n_h \times d}$ 分别生成输入 $h_t$ 的查询向量 $q_t\in \mathbb{R}^{𝑑_ℎ}$ 、键向量 $k_t\in \mathbb{R}^{𝑑_ℎ}$ 和值向量 $v_t\in \mathbb{R}^{𝑑_ℎ}$ 。公式如下：

$q_t = W^Q h_t \tag{1}$

$k_t = W^K h_t \tag 2$

$v_t = W^V h_t \tag 3$

接下来， $𝑞_𝑡$ ， $k_𝑡$ ， $v_𝑡$ 将被切分成 $n_h$ 个头，用于多头注意力计算：

$\begin{equation} [𝑞_{𝑡,1}; 𝑞_{𝑡,2}; \ldots; 𝑞_{𝑡,𝑛_ℎ}] = 𝑞_𝑡 \quad \tag{4} \end{equation}$

$[𝑘_{𝑡,1}; 𝑘_{𝑡,2}; \ldots; 𝑘_{𝑡,𝑛_ℎ}] = 𝑘_𝑡 \quad \tag{5}$

$[𝑣_{𝑡,1}; 𝑣_{𝑡,2}; \ldots; 𝑣_{𝑡,𝑛_ℎ}] = 𝑣_𝑡 \quad \tag 6$

其中：

$𝑞_{𝑡,i}, 𝑘_{𝑡,i}, 𝑣_{𝑡,i} \in \mathbb{R}^{𝑑_ℎ}$ 是第 $𝑡$ 个 token 的第i个头的 query、key、value 向量。
$𝑛_ℎ$ 是注意力头数，QKV分头前的特征维度为 $d$ ，分头后每个头的维度是 $𝑑_ℎ$ 。

公式含义：将原始的 $𝑞_𝑡, 𝑘_𝑡, 𝑣_𝑡$ 按列切分成 $𝑛_ℎ$ 个头的子向量。

每个头的注意力计算公式为：

$attention\_weight_{t,i} = \text{Softmax}_{j=1}^{t}\left(\frac{𝑞_{𝑡,𝑖}^\top 𝑘_{𝑗,𝑖}}{\sqrt{𝑑_ℎ}}\right)$

$𝑜_{𝑡,𝑖} = \sum_{𝑗=1}^{𝑡} \text{Softmax}\left(\frac{𝑞_{𝑡,𝑖}^\top 𝑘_{𝑗,𝑖}}{\sqrt{𝑑_ℎ}}\right) 𝑣_{𝑗,𝑖} \tag 7$

最后拼接所有头的输出，再做输出投影：

$𝑢_𝑡 = 𝑊^𝑂 [𝑜_{𝑡,1}; 𝑜_{𝑡,2}; \ldots; 𝑜_{𝑡,𝑛_ℎ}] \tag 8$

其中 $𝑊^𝑂 \in \mathbb{R}^{𝑑 \times 𝑑_ℎ 𝑛_ℎ}$ 是输出映射矩阵。

推理时问题：

所有 key 和 value 需要缓存，KV cache大小为 $2𝑛_ℎ 𝑑_ℎ 𝑙$ （ $𝑙$ 为序列长度），当 batch size 和 $𝑙$ 很大时会占用大量显存。

2. Low-Rank Key-Value Joint Compression（低秩 KV 联合压缩）

MLA 核心是通过低秩联合压缩减少 KV cache大小。

压缩输入:

将输入 $ℎ_𝑡$ 压缩到KV低维共享表示 $𝑐_{𝑡}^{𝐾𝑉}$ ：

$𝑐_{𝑡}^{𝐾𝑉} = 𝑊^{𝐷𝐾𝑉} ℎ_𝑡 \tag 9$
- $𝑐_{𝑡}^{𝐾𝑉} \in \mathbb{R}^{𝑑_𝑐}$ ：压缩后的 latent 表示， $𝑑_𝑐 \ll 𝑑_ℎ 𝑛_ℎ$ 。
- $𝑊^{𝐷𝐾𝑉} \in \mathbb{R}^{𝑑_𝑐 \times 𝑑}$ ：降维矩阵，D的含义是降维down_sample。
解码 key 和 value:

从 $𝑐_{𝑡}^{𝐾𝑉}$ 解码出 key 和 value：

$𝑘_{𝑡}^{𝐶} = 𝑊^{𝑈𝐾} 𝑐_{𝑡}^{𝐾𝑉} \tag {10}$

$𝑣_{𝑡}^{𝐶} = 𝑊^{𝑈𝑉} 𝑐_{𝑡}^{𝐾𝑉} \tag {11}$
- $𝑊^{𝑈𝐾}, 𝑊^{𝑈𝑉} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐}$ ：升维矩阵，U的含义是升维up_sample。
**低秩压缩后的注意力权重计算方式 **：

$𝑞_{𝑡}^\top 𝑘_{j}^{𝐶} = (W^Q h_t)^\top 𝑊^{𝑈𝐾} 𝑐_{𝑡}^{𝐾𝑉} = h_t^\top (W^Q)^\top 𝑊^{𝑈𝐾} 𝑐_{𝑡}^{𝐾𝑉} = \\ h_t (𝑊^{𝑈𝐾})^\top W^Q 𝑐_{𝑡}^{𝐾𝑉}$

最后的输出:

多头注意力相当于把 注意力权重 $attention\_weight$ 从一维向量变为了二维向量，shape: (seq_len,) -> (seq_len, head_num)，但本质上还是一个张量，只是得到这个张量的方式注意力机制计算比较复杂。

$[𝑜_{𝑡,1}; 𝑜_{𝑡,2}; \ldots; 𝑜_{𝑡,𝑛_ℎ}] = v_t @ attention\_weight = \\ 𝑊^{𝑈𝑉} 𝑐_{𝑡}^{𝐾𝑉} @ attention\_weight$

$𝑢_𝑡 = 𝑊^𝑂 [𝑜_{𝑡,1}; 𝑜_{𝑡,2}; \ldots; 𝑜_{𝑡,𝑛_ℎ}] \\ 𝑢_𝑡 = 𝑊^𝑂 𝑊^{𝑈𝑉} (𝑐_{𝑡}^{𝐾𝑉} @ attention\_weight)$

优势：

推理时仅需缓存 $𝑐_{𝑡}^{𝐾𝑉}$ （每 token 只需 $𝑑_𝑐$ 维），KV 缓存大小从 $2𝑑_ℎ 𝑛_ℎ 𝑙$ 缩减到 $𝑑_𝑐 𝑙$ 。
可将 $𝑊^{𝑈𝐾} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐}$ 与 $𝑊^𝑄 \in \mathbb{R}^{d_h n_h \times d}$ 合并，将 $𝑊^{𝑈𝑉} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐}$ 与 $𝑊^𝑂 \in \mathbb{R}^{𝑑 \times 𝑑_ℎ 𝑛_ℎ}$ 合并，无需显式生成或存储 key/value。

矩阵合并分析：

上面公式看似需要使用 $𝑐_{𝑡}^{𝐾𝑉}$ 重新生成历史的KV，但是通过权重吸收(合并)可以将重新生成的步骤合并其他向量的投影中，从而无需真正重新生成。

$𝑊^{𝑈𝐾} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐}$ 与 $𝑊^𝑄 \in \mathbb{R}^{d_h n_h \times d}$ 的合并，维度变换是 $d -> d_hn_h -> d_c$ ，吸收后是 $d -> d_c$ ，如果是原始的MHA不进行维度压缩 $d -> d_hn_h$ ，可以看出来吸收后相比MHA计算量减少，不吸收则增大计算量。

$𝑊^{𝑈𝑉} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐}$ 与 $𝑊^𝑂 \in \mathbb{R}^{𝑑 \times 𝑑_ℎ 𝑛_ℎ}$ 合并，维度变换是 $d_c -> d_hn_h -> d$ , 吸收后是 $d_c -> d$ ，同样吸收后相比MHA计算量减少，不吸收则增大计算量。

3. Low-Rank Query Compression（低秩 Query 压缩）

虽然压缩 Query 不能减少 KV 缓存，但是也能节省计算。

压缩 Query：
$𝑐_{𝑡}^{𝑄} = 𝑊^{𝐷𝑄} ℎ_𝑡 \quad \tag {12}$

$𝑞_{𝑡}^{𝐶} = 𝑊^{𝑈𝑄} 𝑐_{𝑡}^{𝑄} \quad \tag {13}$
- $𝑐_{𝑡}^{𝑄} \in \mathbb{R}^{𝑑_𝑐'}$ ：压缩后的 query 表示， $𝑑_𝑐' \ll 𝑑_ℎ 𝑛_ℎ$ 。
- $𝑊^{𝐷𝑄} \in \mathbb{R}^{𝑑_𝑐' \times 𝑑}$ ， $𝑊^{𝑈𝑄} \in \mathbb{R}^{𝑑_ℎ 𝑛_ℎ \times 𝑑_𝑐'}$ ：降维和升维矩阵。

作用：

降维后再升维，减少全连接计算量，尤其适用于输入维度 $𝑑$ 较大的场景。

4. Decoupled Rotary Position Embedding（解耦 RoPE）

背景

前面的推理没有考虑位置编码，如果考虑RoPE位置编码，会发现权重吸收和位置编码不兼容：

$𝑞_{𝑡}^\top 𝑘_{j}^{𝐶} => RoPE(𝑞_{𝑡}^\top)RoPE(𝑘_{j}^{𝐶}) \tag {-1} \\$

$RoPE(𝑞_{𝑡}^\top)RoPE(𝑘_{j}^{𝐶}) = (R_t𝑞_{𝑡})^\top R_j 𝑘_{j}^{𝐶} = \\ 𝑞_{𝑡}^\top R_t^\top R_j 𝑘_{j}^{𝐶} = 𝑞_{𝑡}^\top R_{j-t} 𝑘_{j}^{𝐶} = h_t^\top (W^Q)^\top R_{j-t} 𝑊^{𝑈𝐾} 𝑐_{𝑡}^{𝐾𝑉} \tag {-2}$

前面 $𝑊^{𝑈𝐾}$ 与 $𝑊^𝑄$ 可以合并，是因为$(W^Q)\top 𝑊^{𝑈𝐾} $是常量，但是$ (W^Q)\top R_{j-t} 𝑊^{𝑈𝐾} $是与query向量的位置$ t $相关的变量$ R_{j-t}$，即随推理过程中query的位置变化而变化，导致旧的缓存不能直接使用，所以无法直接合并。

为什么GQA的低秩投影没有受RoPE影响，因为GQA只减少了头数，计算时又恢复了头数，但是隐式恢复头数直接通过广播实现，不涉及特征维度改变序列长度改变；而MLA减小的是每个头的特征维度，计算时为了避免增加计算量，只能隐式恢复特征维度，即需要借助权重吸收，而两个权重之间又夹着RoPE，没办法权重吸收。

RoPE（Rotary Position Embedding）对 key 和 query 都是位置敏感的。

若直接将 RoPE 应用于压缩后的 key，升维矩阵 $𝑊^{𝑈𝐾}$ 无法与 $𝑊^𝑄$ 合并，影响推理效率？

一个简单的逻辑应该是把位置编码都应用到压缩后的特征上。

原因

RoPE 是依赖位置的旋转矩阵，矩阵乘法不满足交换律。
若在升维后的 key 上应用 RoPE，需重新计算所有历史 key 的位置编码，无法仅用缓存恢复。

解决方案

将 query 和 key 分为两部分，一部分就用MLA不使用RoPE 位置编码，另一部分用MQA使用位置编码：

对 query 和 key 分别应用 RoPE：

将输入的查询内容向量 $c^Q_t$ 通过矩阵 $W^{QR}$ 投影到 RoPE 编码后的空间，得到分离后的旋转位置编码查询向量 $q^R_t$ ，并按多头 $n_h$ 分块。

$[𝑞_{𝑡,1}^𝑅; 𝑞_{𝑡,2}^𝑅; \ldots; 𝑞_{𝑡,𝑛_ℎ}^𝑅] = \text{RoPE}(𝑊^{𝑄𝑅} 𝑐_{𝑡}^{𝑄}) \quad \text{(14)}$

将隐藏状态 $ h_t $ 通过矩阵 $W^{KR}$ 投影，并应用 RoPE 得到分离后的旋转位置编码键向量$ k^R_t $。

$𝑘_{𝑡}^𝑅 = \text{RoPE}(𝑊^{𝐾𝑅} ℎ_𝑡) \quad \text{(15)}$
拼接压缩部分和 RoPE 部分：

将内容查询向量与旋转位置编码查询向量进行拼接，得到最终的第 $i$ 个头的查询向量。

$𝑞_{𝑡,𝑖} = [𝑞_{𝑡,𝑖}^𝐶, 𝑞_{𝑡,𝑖}^𝑅] \quad \text{(16)}$

将内容键向量与旋转位置编码键向量拼接，得到最终的第 $i$ 个头的键向量。

$𝑘_{𝑡,𝑖} = [𝑘_{𝑡,𝑖}^𝐶, 𝑘_{𝑡,𝑖}^𝑅] \quad \text{(17)}$
注意力计算：

通过点积计算第 $i$ 个头在时间步 $t$ 的查询向量与历史键向量的相关性，除以 $\sqrt{d_h + d^R_h}$ 进行缩放，然后使用 Softmax 得到注意力权重，对对应的值向量 $v^C_{j,i}$ 进行加权求和。

$𝑜_{𝑡,𝑖} = \sum_{𝑗=1}^{𝑡} \text{Softmax}\left(\frac{𝑞_{𝑡,𝑖}^\top 𝑘_{𝑗,𝑖}}{\sqrt{𝑑_ℎ + 𝑑_ℎ^𝑅}}\right) 𝑣_{𝑗,𝑖}^𝐶 \quad \text{(18)}$
最终输出：

将所有头的输出 $o_{t,i}$ 拼接起来，并通过输出权重矩阵 $W^O$ 得到最终的输出向量 $u_t$ 。

$𝑢_𝑡 = 𝑊^𝑂 [𝑜_{𝑡,1}; 𝑜_{𝑡,2}; \ldots; 𝑜_{𝑡,𝑛_ℎ}] \quad \text{(19)}$

其中 $W^{QR} \in \mathbb{R}^{d^R_h n_h \times d'_c}$ 和$ W^{KR} \in \mathbb{R}^{dR_h \times d} $是分别用于生成分离查询向量和分离键向量的矩阵；$ RoPE(·) $表示应用旋转位置编码的操作；符号$ [\cdot ;\cdot]$表示拼接操作。在推理阶段，分离的键向量也需要被缓存。因此，MLA需要一个包含 $(d_c + d^R_h)l$ 元素的 KV 缓存。

参数说明：

$𝑑_ℎ^𝑅$ ：RoPE 部分的维度。
推理时只需缓存 $𝑐_{𝑡}^{𝐾𝑉}$ （大小约为 $𝑑_𝑐 + 𝑑_ℎ^𝑅$ ）。

5. 总结 MLA 思路

MLA 的核心目标是降低推理时的显存占用和计算延迟，同时保持注意力效果。具体方法包括：

低秩联合压缩 KV：通过共享压缩表示 $𝑐_{𝑡}^{𝐾𝑉}$ 减少 KV 缓存大小。
低秩 Query 压缩：减少 Query 的计算量。
解耦 RoPE：在保留位置编码效果的同时，使压缩策略兼容 RoPE，避免破坏缓存复用。

最终效果：

显存占用从 $2𝑑_ℎ 𝑛_ℎ 𝑙$ 降至 $𝑑_𝑐 𝑙$ 。
计算效率提升，适用于大规模模型部署。

文章页 >>

pytorch-激活函数

2025-08-05

常用的激活函数介绍

激活函数的原则：

单调函数（或有极小一部分不单调）
非线性函数
具有良好的梯度

查看全文 >>

文章页 >>

桩识图

2025-07-04

一种建筑图纸中桩的识别方法和装置

技术领域

人工智能、图像处理，建筑审图

技术背景

在结构工程审图领域，桩平面图的自动识别面临以下严峻挑战：1. 图纸上桩的画法多样，2. 单张图纸中桩结构高度密集，3. 受墙体和柱子等其他建筑元素的严重干扰，这使得传统的基于规则的检测方法显得力不从心，无法满足现代建筑审图的高精度与效率需求。

解决的技术问题

本项目通过创新性地结合基于规则和深度学习的算法，实现了高效、准确的桩检测。相较于基于规则的传统方法，本方法检测效率提高3倍，召回率提高了30%，准确率达到99%，显著优化了检测效果。通过自研自动化数据生成，自监督训练方案，替代完全依赖人工标注的传统方式，降低大量标注成本。总体来看，本项目实现了从无到有的技术突破，为结构检测带来了新的赋能。

技术方案

1. 总体流程

基于规则的桩检测
- 采用基于规则的方法检测桩，检测时不区分桩类别。确保绝对准确率（100%），保持较高召回率（>60%）。
生成桩检测数据集
- 利用规则检测的结果作为标注，生成桩检测数据集【pile_v0.1】。
模型训练
- 使用YOLO算法，在桩检测数据集上训练初步的桩检测模型【model_v0.1】。
自监督训练
- 运用已训练模型检测基于规则无法识别的图纸，将高置信度结果纳入训练集继续训练。

2. 基于规则的桩检测

过滤干扰线

根据长度、直径和面积限制进行过滤。
只保留特定类型的几何元素：直线、多段线、圆、椭圆、圆弧、实体、填充。

桩检测规则

导出图像并求连通域。
圆检测：识别圆、特定条件下的多段线和圆弧、椭圆。
矩形检测：利用最近邻算法确定矩形。
交叉线检测：扫描线算法检测交叉线。
填充检测：检查填充是否位于圆或矩形内。
多次应用连通域分析，提升准确率。

3. 生成桩检测数据集

依据规则检测结果生成桩边界框（bbox）。
导出原始及过滤后的图纸图像，扩大数据规模和多样性。
以640x640滑动窗口，20%重叠，切割图像。
转换bbox至图像坐标系，并映射至小图坐标系。
筛选含bbox的小图，构建训练集。

4. 模型训练

选用YOLOv8n作为桩检测模型。
调整数据集至YOLOv8所需格式，修改配置文件。
加载预训练权重，设置batch=32，epoch=120，进行训练。
输出桩检测模型【model_v0.1】。

5. 自监督训练

测试集使用规则检测遗漏的桩，由【model_v0.1】进行检测。
高置信度检测结果作为新标签，与【pile_v0.1】合并成【pile_v0.2】。
在【pile_v0.2】上继续训练，产出【model_v0.2】。
重复步骤，循环5轮，持续迭代模型。

6. 后处理

切片检测结果合并
基于cad原始图元，检测闭合多边形轮廓或圆形轮廓
检测桩定位线
验证区域内是否有满足条件的图元
筛选误召回的检测
引线检测匹配标注属性

文章页 >>

Detecting Text in Natural Image with Connectionist Text Proposal Network

2025-04-22

名称：Detecting Text in Natural Image with Connectionist Text Proposal Network

论文：https://arxiv.org/abs/1609.03605

会议：ECCV 2016

github: https://github.com/tianzhi0549/CTPN

CTPN（Connectionist Text Proposal Network）是一种基于深度学习的文本检测算法，擅长在自然场景图像中定位文本行。其核心思想是将文本行分解为多个小文本段（text proposals），再通过序列连接形成完整文本行 。以下从算法流程、关键技术、优缺点及改进方向展开详解：

一、算法流程

特征提取 使用预训练的CNN（如VGG16）提取图像特征，得到高维特征图（如conv5层输出）。
双向LSTM序列建模 在特征图上滑动窗口（如3×3），每个窗口生成固定高度（如11px）的锚点（anchors），覆盖不同宽度（如16px、32px等）。通过双向LSTM捕捉水平方向的文本序列上下文信息，增强对长文本的建模能力。
文本提议生成 每个锚点预测：
- 文本/非文本分类 （判断是否为文本区域）
- 垂直坐标回归 （精调锚点的y轴位置）
- 边缘优化 （预测文本段的起始/结束位置，用于后续连接）
文本行连接 根据锚点的水平距离、重合度、边缘标签和置信度，将相邻的文本段连接成完整的文本行。

模型输出：每个特征窗口设置k(=10)个相同宽度不同高度的候选框，每个候选框生成二分类判断是文字还是背景，2k；每个候选宽生成高度方向上下边界的微调，2k；每个候选宽生成一个水平微调, 1k。

查看全文 >>

文章页 >>

Android Studio配置Gradle

2025-04-20

在IntelliJ IDEA 和Android Studio 中，可以通过以下步骤指定 Gradle 主目录（Gradle Home Directory）。这个设置允许你使用手动安装的 Gradle 版本，而不是依赖 IDE 自动下载的版本。

查看全文 >>

文章页 >>

Python开发安卓应用

2025-04-19

要在安卓设备上运行使用 PyQt 编写的程序，需要解决一个关键问题：PyQt 是为桌面环境设计的，而安卓是一个移动操作系统，直接在安卓上运行 PyQt 程序并不支持。不过，可以通过一些工具和框架将 PyQt 应用适配到安卓平台。以下是实现这一目标的主要方法和步骤：

1. 使用 Kivy 或其他移动开发框架

如果目标是开发跨平台的 Python 应用（包括安卓），可以考虑使用专门为移动设备设计的框架，例如 Kivy 或 BeeWare 。这些框架支持直接构建安卓应用，并且语法与 PyQt 类似。

原因：

PyQt 的 GUI 依赖于 Qt，而 Qt 在安卓上的支持有限。
Kivy 和 BeeWare 提供了更轻量级的解决方案，更适合移动设备。

查看全文 >>

文章页 >>

语义分割-游程编码（Run-Length Encoding, RLE）

2025-04-17

游程编码（Run-Length Encoding, RLE）详解

游程编码（RLE，Run-Length Encoding）是一种简单而有效的数据压缩方法，特别适用于具有大量连续重复值的数据。它在图像处理、分割掩码表示和时间序列数据压缩等领域有着广泛的应用。

它通过记录每个值的“运行长度”（即连续出现的次数）来减少存储空间。RLE 在图像处理、文件压缩和机器学习中都有广泛应用，例如在 COCO 数据集中用于表示分割掩码。

查看全文 >>

文章页 >>