xy0v0's Blog

xy0v0's Blog

学习笔记

交大荣昶笔记#3 | Transformer

Transformer RNN 序列数据处理 输入序列: x_1, x_2, ..., x_n 隐藏状态: h_t = f(h_{t-1}, x_t) 输出: y_t = g(h_t) Decoder-only 分词&词嵌入 位置编码 用于捕获字符在序列中的位置,不用依赖于先前计算,可用于并行计算
0
2025-08-02

交大荣昶笔记#2 | YOLO

2 Stage Detection 筛选 + 滑动窗口分类 计算慢 YOLO: You Only Look Once 仅使用一个CNN网络,速度快 在一次CNN计算中,直接从原始图像上预测物体类别和位置边界框 Step1: 划分单元格 将输入图像分割成 S * S 网格 如果某个object的中心落
0
2025-08-02

交大荣昶笔记#1 | DL & Neuro Network 基础

Neural Network 神经网络基本单位:神经元 权重(weight):调节权重可控制重视某一特征或忽视某一特征输入 \sum (w_ix_i+b) 其中b为bias(偏置量) 以上为线性变换步骤,运算结果传入激活函数 f 激活函数 Sigmoid (z)=\frac{1}{1+e^{(-z)
0
2025-08-02

BGE-m3中的检索方式

密集检索(Dense Retrieval) 使用 CLS 标记的输出嵌入计算相似度,公式为: s_{\text{dense}} = \langle e_q, e_p \rangle 其中 e_q 和 e_p 分别表示查询和表情包描述的嵌入向量。这种基于语义的检索方式能够捕捉用户问题的深层含义。 稀疏
0
2025-03-26

判断 “无符号小于” 的方式

对于无符号数 A 和 B ,判断 A < B 是否成立 首先对 A 取 NOT 得 ~A 将取反后的值与第二个输入 B 相加 检查是否有进位输出 我们可以利用补码的性质来判断: \text{NOT}(A) + 1 = 2^n - A 有 n=8 接下来对
0
2025-03-15

如何在 《图灵完备》 中设计一套高效的指令集

《图灵完备》中我们设计出最基础的图灵完备计算机后,需要使用汇编语言对其进行编程,而一套好的指令集是高效编程的基础。 问题明确 我们现在对于计算机有如下操作: IMMEDIATE CALCULATION COPY CONDITION 共有六个寄存器,编号0-5 IMMEDIATE会写入 REM0 C
0
2025-03-13

Python 中 ABC (抽象基类) 的使用

原代码痛点 在项目开发中需要实现代码的重构,原先嵌入模型使用 API / 本地的方法放在一个类中实现,通过 self.mode 进行控制切换。为了方便后续维护,需要对本地和 API 的类分离 class EmbeddingService: def __init__(self): ... s
0
2025-02-23

分治策略与时间复杂度计算

graph LR A[分治策略] --> B[基本框架] A --> C[时间复杂度分析] A --> D[经典案例] B --> B1["分解:将问题划分为k个子问题"] B --> B2["解决:递归解决子问题"] B --> B3["合并:合并子问题解"] C --> C1["通用递归式:<b
0
2025-02-10

时间复杂度的分析基础

思维导图 graph LR A[函数的增长] --> B[渐近符号体系] A --> C[时间复杂度分析] A --> D[递归算法复杂度计算] A --> E[应用举例] B --> B1[定义与用途] B1 --> B11["分析算法效率的数学工具"] B --> B2[符号分类] B2 -->
0
2025-02-10