-
交大荣昶笔记#3 | Transformer
Transformer RNN 序列数据处理 输入序列: x_1, x_2, ..., x_n 隐藏状态: h_t = f(h_{t-1}, x_t) 输出: y_t = g(h_t) Decoder-only 分词&词嵌入 位置编码 用于捕获字符在序列中的位置,不用依赖于先前计算,可用于并行计算
42 views -
交大荣昶笔记#2 | YOLO
2 Stage Detection 筛选 + 滑动窗口分类 计算慢 YOLO: You Only Look Once 仅使用一个CNN网络,速度快 在一次CNN计算中,直接从原始图像上预测物体类别和位置边界框 Step1: 划分单元格 将输入图像分割成 S * S 网格 如果某个object的中心落
40 views -
交大荣昶笔记#1 | DL & Neuro Network 基础
Neural Network 神经网络基本单位:神经元 权重(weight):调节权重可控制重视某一特征或忽视某一特征输入 \sum (w_ix_i+b) 其中b为bias(偏置量) 以上为线性变换步骤,运算结果传入激活函数 f 激活函数 Sigmoid (z)=\frac{1}{1+e^{(-z)
43 views
Back