CS231n(叁)——正则化与优化
CS231n课程第三讲笔记,梳理梯度下降与随机梯度下降(SGD)的基本形式,分析SGD在不同方向曲率差异、梯度为零与梯度噪声上的三个问题,并整理动量法(Momentum)与RMSProp等优化方法的核心公式。
《Attention Is All You Need》论文精读
精读《Attention Is All You Need》论文,全面拆解Transformer架构的编码器-解码器结构、缩放点积注意力、多头注意力、位置编码等核心组件,涵盖训练细节与实验结果。
6.3
测试:a + b = c ###
==6.3 图的矩阵表示==
矩阵是图的一种重要代数表示,它将图的拓扑结构转化为数值阵列,便于利用代数工具(如矩阵乘法、特征值)分析图的路径与连通性质。本节涵盖四种核心矩阵。
==🔷 6.3.1 无向图的关联矩阵==
定义:设无向图 G = ⟨V, E⟩,其中
V = {v1, v2, …, vn},E = {e1, e2, …, em}。定义矩阵
M(G) = (mij)n × m,其中
mij
是顶点 vi
与边 ej
的关联次数(取值为 0, 1, 2)。
示例矩阵: $$
\Large
\left[
\begin{array}{c|rrrrr}
& e_1 & e_2 & e_3 & e_4 & e_5 \\
\hline
v_1 & 1 & 1 & 1 & 0 & 0 \\
v_2 & 0 & 1 & 1 & 1 &...
初始之作
这是测试段落 测试:a + b = c
Crite_Blog
Welcome to Hexo! This is your very
first post. Check documentation for
more info. If you get any problems when using Hexo, you can find the
answer in troubleshooting or
you can ask me on GitHub.
Quick Start
Create a new post
1$ hexo new "My New Post"
More info: Writing
Run server
1$ hexo server
More info: Server
Generate static files
1$ hexo generate
More info: Generating
Deploy to remote sites
1$ hexo deploy
More info: Deployment
