type
status
date
slug
summary
tags
category
icon
password
数学
LLM 本质一个巨大的概率模型
ㅤ | ㅤ |
线性代数 | 理解向量和矩阵运算,这是神经网络的基础。包括矩阵乘法、矩阵变换等。 |
概率与统计 | 用于理解模型的概率输出(如 softmax 函数)和损失函数。 |
微积分 | 理解梯度下降优化算法,包括梯度的计算和反向传播。 |
编程
ㅤ | ㅤ |
Python | 主流的用于机器学习和人工智能的编程语言是 Python |
PyTorch | ㅤ |
论文
ㅤ | ㅤ |
它是大模型实现的最重要的理论部分。 | |
RAG (检索增强生成) 源于2020年的这篇论文 |
开源库
ㅤ | ㅤ | ㅤ |
ㅤ | ㅤ | |
人脸映射(视频) | ㅤ | |
gpt2 | karpathy
训练GPT-2 |
视频
ㅤ | ㅤ |
算法 | |
PyTorch | |
线性代数 | |
机器学习 | |
深度学习 | |
线性代数 | |
微积分 |
后记:学海无涯