Hello，world.
民胞物与，念兹在兹
开始阅读 Github
Attention is all you need
这是Google公司在2017年发表的一篇论文，论文提出了一种新的结构来“代替”RNN或者CNN的结构，确实是一种比较新颖而且有效的操作。
阅读更多
MobileNet--准确与速度的均衡
卷积神经网络（CNN）在计算机视觉领域产生了许多新进展也衍生出了许多新型的网络，其中MobileNet就是CNN在轻量级网络的一个非常优秀的网络架构探索。
阅读更多
三元组损失模型
三元组损失（Triplet loss）函数是当前应用较为广泛的一种损失函数，最早由Google研究团队在论文《FaceNet：A Unified Embedding for Face Recognition》所提出，常用在人脸识别任务中。目的是做到非同类极相似样本的区分。
阅读更多
  推荐文章
NLP

Don't stop pretraining

如今很多NLP任务都会在Bert等预训练模型的基础上进行fine-tuning，可能很多人没有意识到在任务领域上进行新的预训练会进一步提高模型效果，下面这篇论文就从多个实践角度证明了这种方法的可行性。

阅读更多
深度学习

MobileNet--准确与速度的均衡

卷积神经网络（CNN）在计算机视觉领域产生了许多新进展也衍生出了许多新型的网络，其中MobileNet就是CNN在轻量级网络的一个非常优秀的网络架构探索。

阅读更多
深度学习

三元组损失模型

三元组损失（Triplet loss）函数是当前应用较为广泛的一种损失函数，最早由Google研究团队在论文《FaceNet：A Unified Embedding for Face Recognition》所提出，常用在人脸识别任务中。目的是做到非同类极相似样本的区分。

阅读更多
搜索算法

遍历与启发式搜索

本文介绍常用的遍历算法和启发式搜索算法。主要包括BFS、DFS、Dijkstra算法、贪婪最佳优先算法和A*算法。

阅读更多
Flask、SQLAlchemy和Migrate Flask、SQLAlchemy和Migrate
flask-sql_alchemy和flask-migrate在 Flask + 数据库 体系里几乎是“标配搭子”，如果把开发 Web 应用比作盖房子，那么 SQLAlchemy 就是施工图纸和建筑材料，而 Flask-Migrate 就是装修进度管理手册。
2024-09-13 python
Flask
LLM中的Tokenizer LLM中的Tokenizer
在现代计算语言学和大规模语言模型（LLM）的架构体系中，分词器（Tokenizer）是连接人类自然语言与机器数值计算的唯一底层接口。
2024-08-28 算法
LLM
redis简介 redis简介
Redis（全称为Remote Dictionary Server）是一个开源的高性能键值对存储系统，具有快速、灵活和可扩展的特性。它是一个基于内存的数据结构存储系统，可以用作数据库、缓存和消息代理。
2024-06-20 工具方法
redis
uv教程 uv教程
作为Astral团队推出的下一代Python工具链，uv凭借Rust底层架构和极致性能，正在重构全球数百万开发者的工作流。本文将从零开始详解uv的核心语法、进阶技巧.
2024-04-21 python
uv
Python包管理工具深度解析：venv、conda、poetry与uv Python包管理工具深度解析：venv、conda、poetry与uv
在Python开发中，包管理工具的选择直接影响项目的可维护性、依赖隔离和协作效率。本文将从核心功能、适用场景、操作实践等角度，全面解析四大主流工具：**venv**、**conda**、**poetry**和**uv**，并对比其优缺点，助你找到最适合项目的解决方案。
2024-04-19 python
uv poetry
BERT与GPT：语言模型的双子星 BERT与GPT：语言模型的双子星
随着论文《Attention is All You Need》的发表，常用的RNN结构逐渐被抛弃。出现了基于attention的Transformer模型架构。
2022-04-09 NLP
Pretraining model
python多进程中的坑 python多进程中的坑
线上环境docker容器中使用python多进程开发时遇到另一个小坑，做一下记录。问题表现为docker容器卡死，不执行程序并且也不再消费消息队列中的任务。
2022-02-15 python
多进程
Don't stop pretraining Don't stop pretraining
如今很多NLP任务都会在Bert等预训练模型的基础上进行fine-tuning，可能很多人没有意识到在任务领域上进行新的预训练会进一步提高模型效果，下面这篇论文就从多个实践角度证明了这种方法的可行性。
2021-12-11 NLP
Pretraining model
NER技术的探索与实践 NER技术的探索与实践
命名实体识别（Named Entity Recognition，简称NER），是指识别文本中具有特定意义的实体，主要包括人名、地名、机构名、专有名词等，一般的也可以识别特定类型的、人为规定的实体。
2021-11-01 NLP
NER
神经网络语言模型 神经网络语言模型
语言模型本质是计算给定序列的概率，而神经网络强大的非线性拟合能力很适合拟合概率分布。并且神经网络模型可以获取到当前词汇下文的信息，这一点是N-gram语言模型所不具备的，另外神经网络模型能够利用到的的上下文词汇长度要比N-gram模型长的多。
2021-08-06 NLP
语言模型 神经网络
语言模型——N-gram模型 语言模型——N-gram模型
N-gram模型是一种基于马尔科夫假设的语言模型，即当前词出现的可能性大小只与这个单词前面一个或者几个单词有关，而与这几个单词之外的其他单词无关。
2021-05-26 NLP
语言模型 N-gram
语言模型概述 语言模型概述
语言模型（Language Model），是对语句的概率分布的建模。对于语言模型，输入为字或者单词组成的序列，输出为这个序列的概率。
2021-05-03 深度学习
语言模型 NLP 概述
1 / 4