免责声明:网站内容仅供个人学习记录,禁做商业用途,转载请注明出处。

版权所有 © 2017-2020 NEUSNCP个人学习笔记 辽ICP备17017855号-2

卷积神经网络(CNN)与循环神经网络(RNN)原理入门

随着深度学习的快速发展,卷积神经网络(CNN)和循环神经网络(RNN)已经成为计算机视觉和序列建模中的两大核心模型。本文将简要介绍它们的基本原理、应用场景,并通过示例代码展示它们的基本使用方式。 一、卷积神经网络(CNN) 1. 原理简介 CNN 是专为图像处理设计的一类深度神经网络,它利用局部感受野、权值共享和池化操作,显著降低了参数数量,并提高了图像识别任务的效果。 核心组成部分包括: 卷积层(Convolutional Layer) :提取图像局部特征。 激活函数(如 ReLU) :引入非线性能力。...

继续阅读 »
分享到:

pytorch中提高模型可复现性的几个设置

最近被模型的可复现问题弄得不堪其扰,现在勉强算是解决了,记录一下 首先是最常规的随机种子设置 python中随机种子 random.seed(seed) numpy中随机种子 np.random.seed(seed) torch中随机种子 torch.manual_seed(seed) 部分博客中还记录了给GPU设备设置随机种子的设置,torch.cuda.manual_seed给当前GPU设备设置随机种子,torch.cuda.manual_seed_all给所有GPU设备设置随机种子,但 官方文档 中已...

继续阅读 »
分享到:

RESTful API 介绍

根据找到的资料介绍一下RESTful API。之前已经在网上搜了不少次,想找一些资料,但是都不是很满意,今天才发现 维基百科 上的资料难得的对不熟悉的人也较为友好。 REST这个概念表示 representational state transfer,由 Roy Fielding 在2000年提出,并应用于HTTP1.1的实现,与URI的标准的设计。 其中下列几个要求 Client-server architecture :服务端与客户端相分离, Statelessness :无状态,在请...

继续阅读 »
分享到:

度量学习(Metric Learning)中几个Ranking Loss Functions的实现

分享一下偶然看到的这几个函数的pytorch实现。 里面有 ContrastiveLoss , BatchHardSoftMarginTripletLoss , BatchSemiHardTripletLoss ........虽然还是少几个相关的损失函数 今年年初和去年年初做的一个东西里要用到这几个东西,但是搜了很久,翻来翻去,代码实现很难找到。不得已自己写了不少例如online batch hard mining之类的东西,为花掉的时间感到心痛。不过这个库不少代码四月份才上传上去。 ht...

继续阅读 »
分享到:

NLP零样本学习

本文主要是选择性意译以及个人总结,文章链接放在文末。 零样本学习(zero-shot learning, ZSL), 指的是通过观察不属于训练期间所见过标签种类的样本,并对其真实标签进行预测。 目前在图像分类领域与NLP领域,有了比较成熟的预训练方式,比较常见的是few-shot learning,即通过预训练模型与少量的标注训练集进行训练与预测,并且达到了比较好的效果。 而为了做到ZSL,在图像领域一般使用featurizer对标签文本与图像分别生成嵌入,并在可用的标签子集与图像上...

继续阅读 »
分享到: