从Transformer、BERT到GPT2和XLNet:高端玩家如何用论文互怼

从Transformer、BERT到GPT2和XLNet:高端玩家如何用论文互怼
    这篇文章源于和实验室同学吃饭时的一次聊天,当时就觉得很有意思,就顺便写下来了——自然语言处理的历史源远流长,不过这篇文章要讲的故事得从机器翻译说起众所周知,谷歌的机器翻译一直是业内标杆,追求者众,但是谷歌显然欲求不满于是在2016年上线了全新版本的神经网络翻译系统,而这个系统就是基于RNN全家桶的,毕竟RNN的优势就在...

人脸系列:人脸检测、人脸关键点定位、人脸优选、人脸对齐、人脸特征提取、人脸跟踪、人脸活体检测

人脸系列:人脸检测、人脸关键点定位、人脸优选、人脸对齐、人脸特征提取、人脸跟踪、人脸活体检测
    一、一点想法缘由:最近想整理下从事人脸方向的所有查阅过的论文,做过的相关实验,因为随着时间的推移,自己总会遗忘当初的一些想法,所以想好好整理下自己的学习笔记。过程:本系列包括从人脸检测、人脸关键点检测、人脸优选、人脸对齐、再到人脸特征提取的一系系列过程,每个模块都有尝试一些网络结构和方法,因为自己主要部署在嵌入式平台、...

模型的微调fine tune

模型的微调fine tune
    之前的教程我们说了如何使用caffe训练自己的模型,下面我们来说一下如何fine tune。所谓fine tune就是用别人训练好的模型,加上我们自己的数据,来训练新的模型。fine tune相当于使用别人的模型的前几层,来提取浅层特征,然后在最后再落入我们自己的分类中。fine tune的好处在于不用完全重新训练模型...

训练集、验证集和测试集的意义

训练集、验证集和测试集的意义
    在有监督的机器学习中,经常会说到训练集(train)、验证集(validation)和测试集(test),这三个集合的区分可能会让人糊涂,特别是,有些读者搞不清楚验证集和测试集有什么区别。I. 划分如果我们自己已经有了一个大的标注数据集,想要完成一个有监督模型的测试,那么通常使用均匀随机抽样的方式,将数据集划分为训练集...
共6条记录
返回首页
返回首页 img
返回顶部~
返回顶部 img
';