哇非常感谢youtubes
AI算法谢谢AI你好世界
这是Suraj和电脑都很不错
从数据电子表格中学习
充满了数字， 但我们人类
用不带数字的单词进行交流
AI的子域称为自然
语言处理或NLP专注于
使计算机能够理解和
用这种方式用人类语言交流
视频我将介绍NLP的进展情况
多年来，直到2019年，他们没有
解释如何使用尖端模型
被称为地球，令人难以置信
任何人都能轻松 不是我对 任何人
建立正确的NLP应用程式现在好了
特别是用Bert来学习a
执行的亚马逊评论数据集
文本分类和自动
摘要语言是一种方法
代表信息和我们人类
从字符串中解释此信息
通过评估三种不同的文本
标准语法语义和语用学
基本上是meme评论语法描述
通常是语言的形式
由语法自然语言指定的是
比正式复杂得多
用于编程的语言有
我遵守许多语法规则
在E之前除了C之后用923
异常语义描述了
的单词或句子的含义
语言和语用学描述了如何
这些词语与整个世界有关
这是关于考虑他们的背景
了解这些之间的区别
三个标准看看
以下四句话
句子在开始时是合适的
一篇文章
它在句法上是语义上的
务实地纠正第二个
句子是语法和
语义正确但务实
第三个听起来有些古怪
句子在句法上是正确的但是
语义错误，最后一个
这三个句子都不正确
战线
句法语义和
实用的计算机科学家
一直在创建自动系统
尝试这只做60左右
多年来，这令人难以置信
我们可以追踪的年轻科学学科
NLP的历史可以追溯到1950年的时候
着名计算机科学家本尼迪克特
cumberbatch 我的意思是Alan Turing出版
一篇名为“计算”的标志性论文
机械和智能哪个
提出了什么现在称为图灵
测试作为真正智力的标准
图灵测试提出的问题是
一个计算机程序可以欺骗人类
认为这是一个通过对话的人
几年后，诺姆乔姆斯基成名
语言学家出版了一本书
详细说明的句法结构
基于规则的如何构建的系统
语法正确的短语和这个
启发了许多基于规则的方法
NLP 通常会产生一个句子
通过提取句法信息来完成
从实际上是一个数据库，直到
20世纪80年代，大多数NLP系统基于a
一套复杂的手写规则，但在
20世纪80年代后期的头发草甸成了一个
关于更多相关的不幸现实
注意到NLP发生了一场革命
研究人员开始使用机器
学习语言算法
处理而不是基于规则
算法主要是因为增加
在可用的计算能力
这个策略跑赢大盘
一些最早的基于规则的系统
使用学习算法，如决策
树木产生坚硬的if-then系统
规则类似于现有的手写
规则， 但随着时间的推移研究人员
越来越青睐统计模型
做出概率性决定
什么是单词或句子应该听起来
喜欢或意味着而不是基于规则
决定
如今和LP系统一样喜欢讲话
识别软件依赖于此类
统计模型来预测哪些
用户可能会说出单词
更可靠的Alexa告诉我一个
照片播放照片
没有一类统计模型被称为
深度神经网络一直是关键
在最近的大部分NLP中都是司机
在各种各样的任务中取得成功
像机器翻译自动
摘要和情感分析和
在2019年免费开源工具，如pi
火炬合作和各种文本数据集
使个人和团队成为可能
在全球范围内创造强大
使用NLP 解决的应用程序
例如clavo的现实问题是
一家芬兰创业公司提供即时服务
电子商务的网站搜索解决方案
商店他们正在使用文本分类
提供相关的搜索结果
购物者和可行的见解
店主叫另一家创业公司
英语中心旨在进行学习
给用户的英语更有趣
即时反馈他们的发音
使用语音识别技术
yummly
正在建立食谱平台
建议和搜索他们使用NLP
了解分析和连接用户
随着他们最喜欢的食谱坚持
你去之前建立一个牛仔或女牛仔
你需要立即启动NLP
了解一个概念真的很好BERT
它代表双向编码器
来自变形金刚的陈述我会
解释每个单词的含义
第二个伯特是一个训练有素的人
谷歌发布的语言模型
几个月前，这是最多的
迄今为止NLP取得了重大突破
语言模型能够学到这一点
基于XML的单词出现概率
文本传统语言的例子
使用前面的模型训练模型
和文字来预测下 一个，但
伯特是一个语言模型，这是
通过使用前面和后面的训练
因此，在做出预测时的下一个词
单词而不是单位
定向伯特被用来建立一个
11和LP任务中的最新技术水平
包括问题回答情绪
分析和自动文摘全部
这些任务涉及两个步骤
过程培养深层语言模型
一些文本数据然后给那些
任务特定模型的表示
对于这个过程的第一步
去到技术在过去的几年里
被称为特维克一词，它创造了一个词
表示也称为单词向量
它映射训练数据中的每个单词
设置为代表某些 的向量
其含义的方面， 例如
ting的单词向量将包括
有关州和性别的信息
表示通常是受过训练的
像维基百科这样的大型未标记数据
转储然后在标签上使用火车模型
情绪分析等任务的数据
这允许模型利用
从较大的数据中学习的语言数据
套
Tuvok和类似的问题
单词矢量技术就是他们
没有把背景考虑在内
例如，银行会有一个
不同的含义取决于
在他们遇到麻烦时使用的上下文
捕捉组合的意义
这些限制激发了这一点
使用循环网络作为语言
模型，而不是代替训练
模型， 为每个映射一个矢量
这些技术训练神经
网络将矢量映射到每个单词
基于整个周围的背景
如今变压器是一种新型的变压器
神经网络已经全部黯然失色
经常性网络的变化
语言建模变压器包括
编码器网络和解码器
网络所以短语Bert意味着使用a
变压器网络创建
双向编码器表示
然后可以喂这些表示
进入某个特定NLP的另一个模型
任务
不像循环网络变压器
像伯特这样的网络不使用经常性的
在所有的联系，他们改用
改为关注单词序列
注意力在神经科学中被定义为
选择性集中的能力
对环境的 同时 的一个方面
在深度学习中忽略了其余的我们
模仿这个概念
一种方式使用注意机制
这样做是为了对输入进行编码
序列不是单个固定向量
但有一个模型学习如何
为每个输出时间生成一个向量
步骤通过添加附加的组
稍后将如此优化权
它不只是学习输出什么
学会如何有选择地权衡部分
输入数据最大化
Bert输出正确的可能性
由几个注意块组成
防止它像我一样患有ADHD
每个块使用转换输入
如果输入序列，则进行矩阵运算
n个字的编码器将输出a
这些张量的n个张量序列
解码器用来输出序列
结构优化的话
使用梯度下降链接如何
在视频描述中工作很棒
关于伯特的事情是它完全来了
开箱即用
谷歌花了好几天用了好几天
云TP用于训练几个
语言所以谢谢谷歌我猜
我们所需要做的就是对决赛进行微调
伯特对我们自己的训练数据层
设置我们选择的任何任务和它
将受益于伯特的
现有的知识让我们看看我们的
亚马逊评论的数据集，我们将
用于两个任务的文本分类
和文本自动摘要
我们正在谈论的分类
分类文本块可能是
从句子大小到整个句子
段落长度为好
审查或差评我们将首先克隆
Bert进入我们的环境然后我们会
下载这些bert模型文件
表示它的重量值
从预训练中学到了我们将要做的
需要预先处理我们的数据
艺术预计列一个意愿格式
是一个专业ID列二是标签
行作为INT列3是一个
所有相同字母的列都是a
我们需要包含的一次性专栏
因为Bert期待WTF正确
滚动它和文本示例将
在最后一栏中我们想要的那些
为了分类，我们可以轻松地做到这一切
与大熊猫Python库，一旦我们
格式化我们可以运行的数据
训练结束后进行训练
我们将用它来预测新的文本数据
通过选择新训练的重量
文件作为输入以及一些测试
审查，它将输出一个
分类无论是好还是坏
如果我们想要执行，请立即查看
我们可以使用自动摘要
相同的学习嵌入首先需要
聚类然后提取一个
来自每个群集的句子这是一个
无监督技术这些嵌入
将聚集在高维度
矢量空间所在的数量
群集等于所需的数量
我们在每个摘要中想要的句子
一组句子嵌入可以
解释为一组语义
类似的句子，其含义可以
仅用一个候选句子表达
在总结这个候选人的句子
被选为其中的句子
矢量表示最接近
我们然后订购集群中心
候选句子形成摘要
此订单由头寸 决定
他们相关的句子
群集这种技术被考虑
提取总结令人惊叹的权利
要记住三件事
这个视频自然语言处理
是计算技术的研究
帮助计算机理解和
用人类语言沟通谷歌
Bert的模型让任何人都可以 轻松 完成
大大创建一个NLP应用程序
减少培训时间
数据和计算是必要的，我们可以
执行像文本一样的NLP任务
摘要和文本分类
使用停泊你想做什么
随后NLP 在评论中告诉我
部分，请订阅更多
编程视频现在我必须
分析一些标签
所以谢谢你的收看