哦，这很有趣，
好吧，这是一个 cs50 技术讲座，
非常感谢大家的到来，所以
大约一周前，我们分发了
Google 表格，您可能已经在上午 10 点
52 分和上午 11 点 52 分看到了我们收到了 100 个
回复，我 think 证明了
这个 AI 世界有多少兴趣，在 GPT 等处开放 Ai 和 GPT，
事实上，如果你对
每个人都在谈论的内容有点熟悉，但你还没有
尝试过 你自己喜欢这是
你可以试用这个工具的 URL，
你可能听说过聊天 GPT 你
可以在那里注册一个免费帐户并
开始修补其他人一直在使用的东西
然后如果
你更多
如果你今天和我们在一起，你可能就是这种类型的应用程序，
特别是开放人工智能有它自己的
低级 APIs，你可以通过它把
人工智能集成到你自己的软件中，
当然，就像计算机科学中的情况一样，
还有更多
建立在这些技术之上的抽象和服务，
今天我们很高兴我们
来自麦吉尔大学和轮船的朋友们加入我们，
呃，sill 和 Ted，
你很快就会听到他们与
我们谈论 他们如何
使用其中一些非常相同的
技术使构建部署共享应用程序变得更容易，所以我们感谢他们
今天接待我们在 Plimpton 的朋友
Jenny Lee 和校友，他们今天和我们在一起
但事不宜迟让我
扭转局面 到 Ted 那里，下午
1 点后不久就会在外面供应披萨和披萨
研究这一切是如何工作的
GPT
和其他语言模型的大脑内部发生了什么，然后
我将向您展示一些我们在
人们如何
构建应用程序以及应用程序倾向于工作的基础上看到的例子
现实世界，所以我们的观点是
我们正在为 AI 应用程序构建 AWS，因此我们可以
与许多正在
构建和部署他们的应用程序的制造商交谈，并
通过它看到
频谱的实验端，也看到什么
样的 应用程序被推到
那里，变成了公司，变成
了副业项目我们昨天做了一个很酷的
黑客马拉松，非常感谢
内曼、大卫马林和 cs50
帮助我们把所有这些放在一起，
哈佛主办了它，有
两个会议很多
如果你去 steamship.com hackathon，
你会发现很多人建造的东西，你会发现很多指南，很多
人建造的项目，你可以
跟着我们有一个文本指南
以及一个快速插件，如果
你想做的话 它是远程的或你
自己的，
嗯，所以为了准备好，我们
今天基本上要谈论两件事，
我希望你能离开并
真正知道如何在你
开发和修补时使用，一个是什么
GPT 以及它是如何工作的，除了这个可以预测事物的神奇机器之外，还可以很好地
了解它内部发生的
事情，然后两个是
人们如何使用它进行构建，然后
重要的是，
如果你' 如果你是一名开发人员，如果你有
CS50 的背景，你应该能够
学习并开始构建一些
很棒的应用程序我昨天已经遇到了一些
CS50 的毕业生，
他们所做的事情非常了不起所以
希望这对我有用 我要把它踢到
门槛上，谈谈
GPT 的一些理论前沿，
是的，谢谢你，泰德，嗯，我的名字是
我是
麦吉尔大学数字人文学科的研究生，我在麦吉尔大学学习文学
、计算机科学和语言学
同样的呼吸，我在过去几年发表了一些
研究，
探索语言
模型和文化的可能性，特别是我的
一半或任何演示文稿是
向你描述什么是 GPT，这
在 15 中真的很难解释
分钟，甚至还有很多
我们不知道的事情，但一个很好的方法
是首先考虑
人们称之为 GPT 的所有东西
或描述符，这样你就可以称它们为
大型语言模型，你可以称它们为
通用逼近器 从计算机
科学，你可以说它是一个
生成的人工智能，
我们知道它们是神经网络
曾经使用过 Chachi PT 你可以插入
你论文的一个坑得到一些反馈它
是一个令人惊讶的内容
生成器人们用它来做
文案 jasper.ai pseudorite 等等
它是一个代理所以现在真正热门的东西
如果你可能已经看到 它在
Twitter 上 Auto GPT baby AGI 人们正在
提供这些东西工具并让
它们在野外自由运行以
与世界计算机等进行交互
我们显然将它们用作聊天机器人并且
实际架构是一个 Transformer
所以有很多方法 描述 GPT
和其中任何一个是
开始对话的一种非常完美的方式，
但出于我们的目的，我们可以将
其视为一种大型语言模型，
更具体地说，一种语言模型
，一种语言模型
是一种语言模型，如果 你允许
我使用重言式，但实际上它的作用
是它产生了
一些词汇的概率分布所以让
我们想象一下我们的任务是
预测序列中的下一个单词
I am 所以如果我给神经网络
I am what 英语中的所有单词
是下​​一个最有可能跟随的单词，
其核心是 GPT
被训练来回答什么
以及它是如何做的它有
50 000 个单词的词汇表并且它
大致知道整个互联网上哪些
单词是 可能会以
某种顺序跟在这 50 000 的其他单词之后 最多
两千个单词 最多四千个
最多八千个 现在
最多三万二千三个 pt4 所以你
在这里给它一个序列 我是 超过
50 000 个词汇 words 它给
你后面每个单词的可能性
所以这里是 I am perhaps
the word happy fairly frequency 所以
如果我们看所有的单词我们会得到很高的概率
所有的
英语话语它可能是我很伤心也许
这是一个 有点不太可能我是
学校真的应该在最后
因为我认为没有人会
说我是比约克这有点
不太可能但它
比快乐悲伤的可能性要小但
仍然有一些可能性 它，
当我们说它很可能
实际上是一个百分比，就像
快乐跟随我可能是百分之
五的时间悲伤的照片我
可能是百分之二的时间或者
其他任何
我们给 GPT 的每个词
它试图预测什么 下一个单词
跨越 50 000 个单词，它给出了
这 50 000 个单词中的每一个单词，
呃数字反映了它的可能性，
发生的真正神奇的事情是你可以生成新文本，所以
如果你给 GPT I am 并且它预测
快乐 作为最有可能
超过五万个的词，你可以将
它附加到 I am 所以现在你说我很高兴，你
再次将它输入模型你
采样另一个词你一次又一次地将它输入
模型
并且 有很多不同的方式，
我很高兴我很伤心可以去，你
添加一点随机性，
突然间你有了一个语言模型，
可以写出可以说话的文章和
很多真正出乎意料的事情
甚至五年前我们都没有预测到的东西，所以这
一切都是相关的，如果我们继续
扩大模型，我们
在 2012 年给它更多的计算 Alex 出来了，
我们发现我们可以给模型，
嗯，我们 可以在 gpus 上运行模型，这样我们就
可以加快这个过程，我们可以给
模型提供从互联网上下载的大量信息，
它学习的
越来越多，
它给你的概率越频繁，
它看到的例子越多，它就会变得更好
互联网上的英语，所以我们必须将
模型训练得非常大非常
宽，我们必须训练它
很长时间，随着我们这样做，
模型变得越来越好，
表现力和能力也越来越
强 有点聪明，出于
我们不明白的原因，
但问题还在于，
因为它学会了复制
互联网，所以它知道如何用
很多不同类型的文本和很多
不同的寄存器说话，如果你开始对话的
话 聊天 GPT 你能用
几句话向一个六岁的孩子解释
登月吗？ 对于一个 6 岁的孩子，我
会给你一大堆
类似的东西，因为这些东西看起来很
可能按顺序出现，它
不一定理解它
被问到一个问题必须用
gpt3 所做的答案来回应 没有用于
回答问题的接口设备，
openai 的科学家们想出了
解决方案，让我们给它
一大堆问题和答案的例子，
这样我们首先在互联网上交易
，然后我们用一个整体来训练它
一堆问题和答案，
因此它具有互联网知识，
但真正知道它必须
回答问题，那是
聊天 GPT 诞生的时候，也是它
在一个月内获得 1 亿用户的时候，我
认为它会打勾 tock 的记录
在一个月内达到 2000 万，这是一件了不起的事情，
对于很多人来说，他们去了哦，
这东西很聪明，我可以回答我
可以问它问题，它会回答，我们
可以共同努力找到解决方案，
那是因为它是 仍然预测
单词它仍然是一个语言模型，但它
知道
在问答框架中预测单词，
所以这就是提示，这就是
指令调整，这是一个关键词，
如果你见过首字母缩略词
强化，​​那就是 rlhf 与人类
反馈和所有这些相结合意味着
今天出现的模型和今天出现的语言预测器类型可以
以 q a 形式运行
gpt4 独家只有 Align
模型可用，这是一个非常
好的坚实基础 建立在
因为你可以做各种各样的事情
你可以问 Chachi PT 你能
为我做这个你能为我做那个你可能已经
看到开放 AI 允许
插件访问聊天 CPT 所以它可以
访问 Wolfram 它可以 搜索网络 它
可以搜索 它可以为你做 instacart
它可以
在模型知道它不仅必须
预测语言而且它必须
解决问题
并且这里的问题给我一个
很好的答案后可以查找食谱 它突然
能够以一种
非常可靠的方式与世界交互，从那时起，
有各种各样的工具
建立在这个 q 上，chatgpt 使用的一种形式，
你有 Auto GPT，你有 Lang 链，
你有
反应，有反应纸，其中
很多这些来自并将
模型变成一个代理来
实现
任何模棱两可的目标是未来的
发展方向，这完全归功于
指令调整，我想
我会把它交给 Ted，他将
给出一个 演示之类的关于
如何使用 GPT 作为代理的东西
所以
好吧所以我是一个超级回复的人我
有点看东西然后想好
我如何添加这个乐高添加那个
乐高并将它们夹在一起 用
它构建一些东西，现在你知道
如果你回顾计算机科学的
历史，当你看看
1970 年计算机被发明之后所做的事情，
微处理器被发明，人们
正在做研究，比如我如何排序
数字列表，这是有意义的
工作，重要的是，这是
每个人都可以访问的工作，因为没有人
知道我们可以用这种
新型石油、这种新型电力、这种我们
创造的新型计算单元建造什么，一切都是游戏
任何人都可以参与那个游戏
来弄清楚它，我认为
现在关于 GPT 的真正令人兴奋的事情之一
是是的，它本身就是惊人的，
但是如果我们一遍又一遍地调用它，我们可以用它做什么，
如果我们 将
其构建到我们的算法中，并开始将
其构建到更广泛的软件中，这样
世界就真正属于你了，你可以弄清楚
这些基本问题，
如果你能以计算机不只是说话的方式
一遍又一遍地编写计算本身的脚本，你能做什么
有了它，但在它之上构建东西，
所以我们是一家托管公司，我们托管
应用程序，这些只是
我们看到的一些东西我将向您展示
它的代码演示，并尝试
解释一些思考过程但是
我想给你一个高层次的
概述，你可能已经
在 Twitter 上看到了这些，但是当它全部
排序到顶部时，这些是
我们今天看到的使用语言模型构建和部署的一些东西
一切从我
需要一个朋友我需要一个
有目的的朋友我想要一个教练我想要有人
告诉我去健身房做这些
练习我想要有人帮助我
学习外语问题
回答这是一个大问题这个
从你的新闻编辑室有一个
可以帮助你的 slack bot 是一切吗
这篇文章是否符合
我们新闻编辑室的风格指南一直到
你需要我的
家庭作业帮助或者嘿我有一些问题
我想让你问维基百科结合
它与其他东西合成
答案并将其提供给我效用
函数我将其描述为因为有
大量的事情
人类可以做到，或者
计算机可以做到，只要他们能够
获得语言计算语言
知识 这方面的一个例子是
阅读 Twitter 上的每条推文告诉我我
应该以这种方式阅读的那些我只会
阅读
对我来说真正有意义的那些我不必浏览
其余的创意图像
生成文本生成讲故事
提出其他做事的方法，
然后是这些疯狂的实验和
人们称之为婴儿 AGI 的东西，
其中 AI 自己决定做什么
并且是自我指导的，所以我将向您展示其中的
许多示例以及
代码是什么 看起来像，如果我是你，我
会把这些视为类别，
在这些类别中既要考虑
你可能构建的内容，又要寻找
入门项目以了解你如何
在线构建它们，
所以我要深入探讨
直接进入其中一些的演示和代码，
因为我知道
作为具有其中一些的高级图表的构建者，这是有趣的，
因为它是如何工作的，所以
大约你可以将
陪伴机器人视为有
目的的朋友 对你来说，有很多方法
可以构建所有这些东西，但是
你可以构建它的方法之一是简单地将
GPT 或语言模型包装在一个
端点中，该端点另外向
提示中注入你想要的一些特定观点
或特定目标
使用它确实在某种程度上很容易，但
也非常困难，因为您需要
迭代和设计 The Prompt，以便
它始终如一地执行您
希望它执行的方式，所以一个很好的例子
就是昨天有人在 hackathon 中构建的东西
并且 我只是想向
您展示他们构建的项目，
它是一个普通话成语教练，我将
首先向您展示代码的样子
我将首先向您展示演示
我想我已经把它拉到了
这里我们开始吧 这个
人想要创建的伙伴是一个朋友
，如果你给它一个特定的问题，它
会选择一个中国
成语，一个四字的 Chung you，
诗意地描述，就像这是一个
特殊的方式，你可以这样说，它
会告诉它 对她来说，所以
建造这个的人正在学习中文，
她想了解更多关于它的知识，嗯，所以
我可能会说一些我感到
非常难过的话，
它会思考一下，
如果一切都正常运行，它
会产生一个 这四个
字符的短语，它会
用一个例子来回应它，呃，现在我不知道
这是否正确，所以如果有人
可以叫我出来，如果这实际上是
不正确的，请叫我出来，
嗯，然后它会 最后说
一些鼓舞人心的话，嘿，你可以
做到，我知道这很难继续下去，所以
让我向你展示他们是如何构建这个的，
我呃
在这里提取了代码，所以这是
人们在黑客马拉松中使用的特定入门 replit
昨天我们把
事情拉到基本上你有一个
围绕 GPT 的包装器
，你可以做很多事情，但
我们会让你很容易
做两件事，其中之一是
在提示中注入一些个性，
我 稍后会解释该提示是什么，
然后第二个是 ADD
工具，它可能会执行
特定的操作，搜索网络或
生成图像，或将某些内容添加到
数据库或从数据库中获取某些内容，
所以现在已经完成了 你
拥有的不仅仅是 GPT，现在你
拥有 GPT，我们都知道它是什么
以及我们如何与之交互，但
你还添加了一个特定的镜头，
通过它与你交谈，并
可能添加了一些工具，所以这个
特殊的中国导师全部 开始
构建那是四行，所以
我认为这是一个问题，现在正在炒作
业内每个人的思想，
所以这是我们都会随便做的事情，
没有人真正了解我们
只是在未来说 LLM
嘿，在接下来的五分钟里，请
像老师一样说话，也许
但同时也肯定是，
也许在未来，
结束这些个性化端点是有意义的，
这样当我与 GPT 交谈时，我
不仅仅是在说话 到 GPT 我有一大群不同
伙伴的不同
伙伴，我可以和他们交谈
一位乐于助人的中文
老师，
通过解释适合它的 changu 来应对每一种情况 用
英语说话并解释 Chung 的
含义 然后提供关于
学习语言的鼓励
，所以
即使你不是 -programmer 你可以
只输入 deploy 它
会把它弹出到网络它
会把它带到一个电报机器人
然后你甚至可以与之互动嘿
我感觉太忙
并通过网络电报与它互动
这是
现在
从 CS 101 毕业的每个人都可以做到的事情，抱歉，我一直在使用
通用框架，
一直到业内专业人士，
您只需
在上面进行一些操作即可 有点像这种
原始的对话和情报单位，
所以陪伴
是我们看到的第一种常见的
应用程序类型，
所以
我们看到的第二种应用程序
如果对于你们中的那些人来说，它就会爆炸
呃，这种 Twitter 追随者
爆炸了，我认为过去几个月是
问答，我想解开
几种不同的工作方式，
因为我知道你们中的许多人可能已经
尝试构建其中一些此类
应用程序
它有几种不同的工作方式 通用
框架是
用户查询 GPT 并且它可能具有
通用目的知识 也许它
没有通用目的知识
但你想让它回复你的
是关于你写的文章的特定内容
或 关于
您的课程大纲的特定内容或
关于特定主题的联合国特定文件集的特定内容
，因此您
真正想要的是我们都希望
客户服务点就像
我们都与这些进行过交互一样 客户
服务机器人，我们在
做这件事的时候有点在敲键盘，
但
很快我们就会开始看到
非常高保真度的机器人，它们可以
舒适地与我们互动，这就是
作为工程师的大致方法
所以这是你作为工程师的游戏计划
第一步
获取你希望它响应的文档
第二步 如果你是一名工程师，现在把
它们剪掉
希望例如你可以把
它们切成干净的句子或干净的
段落或语义连贯的
部分，
老实说，大多数人这样做的方式真的很好，
这是一种简化，
往往会很好，你窗口
你有一个覆盖文档的滑动窗口
，你只需拉出
文本片段，
拉出那些文本片段，
你将它们变成一种叫做
嵌入向量的东西，所以嵌入
向量是一个数字列表，它
近似于某个意义点，
所以 你们都已经
在日常生活中自己处理过嵌入向量的
问题了，我知道你们这样做的原因
是因为以前每个人都
从 Yelp 订购过食物，所以当你
从 Yelp 订购食物时，你会看看它是什么类型的
餐厅 比萨饼
店是意大利餐厅
还是韩国烧烤店你看看有
多少星星它有一二
三四五你看看它在哪里
所以所有这些你都可以认为是
空间维度中的点
韩语 我家附近的四星级烧烤餐厅
这是一个三个
三个数字的向量，就是
这样，所以这是一千个
数字向量或一万个数字向量，
不同的模型产生
不同大小的向量，它只是将
文本块分块，把它变成
一个向量 近似意思，
然后你把它放在一个叫做
矢量数据库的东西中，矢量数据库
只是一个存储数字的数据库，
但现在有了这个数据库，当我问一个
问题时，
我可以搜索数据库，我可以说
嘿，问题是 cs50 是什么
教
数据库中的哪些文本片段具有
类似于问题
what does cs50 teach 的向量，并且有
各种技巧和 Empires 正在
改进这种通用方法，
但最后你的开发人员将
它简单地建模，
然后当你 有你的查询你
嵌入它你找到文档片段
然后你把它们放入提示
现在我们只是回到个性
陪伴机器人现在它只是一个
提示而提示是你是
回答问题的专家 请
使用数据库中的源文档结果回答用户提供的问题，
就是
这样，所以在对
这些客户服务点进行了数十年的工程设计之后，结果
证明只需几行
代码就可以构建它，所以让我向
您展示我之前制作的一个
带有 cs50 教学大纲的课程，所以我们可以把
它拉起来，
我可以说我在这里添加了 PDF，
所以我只是搜索了我不知道
我是否道歉我不知道
我刚刚搜索的是准确的还是最近的教学大纲
cs50 教学大纲 PDF 的网络我
把 URL 放在这里呃它加载
到这里这就像
部署了一百行代码
现在让我和它交谈我可以说
cs50 会教我什么
所以在下面 引擎盖现在发生的事情
正是幻灯片刚刚向
您展示的内容它提出了这个问题，
cs50 会教我什么它把它变成一个
Vector 近似的向量，而不完全
代表那个问题的含义
它查看一个向量数据库，
该数据库包含大量片段 从
该 PDF 中
提取一个文档，
然后将其传递给一个提示，提示说嘿，
你是回答问题的专家，
有人问你 cs50
教的是什么，请仅使用
源文档和源材料来回答它
如果现在这些源材料
材料被动态加载到
提示中，这只是基本的提示
工程，我想继续
强调现在令人惊奇的
是 Builders 是很多
事情都归结为非常有创意的
提示的战术重新安排，然后 在算法中
一遍又一遍地使用这些
算法并将其放入软件中，
因此结果可能是
谎言，可能是编造的东西，
可能是幻觉，cs50 将
教学生如何通过
算法思考并有效地解决问题，重点
关注诸如此类的主题 作为
抽象然后它返回
从中找到它的源文档
所以这是另一个大的 bigory 其中
有大量
的潜在应用程序因为你
可以为每个上下文重复你知道你
可以任意创建其中的许多
一旦它是软件因为一旦它是
软件，你可以一遍又一遍地重复它，
所以对于你的宿舍，对于你的
俱乐部，为了你的闲暇，对于你的电报，
你可以开始开始输入
信息片段，然后回复它，
它不一定是文件，你
也可以 将它直接加载到提示中
我想我已经把它拉到这里如果
我不这样做我就跳过它哦
在这里我们用
另一种方式你可以回答问题
因为我认为总是
鼓励最简单的可能方法是健康的
对于一些
你不需要设计这个巨大
系统的东西 拥有一个数据库
很棒 使用嵌入很棒
使用这种大方法很棒 它很漂亮 它
可以扩展 你可以做很多事情但
你也可以逃避很多事情 只是
把它全部推到一个提示符中，作为一名
工程师，我知道是的，我们
这里的一位队友总是说，
工程师应该渴望变得懒惰，我
完全同意你作为一名工程师
应该想要设置自己 这样
你就可以追求懒惰的路径来
做某事
所以这里是你可以如何做
一个仅带有提示的问答系统的等价物
假设你
有 30 个朋友并且每个朋友都擅长
特定的事情或者你可以
知道这个同构 对于许多其他
问题，您可以简单地说，嘿，我
知道某些事情，这是我知道
用户会问我一些
我们应该如何回应的事情
，然后您将其加载到
代理可以访问 GPT 的代理中，
您可以转移部署它 现在你
有了一个可以连接到
telegram 的机器人，你可以连接到 slack，
这个机器人现在不会总是给你
正确的答案，因为在某种程度上
我们无法控制下面模型的方差，
但是 它会倾向于回答
这个列表，并且
它倾向于的程度在某种程度上是
两个行业都在努力的事情，只是
让每个人都有能力，
但你也在做及时的工程来
收紧错误 bars on it
所以我会再给你看几个
例子 呃然后在大约八
分钟后我会把它转为问题
因为我相信你已经知道很多关于
如何构建东西所以只是给你
一种我们是陌生人的感觉，
这是一个我没有给你的演示，
但如果你来找我，你
要说泰德，
我想要一个周末的喧嚣人，
我应该建造什么 holy moly 有一套
我会描述为实用函数的应用程序
我不喜欢这个名字，
因为它听起来并不令人兴奋，但
它确实令人兴奋，
而且它很容易实现，可以自动
执行需要基本
语言理解的任务，所以
这个例子是生成一个单元 测试 我不
知道你们中有多少人曾经
写过测试，你就像哦，
拜托，我可以通过这个 我可以
通过这个，如果你是一个
喜欢写测试的人，你是一个幸运的
人
查找函数的文档
重写函数 使某些
东西符合贵公司的
准则 做品牌检查
所有这些都是
相对上下文无关的操作或对
需要语言理解的信息进行范围上下文操作的事情
实际上，您可以将它们视为
现在可供您使用的东西，
作为软件构建者作为周末
项目构建者作为初创公司构建者，
您只需要
围绕它构建界面并
在对他们有意义的上下文中呈现给其他人
供他们
消费，所以这
是非同寻常的空间 我的意思是，
现在有了这个新工具，这是所有人类努力的空间
公司
当你构建一个项目时，你
不想从锤子开始，因为你
希望你想从一个问题开始，
这通常是正确的，但我的
上帝，就像我们刚刚得到了一个非常酷的
新锤子和一个 在某种程度上，我
会鼓励你至少
在周末随意地跑来跑去，用它打东西
，看看从实验者的角度来看，
从修补匠那里得到的建设者会发生什么，
然后是最终的
创造力，这是另一个巨大的超级应用程序，
现在我' 我主要生活在文本世界中
，所以我将谈论
基于文本的事物，我认为到目前为止，这
主要是在图像世界中成长，
因为我们是这样的视觉
生物，您可以
生成的图像只是 与 AI 交错
肯定会带来很多关于
IP 和艺术风格的问题，
但如果你是
我们在野外看到的建筑商，那么这个模板
大致如下，
我想指出的是领域
这里的知识 这确实是
这张幻灯片的目的是要触及
领域知识的重要性，
所以很多人
大致发现如下的创作过程
想出一个关于生成可能性的好主意
编辑你过度生成的内容
像任何人一样重复 谁当过作家都
知道，当你写的时候，你写得
太多了，然后你必须删除很多，
然后你修改，你写得
太多了，你必须删除很多，
这个特定的任务对
AI 来说非常棒，其中之一 它对 AI 来说很棒的原因
是因为它允许 AI 出错
你知道你已经预先同意你
将删除很多它所以如果你
预先同意嘿我只是要构建
你知道生成五个 故事的可能性
我可能会讲
广告标题的五种可能性
我
可能写的东西的五种可能性 我可能写的关于你的论文
预先同意 如果它
有点长也没关系，因为你将成为介入的
编辑 这是
你真正应该
带到桌面上的事情，不要将其视为
一项技术活动，将其视为
你不让 GPT 负责的机会，
而是让你
更紧地掌握方向盘我认为至少在 python 中
或您用于编程的语言，
因为您拥有
在这些生成中使用 GPT 的领域知识，所以
让我向您展示我的意思的示例，
这是一个很酷的应用程序，有人
为编写 Atlas 项目创建了 所以
写 Atlas 是一组短篇小说，
你可以把它想象成短篇小说的 Goodreads，
这样你就可以进入这里，你
可以浏览不同的故事，这
是有人创造的东西，你
可以在故事中输入
你喜欢的描述，然后 这将需要大约
一分钟的时间来生成，所以我将在
它生成时和
它正在工作时谈论它正在做什么，
我将在一秒钟内向您展示代码是
它正在搜索
故事集合中的类似故事 这就是
领域知识部分的内容，
然后它使用 GPT 来查看
您想要的是什么，并使用关于
编辑如何书商如何思考的知识，
专门通过该视角的镜头生成一组建议，
目标是 写下
我们
有时会在当地书店看到的漂亮的手写便条，它
被钉在一本书的下面，所以它
不只是说嘿，
你可能会喜欢这个 关于
你给它的东西，它要么
停滞不前，要么需要很长时间哦，
我们走了，这是
它的建议，
特别是这些东西，这些
东西至少目前只有人类才能知道，
呃，两个人，特别是那个
说的人 他们想阅读一个
故事，该故事是输入的文本，
然后是添加领域
知识以编写
与语言模型的一系列交互脚本的人，
以便您可以针对该领域知识提供的信息提供非常有针对性的
推理，
因此对于
这些 实用程序应用程序为您带来您的
领域知识
让我实际向您展示它
在代码中的样子，因为我认为了解它的
简单性和可访问性非常有用
这实际上是
一组提示所以为什么他们可能
喜欢特定位置这里是
提示这是一个
开源项目
，它有很多例子，
然后它说好，这是
我们感兴趣的，
这里是观众，这里有几个
例子，说明人们为什么会喜欢某个
特定的东西 对于观众来说，
这只是另一个
相同主题的提示，相同的解释，
如果你到这里看看它是如何
完成的，
暗示这个故事是什么，第
174 行到第 203 行，它真的是，一遍又
一遍，我想
给你留下深刻印象，这真的是
触手可及，这真的只是
第一步的 20 多行在数据库中搜索
类似的故事第二步
假设我有类似的故事
提取数据第三步用我
在 Python 中的领域知识现在运行这些
提示步骤 四个将其准备到
输出中，所以我们正在编写的脚本
本身
就是人类认知的某种近似值，
如果你愿意隐喻地去那里，
我们不是你知道我们
不确定我不会权衡
我们所处的位置是开放的 AI 呃
生命形式的
争论
好吧 呃一种非常遥远
的东西然后我会呃把它绑起来
提问因为我知道
可能有很多而且我也想
确保你 在你的肚子里吃一个很棒的披萨，
那是一个婴儿 AGI Auto GPT
是你可能
在 Twitter 上听到他们的名字
所以这是用户说他们想要
一些东西，
然后 python 调解
与 GPT 的交互，或者 GPT 本身会根据
你从一些提示工程中添加的个性的变化来做一些事情，
如果你想去的话，这真的很有用，很容易控制
production 如果你想建立一个
周末项目 如果你想建立一个
公司 这是现在做这件事的好方法
这是疯狂的 如果你还没有
在 Twitter 上看到这些东西我肯定会
建议去搜索它 这是 如果
你让 GPT 自言自语然后告诉自己该怎么做，那么如果你将 GPT 放在一个 for 循环中，那么它会
发生什么？
它是一种紧急行为，
就像所有紧急行为一样，它
从几个简单的步骤开始 康威的
生命游戏
现实中的许多元素原来是适合
印在 T 恤上的数学方程式，但是
当你及时向前播放它们时，它们会
产生 DNA，它们会产生人类生命，所以
这大约是
第一步，迈出人类目标
第二步 你的第一个任务是给
自己写一个步骤列表，这是
关键部分现在重复
现在做步骤列表你必须让
你的代理人有能力
做事所以它实际上只限于做
你给它的工具 做
什么以及它有什么能力去做 很
明显，这仍然是一组
目前正在进行的实验，
但
我们将在未来几年看到它的展开
，这就是 python
停止成为的场景 如此重要，因为
我们已经赋予它实际
自我指导它正在做的事情的能力，然后它
最终给你一个结果，我想再
给你一个例子，再次给
你留下深刻印象，其中有多少
是即时工程
这是多么少的代码让我告诉你
婴儿 AGI 的样子
所以这是一个婴儿 AGI 你可以
连接到 Telegram
这是一个有两个工具的代理
所以我没有向你解释什么
是代理我还没有 向你解释什么
是工具 我会给你一个简短的
一句话描述 代理只是一个
词，意思是 GPT 加上
它生活在其中的更大的身体，也许那个身体有
个性，也许它有工具，也许
它有 python 调解 它在
其他工具上的经验只是
代理可以选择做一些
事情的方式，比如想象一下，如果 GPT 可以说
订购比萨饼，而不是你看到
文本订购比萨饼导致
订购比萨饼，这是一个工具，
所以这些是 它有两个工具 一个工具
是生成待办事项列表 一个工具是
在网上搜索
然后在这里
它有一个提示说嘿你的目标
是建立一个任务列表然后执行该
任务列表然后这只是 放置
在一个线束中，一遍又一遍地执行它，
所以在下一个任务之后会
取消该任务的结果
并继续进行，
这样你就会得到这个
启动循环，基本上你
启动它然后代理是
自言自语自言自语
所以除非我错了我认为就
我们在
人们如何部署软件领域所看到的而言这还没有达到生产但是如果你
想深入了解
实验中最疯狂的部分，这
绝对是您可以
开始的地方之一，而且它确实触手可及，您
所要做的就是下载
它的一个入门项目，您可以
在提示中看到这里是
您如何开始的 迭代的过程
很好，所以我知道那是超高
级别的，呃，我希望它有用，呃，我
认为从该领域自下而上，
我们所看到的以及人们正在
构建的这种高级别
应用程序类别 人们正在
制作所有这些应用程序，这些应用程序
是每个人都可以使用的应用程序，这
真的非常令人兴奋，嗯，我
建议 Twitter 是一个闲逛的好地方，嗯，
构建东西，呃，
Twitter 上有很多 AI 构建者，嗯，发布
和 如果我认为我们在
比萨到达之前还有几分钟，也许还有
10 分钟，请继续前进哦，所以如果
有任何问题，我们为什么不直接
开始呢，因为我相信
你们都有一些呃呃问题 我
想我结束得有点早是的，有
40 次是的，
你有任何类似的实际
建议吗，
所以问题是
你如何处理幻觉
问题，就像你给它上物理
课并问它一个问题
一方面，它似乎正确地回答了您，
另一方面，
在专家眼中，它似乎是错误的 40 次
70 次 10 次，这是
一个大问题，那么
开发人员实际上可以采取哪些方法
用于减轻我仍然会给出答案
你可能也有一些特定的东西
所以一个高层次的答案是
使这些东西能够
合成信息的同一件事是
它让你产生幻觉所以
很难拥有的部分原因 你的蛋糕并
在一定程度上吃掉它所以这是
游戏的一部分事实上人类也这样做
就像人们谈论你知道呃只是
那些对知识假设过于激进的人
我
不记得名字了 对于那种
你只会说对的事情我们也这样做的现象
嗯你可以做的一些事情是
一系列的活动取决于
你愿意花多少钱
你拥有多少技术专长
可以从 将模型微调到
实际，所以我在应用世界中，
所以我非常喜欢胶带的世界，
以及开发人员如何完成
工作，所以我会给你的一些答案
有点像管道 如果它以疯狂的方式表现，磁带答案
给它的例子往往适用于
急性事物，
你给它的例子越多越好，呃，
这不会解决
所有物理领域，所以对于
所有物理领域，我会 我
会保释并把它交给你，因为我
认为你比我更有能力就此
发表意见所以模型
没有基本事实它不
知道任何
来自训练的意义 过程
纯粹是出于区分一个词
不是另一个词词不在
相同的上下文中使用它
只能通过语言给出的例子来理解一切
这就像一个人
学习英语或如何说话但他们
在一个毫无特色的灰色房间里长大
他们' 我从来没有见过外面的世界，
他们没有什么可以依靠的，告诉
他们一些事情是真的，一些事情
不是真的，
所以从模型的角度来看，
它所说的一切都是真的，它正在尽
最大努力给你最好的
答案，如果它说谎 一
点点或合并两个不同的主题
是实现这一目标的最佳方式然后它
会决定这样做
它是我们无法
绕过它的体系结构的一部分有许多
廉价的技巧令人惊讶地让它减少
虚构或产生幻觉 其中之一
包括最近有一篇论文有点
有趣，如果你把它
放在它的答案之前，
我最好的猜测是它实际上会
改善或减少
大约 80% 的幻觉，所以很明显它有一些
感觉，有些事情是真实的，而
其他 事情不是，但我们不太
确定在 Ted 所说的基础上添加什么
你可以做一些廉价的事情，
包括让它在 Bing 中使用 Google 或 Bing
聊天，他们在做什么 它引用了
这个信息要求它
如果您曾经让 shotgpt 生成程序，请确保它自己的响应是好的，
并且您问
Chachi PT 我认为
经常会出现错误，它会自己找到错误，
为什么它没有产生正确的答案
一开始我们还不
确定，但我们正朝着
减少幻觉的方向前进，现在就
物理学而言，你将不得不
给它一个外部数据库来
依赖，因为在内部，
对于真正真正的领域特定
知识，它不是 将
像人们希望
这些东西在连续空间中工作
一样确定
幻觉
实际上是真的，并赋予它更多的
能力我希望这能回答你的
问题以及其中一种方式，我的
意思是我是一个像我这样的简单人我倾向于
认为整个世界往往只是一遍
又一遍地重复的几件事
再次，我们有这方面的人力系统，
你知道在像公司这样的团队中，工作
是一个玩体育的团队，我们并不
总是正确的，即使我们渴望
成为这样的人，所以我们有我们
作为人类开发的系统 处理
可能出错的事情，所以你知道
第一个人提出一个答案
第二个人检查他们的工作
第三个人提供后续最终
签字这真的很常见任何
在公司工作过的人都
在实践中看到了这个有趣的事情
目前的软件状态，我们
倾向于处于这种模式，在这种模式下，我们只是
将 GPT 作为一个实体来讨论，但是一旦我们
开始从团队的角度思考，可以
说每个团队成员都是自己的
代理人，拥有自己的一套 目标和
技能 我怀疑我们将开始
看到一种编程模型，在该模型中，
解决这个问题的方法不一定
是让单个大脑变得更聪明，而是
利用
多个软件代理的集体智慧，
每个软件代理都发挥作用，并且 我认为
这肯定会遵循
我们处理这个问题的人类模式来
类比航天飞机
进入太空飞船的东西他们必须是
好的如果他们不是好人死了他们就像
没有错误的余地
总而言之，我们在这些系统中进行了过度设计，
大多数航天器都有三台
计算机，它们都必须一致同意
某一特定步骤才能继续
前进，如果有人不同意，那么他们会
重新计算，他们会重新计算，他们会重新
计算，直到他们得出
好的结果 问题是，就
其知识而言，幻觉通常不是一个系统性问题，
它通常是一次性的模型，
有些东西绊倒了它，它只是
在那个例子中产生了幻觉，
所以如果三个模型
协同工作，而不是说
一般来说会提高
你的成功 是的 是
的 所以嘿 Siri 影响
这个的机制是什么
我会给你一个可能
不令人满意的答案 它往往会
起作用 但我想我们知道为什么它会
起作用并且 再次是因为这些
语言模型近似于我们彼此交谈的方式
所以如果我对你说
嘿帮帮我我需要你模拟
面试我这是一个直接的声明我
可以让你进入某种
互动模式或者如果 我说你
帮帮我，我想向
我的妻子道歉，她
真的很生我的气
agent in 将
llm 引入某种
交互模式，这种交互模式往往以
我作为软件开发人员
希望它会起作用的方式工作，
并真正快速地添加到
我喜欢的数字人文学科中 将其视为一种
叙事 一种叙事将有几个
不同的角色相互交谈
他们的角色被明确定义
两个人是不一样的
这种与 GPT 的互动 它假定了
个性 它可以模拟
个性 它本身并不谨慎
但是 它当然可以
预测一个有意识的人
在特定情况下会做出什么样的反应，所以
当我们去你的时候，它正在
描绘那个个性并
像那个人一样说话，因为
它就像完成成绩单或
完成一个故事 其中那个
角色存在并且互动并且
很活跃
所以是的
我想我们还有大约五分钟
直到外面的披萨
无论如何是的
先生好吧是的
但是嗯玩这个很有趣
而且我理解那种词
词的生成和那种
感觉它的感觉你知道
我的一些朋友的叙述，我试过
从 LSAT 中给出类似的问题，
但它不起作用，我
只是想知道为什么会这样 它
喜欢它会产生听起来
非常合理的答案，就像给定
这种情况是的，为什么为什么但它
经常喜欢甚至在
答案中自相矛盾但它几乎永远不会正确所以
我想知道
为什么会这样它
不能 它不能思考的原因，你能不能让我们
到达一个
你可以的地方我的意思是你不知道我的意思我什
至不认为它是有意识的我的
意思是有想法你想谈论
反应
所以gpt4 当 gpt4 在
3 月份发布时，我认为它通过了 LSAT 是的，是的，它
只是按照我的理解通过了，
因为这是一件奇怪的事情，
是的，
如果你支付工作 GPT，他们可以让你
获得更好的 模型和
它的一个有趣的事情是
提示它是如此挑剔如果你它对你
提示的方式非常敏感早在 gpt3
出来时有些人会看我
可以通过识字测试或者不它
不能通过 识字测试然后那些
支持或反对 gpt 的人会像我
修改了提示一样
突然可以或突然不能
这些东西不谨慎他们的
推理能力就像外星人
他们不是我们他们 不要像人一样思考，
他们不是人，但他们
肯定能够凭经验传递一些
东西，这证明了
模型中的某种基本原理或逻辑，但我们仍在
像提示语者一样慢慢弄清楚
什么是正确的方法
你见过
它直接
在人工智能应用程序中创造某种商业价值的例子是的
我的意思是我们在我们之上托管公司
这是他们的主要
产品呃它增加的价值
就像任何公司我的意思是你知道
什么是 Y combinator mono 制造了
人们想要的东西 我的意思是我不会
认为这是因为 GPT 本身就为
您作为构建者提供了价值，就像
他们的产品
一样 你把它和
你的数据结合起来 其他人的数据 一些
领域知识 一些界面 呃
然后帮助将它应用到某些东西 这是
两件事都是真的
现在有很多实验正在进行 呃
既是为了乐趣，也是为了人们试图
弄清楚经济价值在哪里，但是
人们也在通过将其
应用于数据来建立 100 支持的公司，
我认为今天
我们可能称之为 GPT，今天我们称之为
llms，明天它就会滑入
Ether 我的意思是想象一下，想象一下
今天的进展情况，其中有一个
是人们主要玩的，
其中有很多已经存在，但
人们主要在
明天竞标，我们可以预期会有
很多 在那之后的一天，
我们可以预期它们会出现在我们的
手机上，它们甚至不会
连接到互联网，
因此我认为像今天一样，我们不会
将我们的软件微处理器工具
或微处理器称为 像处理器这样的应用程序
刚刚存在我认为一个
有用的模型五年后十年
是即使它只是
比喻真实而不是字面上
真实我认为将它视为
我们之前拥有的第二个处理器是有用的
与呃与 浮点协
处理器和图形协处理器
早在上世纪 90 年代就已出现，将其
轨迹视为
计算机可以做的另一件事是很有用的，并且它将被
纳入绝对所有事物中，
因此称为基础模型
也突然出现了，
对不起，
比萨饼已经准备好了，还有一个问题，也许
还有一个，然后呃，然后我们就在那儿休息一下，
在杯子里放些食物，
我刚刚被告知我们需要再买两个，
所以是的，
很难买到 它可靠地做到这一点 让它
可靠地做到这一点非常有用，所以你可以使用一些技巧，你
可以给它举个例子，
你可以直接问它，
嗯，这是两个常见的技巧，
嗯，看看
其他人习惯的提示 工作我的意思是
现在找到正确的提示有很多艺术很多是魔术
咒语你可以做的另一件事是
后期处理它这样你就可以做一些
检查并且你可以有一个快乐的路径
射击然后你得到
你的答案，然后是一条悲伤的道路，在这条道路上
你可能会退回到其他提示，所以
你会寻求多样化的
方法，默认情况下它很快
它很慢但最终会在
失败时获得更高的成功可能性
然后我确定我们
稍后会看到人们做的事情是微调
指令调整样式模型，这些模型
更有可能响应
计算机可分割的呃输出所以我猜
最后一个问题所以确定嗯所以
你 谈到了一些事情，
一个是当你谈论领域
专业知识时，
你正在根据你正在做的提示对一堆领域专业知识进行编码，
这些
提示在
哪里，
这是一个很好的问题，所以问题
是 我很抱歉，我刚刚意识到我们
没有
为 YouTube 听众重复所有问题，所以
对于 YouTube 上的人们，如果您
无法听到一些
问题，我很抱歉，呃问题是什么是
隐私
如果其中一条消息在
很大程度上取决于您的提示和
此提示的微调，那么其中一些提示的含义
对我的 IP 意味着什么，也许
提示是我的事，
我无法为您提供确切的答案 但我
可以为你描绘一下
所有
软件的大致情况，人工智能也是如此
将会得到支持的是，有一组
公司在其中提供了一种在
大型云提供商之一上托管的模型
，这是同一件事的一个版本，
但我认为，由于
机制略有不同，这往往被
认为是企业版
软件，总的来说，在
过去的 20 年里，这个行业已经从
运行我自己的服务器转变为相信
微软、亚马逊或谷歌可以
为我运行服务器，他们说这是我的
私人服务器，即使我知道
他们在运行它而且我
没关系，你会
开始看到 Amazon 拥抱
脸 Microsoft 开放 AI Google 2 和
他们自己的 Bard 版本将在
你拥有 SAS 版本的地方做这些，
然后你 还将拥有
私有 VPC 版本，然后还有
第三个版本，我认为我们
还没有看到实际出现，但这
将是我想要
确保我的 IP 是
您正在运行的事件的最大安全版本的最大主义者
你自己的机器你正在
运行你自己的模型然后
问题是模型的开源和/或
私有版本与
公共托管版本一样好，
这对我来说很重要，答案是
现在现实它可能很
重要 很多时候，
你可以认为你需要完成的任何一项特定任务都
需要一些
固定的智能点才能实现，
所以随着时间的推移，我们将看到
这些模型的私人可获得版本
将跨越这个门槛，
并且 关于那一项任务，是的，一定要
使用开源版本，在
你自己的机器上运行它，但我们也会看到
SAS 智能变得更智能，它
可能会保持领先，然后你的
问题是我更关心哪个
我想要更好的
聚合智能，或者我的任务
有点固定点，我可以只使用
开源可用的，
我知道它会表现得足够好，因为
它已经超过了门槛，所以
具体回答你的问题是的，你
可能是 很高兴知道 childcpt
最近是否更新了他们的隐私政策，不在
培训过程中使用提示，
但直到现在，所有内容都回到
了垃圾箱中再次接受培训，
这是事实，所以我认为披萨
现在是披萨时间了，我们去买一些吧
披萨 我希望这很有用 呃 我们将在
两天左右提问