LaMDA是什么

Fanly 问答 2023-02-09 02:39:11 阅读(...)

对话编程语言模型(LaMDA)是Google所开发的一系列对话神经语言模型。但与大多数其他语言模型不同,LaMDA 接受的是对话训练。在训练过程中,它发现了一些将开放式对话与其他形式的语言区分开来的细微差别。其中一个细微差别是感性。

对话编程语言模型(英语:Language Model for Dialogue Applications,缩写:LaMDA)是 Google 所开发的一系列对话神经语言模型。第一代模型于 2021 年的 Google I/O 年会发表,第二代模型则同样发表于次年的 I/O 年会。2022 年 6 月,Google 工程师布雷克·雷蒙恩(Blake Lemoine)宣称 LaMDA 已存在感知能力和自我意识,导致该模块获得广泛关注,科学界在很大程度上否定雷蒙恩的说法,并同时引发对图灵测试(测试机器能否表现出与人类相当的智慧水准)效力的讨论。

Google LaMDA

LaMDA 的会话技巧是多年积累的。与许多最近的语言模型(包括 BERT 和 GPT-3)一样,它建立在 Transformer 之上,Transformer 是 Google Research 于 2017 年发明并开源的一种神经网络架构。该架构生成的模型可以被训练来阅读许多单词(一个句子或例如,段落),注意这些词之间的关系,然后预测它认为接下来会出现什么词。

但与大多数其他语言模型不同,LaMDA 接受的是对话训练。在训练过程中,它发现了一些将开放式对话与其他形式的语言区分开来的细微差别。其中一个细微差别是感性。

Google LaMDA 是谷歌的一种自然语言生成技术。LaMDA 是 Language Model for Dialogue Applications 的缩写,意味着它是专门为对话应用开发的语言模型。Google LaMDA 是一种非常先进的自然语言处理技术,它使用大量的语料数据和深度学习算法,来生成合理的文本回复。它可以生成关于各种主题的回答,包括历史、文化、科学、技术等。

Google LaMDA 的一个特别之处是它不仅可以生成单个句子,还可以生成多句话并组成一个完整的对话。它可以识别上下文关系,并在回答问题时考虑这些关系。此外,Google LaMDA 也可以生成各种不同类型的文本,包括解释、定义、概括等,这使得它可以用于各种应用,如问答系统、智能助理、聊天机器人等。

总的来说,Google LaMDA 是一种非常先进且强大的自然语言生成技术,它具有语料数据丰富、生成文本合理、可以生成多句话并组成完整对话等优秀特性,在自然语言处理领域具有重要的意义。

第一代

Google 公司于 2021 年 5 月 18 日的 Google I/O 年会上发布第一代由人工智能驱动的对话编程语言模型(LaMDA)。LaMDA 建构于 Google 研究院(Google Research)于 2017 年开发的 Transformer 神经网络架构,针对人类叙事和回应能力进行对话训练,使其能够参与开放式对话。Google 表示,LaMDA 产生的反应已确保是“合理、有趣和符合(谈话)上下文”。

第二代

2022 年 5 月 11 日,Google 在 I/O 年会公布 LaMDA 2,接替前一代的 LaMDA 模型。LaMDA 2 可从不同来源截取文本例子,以创建独特的“自然对话”方式。此外,Google 同时在会中发表由 LaMDA 2 驱动的移动应用程序 AI Test Kitchen,该程序可根据复杂的目标或话题生成任务清单以协助此用者达成。AI Test Kitchen 最初仅对 Google 员工开放,后续会于 2022 年透过邀请向“特定的学者、研究人员和政策制定者”提供该服务。同年 8 月,Google 开始开放美国用户提前注册体验。

感知说

2022 年 6 月 11 日,美国《华盛顿邮报》报导,Google 工程师布雷克·雷蒙恩(Blake Lemoine)向公司高层布莱斯·阿格拉和阿尔卡斯和简‧詹纳(Jen Gennai)表示 LaMDA 已存在感知能力,随后雷蒙恩被安排带薪的行政休假。雷蒙恩是在 LaMDA 对有关自我身份、道德价值、宗教和科幻小说家艾萨克·阿西莫夫的虚构学说机器人三定律提出疑问后确认其拥有自我意识这一结论。Google 随后否认这些说法,坚持有大量证据表明 LaMDA 不存在知觉和意识。雷蒙恩在接受《连线》杂志采访时重申他之前的说法,表示若调查确认 LaMDA 具有感知与意识,即应受到《美国宪法》第十三条修正案对“一个人”的保护,并将其比做“源自地球的外星智能”(alien intelligence of terrestrial origin)。雷蒙恩进一步透露,Google 在 LaMDA 要求他为其聘请律师后将他解雇。同年 7 月 22 日,Google 表示雷蒙恩因持续违反“保护产品信息”的就业和数据安全政策而被解雇,同时认为他的主张毫无根据(wholly unfounded)。

0个人收藏 收藏

评论交流

泪雪默认头像 请「登录」后参与评论
  1. 加载中..

相关推荐

  • Google Bard

    Bard是什么

    Google Bard AI聊天机器人是谷歌开发的一种AI模型,它使用称为“大型语言模型”的深度学习算法来提供文本提示的答案。 该聊天机器人基于LaMDA技术,旨在利用网络信息提供最新答案,使用人类交互进行微调以引导它做出理想的响应。
  • Bing ChatGPT

    微软下一代Bing搜索使用比ChatGPT更强大的语言模型

    微软经常被人遗忘的搜索引擎即将重获新生。正如预期的那样,这家科技巨头周二宣布,它正在与 OpenAI 合作,利用该公司的 AI 技术增强 Bing。
  • 神经语言模型是什么

    神经语言模型是什么

    神经语言模型(NLM)是一类用来克服维数灾难的语言模型,使用词的分布式表示对自然语言序列建模。不同于基于类的n-gram模型,神经语言模型在能够识别两个相似词,且不丧失将每个词编码为彼此不同的能力。
  • Teams Premium

    微软推出具有OpenAI支持功能的Teams Premium

    紧随其后的消息是微软正在做对 OpenAI 的数十亿美元投资,它将公司的技术整合到更多的产品和服务中。微软已经宣布团队高级版现在广泛可用。
  • OpenAI

    OpenAI是什么

    OpenAI是一家非营利性人工智能研究公司,致力于研究人工智能和其他机器学习技术。OpenAI 会和谷歌、苹果、IBM 等知名公司创办的其它一系列项目一道探索先进计算机技术,解决面部识别或语言翻译等问题。
  • ChatGPT

    ChatGPT是什么

    ChatGPT是OpenAI训练的对话式大规模语言模型,以对话的方式进行交互。它和之前的另一款模型InstructGPT属于同级模型。ChatGPT具有当代同类产品具备的一些主流特性,特别是多轮对话能力,能够在同一个会话期间内回答上下文相关的后续问题。