OpenAI 演讲：如何通过 API 将大模型集成到自己的应用程序中

文章摘要

OpenAI的员工Sherwin Wu和Atty Eleti在QCon上讨论了大语言模型的集成、使用OpenAI API扩展GPT功能，以及新特性——GPT的函数调用。他们回顾了计算机的历史，将计算机比作思维的自行车，并展望了人工智能的未来。此外，他们展示了如何通过函数调用将GPT模型与外部世界连接，以及如何在产品和项目中集成这些模型。

大语言模型及其局限性

首先，Sherwin Wu介绍了大语言模型（LLMs）的工作原理和局限性。LLMs是自回归的，根据大量数据集训练，通过预测下一个单词来生成文本。LLMs的局限性在于它们的记忆是封闭的，无法接入外部世界，也无法保证与外部工具的交互总是准确无误。

使用GPT进行函数调用

他们介绍了使用GPT进行函数调用的新特性，这使得模型能够表达调用外部函数的意图，并构建有效的参数。这一特性允许模型执行用户定义的函数，并将结果结合回文本输出中。Atty Eleti通过演示如何使用GPT和函数调用进行天气查询、生成SQL查询和餐厅搜索等来展现这一特性的应用。

演示样例

演示包括将自然语言转换为SQL查询、调用外部API和多个函数以及将高级推理与日常任务相结合。通过这些示例，展示了如何将GPT模型与外部API和函数集成，以支持全新的应用程序。

总结与问答

在总结中，提及了LLMs的局限性、函数调用新特性，以及演示的内容。问答环节包括了对错误和失败的应对策略、LLM与LangChain的兼容性、数据泄漏问题、函数调用的并行化、模型上下文的预加载、使用GPT进行可靠的函数调用、GPT识别意图的能力、函数调用权限、思维链提示和约束采样、矢量数据库的兼容性以及函数调用的公开可用性等讨论。

上述HTML内容是对原文的主要内容进行了概括性的总结。在这个摘要中，提到了OpenAI员工在QCon上的讨论，着重介绍了大语言模型的工作原理和局限性，新特性——通过GPT进行函数调用的能力，以及一系列的应用演示。最后，摘要涵盖了总结和问答环节中关于技术应对策略和功能可用性的要点。