在当今数字化时代，大语言模型（LLMs）已成为人工智能领域的焦点。在2023 re:Invent大会上，亚马逊云科技Bedrock部门的主要工程师约翰·贝克（John Baker）和Anthropic公司的代表尼古拉斯·马鲁尔（Nicholas Marull）在2023年re:Invent大会上分享了有关“提示工程”的研究和最佳实践，为解决大语言模型的挑战性任务提供了深刻见解。
大语言模型提示工程的背景和挑战
约翰·贝克在演讲一开始强调，大语言模型因其惊人的功能而成为头条新闻，但将其应用于客户并获得可预测、一致的结果却是一项具有挑战性的任务。提示工程的核心目标是引导大语言模型生成符合预期的输出，为此需要选择适当的格式、短语、单词和符号，以提高准确性和性能。
大语言模型提示工程的实质
贝克通过数学例子说明了如何通过调整提示来影响大语言模型对模糊问题的回答，揭示了提示工程的实质是向模型添加上下文以偏导其输出。他展示了改变角色如何影响语气和词汇水平，同时传达相同的基本信息。在将大语言模型用于面向客户的聊天机器人应用程序时，建立明确的角色被强调为非常重要，以引导模型朝着适合特定用户群体的适当语气发展。
大语言模型提示工程的高级技术
在演讲中，贝克还介绍了一些高级提示工程技术，包括链式思考提示和检索增强生成（RAG）技术。链式思考提示有助于构建结构化的提示，以逐步引导大语言模型进行推理，而RAG技术则通过在知识源中检索相关信息来制定自然语言回应。这些技术对于处理复杂逻辑和提高生成结果的质量非常有帮助。
具体案例展示：Claude 2 大语言模型
以Claude 2 大语言模型为例，贝克和马鲁尔展示了提示工程如何解决复杂的客户用例。马鲁尔强调了如何使用XML标签引导思考提示，提高Claude的准确性。他提到了特定的格式化最佳实践，包括使用交替的“人类”和“助手”标签，并强调省略开头的人类标签可能会降低结果的质量。
优化工作流程和使用外部工具
马鲁尔进一步介绍了如何优化适用于人类的工作流程，充分利用思路链和RAG等技术。他强调了清晰、详细的提示设计对于生成可靠输出的重要性。此外，他推崇使用工具描述，将外部功能组合成提示，让模型决定何时调用它们。这一方法使Claude能够在多轮对话中更加灵活和逼真地回应用户。
面对挑战：幻觉缓解和提示注入问题
在解决大语言模型的挑战中，贝克和马鲁尔特别强调了对幻觉缓解的处理，建议首先给予模型说出“我不知道”的权利，以减少不确定性。对于提示注入问题，他们建议运行一个并行的“无害性屏幕”提示，以提供另一层定制化防御。
大语言模型提示工程的未来展望
演讲者们总结时表示，为了使大语言模型的性能一致且可预测，需要提供清晰、详细的提示，就像给另一个人类下指令一样。他们呼吁进行大量的测试和迭代，设计通用提示，超越特定测试用例。最后，他们强调了合作和分享最佳实践的重要性，以推进负责任地应用大语言模型的发展。
结语
在提示工程的引导下，大语言模型迎来了更加可控和可靠的未来。亚马逊云科技Bedrock部门和Anthropic公司的专家们通过分享他们的研究和实践经验，为产业迈向更高层次的AI应用奠定了基础。大语言模型提示工程的成功应用不仅将提高客户体验，也将推动生成式AI技术的进一步发展。
免责声明
本文转载自网络平台，发布此文仅为传递信息，本文观点不代表本站立场，版权归原作者所有；不代表赞同其观点，不对内容真实性负责，仅供用户参考之用，不构成任何投资、使用等行为的建议。请读者使用之前核实真实性，以及可能存在的风险，任何后果均由读者自行承担。
本网站提供的草稿箱预览链接仅用于内容创作者内部测试及协作沟通，不构成正式发布内容。预览链接包含的图文、数据等内容均为未定稿版本，可能存在错误、遗漏或临时性修改，用户不得将其作为决策依据或对外传播。
因预览链接内容不准确、失效或第三方不当使用导致的直接或间接损失（包括但不限于数据错误、商业风险、法律纠纷等），本网站不承担赔偿责任。用户通过预览链接访问第三方资源（如嵌入的图片、外链等），需自行承担相关风险，本网站不对其安全性、合法性负责。
禁止将预览链接用于商业推广、侵权传播或违反公序良俗的行为，违者需自行承担法律责任。如发现预览链接内容涉及侵权或违规，用户应立即停止使用并通过网站指定渠道提交删除请求。
本声明受中华人民共和国法律管辖，争议解决以本网站所在地法院为管辖法院。本网站保留修改免责声明的权利，修改后的声明将同步更新至预览链接页面，用户继续使用即视为接受新条款。
