百炼平台实战:从零搭建电商客服 AI Agent

方案概览

百炼平台是阿里云提供的一站式大模型开发及应用构建平台,专为简化AI应用的开发流程而设计。通过百炼,用户可以在短时间内构建并部署先进的大模型应用,不论是开发者还是业务人员,都能深入参与设计和构建过程。平台提供丰富的模型选择,包括千问商业版及第三方大模型,支持多模态数据处理,如文本、图像和音视频,满足各行业的定制化需求。

百炼的便捷开发工具集成了Prompt自动优化、知识库管理、函数调用、流程编排和模型定制等功能,帮助用户快速构建生产级别的AI应用,同时降低硬件投入和后期维护成本,采用按量付费的模式,降低使用成本。在数据安全方面,阿里云承诺严格的数据保护措施,确保用户数据的隐私和安全。

本方案适用于以下场景:

  • 电子商务:通过智能推荐和客服助手提升用户购物体验和转化率,降低人工客服成本。
  • 媒体和创意行业:自动生成内容创意和设计建议,提高创作效率和质量。
  • 医疗健康:提供智能诊断建议和患者咨询服务,优化医疗资源配置。
  • 教育:为学生提供个性化学习建议和辅导,实现智能化教育体验。

本方案以 AI 电商客服助手为例,介绍如何通过百炼平台高效构建多种 AI 应用。您将体验如何利用百炼提供的工具和模型资源,快速实现智能化功能的开发和上线,推动业务的数字化转型和创新。

方案架构

方案提供的默认设置完成部署后在阿里云上搭建的网站运行环境如下图所示。实际部署时您可以根据资源规划修改部分设置,但最终形成的运行环境与下图相似。image

本方案的技术架构包括以下基础设施和云服务:

基础设施和云服务说明
1个专有网络VPC为云服务器ECS等云资源构建云上私有网络。
1个交换机将云服务器ECS等资源连接在同一网络上,实现它们之间的通信,并提供基本的网络分段和隔离功能。
1个安全组用于限制专有网络VPC下云服务器ECS的网络流入和流出规则。
1台云服务器ECS用于部署示例应用程序。
百炼模型服务用于搭建 AI 应用和提供大模型推理服务。

部署准备

开始部署前,请按以下指引完成账号申请、账号充值等准备工作。

准备账号

  1. 如果您还没有阿里云账号,请访问阿里云账号注册页面,根据页面提示完成注册。阿里云账号是您使用云资源的付费实体,因此是部署方案的必要前提。
  2. 为阿里云账号充值。本方案的云资源支持按量付费,且默认设置均采用按量付费引导操作。如果确定任何一个云资源采用按量付费方式部署,账户余额都必须大于等于100元。

资源开通

如果您是首次访问阿里云百炼服务平台,请按照以下步骤进行开通。

  1. 登录阿里云百炼控制台。
  2. 若页面顶部显示image,需开通阿里云百炼的模型服务,并获得免费额度。如果未显示该消息,则表示您已经开通。

首次开通百炼后,您可领取新人免费额度(有效期:百炼开通后90天内),用于模型推理服务。免费额度领取方法和详情,请查看新人免费额度页面。

说明

超出额度或期限将产生费用,开启免费额度用完即停功能将避免此情况下产生费用,具体费用请以控制台的实际报价和最终账单为准。

一键部署

一键部署基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,模板是描述基础设施和架构的蓝图,通过ROS模板可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。本方案提供的ROS模板完成资源的创建和配置内容包括:

  • 1个专有网络VPC,为云服务器ECS等云资源构建云上私有网络。
  • 1 个交换机,将云服务器ECS等资源连接在同一网络上,实现它们之间的通信,并提供基本的网络分段和隔离功能。
  • 1个安全组,用于限制专有网络VPC下云服务器ECS的网络流入和流出规则。
  • 1 台云服务器ECS,用于部署示例应用程序。
  • 百炼模型服务,用于搭建 AI 应用和提供大模型推理服务。

操作步骤

  1. 打开一键部署模板链接前往ROS控制台,系统自动打开使用新资源创建资源栈的面板。说明 ROS控制台默认处于您上一次访问控制台时的地域,请根据您创建的资源所在地域修改地域后再执行下一步。
  2. 在配置参数页面完成以下配置(本教程以华东1(杭州)为例)后,单击下一步:检查并确认。配置项参数说明示例值API Key配置百炼 API Key选择百炼平台的 API Key。sk-c****1918ECS实例配置可用区为ECS选择一个可用区。可用区 J实例规格根据ECS实例的架构、分类选择相应的规格配置。ecs.e-c1m2.large实例密码ECS root 账号的密码。
  3. 在资源配置预览页面,确认模板参数以及费用之后,单击创建。
  4. 当资源栈信息页面的状态显示为创建成功时表示一键配置完成。
  5. 在资源栈管理页面,单击输出页签,单击输出关键字 WebUrl 对应的值,即可开始访问示例电商系统。image

创建 AI 应用

接下来,我们以电商客服助手为例,通过进阶的方式在百炼平台上创建以下四种应用:

创建智能问答 AI 电商客服助手

创建检索增强生成(RAG)AI 电商客服助手

创建自主决策的智能体 AI 电商客服助手

创建处理复杂流程的 AI 电商客服助手

我们将创建一个基础的 AI 电商客服助手。此应用可用于处理常见的用户询问,利用 AI 大模型提供智能应答,帮助用户快速获取信息和解决简单问题。

  1. 登录阿里云百炼大模型服务平台应用管理界面。
  2. 单击页面右侧的创建应用,选择智能体应用。填写应用名称,如 AI 电商客服助手(智能问答)。单击立即创建。
  3. 在模型选择下拉菜单中选择通义千问-Plus-Latest。
  4. 复制以下提示词,粘贴到提示词选项框中。 提示词
  5. 测试对话效果。在右侧的体验窗下方输入框中填写问题,验证大模型回复效果。image
  6. 发布应用,以便在多种渠道中可以访问此应用。
    1. 单击右上方的发布,在弹出面板中单击确认发布。
    2. 单击页面顶部中间的发布渠道,然后单击魔笔分享渠道下的立即查看。在新打开的 UI 设计器页面的右上方单击创建 UI,选择文本对话模板,填写如下信息后单击立即创建。项目说明示例值应用名称设置应用名称。百炼手机智能客服助手百炼 API-KEY设置百炼 API Key。sk-xxxxxx百炼智能体设置智能体应用,选择刚刚创建的 AI 电商客服助手(智能问答)。AI 电商客服助手(智能问答)标题设置欢迎语标题。您好!欢迎来到电商客服中心!描述设置欢迎语内容。我是您的智能客服助手,随时准备为您提供帮助。请问有什么可以帮您的吗?头像链接设置应用头像。可保持默认配置值。https://gw.alicdn.com/imgextra/i2/O1CN01cXW5Hu1gOy1kjOQI6_!!6000000004133-2-tps-156-156.png预设问题设置常用的预设问题。[‘请推荐几个手机。’, ‘我的支付遇到了问题,能帮我解决吗?’, ‘我需要申请退货,您能告诉我具体步骤吗?’]
    3. UI 创建完毕后,在弹出页面单击发布。在弹出面板中填写提交记录与描述,单击确定,等待 UI 发布,耗时约 10 秒。发布完成后,在弹出窗口中单击访问应用。说明 此渠道提供了一个网页 UI 应用,可用于应用测试。应用地址可分享给其他用户,默认持有链接的阿里云用户均可访问。image

集成 AI 应用

百炼平台支持多种方式集成已发布的 AI 应用,详情可参考应用分享。

方式说明
应用调用以API形式调用智能体或工作流应用,只需传入应用ID、API Key 等参数,支持通过 DashScope SDK 调用。这种方式提供了最大的灵活性。
官方网页版百炼平台提供应用测试的独立网页。页面访问有一定的限制,需要使用同一阿里云主账号下的RAM子账号进行登录。
魔笔分享渠道利用阿里云多端低代码平台魔笔,将百炼智能体发布为生产级 Web/H5 应用,或嵌入现有的 Web/H5/App/小程序中。您还可以通过魔笔定制UI,集成账号和业务系统。
通过钉钉发布应用通过简单配置,即可在钉钉平台上为您的组织创建一个具备大模型能力的AI机器人。详情可参考官方实践教程:10分钟在钉钉创建AI机器人。
通过微信发布应用通过简单配置,可以将您的微信公众号(订阅号)接入AI机器人,实现全天候客户咨询回应。详情可参考实践教程:10分钟实现微信公众号智能客服、10分钟在企业微信集成AI助手。

接下来,我们将演示如何通过 API 在现有业务系统中集成百炼 AI 应用,从而在电商系统中嵌入一个 AI 电商客服助手。

  1. 登录目标云服务器 ECS。
    1. 登录ECS管理控制台,在实例页面,找到前面步骤所创建的 ECS 实例。
    2. 在右侧操作列,单击远程连接,并选择通过Workbench远程连接。根据页面提示登录,进入终端页面。具体操作请参见:使用Workbench登录ECS实例。说明 如果系统弹出“安全组白名单开通提示”面板, 请按照页面引导完成端口一键添加。
  2. 执行以下脚本。重要
    • 访问阿里云百炼应用管理页面,找到前面创建的应用,查看应用 ID。
    • 将以下脚本中的<百炼应用 ID,例如:60dd******11cb>替换为实际应用 ID。
    BAILIAN_APP_ID='<百炼应用 ID,例如:60dd******11cb>' [[ ! "$BAILIAN_APP_ID" =~ ^[a-z0-9]{32}$ ]] && { echo "请设置 BAILIAN_APP_ID 为百炼应用 ID "; exit 1; } sed -i '/<\/footer>/,$c\</footer>' ~/templates/index.html cat << EOF >> ~/templates/index.html <!-- 配置聊天助手 --> <script> window.chatAssistantConfig = { title: 'AI 客服助手', // 聊天窗口标题 apiEndpoint: '/chat', // 服务端接口地址 welcomeMessage: '您好!有什么我可以帮助您的吗?', // 欢迎消息 typingSpeed: 80, // 打字效果速度(毫秒) appId: '$BAILIAN_APP_ID' // 百炼应用ID }; </script> <!-- 引入聊天助手脚本 --> <script src="https://cdn.jsdelivr.net/npm/marked/marked.min.js"></script> <link rel="stylesheet" href="https://help-static-aliyun-doc.aliyuncs.com/install-script/create-ai-app-via-bailian/style/chat-assistant.css"> <script src="https://help-static-aliyun-doc.aliyuncs.com/install-script/create-ai-app-via-bailian/style/chat-assistant.js"></script> </body> </html> EOF
  3. 获取 ECS 公网 IP。
    1. 登录ECS管理控制台。
    2. 在左侧导航栏,选择实例与镜像>实例。在顶部菜单栏,选择华东1(杭州)地域。
    3. 在实例列表页面,找到目标ECS实例的IP 地址列,复制公网地址。
  4. 访问 http://<ECS 公网 IP> 即可开始体验对话效果。imageimage

资源释放

清理资源

您可以使用ROS一键删除创建的云资源,避免继续产生费用。

  1. 登录ROS控制台。
  2. 在左侧导航栏,选择资源栈。
  3. 在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
  4. 在删除资源栈对话框,选择删除方式为释放资源,然后单击确定,根据提示完成资源释放。
  1. 删除阿里云百炼 API Key :进入 API Key 管理页面,找到目标 API Key 进行删除,删除后将无法通过该 API Key 调用阿里云百炼提供的模型。
  2. 删除阿里云百炼应用和数据:
    1. 在应用管理页面,找到前面步骤中创建的应用,将鼠标悬停在应用上,然后单击右下角 … 图标,在下拉列表中点击删除应用。
    2. 在知识库页面,找到前面步骤中创建的知识库,然后单击删除。
    3. 在应用数据页面,找到前面步骤上传的文档,然后单击操作栏中的删除。

Leave a Reply

Your email address will not be published. Required fields are marked *

Contact Us


Contact:Michael Chan

Tel:+852 66606890

E-Mail:info@flycloud.io

This will close in 0 seconds