AWS 于今（2 日）明两日举办台湾云端高峰会，在生成式 AI 与机器学习议程中，探讨了企业能如何串接起公司内部文件资料，进一步建构起自家对话机器人。要建构企业内部对话机器人，首先要备好资料库，包括先蒐集企业所有文档等资料，并放进如 AWS 的 OpenSearch 等向量资料库中。 当企业人员提出问题指令时，机器人会将问题转为向量，在向量资料库中搜寻相近的结果，结合用户原提出的问题以及向量资料库给出的搜寻结果，拼凑成几个提示词，再将提示词给大型语言模型生成最终自然语言答案。创造出企业对话机器人的最大优点是，由于答案都是基于企业内部资料，若被问及资料库中不具备的资料，机器人就不会回应，避免凭空乱造答案。为何要将资料向量化？企业要处理的资料不一定是像年纪和生日等系统化数据，多元又无架构的资料增加搜索的难度，但若将资料向量化，可将相似的内容归类在一起，更容易搜索相近字词，这又称为邻近搜寻法。要如何找出资料之间的距离远近？可计算欧几里得点到点的距离，或用 cosine 由角度算距离，但由于资料量庞大，向量通常皆为多维度，因此要借助演算法来计算。 举例来说，将资料向量化之后，各种语言的「你好」就会被归到同个向量空间，并透过 K-近邻演算法（KNN）快速找出邻近词。如何储存转为向量的资料？但下一步要储存向量，难透过传统的关联式资料库和用 SQL 操作，而开源搜寻引擎 OpenSearch，透过 KNN外挂和内建的 BM25 资料排序法，也可做到邻近搜寻，成为一个向量化资料库。OpenSearch 的 KNN 外挂支援的相邻搜寻引擎有二，Facebook 的 Faiss 和 NMSLIB，演算法选用 Faiss 和 hnsw 来平衡速度和精準度。最后，当企业人员向对话机器人提问后，LangChain 会呼叫 Embedding Model 来将问题转换成向量。 SagemakerAWS 也介绍可透过 Sagemaker 来创造企业对话机器人，Sagemaker是机器学习的全託管服务，为企业建构起开发机器学习的环境，可包办从最初的数据清洗和处理，至最后建立起机器学习模型和后续应用。Sagemaker 串接了多个现成的基础模型，像 AI21 Labs 的文字生成 AI 模型 Jurassic 2、Stability AI 的 Stable Diffusion 以及 Claude2 等，使用者也能调度 Hugging Face上的 LLM 至 Sagemaker 上微调。核稿编辑：Mia加入 INSIDE 会员，独享 INSIDE 最精采每日趋势电子报，未来还有会员专属内容。 点击立刻成为会员！延伸阅读：生成式 AI 之战，Amazon 虽迟但终于来了亚马逊不再含糊不清！AWS 将斥资 1 亿美元设立生成式 AI 创新中心AI 竞赛升温！亚马逊 AWS 和新创合作 与 ChatGPT 竞争下载用量占总流量 92% 别再花钱在上传频宽了！为何说「更应该关注下载的频宽速率」呢？根据国外权威顾问公司 We are social 最新一期《Digital 2023: TAIWAN》调查， 2022 年有将近 7 成受访者表示，他们上网的主要原因是为了观看电影、剧集、电视节目…等影音内容；另一份财团法人台湾网路资讯中心 2023 年台湾网路报告，资料中的数据指出，台湾民众最常使用的网路应用服务为「观看免费的网路影音、直播或收听音乐」，这些加起来甚至已超过 7 成比例。Photo Credits: TNL Brand Studio不仅如此，国内知名网路业者 - 凯擘大宽频，在一份 2023 年上半年全体用户上传 / 下载总流量数据报告显示，下载用量占了总流量 92% ，上传用量只佔总流量 8 % ，下载对上传来到 92:8 的悬殊比例，也一再验证当今普遍上网以「观赏线上影音」为主。在这串流影音当道的时代，看片追剧不但是娱乐首选，说是生活必需品也不为过。 儘管「下载用量高、上传用量少」已成为普遍上网使用习惯，然而大家挑选家中宽频网路时还是会陷入一个盲点，那就是认为上传与下载的速度应该要对称才能让网路跑得顺畅，但其实上传的用量没有比想像中的多，就算观看 YouTube 等 4K 高画质串流影音，上传 1Mbps 就已足够，而业者提供 50Mbps 上行频宽则绰绰有余，就算多人同时观看高画质影片也不会 lag ，因此一般家庭用户大可不必白白花钱来购买高上传频宽。我们在挑选家中宽频网路时，更应该关注下载的频宽速率，以及家中 Wi-Fi 讯号的涵盖率，才能确保拥有好的网路使用体验。2023 上半年度凯擘大宽频用户上传 / 下载流量数据比例：下载用量占总流量 92% ，上传用量只佔总流量 8 % ，大部分的消费者还是以下载频宽为主要需求 Photo Credits: 凯擘想提高 Wi-Fi 覆盖範围 Mesh Wi-Fi 6 是重要关键选对了合适的网路频宽速度，还必须考虑到「 Wi-Fi 涵盖率」。过去在家里上网，大多数人会选择传统无线路由器，但缺点为网路不稳定、 Wi-Fi 覆盖率低、多人连线会导致下载速度变慢，若想改善这些痛点，其实可以选择将传统路由器升级成 Mesh Wi-Fi 6 。传统路由器安装时必须透过不同 SSID 名称辨别；举例来说，如果在房间和客厅各别装一台无线路由器，等于有 2 个 SSID ，用户如果在不同空间移动，必须手动切换至不同帐号，才能连接到无线网路，不仅使用麻烦且会断线；然而 Mesh Wi-Fi 6 只需要 1 个 SSID ，就算用户在家中不同空间移动，也能自动切换至最佳讯号，且过程不断线，真正达到顺畅无死角的上网环境。不仅如此，传统单台无线路由器最大痛点，就是讯号容易被厚重的墙面隔间、或较大的空间坪数影响，降低整体的传送速率，不过多台串连的 Mesh Wi-Fi 6 则较不受格局影响，适合大坪数、隔间多、长型或跨楼层方型空间，就算是多层楼透天别墅也没问题，只要将各台机器摆放在需要上网的空间即可；相较于传统路由器， Mesh Wi-Fi 6 採用最新多点传输技术（MU-MIMO），当多人同时高速上网时，传输量可提升 4 倍、传输範围能增加 80% 、延迟时间可减少 50% ，多台串连也能大幅提高整体 Wi-Fi 涵盖率，达到更佳的无线上网体验。使用 Mesh Wi-Fi 6 传输量可提升 4 倍、传输範围能增加 80% 、延迟时间可减少 50% ，多台串连也能大幅提高整体 Wi-Fi 涵盖率 Photo Credits: 凯擘凯擘大宽频「Wi-Fi 满屋 +」方案、符合影音为王的上网趋势、再享 mo 币回馈看到这里，大家应该都很清楚了，如果你日常在家上网时需求主要以看影片、逛社群为主，则较少使用到上传频宽，那么挑选家中宽频网路时，必须把重点摆在「下载频宽速率」与「 Wi-Fi 涵盖率」，凯擘大宽频推出的「 Wi-Fi 满屋 +」方案，就是针对一般家用上网族群设计，将消费者用不到的上传频宽月月回馈 mo 币给用户， mo 币不仅可以在 momo 购物使用，还可以折抵帐单！其中最高的 1G （下载频宽速率）方案，优惠折抵后月租费只要 849 元，还可免费升级 3 台 Mesh Wi-Fi 6 ，让网速更稳更快，是一般家用上网的首选方案。对凯擘大宽频经济又实惠的「 Wi-Fi 满屋 + 」方案有兴趣的网友可点选这里。