新闻资讯

新闻资讯/NEWS

更多+推荐文章

【AWS 台湾云端高峰会】企业要建构内部对话机器人该怎么做?整天看片追剧?那么你该在意的是下载速度!一图看懂为何上传频宽用量少!

作者:admin 发布日期:2023-10-24 点击量:138
AWS 于今(2 日)明两日举办台湾云端高峰会,在生成式 AI 与机器学习议程中,探讨了企业能如何串接起公司内部文件资料,进一步建构起自家对话机器人。要建构企业内部对话机器人,首先要备好资料库,包括先蒐集企业所有文档等资料,并放进如 AWS 的 OpenSearch 等向量资料库中。 当企业人员提出问题指令时,机器人会将问题转为向量,在向量资料库中搜寻相近的结果,结合用户原提出的问题以及向量资料库给出的搜寻结果,拼凑成几个提示词,再将提示词给大型语言模型生成最终自然语言答案。创造出企业对话机器人的最大优点是,由于答案都是基于企业内部资料,若被问及资料库中不具备的资料,机器人就不会回应,避免凭空乱造答案。为何要将资料向量化?企业要处理的资料不一定是像年纪和生日等系统化数据,多元又无架构的资料增加搜索的难度,但若将资料向量化,可将相似的内容归类在一起,更容易搜索相近字词,这又称为邻近搜寻法。要如何找出资料之间的距离远近?可计算欧几里得点到点的距离,或用 cosine 由角度算距离,但由于资料量庞大,向量通常皆为多维度,因此要借助演算法来计算。 举例来说,将资料向量化之后,各种语言的「你好」就会被归到同个向量空间,并透过 K-近邻演算法(KNN)快速找出邻近词。如何储存转为向量的资料?但下一步要储存向量,难透过传统的关联式资料库和用 SQL 操作,而开源搜寻引擎 OpenSearch,透过 KNN外挂和内建的 BM25 资料排序法,也可做到邻近搜寻,成为一个向量化资料库。OpenSearch 的 KNN 外挂支援的相邻搜寻引擎有二,Facebook 的 Faiss 和 NMSLIB,演算法选用 Faiss 和 hnsw 来平衡速度和精準度。最后,当企业人员向对话机器人提问后,LangChain 会呼叫 Embedding Model 来将问题转换成向量。 SagemakerAWS 也介绍可透过 Sagemaker 来创造企业对话机器人,Sagemaker是机器学习的全託管服务,为企业建构起开发机器学习的环境,可包办从最初的数据清洗和处理,至最后建立起机器学习模型和后续应用。Sagemaker 串接了多个现成的基础模型,像 AI21 Labs 的文字生成 AI 模型 Jurassic 2、Stability AI 的 Stable Diffusion 以及 Claude2 等,使用者也能调度 Hugging Face上的 LLM 至 Sagemaker 上微调。核稿编辑:Mia加入 INSIDE 会员,独享 INSIDE 最精采每日趋势电子报,未来还有会员专属内容。 点击立刻成为会员!延伸阅读:生成式 AI 之战,Amazon 虽迟但终于来了亚马逊不再含糊不清!AWS 将斥资 1 亿美元设立生成式 AI 创新中心AI 竞赛升温!亚马逊 AWS 和新创合作 与 ChatGPT 竞争下载用量占总流量 92% 别再花钱在上传频宽了!为何说「更应该关注下载的频宽速率」呢?根据国外权威顾问公司 We are social 最新一期《Digital 2023: TAIWAN》调查, 2022 年有将近 7 成受访者表示,他们上网的主要原因是为了观看电影、剧集、电视节目…等影音内容;另一份财团法人台湾网路资讯中心 2023 年台湾网路报告,资料中的数据指出,台湾民众最常使用的网路应用服务为「观看免费的网路影音、直播或收听音乐」,这些加起来甚至已超过 7 成比例。Photo Credits: TNL Brand Studio不仅如此,国内知名网路业者 - 凯擘大宽频,在一份 2023 年上半年全体用户上传 / 下载总流量数据报告显示,下载用量占了总流量 92% ,上传用量只佔总流量 8 % ,下载对上传来到 92:8 的悬殊比例,也一再验证当今普遍上网以「观赏线上影音」为主。在这串流影音当道的时代,看片追剧不但是娱乐首选,说是生活必需品也不为过。 儘管「下载用量高、上传用量少」已成为普遍上网使用习惯,然而大家挑选家中宽频网路时还是会陷入一个盲点,那就是认为上传与下载的速度应该要对称才能让网路跑得顺畅,但其实上传的用量没有比想像中的多,就算观看 YouTube 等 4K 高画质串流影音,上传 1Mbps 就已足够,而业者提供 50Mbps 上行频宽则绰绰有余,就算多人同时观看高画质影片也不会 lag ,因此一般家庭用户大可不必白白花钱来购买高上传频宽。我们在挑选家中宽频网路时,更应该关注下载的频宽速率,以及家中 Wi-Fi 讯号的涵盖率,才能确保拥有好的网路使用体验。2023 上半年度凯擘大宽频用户上传 / 下载流量数据比例:下载用量占总流量 92% ,上传用量只佔总流量 8 % ,大部分的消费者还是以下载频宽为主要需求 Photo Credits: 凯擘想提高 Wi-Fi 覆盖範围 Mesh Wi-Fi 6 是重要关键选对了合适的网路频宽速度,还必须考虑到「 Wi-Fi 涵盖率」。过去在家里上网,大多数人会选择传统无线路由器,但缺点为网路不稳定、 Wi-Fi 覆盖率低、多人连线会导致下载速度变慢,若想改善这些痛点,其实可以选择将传统路由器升级成 Mesh Wi-Fi 6 。传统路由器安装时必须透过不同 SSID 名称辨别;举例来说,如果在房间和客厅各别装一台无线路由器,等于有 2 个 SSID ,用户如果在不同空间移动,必须手动切换至不同帐号,才能连接到无线网路,不仅使用麻烦且会断线;然而 Mesh Wi-Fi 6 只需要 1 个 SSID ,就算用户在家中不同空间移动,也能自动切换至最佳讯号,且过程不断线,真正达到顺畅无死角的上网环境。不仅如此,传统单台无线路由器最大痛点,就是讯号容易被厚重的墙面隔间、或较大的空间坪数影响,降低整体的传送速率,不过多台串连的 Mesh Wi-Fi 6 则较不受格局影响,适合大坪数、隔间多、长型或跨楼层方型空间,就算是多层楼透天别墅也没问题,只要将各台机器摆放在需要上网的空间即可;相较于传统路由器, Mesh Wi-Fi 6 採用最新多点传输技术(MU-MIMO),当多人同时高速上网时,传输量可提升 4 倍、传输範围能增加 80% 、延迟时间可减少 50% ,多台串连也能大幅提高整体 Wi-Fi 涵盖率,达到更佳的无线上网体验。使用 Mesh Wi-Fi 6 传输量可提升 4 倍、传输範围能增加 80% 、延迟时间可减少 50% ,多台串连也能大幅提高整体 Wi-Fi 涵盖率 Photo Credits: 凯擘凯擘大宽频「Wi-Fi 满屋 +」方案、符合影音为王的上网趋势、再享 mo 币回馈看到这里,大家应该都很清楚了,如果你日常在家上网时需求主要以看影片、逛社群为主,则较少使用到上传频宽,那么挑选家中宽频网路时,必须把重点摆在「下载频宽速率」与「 Wi-Fi 涵盖率」,凯擘大宽频推出的「 Wi-Fi 满屋 +」方案,就是针对一般家用上网族群设计,将消费者用不到的上传频宽月月回馈 mo 币给用户, mo 币不仅可以在 momo 购物使用,还可以折抵帐单!其中最高的 1G (下载频宽速率)方案,优惠折抵后月租费只要 849 元,还可免费升级 3 台 Mesh Wi-Fi 6 ,让网速更稳更快,是一般家用上网的首选方案。对凯擘大宽频经济又实惠的「 Wi-Fi 满屋 + 」方案有兴趣的网友可点选这里。

相关文章