前言

一年一度的亚马逊云科技的 re:Invent 可谓是全球云计算、科技圈的狂欢,每次都能带来一些最前沿的方向标,这次也不破例。在看完一些 keynote 和介绍之后,我也去亲身体会了一些最近发布的内容。其间让我感触最深刻的无疑是 PartyRock 了。PartyRock 真的算是做到了:能让任何人快速的构建一个属于自己的 AI 运用。当然,本文最终也共享我关于其他在 re:Invent 上说到的一些看法和考虑。

那么,不多说,先来看看今天的主角PartyRock

亚马逊云科技开发者社区为开发者们供给全球的开发技能资源。这儿有技能文档、开发案例、技能专栏、训练视频、活动与竞赛等。帮助我国开发者对接世界最前沿技能,观点,和项目,并将我国优异开发者或技能推荐给全球云社区。假如你还没有重视/收藏,看到这儿请必定不要匆匆划过,点这儿让它成为你的技能宝库!

PartyRock 简介

Everyone can build AI apps.

这句话是 PartyRock 主页的一句话,它便是 PartyRock 的最好的功用归纳了。

去年到今年 AI 相关的运用层出不穷,GEN AI 现已太多了。到目前为止,其实我本人现已有点审美疲劳了,因为该看的都看的差不多了,所以说实话体会之前,我并没有对 PartyRock 带有很大希望,最多是体会完了之后厚脸皮来一句 “不过如此”。成果体会完结之后发现我说的是:

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

运用体会

下面我就用我自己制造的两个运用和一个官方的运用来说明一下它的运用体会。

构建榜首个运用 – 选词填空

制造的进程其实十分简略,简直 10 分钟就搞定了。

进程 1

点击创立运用之后,在它给出的输入框里边输入你想要做的运用的功用描绘,比方说,我最近在学英语,我榜首想法便是做个选词填空的运用出来,所以我就在 App builder 的输入框里边输入如下的内容,然后点击 Generate app 就开始生成了。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

进程 2

根据生成的内容,你自己按需求修正一下描绘和内容,这儿最终下方的答案输入部分我做了一些提示词的修正,其他我也就没动了。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

进程 3

然后就能够测验一下了,在榜首个框 ( Words to choose from ) 输入一些单词,在右边 ( Sentences ) 就会生成对应的题目。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

然后你能够在下面 ( Answer ) 作答并验证答案是否正确。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

整个进程,需要我动脑的当地便是在想我应该如何描绘我的运用,实践生成的作用很不错,我很满意。

构建第二个运用 – 扩写生成图片

榜首个运用咱们是依靠的 AI 直接帮咱们生成的,尽管很简略,但是关于咱们开发者来说,与其去想描绘,不如直接着手来的快。所以这次咱们从零开始(挑选 “ Start from an empty app ” 选项),自己搭建一个运用试试看。这次我想试试有关于图片生成的才能,关于 AI 生成图片来说最麻烦的是写描绘词,所以我想让 AI 先帮我扩写,然后再运用扩写的内容去生成图片。

进程 1

榜首步添加 widget ,其实咱们在上面看到的一个输入框便是一个 widget ,目前PartyRock供给了下面几种能够运用的 widget 。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

咱们需要 3 个 widget,一个用户输入 ( User Input ) ,一个文本生成 ( Text Generation ) ,一个图片生成 ( Image Generation ) 。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

进程 2

然后,咱们就需要编写 AI 生成的提示词了,点击每个 widget 右上角的修改,就能够输入对应的提示词,还能够挑选不同的模型。其间最重要的是,你能够运用 @ 符合直接引用其他 widget 生成的内容,比方,我需要根据用户输入的内容进行扩写,那么我在提示词里边就能够直接引用用户输入的部分;比方,我想根据扩写的内容生成图片,我就能够运用 “ @Description ” 引用扩写的内容。如下图 Prompt 中高亮的部分。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

进程 3

测验一下,下图便是我输入的一句描绘,经过扩写最终生成了图片,当然模型不同最终作用也不一样。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

此刻你就能够发布你的运用了。

ChatRPG

让我觉得最奇妙的一个运用,是官方给出的 ChatRPG 。这个运用运用了 AI 对话的功用来完结了一个对话形式的 RPG 游戏,你能够经过对话的形式挑选不同的途径 ( A B C ) 来获得不同的结局,并且最为奇妙的是,它运用了几个 AI 的联动,整个 RPG 的进程会生成不同的场景图片,让整个游戏的进程愈加有了带入感觉。

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

精妙的当地

说完了体会,来说说 PartyRock 精妙的当地。

  1. AI build AI : 榜首点我觉得妙的当地是自举,也便是自己构建自己,运用 AI 的才能去构建 AI 运用自身。一方面体现 AI 自身的才能强大,另一方面让也大大降低了入门的门槛,让小白用户也能快速上手。
  2. remix:PartyRock 供给了 remix 的功用,你能够直接复制( remix )一个别人现已发布的运用,直接修正里边的参数或许提示词来完结你的运用。这无疑是最快的创立运用的一种方法了。
  3. 引用变量:这我觉得是 PartyRock 的灵魂,经过@引用其他 AI 完结的工作,然后实现不同 AI 之间的联动。你乃至能够经过这样的方法构建一个自己的工作流,让 AI 进行协作,让需要来回对话好几次的工作一步到位。现在供给的 widget 还比较少,我觉得跟着后边的更新,当 widget 有许多的时候会碰撞出更多的火花。一起,这也给咱们供给了一个不同 AI 之间协作的一个不错思路,我觉得这样的思路带给我的考虑比产品自身还有意思。

其他产品

当然,这次 re:Invent 说到了其他许多的产品和考虑,这儿就对其间几个我十分感兴趣的产品谈谈我的拙见。

Serverless

我重视最多的必定是 serverless ,我一向都觉得 serverless 一向一种对开发友爱也对运维友爱的结局计划。而这次 re:Invent 发布的Amazon ElastiCache Serverless让我也有了新的考虑。Amazon ElastiCache Serverless是根据运用程序流量模式主动的扩展容量的缓存服务,而关于缓存这样的热门数据来说,有过实践事务场景的同学都知道假如 Redis 忽然内存满了是一种什么样的体会。而 ElastiCache 的自适应压力的工作负载模式能够很好的处理这个问题,并且兼容 Redis。

产品自身的含义很大,而带给我的考虑是,在未来是否当 serverless 足够老练之后是否会呈现一向数据源的调集产品,主动会根据数据的访问状况来主动路由到对应合理的存储模式中呢?比方,热门数据会主动路由到 cache 而平常数据路由到 mysql,而冷数据当抵达 “冰点” 时主动归档以削减耗费?而关于上层运用来说运用完全透明?当然里边的问题许多,不过我觉得跟着 serverless 的开展或许这也是能够幻想的。

AI

Amazon Bedrock 、Amazon CodeWhisperer 和 Amazon Q 是这次 re:Invent 说到有关 AI 的一些产品。比方本文说到的 PartyRock 应该便是建立在 Amazon Bedrock 之上的。当然,我也榜首时间去试用了一下 Amazon CodeWhisperer 和 Amazon Q ,不过给我的感觉还没有那么的惊艳,或许是还在 beta 阶段,智能程度一般,信任体会过的小伙伴感触也差不多。并且由于目前支持的开发言语还不多(我常用的 golang 还没有)。

不过,re:Invent 上一向强调了另一个有关 AI 的关键点便是,安全。“生成式 AI 必定应该是安全的”。这儿的安全有两个方面,一方面是生成的内容必定应该是安全的,不能呈现违法的内容;另一方面是作为模型根底的训练数据应该是安全的。比方,企业内部根据自己内部代码和数据来建立的模型,进行运用,对应的数据不应该被公开或许呈现在其他人生成内容中。所以,安全应该是未来 AI 前进的柱石

我在体会 PartyRock 的时候也发现了下面的提示,假如呈现不安全的单词,图片是不会生成的:

2023 re:Invent 用 PartyRock 10 分钟构建你的 AI 运用

THE FRUGAL ARCHITECT

亚马逊 CTO Werner Vogels 博士今年在 re:Invent 上的主题讲演说到了THE FRUGAL ARCHITECT(节俭/控制架构) 。说到了本钱应该在架构规划之初就应该被考虑进去,并且一向作为一个考量指标。

去年到今年一个词在国内大厂一向被提及 “降本增效”,成果最近演变成为了 “降本增笑”。是的,由于本钱的减缩,往往带来的便是服务的不稳定,这是所有工程师都不想见到的。我就想到之前听到一个说法是,假如一个并发问题能经过加服务器来处理,那么领导会更愿意经过加服务器来处理而不是重构代码,因为养开发的本钱往往高于服务器。而我也经历过一次 k8s 的降本,尽管有时候确实是因为 request 设置的不合理导致的本钱超支,但实践改起来的时候真的是心有余悸,因为你真的不知道这个服务的并发明天会不会就坐火箭。所以,本钱、安全、性能 一向都是一种权衡(trade off) ,用流行的话说便是 “并不是我不知道两地三中心安全,而是单中心更有性价比”。

其实,有时候并不是不考虑,而是无法预估流量的巨细,谁都也无法猜测你的运用什么时候会火。所以亚马逊云科技供给的 Lambda,ElastiCache 都是那种按本钱去规划的。而关于上云来说最大的一个问题便是本钱不可控,跟着服务的类型越来越多,并且许多服务都是按量付费,预算与实践往往会有比较大的差异。所以,最让我感兴趣的是,这次 Werner Vogels 说到的 Management Console 内能够展示运用级其他本钱,之前咱们可能只能知道某个运用的服务本钱很贵,而现在咱们能知道详细那个运用在运用的本钱最大。这种观测才能关于运用者来说是愈加友爱的,我能最大程度的去观测我的运用本钱的占比,然后精准的控制我的本钱,而不是盲目的去找压力。

总归,在我认为 THE FRUGAL ARCHITECT ,给我的考虑是你必须有才能去时刻重视本钱,无法观测的系统将导致无法估量的本钱

总结

最终总结一下,这次 re:Invent 不只给咱们展示了一些最新的运用和服务,更多的给咱们带来了一些亚马逊云科技关于最新技能方向的一些考虑,接触这些前沿技能给我的架构处理计划又多了一些积累,信任下一年的大会也会一样精彩。

文章来源: dev.amazoncloud.cn/column/arti…