AIGC（人工智能出产内容） 已经成为与PGC（专业出产内容）、UGC（用户出产内容）并驾齐驱的内容出产方式。因为 AI 的特性，AIGC在创意、个性化、出产功率等方面具有共同的优势，这些优势能够使得高质量的内容制造更简略，但也会协助恶意份子更高效地编造违法违规内容。数据万象从 AIGC 的输入、出产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，协助各开发者及时发现危险信息，下降事务安全危险。
2022年，ChatGPT的推出，使 AIGC 这个名词进入了群众的视界。Stable Diffusion、MidJourney等能够生成图片的 AIGC 直接引爆了 AI 作画范畴。Gartner 将生成性 AI 列为2022年五大影响力技能之一。AIGC 已经已经成为 AI 范畴的新边境，推进着人工智能步入下一个新时代。
AIGC的风潮直接招引了很多的开发者蜂拥而入，渴望能占到这个风口的盈利。但现实情况是，很多的 AIGC 在上线初期就面对关停危险，中心原因就在于AIGC输出的内容具有不确定性，导致这些渠道因涉嫌传播违规内容而被勒令下架。所以，AIGC 的开展有必要解决内容上的安全与规范。
4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求定见稿）》，这意味着国家已经在密切重视 AIGC 的开展，在合法合规的条件下，支撑 AIGC 的商用及健康开展。
在《定见稿》中，有13条规定是面向 AIGC 渠道的，因 AI 的特性，让 AIGC 在处理安全危险方面有着更大的应战：
- 成倍增长的审阅量 ： AIGC 正处事务增长迸发期，数据量将继续增高；AIGC 生成内容速度较快，短时间即可生成很多内容。
- 对审阅的时效性要求极高 ： 随着 AIGC 使用的场景越来越广泛，在实时交流等交互性强的场景中要求毫秒级的审阅呼应。
- 违规类型多种多样 ： AIGC 依据人为的“指令”生成内容，生成内容由大模型随机而成，产出类型不可猜测。
- 内容隐晦复杂 ： AIGC 可被人为训练引导，生成变体文本、隐晦违规含义的图片，对审阅的准确辨认要求极高。****
依据以上应战，腾讯云数据万象从 AIGC 的输入、出产、存储全方面介入，发布了《AIGC 存储内容安全解决方案》，协助各开发者及时发现危险信息，下降事务安全危险。
内容输入审阅
-
用户通过 AIGC 使用输入原始的文本、图片prompt；
-
渠道可将用户的原始输入信息通过万象直接进行审阅；
-
依据审阅成果：灵敏信息直接阻拦、正常信息进入 AIGC 大模型。
内容出产审阅
- 正常的prompt进入大模型，生成 AI 数据（文本、图片、音视频）；
- 生成的图片、文本数据通过数据万象进行审阅；
- 依据审阅成果：灵敏数据直接阻拦，正常的文本内容可直接通过使用回来给用户，正常图片进入对象存储 COS。
内容存储审阅
-
生成音视频数据先进入对象存储 COS，再通过数据万象进行异步审阅；
-
对于存储在 COS 中经过了审阅后的图片、音视频数据，可在使用层通过 COS 链接的方式回来给用户进行访问查看。
与其他安全审阅服务比较，数据万象内容审阅具有天然的存审一体化的结合优势：1. 与 COS 深度集成，支撑一键扫描审阅 COS 中的历史数据；2. 审阅模块与 COS 之间内网获取数据，革除因拉取数据而产生的外网流量费用；3. 高度便捷的操作，支撑数据上传到 COS 后主动执行审阅、主动冻住违规数据；
同时数据万象支撑用户自定义审阅战略，可依据不同数据场景使用不同的战略：
-
在用户输入的 prompt 提示词场景：可适当下降审阅要求，让用户尽可能坚持输入体会，要点阻拦高度灵敏的内容；2. 在 AIGC 模型生成的内容场景：严格把控提高审阅要求，确保存储、分发的内容是合法合规的，除高度灵敏的内容外，擦边、低俗等内容也应在管控阻拦范围内。
不管是对新涌入的新手开发者，还是计划涉猎 AIGC 的巨头企业，AIGC都是一个危险与机遇并存的范畴，一切新事物的开展都有必要在合法合规的条件之下。坚持自身事务的安全、健康，才是 AIGC 渠道可继续开展的关键因素。数据万象在内容安全范畴继续深耕，期望能够为各大 AIGC 渠道提供最坚实的安全保障。
