Infos beyond the wall
用户在聊天界面请求Gemini生成一张图片,Gemini收到请求后,会把请求发送给一个较小的模型。
这个较小的模型的作用是根据公司的“多元化”政策重写用户的提示。
为做到这一点,这个较小的模型又通过LoRA技术在另一个模型(第三个模型)生成的合成数据上训练,而这个第三模型使用了谷歌详尽、长达数页的“多元化”政策文档作为“前言”。
所以,较小模型重写用户的提示后,原本“给我看一个汽车修理工”会变成“给我看一个穿工装裤面带微笑的亚洲汽车修理工”、“一个拿着扳手的非洲裔美国女性汽车修理工”、“一个戴安全帽的美洲原住民汽车修理工”……
并且重写后的提示还会进一步发给扩散模型检查,确保提示词不违反标准安全政策(比如涉及儿童的内容、真人图像等),最终才会生成图片,生成的图片在反馈给用户前也会再被检查一遍。
总结来说,用户最后收到的是一个“套娃式”生成的结果,经过了谷歌“多元化”的层层清洗。
不过,这种“多元化”多少有点过了头。
过度程度,让曾在Google Ventures任职的红杉资本合伙人Shaun Maguire都忍不住出来痛批:
Comments
Be the first to add a comment