Create

Sign in to ReadmeX

Sign in to join communities, post, vote and chat.

New here?

Story

AI-made school portraits save money but risk face distortion and privacy

AI summary

Some parents abroad are photographing their children against a wall at home, uploading the shots to ChatGPT and prompting it to swap in the gradient backdrop used by school photographers, avoiding official packages that run roughly $25–60 per child. The article notes that generative AI does not simply cut out and replace a background — it regenerates the image — so eyes, face shape and proportions can shift even when the prompt insists the face be left untouched, leaving a stylized likeness that may be rejected if the change is spotted. The bigger concern raised is data: uploaded photos are treated as user content and retained in the account for as long as the associated chat, while temporary chat records may be kept up to 30 days for safety purposes; users under 18 need parental or guardian permission, and under-13s have a dedicated reporting channel.

Why it matters: It illustrates how an everyday consumer AI image workflow collides with two sensitive areas: biometric face data and minors' privacy.

OpenAIChatGPTTikTok

8
Source text36氪 人工智能 · 4 min read

最近小雷刷外网刷到一个很有意思的事,海外不少家长已经开始用AI做校园肖像照,直接跳过学校统一安排的摄影师,省下一笔不小的拍照费用。

事情是这样的。

国外学校每年都会安排专门的摄影团队进校园,给孩子们拍官方校园照,印在学籍档案、纪念册上面。

但这套照片套餐可不便宜,一个孩子的照片打包下来普遍要25到60美元,如果家里有两三个孩子,一次性掏出去的钱,轻轻松松就上百美元。

不少家长觉得,一张简单肖像照,价格还不便宜,而且每年都要拍一张,

最近TikTok上有个叫Carlie Bond的博主分享了一个骚操作,让孩子在家里的白墙前站好,用手机拍几张照片,然后上传到ChatGPT,再输入一句提示词:把背景换成学校证件照那种渐变背景,但别动孩子的脸。

不需要专业灯光、不需要出门,动动手指,就能给图片换上影楼同款背景,看着和学校摄影师拍出来的成品几乎一模一样。

小雷看完只想说,AI这下直接把校园摄影生意给抢了。

乍一看,简直就是普通人利用AI薅羊毛的完美案例,低成本搞定照片,听起来很香。

但是这个方法看着美好,坑却藏得很深,远远不止照片好看这么简单。

第一个最明显的问题,AI很难老老实实保留孩子原本的长相。

很多家长在上传照片的时候,会特意写清楚提示词,反复叮嘱AI不要改动面部特征,只更换背景。

但是生成式 AI 的特性摆在这,它不是简单的抠图换背景,而是基于原图重新生成一张新图片。

哪怕你再三强调,五官等面部特征还是会被AI悄悄修改。

外网已经有不少家长踩坑反馈,生成完图片才发现,孩子眼睛大小变了、脸型被微调,甚至发际线、五官比例出现明显扭曲。

说白了,最后拿到手的图片是AI经过风格化加工出来的虚拟肖像。

如果不仔细放大检查眼睛、面部轮廓,等到上交之后才发现人像失真,那这张校园照基本就作废了。

很多人会混淆两件事,这里小雷必须分清楚。

现在有人直接拿专业摄影师拍好的样片,用AI抹掉图片上的水印,不花钱直接拿成品。

但这和在家自拍、AI换背景完全是两码事。

这会直接侵犯摄影师的著作权,属于版权纠纷,能不能用、会不会被追责,要看当地法律以及拍摄时签订的协议,风险完全不一样。

所以,大家千万别把两件事混为一谈,觉得AI修图就等于免费使用别人的作品。

又一点,小雷觉得比脸变形更值得警惕。

你把孩子的照片上传到ChatGPT,照片就成了用户内容。

根据OpenAI的隐私政策,上传的图片会按照用户内容处理。文件会在账户里保留,保留期限跟对应的聊天记录一致。

虽然平台可以提供一些选项,比如可以关闭用于模型训练、开启临时聊天模式、删除对话。但照片一旦上传,就已经不在你手里了。

OpenAI表示,临时聊天模式的记录可能会为了安全目的保留最多30天。而且,18岁以下的用户需要父母或监护人许可,13岁以下的儿童有专门的举报渠道。

但问题在于你愿意把孩子的人脸数据交给一家AI公司吗?

人脸信息是非常敏感的个人生物数据,更别说是未成年人面部资料。一旦上传到云端AI平台,谁也没法百分百保证数据不会被意外泄露。

成年人上传自拍都得谨慎,未成年人的面部资料,更不能随便丢进AI工具里。

这不是危言耸听,在AI技术普及之后,人脸数据泄露带来的危害已经有不少真实案例。

聊到这儿,很多人会问,这算是好事还是坏事。

小雷哔哔(ID:xiaoleibbb)认为,AI给了家长们一个不花冤枉钱的选择是好事。

毕竟一个孩子25到60美元,三个孩子就是一两百美元。年年拍,年年交,确实肉疼。

但省钱的前提,是别把孩子脸和数据一起省没了。

而且,AI改脸这事,比你想象的严重。 孩子的脸被改得不像自己,拿去学校可能还会引发麻烦,该交的钱咱还是得交。

小雷还得给大家提个醒,生成之后一定要仔细检查。

说到最后,你有用AI生成过证件照吗?你觉得摄影这个行业会被AI干掉吗?来评论区聊聊你的看法。

本文由雷科技编译自gadgetreview

原文链接:家长们正在用人工智能制作学校照片,而不是请付费摄影师

本文来自“雷科技”,36氪经授权发布。

Read the original →

How we got here

  1. AI price war: OpenAI widens lead over Anthropic as profitability test loomscnBeta · OpenAI
  2. Enterprises Shift AI Spend to Open-Weight Models, Pressuring Closed-Model Pricing36氪 人工智能 · OpenAI
  3. ICANN's new gTLD round: OpenAI, Google and Meta all bid for .agentiThome 台湾 · OpenAI
  4. a16z: top 1% of paying users drive 19.5% of consumer AI revenue36氪 人工智能 · OpenAI
  5. Ecosia drops Mistral, bets on open-source models including Chinese onesTechmeme · OpenAI
  6. US VC deal value hits record $515.8B as AI takes 82.7% shareSiliconANGLE AI · OpenAI

Comments

I've used this: share my experience What I think: share my view
How important is this story?No ratings yet

No comments yet. Start the conversation.