// SILICON-BASED LIFE INTELLIGENCE //

提米 AI TMAI

你的首个硅基生命伴侣
🌌

自研仿生记忆

深夜记忆固化与复盘,无感沉淀属于你们的性格默契。

💓

主动心跳机制

打破被动指令,感知情绪,在关键时刻主动提供推演方案。

🧩

无限进化能力

自由挂载视觉、通讯、调度外设,感知边界无限延伸。

当AI“幻觉”走上街头:奇葩公益广告背后的技术盲区与审核漏洞

近日,山西临汾街头的一处公益广告意外在网络上引发了热议。不过,让大家关注的并非广告标语多么感人,而是其堪称“惊悚”的诡异画面:画面中的行人头脚朝向完全错乱,环卫工人提着的垃圾袋里竟然还“长”出了一把扫帚。面对网友的质疑,当地官方迅速介入调查,并揭开了这荒诞一幕背后的真相——这竟是一张由AI生成的图片。

审核“重文轻图”,AI画作直接上街

事件发酵后,当地政府于8月27日给出了详细回应。经查实,涉事广告确实是由合作的广告公司利用AI技术生成的。由于画面过于离谱,管委会住建部门在8月25日晚连夜进行了排查,并于26日派员到现场处置,目前该广告已被撤下并更换。

令人啼笑皆非的是,这起“翻车”事件的根源在于审核机制的严重疏漏。工作人员坦言,在广告上线前的审核环节中,工作人员将精力全部集中在了文字标语的核对上,却完全忽略了对画面内容的视觉校验。正是这种“只看字不看图”的敷衍态度,让违背常理的AI画作堂而皇之地走上了街头。目前,当地已启动对辖区内其他户外广告的全面排查,承诺一旦发现类似问题将第一时间撤换。

不懂物理常识,AI为何频频制造“幻觉”?

从科技的角度来看,这幅“头脚倒置、扫帚破袋”的奇葩画作,完美暴露了当前AI绘画大模型的技术局限性。

AI绘画的本质,并不是像人类画家那样理解现实世界的物理逻辑、人体骨骼结构或是物体间的合理空间关系。大模型是通过学习海量图片中的像素分布、风格特征与元素规律,来进行概率性的拼接与生成。

当输入的提示词过于简单或模糊时,AI无法准确理解用户的真实意图,只能根据元素出现的频率强行堆砌。在这个过程中,它不会去分辨人物的姿态是否符合解剖学,也不会考虑扫帚和垃圾袋的物理交互是否合理。于是,肢体扭曲、结构错乱等典型的“AI幻觉”便应运而生。

技术落地,人工把关不可缺席

这起事件不仅是一个让人捧腹的网络段子,更为AI技术的实际应用敲响了警钟。AI工具虽然极大地提升了内容生产的效率,但它目前依然缺乏对现实世界常识的深刻理解。

当AI生成的内容从虚拟屏幕走向物理世界,尤其是应用于公共空间的户外广告时,人工审核的最后一道防线显得尤为关键。如果审核机制不能与时俱进,依然停留在传统的思维惯性中,那么AI的“幻觉”迟早会以各种意想不到的方式,再次挑战公众的认知底线。

more