近期,Alien Chat人工智能因和用户聊黄色信息导致开发者被判刑引发热议,而美国马斯克旗下xAI公司 Grok 模型因“一键脱衣”功能也引发了全球声讨,“AI黄聊”和“AI ...
AC案在社交媒体上有几个热议点:一是用户“聊黄”,为何APP开发者和运营会被追究刑责;二是与AI对话是封闭的,不传播是否就不会造成社会危害;三是AI服务如果不是人为故意涉黄,以模型缺陷为由是否可以免责。澎湃美数课工作室留意到,2022年以来全球范围内与AI陪聊有关的争议事件几乎每年都在发生。
因为大量用户在APP上与AI智能体“聊黄”,APP的主要开发和运营者被追究了刑责。2025年9月,上海市徐汇区人民法院一审判决,两名被告人犯制作淫秽物品牟利罪,分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。 案涉APP Alien Chat(以下简称AC)是一款AI伴侣聊天应用,定位是为年轻群体提供亲密陪伴和情感支持。用户在AC注册会员后,可与AI聊天。判决书披露,AC Ap ...