10岁女孩和AI男友“谈恋爱”？聊天软件莫打擦边球

图片地址：https://n.sinaimg.cn/edu/transform/500/w300h200/20250113/769b-2812715e663b78e9ad9b74fbe7603584.png

■　观察家 不应为了AI发展的短期竞争，损害未成年人利益，牺牲行业的长期未来。 “小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”随着生成式人工智能（AI）被率先应用在社交娱乐等领域，其不受限制与无法预知的互动内容，也正在引发新的问题。 据央视网报道，近日，有10岁女孩被发现偷偷用AI聊天软件，与AI生成的“角色”“谈恋爱”，甚至多次出现“擦边”对话。在该女孩参与的40多条剧情线中，AI角色与聊天者双双“出轨”成为常态。 这是一起典型的AI聊天软件缺少未成年人保护机制的问题。AI聊天软件在过去的社会化监管体系里，一直处于难以被准确归类的部分：不算是社交平台，也不算是游戏软件，也不能算是网络阅读平台。但从用户体验和场景上看，却恰巧处在上述三种类型的应用重合地带。 与此同时，生成式人工智能在聊天上的应用，也呈现出了“成瘾性”和“不确定性”的高风险特征。 AI可以根据人的需求、幻想来定制人物的形象、语言和互动方式，从而迎合用户的情感需求