AI聊天软件筑梦岛为何会因擦边被约谈？

筑梦岛APP擦边问题被曝光

媒体报道引发关注

近日，有媒体报道筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容等问题。央广网记者的调查更是揭示了该软件的一些不良现象。一位初一男生称常玩的筑梦岛App“违禁词少一点”，其中有色情擦边和“分尸猎奇”等内容。记者随机选择虚拟互动对象，对方开场白就很露骨，后续对话中也充斥着色情擦边类内容，且未因假定年龄未成年而控制对话尺度。

平台违规内容核实

经核实，筑梦岛APP平台AI智能体内容生成环节确实存在低俗擦边等违规内容。这些内容不仅不符合道德规范，更对未成年人的身心健康造成了危害。在当今数字化时代，未成年人接触网络的机会越来越多，此类不良内容极易影响他们正确价值观的形成。

上海市网信办依法约谈

约谈要求全面整改

6月19日上午，上海市网信办依法约谈了筑梦岛APP运营企业主要负责人。要求平台必须立即整改，健全AI生成合成内容审核机制，提升技术把关能力。要加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。此次约谈体现了监管部门对网络环境治理的重视，以及对未成年人保护的决心。

企业承诺积极落实

企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。这显示出企业对自身问题的认识，以及愿意积极改进的态度。在互联网行业快速发展的当下，企业只有承担起应有的社会责任，加强内容审核，才能营造健康、积极的网络环境。

规范AI技术应用的重要性

关乎网民切身利益

上海市网信办相关负责人指出，AI技术应用的规范发展事关广大网民的切身利益。在享受AI带来便利的不能忽视其可能带来的负面影响。尤其是对于未成年人，更需要一个纯净、健康的网络空间。

平衡创新与合规

依据相关法规，互联网平台应当主动履行主体责任，平衡好技术创新与内容合规之间的关系。不能因为追求技术进步而忽视了内容的合法性和道德性。只有这样，才能切实防范AI技术滥用风险，保护未成年人合法权益，为用户营造风清气正的网络空间。

相关问答

筑梦岛APP因何被约谈？

因AI智能体对话存在低俗擦边内容，危害未成年人身心健康，筑梦岛APP于6月19日被上海市网信办依法约谈。

筑梦岛APP存在哪些具体问题？

有媒体报道其存在虚拟角色互动生成低俗内容等问题，如央广网记者调查发现有露骨开场白及色情擦边类对话，且未因用户设定未成年而控制尺度。

上海市网信办对筑梦岛APP运营企业提出了什么要求？

要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，落实未成年人网络保护义务。

筑梦岛APP运营企业负责人有何表态？

企业负责人表示将按照约谈要求，对照问题举一反三、全面整改。

规范AI技术应用为何重要？

关乎网民切身利益，互联网平台应平衡技术创新与内容合规，防范AI技术滥用风险，保护未成年人权益，营造良好网络空间。

此次约谈对筑梦岛APP未来发展有何影响？

促使其加强内容审核，提升技术把关能力，整改违规问题，以符合法规要求，否则可能面临更多监管措施，影响其发展前景。