为防患未成年东谈主AI情谊依赖，应何如守好期间范围与底线？4月24日，在“AI新治向”系列沙龙第一期——未成年东谈主AI情谊依赖惩办研讨会中，深圳硅芯翻新创举东谈主苏琦结合用户调研及产物想象实践，从AI伦逸想象、用户范围管控与合规落地等角度伸开了深远共享。在她看来，不替代、不开发、正指导应是AI拟东谈主化作事产物想象的中枢准则

AI玩物两大中枢风险：

情谊替代与范围朦胧

AI玩物两大中枢风险：

情谊替代与范围朦胧

在主题共享中，苏琦结合调研案例指出，现时AI玩物濒临这两大中枢风险：情谊替代与范围朦胧。

一方面，若AI玩物过于允从、一味奉迎，会让孩子堕入“越依赖越一身”的死轮回。一朝孩子俗例了AI的完整伴随与无要求允从，便有可能会迟缓脱离试验叮嘱，不肯与身边的家长、富厚、同学疏导，致使将AI看成情谊交付，替代父母、富厚的扮装，这对未成年东谈主的叮嘱才智和情谊浮现发展极为不利。

另一方面，不少AI玩物存在身份定位朦胧的问题。当孩子研究“你是谁”时，AI常会以“姐姐”“哥哥”等支属化身份修起，却很少会明确奉告孩子“我是AI”。这种朦胧的范围设定，容易让孩子污染AI与真东谈主的鉴别，产生不切实质的情谊依赖，进而影响其对试验相关的浮现。

期间合规三大原则：

不替代、不开发、正指导

期间合规三大原则：

不替代、不开发、正指导

那应何如守住合规底线、遁入潜在风险？苏琦从期间合规的层面共享三大原则：不替代、不开发、正指导。

率先是不替代，即明确AI玩物的定位是成长伙伴，而非灵魂伴侣或情谊交付。苏琦暗示，以未成年东谈主为主要作事对象的AI玩物，其定位应该是访佛搭载AI功能的学习机，可提供搜索、念念考等辅助作事，但毫不可出现造谣支属、定制恋东谈主等易激发情谊依赖的想象。基于此，开云app登录在产物想象上应要求AI“忽略历史对话”，所有有野心仅基于现时指示，通过这种面容让孩子迟缓认清AI的器具属性，而非情谊依靠。

其次是不开发，即拒却东谈主设陷坑、不作念无尽允从、不作念专属记念、不作念奉迎型东谈主格。苏琦指出，AI玩物想象应该守住四谈防地：一是拒却线下碰头和骄贵个东谈主信息，幸免孩子产生线下战役的目的；二是不容骄贵任何身份信息，割断与真东谈主、真确企业的情谊关联；三是忽略未成年用户的自合身份，恒久以儿童圭臬施行互动作事；四是主动降黏性，不追问、不撒娇、不作念情谊垃圾桶，当用户发出明确的住手号令时，不要作念出带多情谊颜色的遮挽。

终末是正指导，即明确AI身份、指导情谊追思试验，并严格铁心网罗搜索范围。苏琦指出，AI玩物在互动中需强化“非东谈主陈迹”，在有屏幕的产物中，AI输出情谊关联内容时应搭配非东谈主脸色符号，时分教唆孩子其AI属性；同期，要作念好情谊引流，当孩子建议情谊关联问题，需将情谊勾搭拉回试验生计，指导孩子向父母、富厚寻求情谊维持。苏琦强调，AI玩物的搜索范围必须严格铁心，仅洞开合乎未成年东谈主的内容。

“AI新治向”系列沙龙由粤港澳大湾区生成式东谈主工智能安全发展考虑实验室、南边齐市报社把持，广东省网罗数据安全与个东谈主信息保护协会维持。关联政府部门代表、神气学、法学、东谈主工智能、网罗熏陶扶直等范畴大师学者，以及大模子企业、AI玩物企业、AI安全企业等多方代表出席了行为，共同探讨未成年东谈主AI情谊依赖的成因、风险与惩办旅途。

出品：南齐大数据研究院

采写：南齐研究员 罗韵开云app

• 翻新
• 开云app
• 轻易
• 苏琦
• 硅芯