对于信息技术教育学者弗朗切斯科·阿格鲁斯蒂而言,我们需要建立相应规则、开展数字素养教育,并且更加充分地认识其中潜藏的风险。

“回到家中,就该把手机放到一旁。手机不要放在床头柜触手可及的位置,晚餐时所有人都不能使用手机。但首先,我们家长自己就必须做到。” 信息技术教育学者阿格鲁斯蒂提醒道,“不然孩子们就会反问:既然你都一直在玩手机,为什么我不能玩?”
社交媒体已经普及近十五年,运作机制几经改变,可至今仍然没有一套成文统一的规范,来约束青少年访问、使用社交平台。各界对于社交平台利弊的讨论一直十分两极:一项研究指出社交媒体会损害青少年心理健康,紧接着就会有另一项研究表示,并没有可证实的负面影响。
哪怕是科学界一直存在的这种争论,也延缓了相关政策落地,迟迟无法出台清晰的指引,保护儿童与家庭。
如今,这种缺乏管控的局面,很可能会在未成年人接触、使用人工智能聊天机器人的过程中再度上演。
美国非营利机构“常识媒体”一项调查显示,十个青少年里就有七个曾经使用过对话式人工智能聊天机器人,他们不只是用来查询特定信息,还会长时间和机器人交谈,把人工智能当作朋友、父母或是老师。
阿格鲁斯蒂(罗马第三大学,讲授实验教育学与媒介教育)表示,这些数据说明,我们此前严重低估了人工智能带来的各类问题,社交媒体疏于监管的历史,或许正在重演。
从针对元宇宙、谷歌等大型科技公司的美国诉讼案卷中,人们才发现,社交平台早在十年前就刻意采用“成瘾设计”,尽可能牢牢抓住用户,依靠用户停留时长与注意力赚取广告收益。
拥有脸书与 Instagram 的元公司,今年三月就被指控算法损害一名年轻女性的心理健康,该公司在加州洛杉矶输掉了首轮诉讼。
此后元公司便调整策略,在八月底另一桩诉讼中,扎克伯格选择达成 180 亿美元的和解,公司却没有承认任何过错与责任。这场官司就此终止,而这场诉讼原本有可能彻底改变人们使用社交网络的方式。
聊天机器人与社交媒体,我们需要制定规则
但这位学者认为,解决办法并不是单纯一刀切禁止使用。单纯禁止,相当于把管控的重担全部推给家长,让家长独自看管孩子,不让他们接触这些工具。
阿格鲁斯蒂主张,大家应当去理解这些技术工具的用途、明确适合使用的年龄,关注整个使用过程,而不是只盯着最后的使用结果。这套思路同样适用于对话聊天机器人。
阿格鲁斯蒂教授点明了两种心理机制的区别,它们分别把人困在社交媒体、或是人工智能对话当中:
无休止向下滑动刷内容,也就是所谓“刷屏”,无论横向还是纵向信息流,短视频源源不断,给人一种即时满足感,就像吃一块巧克力。
而人工智能的“讨好迎合”,是机器人一味奉承、顺着用户说话。
用户和聊天机器人的对话内容,还会被平台回收,一方面用来继续训练模型,另一方面留住用户。用户不断在社交平台、人工智能聊天机器人里面找到印证自己想法的内容。
最后人们会慢慢说服自己,相信那些内心希望是真的事情,不再去思辨、不再审视自己原本的想法。久而久之,人会变得难以独立做出重要判断,哪怕是情感层面的抉择,都习惯先问问人工智能;就像很多人明明意识到应该停止刷社交软件,却没有能力停下来,也不愿意再去寻找别的可靠信息来源。
数字素养教育不分年龄,至关重要。教育要围绕伦理原则、人工智能底层运行逻辑展开,校园、企业内部都需要开展相关教育。
“学会有意识地使用这些技术,不等于免除大型科技公司应当承担的透明义务与责任。” 这位教育学者补充道,“开展数字教育,就好比教会人们开车,教会人把握好车速,避免在高速路上开太快。但与此同时,车企本身也要尽到责任,给车辆配备安全气囊,保证产品本身安全可靠。”
教授说,这个比喻放到社交媒体、人工智能聊天机器人身上同样成立。
平台能否正常运行、好坏与否,不能只交给科技巨头自己监管。我们必须要求企业,在确定的伦理边界之内实现商业目标,不能任由未成年人毫无保护地使用产品,置青少年的心理健康与数字安全于不顾。
来源:Ilaria Solaini 编辑:冯晗育 卢佳奇
免责声明:部分内容来自网络,版权归原作者所有,如涉侵权请联系邮箱:15632306660@163.com删除。