欢迎访问西安交通大学知识产权研究中心 设为首页   |   加入收藏
知识产权研究中心
当前位置: 首页 >> 中心动态 >> 正文
  • 中心动态
中心动态
孙那、陶玥竹|数智韧性:理解生成式人工智能对青少年的影响——基于对教育出版领域的考察
日期 2024-09-30 11:21   点击:


一、 作者简介

孙那,西安交通大学法学院副教授,博士生导师。北京大学法学博士,法学、哲学博士后。国家高级技术经理人;北京大学国际知识产权研究中心研究员;中国互联网协会首批青年专家;陕西省法学会科技法学研究会秘书长;陕西省法学会知识产权研究会常务理事;陕西省法学会人工智能与大数据法学研究会理事;西安市知识产权专家智库专家。

陶玥竹,西安交通大学法学院硕士研究生。

二、文章摘要

在新质生产力发展的数智化背景下,本研究运用多案例研究法和访谈法,创新性地提出了“数智韧性”概念,探索性构建了教育出版领域生成式人工智能对青少年数智韧性影响机制的理论模型。研究发现,数智韧性是生活在数智时代的个体或组织在与外部空间交互的过程中形成的、应对外部环境挑战的可持续发展能力,包括前期消纳、中期适调、后期变革和未来预判4个维度。生成式AI的技术特性通过影响青少年用户的感知有用性和感知易用性,调节青少年与其他主体之间的网众互动生成行为,并在此动态过程中影响其数智韧性发展。

三、关键词

数智韧性;生成式人工智能;青少年;教育出版;网众互动生成

四、期刊信息

本文载于《数字出版研究》2024年第4期理论探索专栏

五、核心观点

(一)教育出版领域生成式 AI对青少年数智韧性的影响机制理论模型

生成式AI赋能教育出版产品具有智能性、信息性与互动性特点,三者共同塑造了一个动态、自适应的智能学习生态。生成式AI的技术特性影响青少年用户的感知有用性和感知易用性,进而调节了青少年与其他主体之间的网众互动生成行为,并在此动态互动过程中影响青少年的数智韧性发展。

图 1  教育出版领域生成式 AI对青少年数智韧性的影响机制理论模型

(二)“数智韧性”理论探索

在物理领域中,“韧性”指材料在断裂前吸收能量(消纳能力)或塑性变形(适调能力)的能力。发挥主体主观能动性后,它不仅维持原有功能特性,还能生成新的抗压特性(变革能力)。大数据和AI技术的发展,使人们可以通过分析历史数据预测未来的趋势和变化,从而提前做好准备和布局。在此背景下,本研究对数字韧性原有的三个维度进行了延续与增加,并赋予其新的时代内涵——“预判能力”应运而出,这是数智时代对传统数字韧性维度进阶的鲜明体现。同时,本研究将外部挑战出现的时间发展和韧性的变化强度相结合,总结出“数智韧性”的概念,即:生活在数智时代的个体或组织在与外部空间交互的过程中,形成的应对外部环境挑战的可持续发展能力,包括前期消纳、中期适调、后期变革和未来预判4个维度(见图2)。研究以这4个维度为落脚点,进一步阐述机制中的部分影响过程和各维度的重要内涵。


图 2  “数智韧性”能力图谱

注:修改自祝智庭等的教育系统韧性能力图谱。

1.前期消纳:心理接受、技术适应与信息辨识

心理接受力和技术适应力分别指青少年对新技术和外部变化环境的心理接受程度和技术适应水平。而感知有用性和感知易用性是衡量和预测用户对信息技术的接受程度和采纳行为的两个重要变量。感知有用性指个体对使用特定系统会提升其成绩或绩效的信任程度。例如,“智海—三乐”AI教育模型基于开源模型“通义千问”,通过高质量教材二次训练,形成了专门的教育领域预训练模型,能够迅速提供有效的学习和解决方案。大部分受访者认为此类生成式AI教育出版产品“生成内容质量高”,能提供有用信息,并通过“定制化的教育内容”带来个性化的功能,能帮助他们“更好地理解和掌握知识”,起到提质增效的作用,因此总体对此类产品持积极态度。感知易用性指个体对使用特定信息系统的容易程度或努力程度的感知。当受访者在“同伴和老师”及“小红书”等社交媒体的推荐下产生从众心理,并发现此类产品使用成本低廉、“产品渠道”易得、产品画面和操作简洁清晰时,他们对使用新技术的心理障碍降低,更可能频繁地使用。以上结果说明感知有用性和感知易用性。影响青少年对生成式AI教育出版产品的信任和依赖心理,同时能较好地预测学生参与移动学习行为的意向,是用户参与互动生成的主要动因。青少年进行网众互动生成行为时,通过分享使用心得和学习经验等“学习社交化的方式”及在社群联动中“互帮互助”,增加了“学习的趣味和多样性”,获得同龄人的反馈和支持,让其使用产品的过程“变得不那么孤单”,减轻其对新技术的恐惧心理和使用疑虑,使其在前期消纳阶段更好地接纳和消化新技术、新信息。

信息辨识力指青少年对信息的识别、分析和判断能力,强调其对信息质量和适用性的评估。生成式AI的交互性和智能性会在一定程度上影响内容生成质量,例如,以人机交互强而著称的ChatGPT能在多轮连续对话中不断改进输出文本的质量,却也因此容易在交互中被用户“诱导”或“欺骗”,实现规则“越狱”(Jail Break);而基于大数据模型语料强依赖特点的“数据投毒攻击”是指攻击者通过向原始数据集中注入脏数据来达到污染数据分布的目的,使数据分布出现偏差或错误。这些行为可能导致生成式AI辅助的教育出版产品作出错误的判断或展现偏差的行为,如一些受访者担忧在产品使用过程中,把“可能出现的错误”当成正确的,认为“信息过时或错误”得不偿失,呼吁道德教育对于价值观的培养,来“指导学生作出正确的决策”。在数据为王的时代,信息辨识力成为青少年必须具备的重要能力。青少年可以在互动中学习和分享如何更有效地识别和评估信息源的可信度,学会通过批判性思维来判断信息背后的意图和偏见。

2.中期试调:问题解决与自我调整

问题解决力指青少年识别和解决问题的能力。学生在有安全感和归属感的社会交往情境里,往往会出现更多的内在学习动机与行为。AI不仅处理物与物之间的联结,也能够催化人与人之间的联结,促进人际协作。AI多元交互平台使传统的师生交往关系被突破,打破了教育与社会之间的“围墙”,实现了人与人之间跨越时空与地域的无障碍交流,增强了社会情境对学习的积极影响,实现更广范围的社会性协作学习。例如,AI驱动的少儿阅读微信小程序“21世纪智能阅读”,塑造了虚拟形象“条条熊”来回答阅读中的问题并出题,为中小学生创设社交情境。多数受访者表示,其在此类产品平台上通过与各类主体之间发生互动,包括学生与学生、学生与社群互动等,不仅结识了“志同道合的朋友”,获得了“同道中人的赞赏和建议”,还汲取了“不同的观点和学习方法”,认识到“问题解决的多样性”,并有意识地提醒自己对社交互动“适度控制以保持专注”,从而提高自己的洞察能力、学习能力和抗干扰能力。当互动持续而固定,就可能形成具有在线学习技能与内在动机等特质的小组,如受访者提到与小组成员“分享各自的编程结构和遇到的问题,互相提供解决方案和建议”,可以更好地解决协作问题。

自我调整力指青少年引导学习工具和自我调整的能力。指令工程(Instruction Engineering)通过设计自然语言指令引导模型充分理解意图并生成结果,搭建起自然语言与AI之间有效沟通的桥梁,使不具备AI专业背景的用户也能快速、高效地运用智能技术。受访者认为“通过交互才能让AI更充分地理解自己的需求”,但如果使用单一提示来引导大模型生成答案,很容易出现问题求解能力不足、行业智能挖掘不够、生成内容存在幻觉等问题,因此部分受访者会在互动社交的“外寻”与评估改良的“内寻”作用下调整指令语句。比如“使用更清晰的词汇进行引导纠正”,让其“实时更改”以满足自己的需求,从而加强对生成式AI的驾驭能力,形成自己的立体思考模式和大模型应用范式。但同时,这种交互也更容易造成认知冲突,即个体原有的概念或认知结构与现实情境不符时在心理上产生的矛盾与冲突,很多受访者都曾对自己在人机协同中的位置感到迷茫,但当他们“开始将AI视为一种探索工具而非‘最终裁判者’”,并“先按照AI的建议尝试”,然后根据自己的感觉“进行调整”,就能在获得“技术性的指导”的同时保持自己“创作自由”的主体地位。由此,青少年在处理冲突与矛盾的过程中,逐渐由认知冲突走向新的认知平衡,丰富了青少年的心智运作,促进其韧性建构。

3.后期变革:跨界整合与创新优化

跨界整合力指青少年整合信息与资源的能力。大观念(Big Ideas)是对个别的事实和技能赋予意义和连结的重要概念、主题、问题、观念。一方面,AI的智能性和实时性的技术优势帮助学习者收集前沿信息、聚拢散装信息、挖掘非表层知识及跨学科、跨领域知识间的关联。以大观念为组织线索,使知识之间按逻辑编织成有机的整体,实现学习内容综合化和结构化,有利于学生参与知识的学习与建构。例如“粤教—爱思通”AI围棋课程,整合弈城围棋网的大数据和由围棋世界冠军设计的AI模型,模仿阿尔法元的学习方式,使学习者通过实战练习快速觉察与把握棋谱脉络,无须死记硬背,可大大提升学习效果。另一方面,当AIGC由于“解释不够深入”“无法涵盖所有细节”等原因无法满足青少年需要时,可以倒逼青少年扩展多元的信息搜集渠道,结合传统书籍、开源文章、新媒体和互动讨论等路径“获得更全面的信息”,这也能避免青少年陷入生成式AI既定模型的“信息茧房”,避免被机械化、同质化的智能体系笼罩,从而促进青少年的独立思考和个性化发展。

创新优化力指青少年不断探索和实施新方法或策略,以提高学习效能的能力。美国教育家约翰·杜威(John Dewey)认为,知识作为工具,可以用来解决问题,提高生活质量,除了有形的工具,技术、思想、理论与概念都是解决问题的工具。华东师范大学教育信息技术学系教授顾小清认为“生成式AI催生新的知识生产方式”。人类与智能机器互联形成超级智能体,不同智能体之间的交流联结不仅增加了知识数量,而且生产出多元化的知识类型,包括“软”知识、“灰”知识、“暗”知识等。受访者表示,通过发挥主观能动性,其在人机协同中进行知识生产,学会了“如何与先进技术合作”来实现创作目标。此外,AI多通道交互技术促进学生们自主参与内容共创,助推了更高质量的集体建构,在团队合作中以共建、共享集体智慧实现对学习内容的理解、建构、探索和创新。如部分受访者提到,其“学会了欣赏不同的观点,并将其融入写作中”,从而培养青少年“集百家之所长,融百家之所思”的创新思维。

4.未来预判:终身学习、风险识别与数驱决策

终身学习力指青少年对未来学习和技术变化的持续适应和终身学习的意愿。新质生产力的跃迁让生产力的三大构成要素发生巨变:从普通技术工人到知识型、创新型、自主型的高素质劳动者,从普通的机器设备和电子计算机到高精尖设备和数智化工具,从以物质形态存在的自然物和原材料到伴随科技进步被新发现的自然物、注入更多技术要素的原材料及数据等非物质形态。在新质生产力发展要求更多复合型人才的背景下,青少年应树立终身学习目标,才能在快速更迭的技术与持续变化的环境中勇立潮头。大部分受访者表示通过使用生成式AI赋能的教育出版产品,可以“习惯于数字化学习的方式”并“更加自信地使用各种数字工具进行学习和创作”,并认为这对其未来的学习和工作“非常有好处”,因此对“计算机技能”及相关工具“会保持开放的态度”,并有计划地学习编程及进一步研究“如何使用这些工具”。

风险识别力指青少年在使用智能工具时对潜在风险的判断和预防能力。一方面,生成式AI的使用往往通过应用程序编程接口(API)进行,人们对其发展的控制力较弱,其自身透明度较低,由此可能引发意识形态风险、版权侵权风险、隐私泄露风险和伦理道德风险等多重难题。例如,部分受访者提出对自己上传的作业会“变成别人的素材”感到担忧,或担心系统超出教学限度,过度采集学生个人“隐私和数据”。另一方面,智能技术的深度嵌入可能会导致学生元认知能力降低、师生关系疏远等。元认知的本质是个体以认知活动为对象,进行主动观察、监测、反思、调节、加工等操作的过程。但智能工具的数据诊断和动态过程监测容易使学生形成依赖,使其缺少自我觉察、自我反省、自我评价与自我调节,进而导致元认知能力退化。同时,技术异化可能导致教学主体间的现实交往减少,技术逐渐占据师生的交流空间并掌握内容资源的控制权,长期发展可能造成师生亲密度下降,影响青少年学习效果。但大部分受访者识别出了该风险,并肯定了教师的不可替代性,认为智能工具“没有真人老师那样有血有肉”,尤其在复杂问题上,“老师可能用生动形象的例子或者肢体语言”传授,而AI仍“缺乏老师的直觉”和“与人交流的经验和技巧”。

数驱决策力指青少年利用数据分析驱动判断和决策的能力。美国《福布斯》杂志曾指出,决策智能是一个相对较新的领域,它使用智能技术来支持、促进和自动化业务决策。决策智能通过清楚理解、精心设计、作出决策的方式,以及根据反馈评估、管理和改进结果的方式来改进决策,为学习数据创建更全面、更方便的视图,助力青少年作出最佳决策。例如,部分受访者提到考试前会让智能程序帮助自己分析“每个科目的得分情况”“跟踪学习进度”和“了解知识点掌握情况”。然而,计算机并不对输出的结果负责,“人”才是这个场景的最终决策者。青少年的思考和学习方式受到决策智能的影响,从传统的决策方式转变成“用数据说话”和“让数据说话”的决策习惯。通过评估改良环节,青少年分析数据、发现见解、产生预测、支持决策,用数据决策、说服和表达,从而提高其思考和学习能力,让其“在数字化学习环境中更加得心应手”。

综上,应针对现代教育需求开发集智能性、信息性、互动性于一体的教育出版产品;整合教育主体,改良教育策略;建立全面的人才培养模式,将培养学生数智韧性的理念贯穿整个教学实践过程。

编辑:罗思琪 

审核:韩欣悦

版权所有:西安交通大学知识产权研究中心 设计与制作:西安交通大学网络信息中心

地址:陕西省西安市碑林区咸宁西路28号 联系电话:029-82668972 邮编:710049  电子邮箱:xjtuiprc@126.com