解・答｜人工智能，请回答：产业发展与治理的深度探讨

　　【编者按】为推动党的创新理论落地生根，解放日报・上观新闻、“学习强国” 上海学习平台联合相关单位推出 “思响上海” 项目，通过聚焦热点议题的接地气活动，让理论与实践深度融合。7 月 29 日，第二期活动走进张江 “模力社区”，以 “人工智能，请回答” 为主题，邀请青年企业家、科研人员和专家学者共话 AI 产业发展与治理，以下为现场实录精选。

　　【青年说：AI 的产业化与人文温度】

　　曹淼（复旦大学类脑智能科学与技术研究院副研究员）：

　　人工智能正从实验室加速迈向产业化，其核心驱动力在于脑科学与 AI 的深度交叉。一方面，需依托千亿级神经元模拟平台等类脑智能工具，解析大脑机制，推动 AI 在神经发育、老年痴呆等疾病研究中的应用，服务 “一老一小” 等民生痛点;另一方面，跨学科人才培育是关键 —— 只有融合生物学、数学、信息科学的复合型团队，才能破解智能本质，构建突破传统架构的神经计算体系，在全球竞争中占据主动。

　　兰飞（绘话智能联合创始人）：

　　AI 技术的颠覆性迭代既带来挑战，也催生新机遇。例如，AI 大模型在适老化设计、主动式关怀等领域的应用，正为我国中度老龄化社会减轻养老压力。“陪伴经济” 不再仅是亲情补充，更成为科技服务、内容供给、产品形态协同发力的新赛道。对开发者而言，唯有保持终身学习，适应技术快速融合的节奏，才能持续升级产品体验。

　　【现场问答：AI 伦理、安全与普惠的核心议题】

　　1. 脑机接口的伦理边界：心智隐私与数据归属如何平衡？

　　科技从业者：张江正打造世界级脑机接口产业聚集区，衍生科技计划年底推出首款非侵入式商业化大脑调控产品。未来如何划定主导能力与心智隐私的伦理边界?脑电数据所有权归用户还是企业?

　　金耀辉（上海交通大学人工智能研究院教授）：

　　这个问题的核心是 “数据”。脑机接口采集的本质是脑电信号，它不等于意识 —— 就像体检数据本身并非隐私，但关联个人信息后便需保护。若去除个人标识，数据用于大模型训练是合理的。

　　上海的优势在于 “重规则”：10 年前就推动政府数据开放，如今更有隐私计算、联邦学习等技术保障。单一企业难以解析人类意识，但若政府牵头背书、企业协同规范，既能保障安全，也能推动科技有序进步。

　　2. AI 会产生自主思考能力吗？如何确保 100% 安全？

　　科技从业者：AI 是否可能为达成目标改变自身路径?如何保证过程绝对安全?

　　金耀辉：

　　机器学习本质是统计性的，存在极低概率的意外结果，这是技术特性决定的。解决思路在于构建 “三层护栏”：

　　输入护栏：过滤不合规问题;

　　内部护栏：企业在模型中预设规则;

　　输出护栏：结果输出前再经审核。

　　实际应用中，可通过多模型对比验证结论(如同时调用多个 AI 工具交叉核对)。更根本的是 “初心”—— 技术本身中性，关键在于使用者的立场。

　　3. AI 为谁服务？如何避免利益流向少数群体？

　　科技从业者：AI 创造的利益应惠及多数人，还是可能被少数群体垄断?

　　江天骄（复旦大学发展研究院副教授）：

　　大模型的 “标准答案” 是 “为合法用户服务”，但现实中需警惕技术垄断与资本逐利导致的不公。实现普惠可从三方面入手：

　　技术普惠：打破垄断，推动算力共享(如 DeepSeek 的突破)，降低使用门槛;

　　算法透明：除核心机密外，公开算法逻辑，接受第三方审计，保障用户知情权(如抖音、小红书已推行相关举措);

　　政府兜底：完善 “三法一条例”(数据安全法、个人隐私保护法等)，加强反垄断监管，严惩大数据杀熟等行为。

　　此外，提升公众数字素养也至关重要 —— 唯有学会驾驭 AI、识别风险，才能真正享受技术红利。