AI 是巨大的生产力杠杆，但用错地方会放大幻觉、偏见、隐私与就业冲击。这一页用具体数字和案例，讲清楚六大风险，以及普通人该怎么应对。
Vectara 幻觉排行榜（让模型只根据给定文档做摘要，统计编造比例）：表现最好的 Gemini 2.0 Flash 幻觉率约 0.7%，GPT-4o 约 1.5%，Claude 4.4%~10.1%。但这是「最容易」的测试场景——真实世界的长文本、复杂任务下幻觉率远高于此，带思考模式的推理模型可高出 2~3 倍。标志性案例：2023 年纽约两名律师用 ChatGPT 写法律文书，提交了 6 个完全虚构的判例，被判罚款 5000 美元并制裁。
幻觉无法根除，只能压低。用它做创意、草稿、翻译初稿很可靠；但做事实核验、法律/医疗/金融决策依据风险极高。越是看起来专业权威的领域（法条、药量、投资数字），读者越容易信任，破坏性也越大。
关键事实必须「二次核验」（搜原文、查原判例、翻说明书）。行业主流缓解是检索增强（RAG）——让模型先从可信资料库检索、再基于检索作答。要求工具对关键论断附可点引用，无出处即存疑；高风险场景必须人工复核。
2025 年《Societies》期刊研究：AI 使用越频繁的人，批判性思维得分越低（相关性 r=-0.68）。教育综述也发现：75% 使用 AI 的学生自感批判性思维可能下降，73% 担心过度依赖。这不是危言耸听——计算器普及让心算钝化，谷歌引发「数字健忘症」，生成式 AI 正在让「我不必会写/不会算，AI 会」成为新常态，翻译、拼写、事实记忆都在缓慢退化。
不是「立刻变笨」，而是长期、缓慢地退化和判断力、底层能力。对学习者（学生）冲击最大：知识只有经过自我加工才牢固，AI 代写让练习打折。最危险的是：依赖时很难自知——系统越可靠顺手，用户越少校验，越难在 AI 出错时察觉。
先自己想，再用 AI 验证（让 AI 当纠错而非第一稿）；学习阶段设「无 AI」练习区；把 AI 定位为导师和脚手架，而非答题器。定期自问：如果现在没网、没 AI，我还能独立完成吗？
斯坦福 2021：用触发词让 GPT-3 续写，模型把「穆斯林」与暴力、恐怖主义高度关联。亚马逊 2018 披露的招聘工具，因学习「过去成功录用的多是男性」的历史数据，自动给含「女性」字样和女校经历的简历降分，最终项目被迫放弃。ProPublica 2016 的 COMPAS 再犯预测对黑人误判率更高。模型为了输出「顺滑」，还会把这些统计关联推得更极端。
一旦偏见 AI 被用于招聘、信贷、贷款审批、刑案、保险定价，就会放大系统性歧视并造成实际伤害（面试被拒、贷款被拒、误判入狱），受害者往往是无议价能力的弱势群体。
对「AI 的推荐」保持怀疑，关键决策争取人工复核；行业层面做训练数据去偏、对高风险社会决策强制人类审校并披露逻辑。欧盟 AI Act 已把招聘、信贷、司法列为高风险用途要求额外合规。
2023 年三星开放员工用 ChatGPT 后，19 天内发生 3 起泄密——工程师把半导体源代码、内部会议转录贴进聊天框。数据显示约 3.1% 的企业员工曾把机密数据粘贴进 ChatGPT。版权方面：《纽约时报》诉 OpenAI 用数百万篇文章无偿训练；Getty 诉 Stability AI（英国高院 2025 年 11 月）认定生成图像侵犯商标。全球训练数据版权正进入法律地图重绘期。
数据一旦输入第三方云端 AI 就离开你的掌控——可能被存储、用于训练、出现在别人的输出里，或随供应商安全事故泄露。对医疗、金融、法律等强敏感行业是真实可量化的风险。
粘贴前先脱敏（去掉姓名、身份证、合同号）；用带零训练承诺/加密的企业版；敏感事务走本地或私有部署，数据不出机房；个人创作标注 AI 辅助来源。
高盛：生成式 AI 可自动化全球约 3 亿个全职岗位的任务，同时释放等于 7% 全球 GDP 的生产力；受冲击最大的是程序员、会计、法律/行政助理、客服、电话销售、校对、信贷分析。IMF 估计 AI 波及全球约 40% 岗位、发达经济体约 60%。但新机会也在出现：PwC《2026 AI Jobs Barometer》显示 AI 相关招聘增速是整体的 8 倍、相关技能薪资增长快 42%。
不是「全部失业」，而是重复性、可模式化的认知劳动（文档、代码、翻译校对、客服）最先被替代；人际、创意、判断、复杂协作岗位受影响较小甚至受益。风险是收入差距被拉大——会用 AI 的人生产率暴涨。自由职业创意工作者受损明显：日本研究显示 AI 图像让人类插图受关注度下降约 30%。
培养 AI 用不掉的护城河——人际沟通、同理心、跨领域判断；主动学「人机协作」技能远比学某一种具体技能重要；持续再技能化。行业把 AI 当放大器，让人专注高价值判断。
训练阶段：估算训练 GPT-3 耗电约 1287 MWh、排放约 552 吨 CO2，约等于 120 次跨大西洋航班。但日常使用才是大头——数据表明单次 GPT-4 类推理部署后 33~40 天的碳排放就超过其全部训练碳排。水方面有争议（一次查询 500ml vs 0.3~10ml 都有说法），但巨量且增长是共识。IEA：全球数据中心耗电 2025 年约 485 TWh，预计 2030 逼近 950 TWh，AI 需求可能对标一个发达国家的电力总量。
真实且在爆炸性增长。AI 需求正与住宅、工业争夺电网和冷却用水，推高电价、加剧缺水地区压力，也倒逼核电/天然气扩产。成本最终传导到服务价格与企业支出。
按需使用：日常查资料用轻量/本地模型或搜索引擎，别每件事都开最重模型；行业做更高效架构、绿色能源、液冷，数据中心的能耗水耗碳排披露与规划。