AI 与社工技术伦理：当算法走进个案室

摘要：社区上了 AI 长者跌倒风险评估系统，78 岁的李奶奶被算法标成"高风险"，自动建议送机构集中安置。可李奶奶有猫、有天天来串门的邻居、有愿意去的活动室。社工小周没把判断交给黑箱，而是把 AI 当参考、把人当主角——AI 与社工技术伦理，说的就是这件事：技术再聪明，决定的权利，得留在人手里。

01 一个故事：李奶奶和那张"高风险"报告

今年春天，我们街道给六十岁以上长者统一装了一套"AI 跌倒风险评估系统"。

说是系统，其实就是把老人的年龄、独居情况、既往病史、有没有摔过，输进去，算法吐一张风险分，红黄绿三档。本意挺好——把最危险的老人先筛出来，社工好上门。

我是小周，社区民政专干。系统上线第一天，我点开名单，红色那一栏第一个名字，是李奶奶。

李奶奶七十八，老伴走了三年，一个人住。女儿在外地，半月打一次电话。养了只橘猫叫阿橘。

报告写着："独居 + 年龄 78 + 既往一次轻微跌倒 = 高风险。系统建议：转入机构集中安置。"

我盯着那行"建议机构安置"，心里咯噔一下。

李奶奶我熟。她不是那种"没人管"的老人。楼道里王姨每天买菜顺手给她带一把小葱；她每周三、五去社区日间照料中心下棋、量血压；阿橘天天趴窗台等她回家。上回那"一次轻微跌倒"，是雨天踩了拖地的湿地板滑了一下，膝盖青了一块，自己揉揉就好了。

可系统不知道这些。系统只看见"独居""78 岁""摔过"。

那一刻我突然明白：算法给的不是"答案"，是"一道提醒"。如果我把这道提醒，直接当成对李奶奶人生的判决——那被替做决定的，是她自己。

接下去两周，我没照系统的建议走流程。我做的是先把人接住：每周上门一次，不聊评估，就陪她择菜、看阿橘、听她讲年轻时候在翠湖边上的事。

第三次去，我半开玩笑问："李奶奶，要是让你搬去养老院，你乐意不？"

她头摇得像拨浪鼓："我这屋子，阿橘熟、王姨熟、楼下那棵石榴树我都熟。走了，我算哪门子活着？"

这才是关键。系统的"建议"，和她自己的意愿，是反的。

我没绕过系统，也没听系统的。我做了两件事：

第一，把系统当成"线索本"——它提醒我"这类老人容易摔"，那我就去核：李奶奶家里有没有防滑垫？卫生间有没有扶手？夜间起夜顺不顺？一查，确实都没有。这是真风险，得改。

第二，把"要不要离开家"这件事，交还给李奶奶自己。我帮她申请了居家适老化改造：卫生间加扶手、铺防滑砖、床边装感应夜灯；又和她、王姨、日间照料中心约了个"邻里守望"——王姨每天瞅一眼，中心每天登记她到了没。

一个月后复查，李奶奶真没再摔。系统那张红牌还在，但我知道，红的是"风险提醒"，不是"命运"。

故事讲到这。下面几块，是给备考社工考研、考编、高级社工师的同行准备的——我们把"AI 与社工技术伦理"，从一句"注意科技伦理"，拽回它本来的样子：当算法走进个案室，社工到底该站哪一边。

02 理论梳理：AI 与社工技术伦理到底是什么

AI 与社工技术伦理（Technology Ethics in Social Work / 社工科技伦理），说白了就是一句话：当社工开始用算法、用数据、用智能工具做判断时，怎么保证"人"还是中心，而不是被工具替代。

它不是一个凭空冒出来的新词。它的根，扎在两条线上：

一条是**科技伦理 / 算法伦理**——计算机、数据科学那边问的："算法公不公平？黑箱谁负责？数据归谁？"

另一条是**社会工作价值伦理**——我们这行问的："自决归谁？保密守不守？个别化做没做？弱势有没有被看见？"

两条线一交，就长出"社工技术伦理"：用技术的手，不能拆了专业的骨。

把它放进考试框架里，记四个关键词：

和它"亲戚"们的关系（备考常考，一张表记牢）

和前面的呼应：从"陪一个人"到"不被算法替一个人"

④个案工作本质，我们说"陪一个人把问题想清楚"；⑬叙事治疗，我们说"把问题外化，让人重写生命故事"。AI 与社工技术伦理，是给这两句话加一道护栏——陪的过程中，如果来了个算法说"我替你想清楚了"，社工得有底气说：不，想清楚这件事，得由他自己来。

03 反思：AI 走进个案室，最容易踩的五个坑

**反思一：把"提醒"当"判决"。** 系统红牌一亮，新手社工最容易顺手走流程。可红牌是概率，不是命运。小周要是照"建议机构安置"直接办，李奶奶就被一个她从没同意过的决定，挪走了人生。

**反思二：让黑箱替人担责。** "是系统说的"——这句话是最危险的甩锅。算法不会为李奶奶的孤独负责，会负责的，只有那个在系统后面签了字的社工。人类监督，不是口号，是责任归属。

**反思三：用群体均值，淹了具体的人。** AI 按"独居老年人"这批人算风险，可李奶奶不是"这批人"，她是有猫、有王姨、有活动室的一个人。个别化，就是别让统计平均数，替具体的人做主。

**反思四：把隐私，顺手交了出去。** 老人的健康、家庭、跌倒史，都是敏感信息。一键上传平台、喂给模型训练，保密的边界就破了。哪些能进系统、哪些只能留在个案记录里，社工心里得有杆秤。

**反思五：把陪伴，外包给屏幕。** 最隐蔽的坑，是有了 AI，社工就不上门了——"系统每月评估一次，我不用去"。可关系，是走出来的，不是算出来的。技术省的是事务，不该省的是人心。

板块一 · 理论漫画百宝箱

理论听着抽象，我把它放进真实质感的情形里。下面两个迷你案例，对应"AI 与社工技术伦理"，备考时可以拿来当"秒懂例子"。

**案例一（算法误判，人去核实）：少年小杰的"心理高危"预警。** 学校新上的 AI 情绪筛查，抓到小杰连发三条带"累""不想动"的帖子，标红"心理高危，建议转介"。班主任慌了，叫家长。可社工一谈才知道：小杰刚结束期末考，发的是"终于考完躺平累死"，纯属青春期嘴瓢。AI 听不懂语境，人得去听。核实之后，撤了预警，没惊动家长。

**案例二（偏见识别，人去纠偏）：街角老周的"清退"标签。** 城管试点 AI 摄像头识别"流浪乞讨"，把衣衫褴褛的老周自动标成"需清退"，系统推送给网格员。可老周是附近修鞋的，只是摊子旧。社工看到推送，没按"清退"办，反而上门核实、帮他办了合规摊位点，还接了社区志愿服务。算法按"像不像流浪"归类，人得按"他到底是谁"对待。

板块二 · 实务案例库（公开可查的 AI 与社工伦理实践）

下列均来自权威机构、教材与公开报告，真实可查，是 AI 与社工技术伦理落地的依据。

说明：微信公众号正文里，只有公众号文章链接可以点。下面这些外部链接，请放在文末或「阅读原文」里，正文里点不动。

**逐条速览：**

**资源 1、2（国内底线）**：科技部的 AI 伦理规范与《个人信息保护法》，是社工把老人数据喂给评估系统前，必须过的两道关——一是"以人为本、可控"，二是"隐私得有 consent"。

**资源 3、4（专业标准）**：IFSW 与 NASW 都明确，技术再先进，"自决"和"保密"不能被算法架空；关键决策必须有人兜底。小周的做法，正是这两条的本土落地。

**资源 5（真实场域）**：民政部智慧养老试点里，"AI 评估+人工复核"已是标配。李奶奶的故事，几乎每天在各地的日间照料中心上演。

板块三 · 哲学说人话（本篇侧重）

1）理论溯源与发展脉络

AI 与社工技术伦理，不是突然冒出来的，它身后是一条"从电算机，到算法社会，再到人本护栏"的线。

• **1940s–60s 电算机与早期伦理讨论**：计算机刚出现，学界就开始问"机器做决定，人往哪放"。是"技术伦理"最早的芽。

• **1970s–80s 社工价值伦理成形**：NASW 伦理守则确立自决、保密、个别化、社会正义，给后来"技术不能破这些"埋了地基。

• **1990s–2000s 数据社会来临**：电子案主档案、数据库评估普及，"隐私""数据权属"成了社工日常题。

• **2010s 算法社会**：预测性警务、风控模型、福利资格自动审核上线，算法偏见、黑箱责任开始引爆公共讨论。

• **2017 NASW/ASWB 科技标准**：首次把"社工怎么用技术"写成专门伦理标准，明确 human-in-the-loop。

• **2018 IFSW 全球声明修订**：把数字技术章节写进社工伦理全球框架。

• **2021 中国双规**：科技部《新一代人工智能伦理规范》+《个人信息保护法》同年落地，本土有了硬底线。

• **2023–2026 AI 应用爆发**：生成式 AI 进个案室、进督导培训，社工技术伦理从"选择题"变"必答题"。

**核心节点一览（人话版）：**

2）底层哲学 / 伦理 / 价值观（说人话版）

**以人为本，不是以算法为本。** 技术是用来服务人的，不是让人去适应技术的流程。系统建议"安置"，李奶奶想"在家"——这时候，人优先。

**自决不外包。** 这是本篇的灵魂。当事人自己的人生决定权，不能因为"系统更高效"就交给模型。算法可以给信息，不能给意志。

**保密是信任的底线。** 老人的健康、家庭、跌倒史，进了系统就可能被更多的人看见。哪些能上云、哪些留个案，社工得守。破一次，信任塌一片。

**个别化对抗均值。** AI 擅长把人归进"某类"，社工擅长看见"这一个"。李奶奶不是"独居老人均值"，她是有猫有邻居的一个具体的人。

**责任不能悬空。** 黑箱后面，永远得有个签了字、愿意负责的人。human-in-the-loop，翻译过来就是：最后那一下，我来。

**社会正义对抗偏见。** 弱势群体的数据往往更薄、更易被误判。算法若带着历史偏见，会让他们"被系统误伤"得更重。社工要做的，是看见并纠偏。

板块四 · 考研每日练（本篇侧重：技术伦理应用与处置）

**【名词解释】科技伦理 / 算法偏见** 科技伦理（Technology Ethics）是研究技术应用中的道德问题的学科；在社工语境下，指社工使用算法、数据、智能工具时，如何守住自决、保密、个别化与社会正义等专业价值（高级社工师 / 中级常考）。算法偏见（Algorithmic Bias）指训练数据或模型设计中的偏差，使特定群体（常为弱势群体）被系统性误判或不利对待；社工须警惕评估类 AI 对服务对象的"误伤"。

**【简答】简述社工在使用 AI 工具时应遵循的伦理原则（不少于 4 条）。**

1. **以人为本**：技术服务于当事人福祉，不本末倒置。

2. **人类监督（human-in-the-loop）**：关键判断由真人兜底，不盲从系统输出。

3. **自决不外包**：安置、转介等重大决定权归当事人，算法只提供参考。

4. **透明可解释**：尽量选用可解释模型，能说清"凭什么这么判"。

5. **隐私与保密**：敏感数据上云须获 consent，严守《个人信息保护法》。

6. **公平无偏 / 社会正义**：主动识别并纠偏算法对弱势的系统性误判。

（采分点：每点一句话 + 体现"人优先于技术"；答出 4 条以上即满分，点出"人类监督""自决"更佳）

**【论述 / 案例】某区用 AI 系统对独居老人做跌倒风险评估，将 78 岁的李姓老人标为"高风险"并自动建议机构安置；但老人本人强烈不愿离开家，且实际拥有邻居与社区日间照料等非正式支持。作为该案社工，请说明你将如何处置这一伦理困境（不少于 600 字）。** 参考框架（按"守价值—核事实—还自决—留监督"作答）：

• **守价值（自决+个别化）**：明确"是否离开家"是李奶奶的自决范围，系统建议仅为参考，不替代本人意愿；拒绝用群体均值覆盖具体的人。

• **核事实（人类监督）**：不盲从红牌，上门与访谈核实真实风险点（如防滑、扶手、夜灯），把"算法提醒"转化为"可干预的具体隐患"。

• **还自决（以案主为中心）**：召开由李奶奶本人参与的个案会议，由其表达意愿，在尊重意愿前提下制定居家适老化改造+邻里守望+日间照料的替代方案，而非机构安置。

• **护隐私（保密）**：评估所涉健康与家庭数据，仅用于本案并获授权，不上云训练、不外流。

• **留监督（责任归属）**：所有关键决策由社工签字兜底，系统作为"线索本"留档；建立人工复核机制，防止下个"李奶奶"被黑箱误判。

（采分点：体现"自决不外包""人类监督""个别化""保密"四原则，且给出可落地的居家替代方案，方为完整技术伦理处置）

参考文献

[1] 中华人民共和国科技部. 新一代人工智能伦理规范[Z]. 北京: 科技部, 2021.

[2] 全国人民代表大会常务委员会. 中华人民共和国个人信息保护法[Z]. 北京: 中国法制出版社, 2021.

[3] INTERNATIONAL FEDERATION OF SOCIAL WORKERS. Global social work statement of ethical principles (含数字技术章节)[Z]. 2018/修订.

[4] NATIONAL ASSOCIATION OF SOCIAL WORKERS & ASSOCIATION OF SOCIAL WORK BOARDS. Standards for technology in social work practice[S]. 2017/2024.

[5] 王思斌. 社会工作概论[M]. 北京: 高等教育出版社, 历年修订版.

[6] 民政部. 智慧养老试点与社会工作服务指引[Z]. 北京: 民政部, 历年试点.

AI 不是敌人。

它是一把很利的刀，切菜利落，切到手也利落。

李奶奶那张红牌，系统没做错——它尽责地提醒了"这类老人容易摔"。错只可能错在：有人把"提醒"，当成了"替她把人生定下来"。

如果你也在一线，或者正准备入这行。想把"AI 与社工技术伦理"，从一句考试口诀，变成手上真能用的护栏——

算法进个案室的那天，记得留一句话给自己：想清楚这件事，得由他自己来。

可以关注我。后面会一篇篇拆，一个理论，怎么真正用回一个具体的人、一段具体的难。