本文转自：人民法院报
张国庆
AI技术是把“双刃剑”，善用可造福社会，滥用则引发社会风险。近年来，AI技术逐渐普及，极大地方便了人们的生活与工作，但也被一些不法分子利用。近日，湖北省大冶市人民法院审结了一起利用AI生成色情小说牟利案，被告人柯某被判处有期徒刑十个月。
□ 张国庆
漫画：穆依
用AI写色情小说被起诉 2023年8月22日，一条横跨川鄂两省的线索揭开了这场技术犯罪背后鲜为人知的内幕。
当天上午，大冶市东岳路派出所接到市公安局下发的一起情报研判线索：四川省绵阳市公安机关在侦破一起特大非法利用信息网络制售淫秽漫画案时，发现某境外黄色网站的服务器日志中存有湖北大冶的异常访问记录。专案组锁定该IP地址属于大冶市东岳路街道某小区。
东岳路派出所迅速立案侦查，启动网络犯罪侦查专班。侦查员伪装成境外用户潜入该境外黄色网站发现，一个名为“DarkXXX”的账户自2022年11月起，利用AI程序生成中英双语色情小说，并通过另一网站进行售卖，定价为每篇15元至30元，支持虚拟货币支付。技术民警通过追踪资金流向和网络IP地址，最终锁定犯罪嫌疑人——东岳路街道某小区“95后”男青年柯某。
2024年8月31日，公安机关在柯某的住所将其抓获，查获其用于作案的电脑、手机等电子设备，并对其采取强制措施。
柯某到案后如实供述了其利用AI技术撰写、发布并售卖色情小说的犯罪事实。警方在其电子设备中提取了相关证据，包括AI生成的小说文本、交易记录、银行流水等，证实了柯某的犯罪行为及其非法获利情况。其电脑桌面上，仍留存有两份文档：一份是某平台的玄幻小说，另一份是拟投境外网站的色情小说。
2024年9月25日，该案被移送至检察机关，检察机关对相关小说进行了鉴定，确认其全部属于淫秽物品，并查清其违法所得金额。由于柯某是通过虚拟币收款，再兑换成人民币，侦查人员调取柯某的支付宝、微信账单流水后，查清其获利金额。在证据面前，柯某自愿认罪认罚，并退缴了全部违法所得。
检察机关认为，柯某以非法牟利为目的，利用AI技术制作、贩卖、传播淫秽物品，其行为已触犯《中华人民共和国刑法》第三百六十三条第一款的规定，构成制作、贩卖、传播淫秽物品牟利罪，遂依法向大冶法院提起公诉，并建议法院根据柯某的犯罪事实、情节及其认罪悔罪表现，依法判处相应刑罚。
从“玄幻作者”到“黄文写手” 法院经审理查明，2022年11月至2023年3月期间，被告人柯某以牟利为目的，利用AI程序撰写色情小说，并使用翻墙软件在境外黄色网站发布，同时在另一网站售卖。短短五个月时间，柯某共发布色情小说数十篇，共计获利2万余元。经鉴定，送检的7篇小说均为淫秽物品。
柯某，现年27岁，是一名网文作者，平时喜欢在家写些“二次元”小说发布到相关平台上，供读者付费阅读。由于创作量较大，他常在作者群里抱怨：“收入这么低，颈椎病都要写出来了。”
2022年11月某夜，一条读者留言改变了他的人生轨迹——“不如去境外某某网站搞颜色，AI 一天能产3万字。”抱着猎奇心态，柯某下载了翻墙软件，进入该境外黄色网站浏览色情小说，并通过另一家关联的境外网站购买其中付费内容。满屏的色情内容令他震惊：排名榜首的一部小说标价为20元每章，付费人数显示“1.2万﹢”。更刺激的是评论区教程：“设定关键词，用AI扩写，月入五位数不是梦。”
柯某觉得光靠写正常的“二次元”小说已经“落伍”，便产生了写色情小说“捞金”的想法。在该网站看过两三部色情小说之后，柯某弄清了其中的赚钱方式，发现了暴利链条：AI生成框架、人工润色剧情、虚拟币结算收益。
起初，他战战兢兢地“试水”，用AI生成片段后手动修改，首篇小说卖出100多篇次。为提高“产量”，他决定自己写一点，网上摘抄一部分，然后将这些内容一起交给AI平台，让它按照自己的要求去创作，柯某再对生成的内容进行润色，最终得到一篇完整的色情小说。
“后来直接输入关键词，AI能自动生成3万字，我改改错别字就行。”最后柯某彻底放飞自我，完全依赖AI创作。为逃避监管，他将小说拆成“清水版”和“完整版”，前者在该境外黄色网站引流，后者在关联的另一境外网站以15元至30元每篇的价格售卖。
就这样，从2022年11月至2023年3月，柯某利用AI“写”出了十余篇色情小说，再用AI工具翻译成外文，发布在境外网站上，先后售卖约760篇（次），共计获利22800余元。“别人购买我的小说后，该售卖网站后台都会有记录，网站抽取5%佣金，我可得到售卖金额95%的收益。”这个受过高等教育的大专生，直到戴上手铐才如梦方醒。
据柯某事后供述，他当时也是存有侥幸心理，以为通过国外网站写色情小说，在国内就查不到。“售卖网站被封后，我从境外黄色网站的一篇文章得知，有作者被警察抓了，为了逃避监管和公安机关，我第一时间删掉了在该境外黄色网站写的所有小说，同时注销了网站账号。”庭审现场，柯某悔不当初。
然而，在大数据时代，即便有AI加持，即便删除所有犯罪记录，犯罪分子也终将现形。
AI生成内容的法律定性之争 审理过程中，承办法官柯劲松认为，本案的核心争议焦点在于，在当前法律尚未明确将AI生成内容纳入“淫秽物品”范畴的前提下，如何对被告人柯某利用AI技术制作、贩卖、传播色情内容并牟利的行为进行定性？具体而言，其行为是否构成《中华人民共和国刑法》第三百六十三条第一款规定的制作、贩卖、传播淫秽物品牟利罪，以及其量刑标准是否应与传统手段保持一致？
“技术中立并不意味着价值中立。技术是刀，握刀的手才决定善恶。”柯劲松在案件合议庭评议时，针对本案争议焦点作出系统性阐释。
法官认为，根据《中华人民共和国刑法》第三百六十三条的规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。本案中，柯某利用AI技术生成色情小说，并通过网络平台进行贩卖和传播，非法获利2万余元，其行为完全符合该条款的构成要件。
首先，从行为性质来看，柯某以牟利为目的，利用AI技术生成淫秽内容并进行传播，其行为的主观恶性和社会危害性与传统手段并无本质区别。AI技术作为一种工具，其本身并不具有违法性，但行为人利用该技术实施违法犯罪行为，则应当承担相应的法律责任。技术中立性并不意味着行为人可以借此逃避法律制裁，尤其是在涉及淫秽物品等严重危害社会风化的领域，法律对行为的规制不应因技术手段的不同而有所区别。
其次，从社会危害性来看，柯某的行为不仅破坏了网络环境的清朗，还对公众道德观念和社会风气造成了不良影响。淫秽物品的传播不仅腐蚀社会道德，还可能诱发其他违法犯罪行为，尤其是对青少年的身心健康造成严重危害。因此，无论采用何种技术手段，只要行为符合法律规定的构成要件，就应当依法予以惩处。
再次，从量刑标准来看，本案的量刑应当与传统手段制作的淫秽物品犯罪保持一致。法律对淫秽物品犯罪的规制重点在于行为的社会危害性和行为人的主观恶性，而非具体的技术手段。因此，柯某利用AI技术生成淫秽内容的行为，在量刑上不应因其技术手段的特殊性而有所减轻或加重。法院在量刑时，应充分考虑柯某的犯罪事实、情节及其社会危害性，并结合其到案后如实供述、自愿认罪认罚、退缴违法所得等从轻情节，依法作出公正判决。
大冶法院最终作出一审判决：被告人柯某犯制作、贩卖、传播淫秽物品牟利罪，判处有期徒刑十个月，并处罚金人民币5000元；追缴违法所得，没收作案用电脑、手机等工具。
【观察思考】
有效遏制AI犯罪，共建健康和谐社会环境
近年来，人工智能技术的快速发展为违法犯罪行为提供了新的工具和手段，如通过AI换脸技术实施诈骗、利用AI生成淫秽物品牟利、利用AI生成虚假信息、伪造身份实施诈骗等，扰乱社会秩序、破坏社会诚信体系、影响青少年身心健康，其社会危害性远超传统手段。AI生成内容的低门槛、隐蔽性等对司法实践和监管提出了更高挑战。AI生成违法内容之所以成为治理难点，根源在于其法律定性、技术溯源、跨境追责的复杂性。现行法律条文仍固守传统犯罪框架，既难以界定AI生成色情、虚假信息等新型违法内容的法律属性，亦无法明确技术开发者、使用者及传播平台间的责任边界，导致大量技术滥用行为游离于法律惩治之外。技术层面，AI生成内容具有低成本、高隐蔽等特性，虚假身份可轻易绕过传统验证系统，而电子证据易篡改、难溯源的短板更为执法增添阻碍。最高人民法院《人工智能司法应用白皮书（2023）》显示，涉AI刑事案件电子证据采信率仅38.7%，远低于传统网络犯罪，暴露出技术迭代与证据规则间的断层。此外，跨境追责机制缺失与协同治理能力不足，使得利用境外服务器规避监管的犯罪行为更难打击。
这起AI生成色情小说案的判决，不仅撕开了技术犯罪隐蔽化、智能化的面纱，更暴露出AI时代内容安全治理的深层次问题，明确“算法工具背后的人类操控者才是刑事责任主体”，确立“技术中立性不等于免责特权”的司法导向，为全国同类案件破解“技术黑箱”、统一裁判尺度提供了重要参考。
防范AI技术滥用乱象，除需建立跨境联合治理机制外，亟须通过完善法律法规、加强技术监管和强化平台责任等措施，构建更加有效的治理体系。笔者认为，当务之急应从四方面着力：一是完善法律法规。制定专门针对AI技术滥用的法律条文，明确技术开发者、使用者、传播平台的责任边界，及AI生成内容的版权归属、隐私保护、数据安全等关键问题，确保法律条款的全面性和可操作性。并加大对违法行为的处罚力度。二是加强技术监管。建立监测预警系统，构建AI犯罪数据库，实时共享犯罪信息，提升预警和处置效率。建立统一的AI内容标识系统，便于公众识别和监管机构追踪。加强对AI技术研发和应用的全程监管，防止技术被滥用。三是强化平台责任。推动行业自律，鼓励企业制定AI伦理规范，建立行业自治机制。要求平台加强内容审核，与第三方事实核查机构合作，并对传播虚假信息的账号采取严厉措施，如关闭账号、纳入黑名单等。四是加大宣传力度。建议在中小学和大学课程中增加AI伦理和法律相关内容，培养公众的科技素养和法律意识，帮助公众识别AI犯罪风险。利用社交媒体等渠道，广泛宣传AI技术的潜在风险和防范措施，增强公众的自我保护能力。
AI技术的滥用对社会秩序和公众权益构成了严重威胁。人们在享受AI技术红利的同时，必须坚守法律底线。AI 开发者、使用者及相关平台需加强自律，平台须切实阻断违法内容传播，个人应严守法律底线，远离违法创作。唯有完善法律法规、强化监管机制、压实平台责任、加强法治宣传，才能有效遏制AI犯罪，在技术创新与法律秩序间取得平衡，推动AI技术向善发展，共建健康和谐的社会环境。
悦来网配资-炒股杠杆平台-中国十大杠杆配资公司-专业配资炒股网提示：文章来自网络，不代表本站观点。
