（来源：九派新闻）

转自：九派新闻

#23岁小伙组团研发AI测谎仪#【#小伙研发AI测谎仪被企业相中#】“在和AI聊天时，它说的每一句话你都相信吗？”23岁的闫育杰曾在学习税法时发现，AI给出的专业回答与教材内容存在明显差异。回查资料后，他才确认，原来AI也会“一本正经地编瞎话”。闫育杰毕业于武汉纺织大学经济学院税收专业，目前在武汉中慧创杰网络科技有限公司参与AI幻觉治理相关研发。2023年，他开始接触AI，一次与AI讨论税法专业问题时，AI给出的答案与他所学知识大相径庭，这让他开始关注AI生成内容的准确性。2024年底，随着国产大模型应用不断增多，AI客服、AI律师等应用逐渐进入实际场景，闫育杰发现，AI“编瞎话”的问题依然存在。随后，他带领10人团队开始研发针对AI幻觉的治理程序，并借用《山海经》中能够辨别真伪的异兽，将系统命名为“白泽”。据介绍，“白泽”系统目前主要服务于财税、政策、法律、医疗四个领域，其中，仅财税领域的标准化权威文件就已收录260万条，并持续更新。在AI客服等应用场景中，“白泽”进一步引入企业专属的合规前置过滤模块，将企业业务规范作为推理边界，以减少模型出现不当承诺或越权回复。目前，“白泽”系统已与多家科技企业建立合作，为企业提供AI幻觉治理API服务，单家企业月均调用量超过2万次。@九派新闻