可信智能 · 安全研究 · 可解释 AI

在变化中,
建立可信系统。

Build Trust Through Change.

研究模型如何面对漂移与攻击,也把复杂算法变成可以运行、解释和交付的系统。

一位研究者在昏暗中托起一张发光的粉色网络模型

精选工作

研究与工程实践

从在投的安全研究,到真实上线的数据系统。

  • 古地图风格的决策边界可视化,红色节点沿边界分布

    01安全研究NeurIPS 2026 在投

    边界正在移动

    Shifting Boundaries

    当数据分布改变,安全不能只靠昨天的准确率。研究攻击者如何在黑盒条件下推断样本选择偏好并干扰模型持续更新;通过代理模型蒸馏逼近目标决策边界,结合 SHAP 归因定位高不确定性区域。

    • 概念漂移
    • 投毒攻击
    • SHAP 归因
  • 浑天仪层层环绕,象征模型判断的证据链

    02竞赛原型2025 信安大赛

    让判断留下证据

    Evidence for Every Decision

    一个预测只有能够被追问,才有资格进入真实系统。用 Monte Carlo Dropout 识别模型最迟疑的样本,用 SHAP 追踪每个特征如何推动预测,并把误分类样本重新带回训练与分析流程。

    • MC Dropout
    • 主动学习
    • 可解释分析
  • 果园采收场景,光线穿过果树洒在记录台上

    03产品系统Android / Web 双端

    让智能体走进果园

    Intelligence in the Orchard

    好的智能不增加操作步骤。一句自然语言进入,经工具选择、边界校验与异常回退,由 SSE 流式返回执行状态——生产、库存、客户、成本与记账,都藏在一次对话之后。

    • FastAPI
    • Flutter
    • Agent 工具链
    进入车厘子
  • 数据如光河般流经城市建筑,汇入计算节点

    04数据工程实时链路 + 看板

    让数据在抵达时说话

    Data in Motion

    一条日志抵达,整个系统开始回答问题。Kafka 接收航空订票日志,Spark Streaming 实时解析聚合,HDFS / Hive 保存历史结果,HBase / MySQL 承载查询,最终由 ECharts 呈现趋势与排行。

    • Kafka
    • Spark Streaming
    • HBase
    • ECharts

Start with a Question

从一个问题开始。

如果你也在研究可信智能、构建复杂系统,或有一个值得共同拆解的问题,写信给我。