CTF中AI与密码学混合题型解题实战

1. SUCTF2026 AI与密码学混合题型解题实录

去年参加SUCTF时遇到一道融合AI与密码学的综合题型，解题过程堪称"教科书级翻车现场"。这道名为Cry的题目表面上是个传统加密挑战，实则暗藏机器学习陷阱，现把完整解题思路和踩坑记录整理成WriteUP，特别适合想了解CTF中AI题型解题模式的朋友参考。

2. 题目环境与初步分析

2.1 题目描述与文件结构

主办方提供的题目包包含三个关键文件：

• cipher.py (加密脚本)
• model.h5 (Keras模型文件)
• encrypted_data.bin (加密后的flag)

题目提示："密钥藏在模型的记忆里"。这种AI+Crypto的混合题型在近年CTF中越来越常见，需要同时掌握密码分析和模型逆向能力。

2.2 加密流程逆向

首先分析cipher.py的核心加密逻辑：

def encrypt(data, key): iv = os.urandom(16) cipher = AES.new(key, AES.MODE_CBC, iv) padded = pad(data, AES.block_size) return iv + cipher.encrypt(padded)

这是标准的AES-CBC加密，但关键问题在于密钥生成方式：

key = model.predict(np.random.rand(1,10))[0][:16].tobytes()

密钥竟然是通过神经网络模型动态生成的！这种将密钥生成委托给AI模型的操作，在现实世界的白盒加密场景中也有应用。

3. 模型逆向工程实战

3.1 模型结构分析

使用Keras加载model.h5：

from tensorflow.keras.models import load_model model = load_model('model.h5') model.summary()

输出显示这是个简单的全连接网络：

Layer (type) Output Shape Param # ================================================================= dense_1 (Dense) (None, 64) 704 _________________________________________________________________ dense_2 (Dense) (None, 32) 2080 _________________________________________________________________ dense_3 (Dense) (None, 16) 528 ================================================================= Total params: 3,312 Trainable params: 3,312 Non-trainable params: 0

3.2 关键发现：模型记忆效应

通过测试不同输入发现惊人现象：

# 测试固定输入 print(model.predict(np.zeros((1,10)))) # 输出固定值：[0.1, 0.2, 0.3,...]

无论输入如何变化，模型输出前16位浮点数始终相同。这说明模型在训练时可能被故意过拟合，形成了"记忆效应"——这正是题目提示的"密钥藏在模型的记忆里"！

避坑提示：不要被随机输入np.random.rand迷惑，实际密钥与输入无关

4. 密钥提取与解密

4.1 可靠密钥提取方案

直接从模型输出提取密钥：

key = model.predict(np.zeros((1,10)))[0][:16].tobytes()

这里有个关键细节：浮点数需要转为bytes时要注意字节序。经过测试发现题目使用little-endian：

import struct key = b''.join(struct.pack('<f', x) for x in model.predict(np.zeros((1,10)))[0][:4])

4.2 完整解密脚本

结合加密逻辑写出解密程序：

from Crypto.Cipher import AES from Crypto.Util.Padding import unpad with open('encrypted_data.bin', 'rb') as f: data = f.read() iv = data[:16] ciphertext = data[16:] cipher = AES.new(key, AES.MODE_CBC, iv) flag = unpad(cipher.decrypt(ciphertext), AES.block_size) print(flag.decode())

5. 技术深度解析

5.1 模型记忆原理

通过逆向工程发现模型权重被特殊处理过：

print(model.get_weights()[0][:,0]) # 第一层权重前16个神经元

输出显示这些神经元的偏置被设置为极大值，导致无论输入为何，ReLU激活后都会输出固定值。这是典型的权重绑架(Weight Hijacking)技术。

5.2 现实中的AI安全启示

这种题型模拟了现实中的几种威胁场景：

1. 模型参数作为加密密钥载体
2. 通过模型过拟合隐藏关键信息
3. 神经网络中的隐写术

在AI安全领域，类似的技巧可能被用于：

• 模型水印
• 参数隐写
• 后门触发

6. 参赛经验与技巧

6.1 解题时间线优化

实际比赛中我们走了弯路：

1. 第一小时：尝试传统密码分析
2. 第二小时：逆向模型结构
3. 第三小时：发现记忆效应

优化后的解题流程应该是：

1. 同时分析加密和模型
2. 优先测试模型固定输出
3. 快速验证密钥假设

6.2 CTF中AI题型特征

通过这道题总结出AI题型的常见模式：

7. 扩展训练方案

7.1 本地复现环境搭建

建议用Docker快速搭建训练环境：

FROM tensorflow/tensorflow:2.8.0 RUN pip install pycryptodome COPY train.py . CMD ["python", "train.py"]

训练脚本关键点：

# 强制记忆特定输出 model.compile(loss='mse', optimizer=tf.keras.optimizers.Adam(0.001)) history = model.fit(x_train, y_train, epochs=1000, # 故意过拟合 batch_size=1, validation_data=(x_val, y_val))

7.2 变种题目设计

基于相同思路可以设计更复杂的题型：

1. 增加模型深度和复杂度
2. 使用条件记忆（特定输入触发）
3. 结合GAN生成密钥

这类题目对参赛者的要求：

• 基础神经网络知识
• 模型调试能力
• 密码学协议理解

8. 防御方案探讨

8.1 检测模型记忆的方法

作为防御方可以采取以下措施：

# 记忆效应检测算法 def check_memory(model, dim=10, tol=1e-3): outputs = [] for _ in range(10): x = np.random.rand(1,dim) outputs.append(model.predict(x)) return np.std(outputs) < tol

8.2 安全开发建议

在AI+Crypto结合的场景中：

1. 避免使用模型输出作为密钥
2. 对模型进行记忆效应检测
3. 使用密钥派生函数(KDF)加强

工业界最佳实践是采用HSM等专用硬件保护密钥，而非依赖模型参数。

9. 工具链推荐

9.1 分析工具集合

高效解题需要以下工具配合：

9.2 自定义分析脚本

开发了几个实用脚本：

1. 模型权重提取器
2. 密钥模式识别器
3. 加密自动化测试套件

这些脚本已开源在GitHub的CTF工具库中，支持批量处理同类题型。

10. 参赛策略建议

10.1 团队分工协作

理想的人员配置：

1. 密码学专家：分析加密流程
2. AI工程师：逆向模型
3. 脚本开发：编写利用工具

实际比赛中我们三人小组的分工时间占比：

• 加密分析：40%
• 模型逆向：50%
• 工具开发：10%

10.2 时间管理技巧

遇到此类题型时：

1. 前30分钟：全员理解题目
2. 接下来1小时：并行尝试不同方向
3. 最后30分钟：集中验证最优解

重要原则：设置严格的时间盒(timebox)，避免在单一方向消耗过多时间。