BiliTube(四):让模型读弹幕,给视频写推荐卡片
一条 40 分钟的技术视频,简介写着「从零讲透 Transformer」,标题很克制,封面也普通。只读标题和简介,模型大概率会给一个中性的分数。
但弹幕会说话。前 10 分钟里反复出现「这里跳过了」「公式错了」「前面讲得清楚,后面开始念 PPT」,中间夹着几条「老师讲得真好」。这些句子不优雅,却是最接近真实观看体验的信号。
BiliTube 的卡片生成,核心就是把这类信号喂给模型,让它回答三个问题:这条视频讲了什么、为什么值得或不值得看、适合谁看。
一、证据从哪来
理想情况下,评估一条视频应该看字幕:信息密度最高,噪音最少。现实是字幕接口在未登录时基本拿不到,登录态下的覆盖率也不确定(ADR-001)。
评论呢?实测未登录调用 /x/v2/reply,一条有 622 条评论的视频,接口只返回 3 条,翻页返回 0 条(ADR-010)。3 条热评不足以判断口碑。
剩下的可用信号里,弹幕是唯一「量大、匿名、能反映观看过程」的:
| 信号 | 可得性 | 信息量 | 结论 |
|---|---|---|---|
| 标题 / 简介 | 必有 | 低,容易包装 | 作为背景 |
| 字幕 | 未登录基本没有 | 高 | 暂不作为主证据 |
| 评论 | 未登录只有 3 条 | 中 | 作为补充 |
| 弹幕 | 未登录约 1,200 条 | 中高,噪音大 | 主力证据 |
2026-11-10 那次数据里,1,774 条视频一共存了 213,027 条弹幕,平均每条约 120 条。听起来不多,但这是去重后的结果——同一句话刷十遍只留一条。
二、拼一个克制的 prompt
证据不是越多越好。弹幕短、重复、充满梗,全塞进去只会稀释信号。代码里的采样规则是:
- 先按长度过滤掉 4 个字以下的(「哈哈」「前排」「666」);
- 最多取 200 条;
- 拼进 prompt 时只取前 80 条;
- 简介截断到 600 字。
def build_prompt(row, danmaku):
sampled = [item for item in danmaku if len(item) >= MIN_DANMAKU_LEN][:DANMAKU_SAMPLE]
desc = (row.get("description") or "").strip()[:600]
lines = [
f"标题:{row.get('title') or ''}",
f"分区:{row.get('tname') or ''}",
f"时长:{row.get('duration') or 0} 秒",
f"播放:{row.get('view') or 0},收藏:{row.get('favorite') or 0},投币:{row.get('coin') or 0}",
f"简介:{desc or '(无)'}",
"",
"弹幕采样(可能含噪音):",
]
lines.extend(sampled[:80] if sampled else ["(无弹幕)"])
return "\n".join(lines)注意 prompt 里明确写了「可能含噪音」。这不是客套,是在告诉模型:不要假设每一句弹幕都可信,也不要因为几条差评就否定整条视频。
系统提示词只保留输出契约,不写任何领域判定标准:
只输出一个 JSON 对象,不要任何解释、不要 markdown 代码块。字段:
{
"verdict": "教程|实战|测评|新闻|水|搬运",
"quality": 0-100 的整数,表示内容密度与可复用性(不是播放量),
"summary": "40 字以内的内容摘要",
"why": "50 字以内说明为什么值得或不值得看",
"audience": "适合谁看,20 字以内",
"prereq": "需要的前置知识,20 字以内,没有则写 无",
"difficulty": 1-5 的整数,
"freshness": "evergreen|aging|outdated",
"topics": ["2-5 个主题词"]
}「判定标准」和「输出格式」是两件事。格式属于引擎,放在代码里;什么算「水」、什么算「搬运」、质量分的锚点在哪,属于配方,放在 prompt.md 里。第五篇会讲这个拆分。
三、把 JSON 抠出来
即使提示词写了「不要 markdown 代码块」,模型仍然会时不时返回:
```json
{"verdict": "教程", ...}
```这不是模型不听话,是训练数据里 JSON 经常被包在代码块里。工程上不能赌它每次都听话,要写容错:
def parse_json_response(text: str) -> dict:
"""从模型输出里抠出 JSON;容忍代码块包裹与前后废话。"""
cleaned = text.strip()
if cleaned.startswith("```"):
cleaned = re.sub(r"^```[a-zA-Z]*\s*", "", cleaned)
cleaned = re.sub(r"\s*```$", "", cleaned)
start = cleaned.find("{")
end = cleaned.rfind("}")
if start == -1 or end == -1 or end <= start:
raise LlmError(f"无法解析 JSON: {text[:120]}")
return json.loads(cleaned[start : end + 1])先剥代码块,再取第一个 { 到最后一个 }。这能处理「好的,以下是结果:」这种前缀,也能处理末尾多一句解释的情况。仍然解析失败就抛 LlmError,记进失败列表,不影响整批。
调用参数是 temperature: 0.2、max_tokens: 600、stream: false,失败最多重试 2 次,退避 1 秒、2 秒。温度低是为了让同一批视频的评分尺度稳定;600 token 足够放下这张卡片,也限制了模型自由发挥的空间。
四、完整的卡片链路
写库时,卡片和分数在同一个事务里更新:
def save_card(conn, card, machine):
conn.execute(
"INSERT INTO cards (bvid, payload, updated_at) VALUES (?, ?, ?) "
"ON CONFLICT(bvid) DO UPDATE SET payload = excluded.payload, updated_at = excluded.updated_at",
(card.bvid, json.dumps(card.as_payload(), ensure_ascii=False), now),
)
base = machine if machine is not None else 0.0
total = MACHINE_WEIGHT * base + CONTENT_WEIGHT * card.quality
conn.execute(
"INSERT INTO scores (bvid, content, machine, total, flags, updated_at) "
"VALUES (?, ?, ?, ?, '', ?) "
"ON CONFLICT(bvid) DO UPDATE SET content = excluded.content, "
"total = excluded.total, updated_at = excluded.updated_at",
(card.bvid, card.quality, base, total, now),
)卡片里有一个 evidence 字段,值固定是 danmaku+meta。这是给未来的自己留的:如果哪天字幕覆盖率上来了,证据升级成 subtitle+danmaku+meta,卡片上能看出来是基于什么判断的。
五、重跑时最贵的一列
卡片生成是最贵的一步:1,774 次模型调用,按 token 计费,耗时约一小时。所以「能不能只重跑一部分」很关键。
open_cards() 的筛选条件是:
WHERE c.bvid IS NULL OR json_extract(c.payload, '$.model') != ?
ORDER BY COALESCE(s.total, 0) DESC它做两件事:
- 没卡片的,补;
- 卡片是旧模型生成的,用当前模型重跑。
这带来一个副作用:换模型等于全量重跑。1,774 条会重新计费。所以换模型不是「改个环境变量」那么轻,要有预算预期。
另一个更隐蔽的问题出在打分阶段。score_all() 原本的 upsert 会把 content 写成 NULL,重跑一次 score 就抹掉了卡片阶段算出的全部内容分,total 也跟着退回纯机器分。这个问题直到配方化改造时才被发现(ADR-018 的配套修复):
content = COALESCE(scores.content, excluded.content),
total = CASE WHEN scores.content IS NULL
THEN excluded.total
ELSE ROUND(0.6 * excluded.machine + 0.4 * scores.content, 4) END规则很简单:重算机器分时,不要动已有的内容分;有内容分时,按 6:4 重算总分。
踩坑:模型输出的数字不一定在范围内
quality 理论上该是 0–100,difficulty 该是 1–5。实际输出里出现过 120、-3、"4" 这样的值。代码里做了钳制:
quality=max(0, min(100, int(data.get("quality") or 0))),
difficulty=max(1, min(5, int(data.get("difficulty") or 3))),不要相信模型会遵守范围,就像不要相信它会遵守「不要 markdown 代码块」。契约要写在提示词里,但校验必须写在代码里。
为什么不让模型直接决定排序
模型给的 quality 只占 40%,而且只对已经通过规则筛选的视频生效。它回答的是「这条内容值不值得看」,不是「它该排第几」。
排序还是由「机器分 × 0.6 + 内容分 × 0.4」决定。这样即使模型某天整体偏严或偏松,也只是把内容分整体压低或抬高,不会把整个榜单的顺序打乱。模型负责判断,公式负责排序,两者的职责不能混。
六、实测数据
| 指标 | 数值 |
|---|---|
| 生成卡片的视频 | 1,774 条 |
| 卡片覆盖率 | 100% |
| 弹幕总量 | 213,027 条 |
| 平均每条视频可用弹幕 | 约 120 条 |
| 单次入模弹幕上限 | 80 条 |
| 内容分权重 | 40% |
平均 120 条可用弹幕,取 80 条入模,已经能覆盖大部分观看反馈。再多,边际信息很少,token 成本却线性上涨。
七、小结
卡片生成这一段,真正的工程量不在「调模型」,而在四件事:
- 选证据:字幕拿不到、评论只有 3 条,就用弹幕,并明确标注证据等级;
- 控输入:长度过滤、数量上限、简介截断,避免噪音稀释信号;
- 稳输出:容忍代码块、抠 JSON、钳制数值范围;
- 可重跑:按模型版本筛选、失败可续、重算分数不丢内容分。
模型输出的是判断,判断要被写进一张能读的卡片,还要能被后面的排序和导出消费。下一篇讲这三者怎么解耦:为什么引擎可以开源,配方不行。