专题演讲嘉宾：罗璇

本次演讲将从大模型的现状与挑战出发，分析 Transformer/GPT 崛起背后的优势，我们将讨论这些模型面临的挑战，如可解释性和资源消耗等，探讨开发者如何将 Transformer/GPT 应用于实践，并展望未来的发展趋势。

演讲提纲

1. 引言：大模型现状洞察

2. Transformer / GPT 的崛起

• 迅速占据优势地位的原因
• 核心优势与应用场景

3. 面临的挑战：难以解决的问题（如可解释性、资源消耗等）

4. 回顾 RNN 发展

• RNN 的局限性与历史背景
• 模型演化的其他可能性

5. RWKW 社区

• RWKW 社区的动态与发展
• 开发者与用户的需求

6. 开发者的实践

• 如何利用 Transformer/GPT
• 与传统方法的对比与创新玩法

7. 结论

• 对开发者的启示
• 未来发展趋势与思考

实践痛点

• 模型的机械记忆力不如 Transformer，但可以用调用外部工具（比如外部存储）来解决

演讲亮点

• RWKV 的时间复杂度和空间复杂度都低于 Transformer，大幅降低推理算力的需求，也可以让大模型在端侧部署
• 具备长 CoT 的能力

听众收益

• 了解新型大模型架构的趋势
• 端侧模型的新市场机会