This website is a virtual proof that I'm awesome https://tomorinaoiy.github.io/ 浅谈对transformer以及AI界的看法 - Transformer 架构带领 AI 领域走向高地，却如同桎梏，将人类锁死在这里。 Transformer 的确是 AI 的神，可是他太大了，大到遮住了整个 AI 的天。 2017 年，《Attention Is All You Need》其颠覆性的完全自注意力架构及其有冲击性的标题，把整个 AI 圈搅得天翻地覆。 “这不是人类能想出来的东西。” 就像打游戏被误解为开挂一样，这样的惊叹，无疑是对科研人最大的夸耀。他的确太耀眼了。 Transformer 的出现让美国看到了 AI 的巨大风口，也间接造就了如今美国 All in AI 的状态。当然，值得肯定的是，短期内 All in AI 的确获得了巨大的回馈，这样的正反馈无疑加重了这种循环。 可是随着时间的推移，随着算力和潜能的无限压榨—— 弊端出现了。 人们似乎看到了 AI 的尽头。 越来越大的投入，换来的却是越来越小的收益。这也就是业界现在心照不宣的困境——Scaling Law（缩放定律）正在撞墙，单纯靠堆算力和数据带来的边际效应越来越低。如今的 AI 前沿研发，用琼斯的话来说，像极了一群对着一个高精度的钟表不断微调的“钟表匠”。 是的，Transformer 的成功，无疑让 AI 的研究途径越变越窄。随着 AI All in 的越来越多，人们只希望看到短期的回报。 “研究者们在资本下被迫放弃了深海探索，转而在已知的沙地里疯狂淘金。”... Sun, 08 Mar 2026 00:00:00 -0500 https://tomorinaoiy.github.io/2026-03-08-%E5%85%B3%E4%BA%8ETransformer%E7%9A%84%E6%9F%90%E4%BA%9B%E7%9C%8B%E6%B3%95/ https://tomorinaoiy.github.io/2026-03-08-%E5%85%B3%E4%BA%8ETransformer%E7%9A%84%E6%9F%90%E4%BA%9B%E7%9C%8B%E6%B3%95/ There's lots to learn! - This is a demo post to show you how to write blog posts with markdown. I strongly encourage you to take 5 minutes to learn how to write in markdown - it’ll teach you how to transform regular text into bold/italics/tables/etc.I also encourage you to look at the code that... Fri, 28 Feb 2020 00:00:00 -0500 https://tomorinaoiy.github.io/2020-02-28-sample-markdown/ https://tomorinaoiy.github.io/2020-02-28-sample-markdown/